Intfloat: Multilingual-E5-Large

Multilingual-E5-Large es el modelo multilingüe de embeddings densos de texto de intfloat, con veinticuatro capas y una salida de 1024 dimensiones. Se inicializa a partir de XLM-RoBERTa Large y continúa su entrenamiento con datos multilingües. La ficha del modelo describe la compatibilidad con el alcance de cien idiomas de XLM-R y señala un rendimiento inferior en idiomas con pocos recursos. Sus vectores representan texto para recuperación, comparación semántica y tareas con características numéricas.

Conserva el rol de entrada en todos los idiomas

Los prefijos utilizados en el entrenamiento son «query:» y «passage:», también para texto que no está en inglés. Una consulta de recuperación y los pasajes de su corpus utilizan sus roles correspondientes. Los prefijos siguen siendo esas cadenas en inglés, mientras que la formulación de origen conserva su propio idioma. Para similaridad semántica simétrica, recuperación de paráfrasis, minería de textos bilingües o uso como características, el fabricante recomienda «query:».

Una colección práctica puede contener documentación en varios idiomas compatibles. Conserva el idioma, el texto original y la ubicación de origen de cada pasaje junto con su vector. Prepara preguntas de búsqueda reales del público, en lugar de suponer que una prueba en inglés representa toda la colección. La salida debe devolver el pasaje real y su contexto para que el lector pueda evaluar lo que dice.

Para una tarea de correspondencia multilingüe, mantén claro el propósito de la comparación. Un par candidato de traducciones y una consulta que busca un pasaje de respaldo son preparaciones distintas. Las indicaciones del modelo sobre prefijos de rol aportan una convención concreta para esas tareas; omitir el prefijo no es el equivalente documentado porque cambia el patrón de entrada utilizado durante el entrenamiento.

Pooling y comparación de vectores

El ejemplo del fabricante calcula la media de las representaciones de tokens utilizando una máscara de atención para excluir el relleno y después normaliza el vector. Los productos escalares normalizados proporcionan similaridad del coseno. El array de 1024 dimensiones representa un texto preparado. Mantén el modelo exacto y la preparación asociados a los vectores almacenados, para que las consultas posteriores utilicen la representación correspondiente.

Estos vectores pueden aportar clasificaciones ordenadas de candidatos o características para una etapa posterior de agrupación o clasificación. No traducen la fuente ni redactan una respuesta. Devuelve el texto del pasaje subyacente cuando un resultado de recuperación deba servir de apoyo a un lector o a una etapa posterior de generación RAG.

Entrenamiento y cobertura lingüística

La ficha del modelo documenta un preentrenamiento contrastivo con supervisión débil seguido de un ajuste supervisado. La preparación multilingüe incluye material como pares de título y pasaje, pares conversacionales y pares de traducción, mientras que los datos etiquetados de recuperación y comprensión del lenguaje aportan la etapa posterior. Esto explica las tareas previstas de representación textual sin establecer un rendimiento igual en todos los idiomas.

El fabricante identifica expresamente como limitación la degradación en idiomas con pocos recursos. Comprueba los idiomas y la formulación reales de la colección, incluidas abreviaturas, nombres y vocabulario especializado. La etiqueta multilingüe es una descripción útil del alcance; la relevancia del texto devuelto sigue necesitando una evaluación para el público y la tarea.

Longitud y resultados útiles

Las entradas largas se truncan a un máximo de 512 tokens. Prepara un documento extenso como pasajes coherentes, incluyendo el prefijo de rol y los encabezados pertinentes. Conserva las definiciones y los matices junto a la afirmación a la que afectan, y mantén fuera del vector un identificador del documento principal y la versión de origen.

El fabricante recomienda centrarse en el orden relativo de las puntuaciones de coseno, en lugar de tratar un valor absoluto como una medida universal de confianza. Un resultado útil es un conjunto de pasajes candidatos, representaciones textuales comparables o características vinculadas a sus registros originales. Este modelo exacto sigue siendo distinto de los checkpoints E5 v2 exclusivamente en inglés y de las variantes E5 ajustadas con instrucciones, incluso cuando otro modelo también devuelve 1024 valores.