Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B es el modelo de embeddings textuales 8B de Qwen, construido a partir del modelo fundacional denso Qwen3. Representa texto como vectores numéricos, en lugar de generar respuestas conversacionales. Qwen enumera recuperación de texto, recuperación de código, clasificación, agrupación y minería de textos bilingües entre las áreas de aplicación compatibles. Un sistema de búsqueda puede utilizar estos vectores para comparar una pregunta con pasajes pertinentes; una colección documental puede utilizarlos para encontrar material semánticamente relacionado u organizar registros en grupos.

El modelo exacto admite una longitud de secuencia de 32K tokens y embeddings de hasta 4096 dimensiones. También admite dimensiones de salida definidas por el usuario de 32 a 4096 mediante Matryoshka Representation Learning. Esto hace que la longitud del vector sea una elección deliberada de diseño: un vector más corto cambia el tamaño de la representación, mientras que la salida completa conserva la dimensionalidad máxima del modelo. Mantén coherente la dimensión elegida para los documentos y consultas comparados en un índice. Qwen3-Embedding-4B es una edición separada con una dimensión máxima distinta, en lugar de una fuente vectorial intercambiable para una colección 8B existente.

El productor describe compatibilidad con más de 100 idiomas, incluidos lenguajes de programación, y recuperación multilingüe, entre idiomas y de código. Una colección práctica puede contener documentos en varios idiomas mientras las consultas buscan el significado pertinente, o pasajes de código fuente indexados para una pregunta en lenguaje natural. Conserva los identificadores, títulos y términos de dominio importantes en la entrada. Para código, mantén la explicación que rodea a la función o módulo junto con el extracto cuando ese contexto forme parte de la pregunta. La salida sigue siendo una representación vectorial; devolver el texto documental coincidente es el siguiente paso de la aplicación de búsqueda.

El modelo tiene en cuenta instrucciones. Qwen recomienda una instrucción de una frase adaptada a la tarea de recuperación y, para uso multilingüe, recomienda escribirla en inglés. Su ejemplo directo da formato a una consulta con Instruct: seguido de la descripción de tarea y Query: seguido de la pregunta. Los documentos de recuperación no necesitan ese mismo prefijo de instrucciones en ese ejemplo. Unas instrucciones originales adecuadas podrían describir la búsqueda de pasajes técnicos que expliquen el error de un usuario y después situar la descripción del error particular en la consulta. La instrucción describe qué tipo de relación semántica debe favorecer la búsqueda.

Los ejemplos de Qwen codifican consultas y documentos por separado, comparan sus vectores mediante similaridad del coseno y muestran un procedimiento de nivel inferior que toma el estado oculto del token final mediante pooling y normaliza el embedding antes de una comparación por producto escalar. Un flujo útil mantiene el vector de cada pasaje unido a su identificador de origen, compara una consulta preparada con los vectores almacenados y devuelve los pasajes correspondientes en orden de similaridad. El ajuste de truncamiento de 8192 tokens del ejemplo es un ajuste elegido de procesamiento de entrada, distinto de la longitud de secuencia documentada de 32K del modelo. Revisa lo que se conserva al preparar entradas largas.

Los modelos de embeddings y reordenación son componentes distintos en la publicación de Qwen. Un modelo de embeddings representa un segmento textual y permite una búsqueda inicial de similaridad. Un reranker separado evalúa la relación entre una consulta y pasajes candidatos y puede refinar su orden. Qwen describe la combinación de ambos módulos, pero Qwen3-Embedding-8B devuelve embeddings, en lugar del juicio de relevancia de un reranker o una respuesta escrita. Para recuperación seguida de una respuesta, conserva el texto de origen coincidente y pasa esa evidencia a la etapa de respuesta. Elige y mantén un modelo, dimensión e instrucción de consulta coherentes para la colección en la que se busca.