Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B è il modello di embedding testuale 8B di Qwen, costruito dal modello fondazionale denso Qwen3. Rappresenta il testo come vettori numerici anziché generare risposte conversazionali. Qwen elenca recupero testuale, recupero di codice, classificazione, clustering ed estrazione di testi paralleli tra le aree applicative supportate. Un sistema di ricerca può usare questi vettori per confrontare una domanda con passaggi pertinenti; una raccolta documentale può usarli per trovare materiale semanticamente correlato o organizzare record in gruppi.

Il modello esatto supporta una lunghezza di sequenza di 32K token ed embedding fino a 4096 dimensioni. Supporta inoltre dimensioni di output definite dall’utente da 32 a 4096 tramite Matryoshka Representation Learning. Ciò rende la lunghezza del vettore una scelta di progettazione intenzionale: un vettore più corto cambia la dimensione della rappresentazione, mentre l’output completo preserva la dimensionalità massima del modello. Mantieni coerente la dimensione scelta per documenti e query confrontati nello stesso indice. Qwen3-Embedding-4B è un’edizione separata con una dimensione massima diversa, anziché una fonte vettoriale intercambiabile per una raccolta 8B esistente.

Il produttore descrive il supporto per oltre 100 lingue, compresi linguaggi di programmazione, e per recupero multilingue, tra lingue diverse e nel codice. Una raccolta concreta può contenere documenti in diverse lingue mentre le query cercano il significato pertinente, oppure passaggi di codice sorgente indicizzati per una domanda in linguaggio naturale. Preserva nell’input identificatori importanti, titoli e termini di dominio. Per il codice, mantieni con l’estratto la spiegazione che circonda la funzione o il modulo quando quel contesto fa parte della domanda. L’output rimane una rappresentazione vettoriale; restituire il testo del documento corrispondente è il passaggio successivo dell’applicazione di ricerca.

Il modello tiene conto delle istruzioni. Qwen raccomanda un’istruzione di una frase adattata all’attività di recupero e, per l’uso multilingue, raccomanda di scriverla in inglese. L’esempio diretto formatta una query con Instruct: seguito dalla descrizione dell’attività e Query: seguito dalla domanda. Nell’esempio, i documenti da recuperare non richiedono lo stesso prefisso di istruzione. Un brief originale adatto potrebbe descrivere la ricerca di passaggi tecnici che spiegano un errore dell’utente, poi inserire nella query la descrizione specifica dell’errore. L’istruzione descrive quale tipo di relazione semantica dovrebbe essere favorito dalla ricerca.

Gli esempi di Qwen codificano separatamente query e documenti, confrontano i vettori tramite similarità del coseno e mostrano una procedura di livello inferiore che usa lo stato nascosto del token finale come rappresentazione aggregata e normalizza l’embedding prima di un confronto a prodotto scalare. Un flusso utile mantiene il vettore di ogni passaggio collegato all’identificatore della fonte, confronta una query preparata con i vettori memorizzati e restituisce i passaggi corrispondenti in ordine di similarità. L’impostazione di troncamento a 8192 token dell’esempio è una scelta di elaborazione dell’input, distinta dalla lunghezza di sequenza documentata di 32K del modello. Verifica che cosa viene conservato quando prepari input lunghi.

I modelli di embedding e reranking sono componenti diversi della release di Qwen. Un modello di embedding rappresenta un segmento di testo e permette una ricerca iniziale per similarità. Un reranker separato valuta il rapporto tra una query e passaggi candidati e può affinarne l’ordine. Qwen descrive la combinazione dei due moduli, ma Qwen3-Embedding-8B stesso restituisce embedding anziché un giudizio di pertinenza del reranker o una risposta scritta. Per il recupero seguito da una risposta, conserva il testo di origine corrispondente e passa quell’evidenza alla fase di risposta. Scegli e mantieni coerenti modello, dimensione e istruzione della query per la raccolta in cui viene effettuata la ricerca.