VoyageAI by MongoDB: voyage-4

voyage-4 è il modello di embedding testuale di dimensione intermedia di Voyage AI nella famiglia Voyage 4. Converte il testo di query e documenti in vettori numerici per il recupero generalista e multilingue. La capacità distintiva della famiglia è uno spazio di embedding condiviso: voyage-4, voyage-4-large, voyage-4-lite e voyage-4-nano producono rappresentazioni compatibili, permettendo ai lati query e documento di un’attività di ricerca di usare modelli diversi di quella famiglia.

Spazio condiviso e recupero asimmetrico

Il produttore chiama recupero asimmetrico l’uso di modelli diversi per query e corpus. Uno schema documentato consiste nel preparare il corpus con voyage-4-large e cercarvi usando embedding di query voyage-4. Il corpus viene codificato una volta o quando il materiale di origine cambia, mentre i vettori di query vengono creati all’arrivo delle ricerche. Lo spazio condiviso permette di cambiare il modello del lato query all’interno della famiglia senza dover ricodificare il corpus soltanto per quel passaggio.

Mantieni compatibili la dimensione di output e la rappresentazione tra i vettori confrontati. La dichiarazione sullo spazio condiviso riguarda i modelli testuali denominati Voyage 4; non è stabilita semplicemente dal fatto che due modelli non correlati restituiscono array della stessa lunghezza. Un’attività concreta può quindi usare voyage-4 su entrambi i lati della ricerca oppure usare i suoi vettori di query con un indice documentale voyage-4-large esistente quando le impostazioni di rappresentazione corrispondono.

Ruoli di query e documento

Per il recupero, Voyage raccomanda di identificare il testo di input come query o documento. L’opzione di ruolo dell’input fornisce l’istruzione di recupero corrispondente prima della vettorizzazione. Prepara i passaggi del corpus come documenti e la formulazione di ricerca dell’utente come query, conservando il testo effettivo della fonte e gli identificatori accanto a ogni vettore memorizzato.

Per esempio, una raccolta di ricerca di conoscenze può indicizzare istruzioni tecniche e spiegazioni di prodotto. Una query su che cosa accade dopo un’importazione fallita dovrebbe restituire il passaggio di origine che descrive quel comportamento. Conserva titoli, condizioni pertinenti e posizione nella fonte insieme al passaggio, affinché il risultato di ricerca possa essere esaminato o usato da una successiva fase di risposta RAG. L’embedding è la rappresentazione numerica di recupero; il passaggio sottostante è l’evidenza usata in quella fase successiva.

Dimensioni e tipi di dati di output

La finestra di contesto documentata per testo è di 32.000 token. Le dimensioni selezionabili sono 256, 512, 1024 e 2048, con 1024 come valore predefinito. L’apprendimento Matryoshka fornisce queste dimensioni di rappresentazione annidate. L’output può usare virgola mobile a 32 bit, interi a 8 bit con o senza segno oppure valori binari compattati, resi possibili dalla preparazione della famiglia che tiene conto della quantizzazione.

Con output binario compattato, ogni byte restituito memorizza otto bit di embedding, quindi la lunghezza dell’elenco di byte è un ottavo della dimensione selezionata. Il numero di byte e la dimensione dell’embedding hanno significati differenti. Scegli la rappresentazione che il tuo indice di ricerca può interpretare ed esamina la pertinenza dei candidati sulle domande e lingue effettivamente usate dalla raccolta prima di scegliere una configurazione compressa.

Lunghezza dell’input, batch e troncamento

La guida attuale di embedding testuale del produttore permette fino a 1000 stringhe e 320.000 token totali in una richiesta voyage-4. Il budget batch è distinto dalla finestra di 32.000 token per ogni input. Il troncamento è attivo per impostazione predefinita: il testo troppo lungo viene accorciato per rientrare. Se il troncamento è disabilitato, un elemento troppo lungo produce invece un errore.

Per un rapporto o una trascrizione lunghi, prepara intenzionalmente passaggi contenenti risposte anziché affidarti a un taglio al confine dell’input. Mantieni ogni passaggio collegato al documento principale e alla versione della fonte. Gli input ordinari di embedding voyage-4 sono testi individuali; l’elaborazione contestualizzata di gruppi di segmenti appartiene ai modelli di embedding contestuale documentati separatamente.

Usare il risultato di recupero

Memorizza i vettori insieme al testo dei passaggi e a identificatori stabili delle fonti, confronta ogni vettore di query con i vettori documentali compatibili e restituisci passaggi candidati. La release della famiglia valuta il recupero su materiale che include documenti tecnici, conversazioni, documenti lunghi, codice, diritto, finanza e testo web. Un reranker separato può affinare i candidati e una fase di risposta successiva può usarne il testo. Valuta i passaggi restituiti rispetto all’attività; la compatibilità dello spazio condiviso rende possibile la combinazione di modelli, mentre l’utilità di un risultato dipende comunque dal materiale di origine e dalla domanda.