Voyage AI: Voyage 3.5 Lite

Voyage 3.5 Lite converte il testo in embedding per il recupero semantico. Voyage AI descrive questa edizione come ottimizzata per latenza e costo, rendendola una candidata per esperienze di ricerca che trasformano frequentemente in embedding le domande in arrivo o mantengono una raccolta ampia di passaggi ricercabili. L’output è una rappresentazione numerica del testo fornito, che un’applicazione di recupero confronta con i vettori archiviati per i propri materiali di fonte.

Iniziate da una raccolta i cui confini corrispondano all’attività dell’utente. Per un centro assistenza, un passaggio può spiegare una procedura e i suoi prerequisiti. Per un archivio di discussioni, mantenete una parte sufficiente della sequenza di risposte per identificare ciò a cui si riferisce la risposta. Un risultato deve condurre a un elemento di prova leggibile: conservate quindi il testo originale, un collegamento stabile alla fonte e i metadati del documento insieme a ogni embedding.

Scrivete le query di prova come le formulerebbero gli utenti. «Dove posso cambiare l’indirizzo su una fattura?» è una verifica di ricerca più utile rispetto a copiare il titolo dell’articolo pertinente. Includete domande brevi, parafrasi, abbreviazioni di settore e casi che menzionano più concetti. Esaminate i passaggi restituiti e identificate se un risultato mancato dipenda da contenuti di fonte assenti, confini dei passaggi poco adatti o una scelta di recupero.

Il produttore documenta una finestra di contesto di 32 000 token. Questa capacità permette input testuali consistenti, mentre la lunghezza dei passaggi resta una scelta progettuale dell’esperienza di ricerca. Mantenete una risposta compatta insieme alle condizioni necessarie; evitate di separare una definizione dal termine che spiega. Estraete testo leggibile dalla fonte e rimuovete la navigazione ripetuta su ogni pagina quando nasconde le informazioni cercate dall’utente.

Voyage 3.5 Lite supporta 2 048, 1 024, 512 e 256 dimensioni. Le rappresentazioni in virgola mobile, a interi di otto bit e binarie offrono ulteriori scelte per l’indice vettoriale. Verificate una rappresentazione più piccola o quantizzata sulle stesse domande e sullo stesso corpus usati per la base di confronto a precisione completa. Registrate con l’indice il modello, la dimensione e il tipo di dato selezionati, in modo che i vettori delle query usino le impostazioni corrispondenti.

Nel processo di recupero del produttore, identificate i passaggi indicizzati come documenti e le ricerche in arrivo come query. Preservate l’associazione tra ogni vettore restituito e il relativo testo di input quando elaborate più passaggi insieme. Un’operazione di embedding riuscita fornisce vettori; l’applicazione deve comunque inserirli nei record corretti e mostrare l’estratto di fonte quando un utente apre un risultato.

Usate questa edizione per una raccolta di assistenza ricercabile, uno strumento di individuazione dei documenti o la fase di recupero di un assistente. Per materiali multilingue, valutate le combinazioni linguistiche presenti nella vostra raccolta, anziché basarvi su un’unica prova in inglese. Mantenete disponibili per l’applicazione le autorizzazioni e i metadati della lingua locale, in modo che una corrispondenza pertinente possa essere filtrata e mostrata nel contesto corretto.

Per raccolte in crescita, aggiornate i vettori dei passaggi modificati insieme alle versioni delle relative fonti. Conservate un insieme di domande reali che comprenda corrispondenze facili, parafrasi difficili e documenti simili con risposte diverse. Misurate la qualità del recupero e il comportamento dell’intero flusso di ricerca con il carico previsto. Il posizionamento dell’edizione Lite da parte del produttore aiuta a scegliere una candidata; la dimensione finale, la strategia dei passaggi e le impostazioni dell’indice derivano dai risultati sui vostri materiali.