VoyageAI by MongoDB: rerank-3

Voyage rerank-3 è un reranker testuale progettato per migliorare la qualità delle prove recuperate. Data una query e un elenco di documenti candidati, esamina congiuntamente ogni coppia e restituisce i candidati ordinati per pertinenza. Embedding e ricerca per parole chiave possono prima ridurre una raccolta ampia a un elenco ristretto gestibile; rerank-3 applica poi una valutazione più dettagliata della pertinenza a quell'elenco. Il suo output è costituito da prove di ricerca con punteggio, che un'applicazione può mostrare o passare a una fase separata di generazione della risposta.

Rerank 3 incentrato sulla qualità Il produttore colloca rerank-3 come edizione orientata all'accuratezza e rerank-3-lite come edizione per ricerche sensibili alla latenza. La terza generazione aggiorna l'architettura principale e la miscela di addestramento, con miglioramenti particolari nel recupero di documenti lunghi e codice sorgente rispetto ai predecessori 2.5 corrispondenti. Il produttore la valuta su documentazione tecnica, codice, materiale multilingue e altri ambiti documentali. Questi risultati sostengono il suo ruolo nel recupero; seleziona l'edizione usando le domande e i documenti candidati rilevanti per la tua raccolta.

Documenti lunghi con contesto sufficiente Un candidato lungo può contenere contesto utile ben oltre il paragrafo iniziale. Fornisci una sezione o un documento coerente con titolo e materiale circostante pertinente, così il modello può valutare come la domanda effettiva si collega al contenuto. Per una ricerca su una policy di prodotto, conserva titoli ed eccezioni intorno al brano di interesse. Se più sezioni recuperate provengono dalla stessa fonte, mantieni gli identificatori di documento e sezione; l'applicazione può quindi mostrare l'origine delle prove selezionate.

La finestra di contesto è condivisa dalla query e da ogni candidato. La guida corrente del produttore specifica 32.000 token per quella coppia, inclusa una query di massimo 8.000 token. Una query di 3.000 token lascia quindi al massimo 29.000 token per ciascun documento. Prepara l'input in modo che il contenuto essenziale rientri, soprattutto quando un lungo preambolo o testo standard ripetuto consumerebbero la finestra. L'opzione di troncamento documentata è abilitata per impostazione predefinita e può accorciare query o documenti troppo lunghi prima del punteggio. Esamina ciò che viene conservato quando conta la posizione dei brani.

Recupero di codice e contenuti tecnici Per la fase di recupero di un assistente di programmazione, i candidati possono contenere implementazioni di funzioni, documentazione API o spiegazioni tecniche come testo. Includi simboli, firme e contesto necessari a distinguere candidati simili. Una query come «Trova la funzione che normalizza i percorsi mantenendo un separatore finale» fornisce un comportamento concreto da individuare. Aggiungi i vincoli pertinenti di linguaggio, piattaforma o versione. Dopo la classificazione, esamina il codice selezionato e le sue dipendenze prima di usarlo come contesto; un punteggio di pertinenza non prova che un'implementazione soddisfi ogni requisito dichiarato.

Le istruzioni definiscono la pertinenza Il modello conserva la capacità di reranking guidata da istruzioni introdotta in Rerank 2.5. Anteponi o aggiungi alla query un'istruzione concisa quando l'intento dell'utente richiede chiarimenti. Per cercare documenti di ricerca, spiega se l'attenzione riguarda il titolo, un metodo specifico o un ambito applicativo. Per un catalogo interno, specifica se la richiesta riguarda installazione, risoluzione dei problemi o compatibilità. Mantieni l'istruzione allineata alla domanda; preferenze aggiuntive in conflitto con la richiesta principale possono cambiare ciò che la classifica cerca di ottimizzare.

Prepara documenti candidati e budget L'input è un elenco di stringhe testuali. Estrai testo utilizzabile dai documenti originali, conserva confini significativi tra le sezioni e mantieni una mappa ordinata dei record accanto all'elenco. Il produttore consente fino a 1.000 documenti in una richiesta. Specifica anche un tetto aggregato dell'input di 600.000 token: token della query moltiplicati per il numero di documenti, più la somma di tutti i token dei documenti. Questo differisce dal limite di contesto per coppia. Ridurre il testo ridondante della query può preservare sia la capacità della coppia sia il budget totale della richiesta.

Conta i token per il modello pertinente, invece di presumere che il conteggio di parole o caratteri sia un conteggio di token. Per candidati grandi, seleziona brani coerenti o dividi il materiale secondo titoli utili, conservando le informazioni della fonte padre. Il reranking è più utile dopo che la prima ricerca ha già fatto emergere candidati plausibili: non può classificare una fonte mancante che non è mai entrata nell'elenco.

Risultati classificati e uso a valle Il risultato contiene punteggi di pertinenza e indici riferiti ai documenti di input originali, ordinati per pertinenza decrescente. L'opzione top_k limita il numero di risultati classificati restituiti; altrimenti vengono restituiti tutti i candidati di input. L'interfaccia REST del produttore consente anche di includere il testo dei documenti. Usa ogni indice originale per recuperare titolo, identificatore della fonte e metadati necessari all'applicazione, poi presenta gli elementi selezionati o inserisci il testo pertinente nel contesto di prove di una risposta.

Esamina i primi risultati rispetto alla domanda e mantieni visibile l'identità della fonte. Una posizione relativa alta non verifica l'accuratezza fattuale di un documento e un elenco ristretto contenente solo candidati scadenti avrà comunque un primo elemento. Separa la selezione della pertinenza dalla decisione se le prove selezionate siano sufficienti a rispondere all'utente.

Migrazione dell'edizione Il produttore descrive rerank-3 come un successore di rerank-2.5 sostituibile direttamente, con la stessa semantica API e punteggi calibrati sulla distribuzione del predecessore corrispondente. Questa compatibilità permette di conservare una fase di recupero e una mappatura dei record esistenti. Confronta ordini di risultati significativi e ogni soglia di punteggio sul corpus corrente prima di affidarti alla migrazione. Mantieni rerank-3 e rerank-3-lite come scelte distinte: limiti condivisi e rispetto delle istruzioni non rendono identiche le loro priorità di qualità e latenza.