VoyageAI by MongoDB: rerank-2.5

rerank-2.5 è il reranker di Voyage AI che segue istruzioni, progettato per perfezionare un insieme di candidati di ricerca. Esamina congiuntamente la query e ogni documento come cross-encoder, poi restituisce un ordine di pertinenza. Il rilascio del produttore evidenzia il controllo in linguaggio naturale su cosa conta come pertinente, il recupero multilingue e un contesto query-documento più lungo rispetto alla precedente edizione rerank-2.

Fornisci al modello i candidati da confrontare

L'input è una query e un elenco di documenti testuali candidati. Possono essere brani selezionati da una ricerca basata su embedding o da una ricerca lessicale iniziale. Il reranker valuta il testo fornito anziché creare embedding del corpus, quindi il suo compito pratico è perfezionare i candidati già trovati dalla ricerca iniziale.

Mantieni l'ordine originale dei candidati e gli identificatori delle fonti quando prepari l'elenco. Gli indici restituiti si riferiscono a quelle posizioni di input. Per un'attività RAG, fornisci i brani che la fase di risposta potrebbe effettivamente usare, inclusi titolo o condizioni necessari a interpretarli. Un documento pertinente assente dall'insieme inviato non può apparire come risultato appena trovato dal reranking.

Specifica la nozione di pertinenza desiderata

Le istruzioni possono essere aggiunte prima o dopo la query. Il rilascio descrive tre ruoli utili: evidenziare una parte specifica di un documento, preferire un tipo di fonte e disambiguare la query con il contesto applicativo. Questi modificano il compito di pertinenza presentato al modello.

Per una ricerca tecnica, un'istruzione esemplificativa è «Dai priorità ai brani che spiegano il comportamento in caso di errore e di ripristino; le panoramiche introduttive sono secondarie». Per una raccolta di ricerca, specifica se contino di più titolo, metodo o risultato. Per un termine ambiguo, indica l'ambito a cui si riferisce la ricerca. Mantieni compatibili domanda e istruzione, così una non chiede un argomento ampio mentre l'altra modifica silenziosamente l'attività.

Queste preferenze guidano il punteggio di pertinenza. Se l'applicazione ha requisiti rigidi di ammissibilità — come versione della fonte, data o ambito di accesso — prepara separatamente l'insieme dei candidati ammissibili. L'istruzione di pertinenza del modello e una restrizione deterministica della raccolta servono a scopi diversi.

Output classificato e uso successivo dei risultati

I risultati sono ordinati per pertinenza decrescente e comprendono un punteggio di pertinenza a virgola mobile e l'indice originale di input del candidato. L'opzione top-k seleziona quanti primi risultati restituire; senza di essa, la specifica del produttore restituisce risultati per tutti i candidati inviati. Un'impostazione opzionale return-documents include il testo originale corrispondente; altrimenti la risposta contiene indici e punteggi.

Usa l'ordine per selezionare brani da mostrare o per una fase successiva di risposta, mantenendo intatta l'identità della fonte. Esamina il testo effettivo quando valuti la classifica: il punteggio misura la pertinenza alla query inviata, non è una risposta generata né una verifica della correttezza delle affermazioni del documento. Questo rende il modello utile per perfezionare materiale di ricerca tecnico, legale, finanziario, medico, conversazionale e multilingue senza trasformare la classifica in una conclusione di settore.

Contesto, budget totale di token e troncamento

Il limite documentato della query è di 8.000 token, incluse le istruzioni inserite nella query. La query più un singolo documento candidato devono rientrare in 32.000 token e l'elenco dei documenti può contenere al massimo 1.000 elementi. Il totale consentito è di 600.000 token, conteggiati come token della query moltiplicati per il numero di documenti, più tutti i token dei documenti. Un'istruzione lunga viene quindi contata ripetutamente nelle coppie candidate.

Il numero top-k dell'output non cambia il numero di candidati in quel calcolo dei token di input. Il troncamento predefinito accorcia query o documenti troppo lunghi per rispettare il limite di contesto; disabilitarlo fa restituire un errore per una query o una coppia troppo lunga. Prepara deliberatamente brani che contengano la risposta e mantieni le condizioni pertinenti nel testo che il modello vedrà. Valuta l'ordine perfezionato su domande e istruzioni rappresentative, poi passa i brani originali selezionati alla fase successiva.