VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite è l'edizione della serie Rerank 3 di Voyage incentrata sulla latenza. Riceve una query testuale e documenti candidati, valuta insieme ogni coppia query-documento e restituisce punteggi di pertinenza in ordine di classifica. Serve la seconda fase della ricerca: un sistema di recupero basato su embedding o parole chiave trova i candidati, poi Lite ne perfeziona l'ordine. Il risultato è una classifica da usare nella ricerca o in un flusso di generazione aumentata dal recupero di informazioni.

Cosa cambia in Rerank 3 Lite Il produttore evidenzia un recupero più efficace su documenti lunghi e codice rispetto a rerank-2.5-lite. Entrambe le edizioni Rerank 3 mantengono il rispetto delle istruzioni e la stessa classe di contesto 32K, mentre Lite è progettata per applicazioni sensibili alla latenza. Questo la rende un candidato pratico per ricerca interattiva in basi di conoscenza, recupero di documenti di supporto e ricerca di codice quando gli utenti necessitano rapidamente di risultati pertinenti. Sceglila in base ai requisiti di qualità e tempo di risposta della raccolta effettiva, senza presumere che un'edizione più piccola significhi una finestra di contesto più piccola.

Guida la pertinenza con la query Istruzioni in linguaggio naturale possono accompagnare la query per spiegare cosa conta come pertinente. Mantieni domanda e preferenza di pertinenza concise e coerenti. Per una ricerca di supporto software, usa «Trova la procedura per ripristinare un dispositivo; dai priorità alle istruzioni per la revisione hardware indicata». Per un nome di prodotto ambiguo, includi la categoria del prodotto, così significati estranei non prevalgono. Una preferenza nella query guida il punteggio semantico; usa metadati espliciti della raccolta per selezionare il prodotto, la versione del documento o l'ambito di accesso corretti prima di costruire l'elenco dei candidati.

Prepara un elenco ristretto di candidati testuali I documenti di input sono stringhe. Estrai testo leggibile dal materiale originale e conserva titoli, intestazioni, identificatori e contesto circostante utili. Mantieni una corrispondenza stabile da ogni posizione di input al record originale. Per un articolo di risoluzione dei problemi, includi il sintomo e la procedura pertinente, non solo una frase isolata. Per la ricerca nel codice sorgente, includi la funzione e le informazioni vicine necessarie a distinguerla da funzioni con nomi simili. Rimuovi navigazione o formule standard ripetitive quando sottraggono spazio al brano utile.

Il reranker può riordinare soltanto i documenti che riceve. Se la prima ricerca non recupera mai l'articolo pertinente, questa fase non può recuperare quel candidato mancante. Esamina sia l'elenco ristretto sia l'ordine finale quando un risultato sembra errato. Quando un documento lungo copre molti argomenti, separa sezioni coerenti e mantieni i riferimenti al documento padre, così una sezione pertinente può essere selezionata senza perdere la fonte.

Contesto e limiti della richiesta La guida corrente del produttore specifica un massimo di 8.000 token per la query e un massimo combinato di 32.000 token per la query più ogni singolo documento. Consente fino a 1.000 documenti candidati e un budget totale di richiesta di 600.000 token, calcolato come token della query moltiplicati per il numero di documenti, più tutti i token dei documenti. Una query lunga consuma quindi spazio in ogni coppia e contribuisce ripetutamente al budget aggregato. Conta il testo inviato con il tokenizer del modello appropriato, senza trattare caratteri, parole e token come intercambiabili.

Ad esempio, una query di 500 token con 100 documenti da 4.000 token ciascuno corrisponde a 450.000 token di input secondo quella formula. Questo illustra il calcolo del budget, non una dimensione raccomandata dell'elenco ristretto o un risultato di velocità misurato. L'opzione di troncamento documentata è abilitata per impostazione predefinita; il testo troppo lungo può essere accorciato prima dell'assegnazione del punteggio. Prepara deliberatamente le sezioni importanti, così il troncamento non elimina proprio il brano da individuare.

Leggi e usa il risultato I risultati sono ordinati dal punteggio di pertinenza più alto al più basso. Ogni risultato identifica la posizione originale di input del documento, consentendo all'applicazione di aggiungere titolo, identificatore del record e fonte propri. L'impostazione top_k controlla quanti candidati classificati vengono restituiti; se omessa, vengono restituiti tutti i candidati. L'interfaccia REST del produttore può anche restituire il testo del documento. Conserva gli identificatori originali insieme ai risultati selezionati quando mostri una pagina di ricerca o passi prove a una fase di generazione della risposta.

Un punteggio di pertinenza esprime quanto un candidato corrisponde alla query; non dimostra che le sue affermazioni siano corrette. Confronta gli elementi ai primi posti con la domanda effettiva dell'utente, incluse esclusioni e differenze di versione dei documenti. Se ogni candidato è irrilevante, esiste comunque un elemento al primo posto. Decidi come l'applicazione gestisce questo caso usando query rappresentative della raccolta.

Aggiornare e scegliere l'edizione Il produttore descrive rerank-3-lite come un aggiornamento di rerank-2.5-lite con semantica API invariata e punteggi calibrati sulla distribuzione del predecessore corrispondente. Conserva la mappatura dei record e la fase di recupero esistenti, poi confronta l'ordine ottenuto su query significative prima di affidarti a una soglia di punteggio già stabilita. Usa Lite per un'esperienza di ricerca in cui conta il tempo di risposta; usa l'edizione rerank-3 incentrata sulla qualità come confronto quando la pertinenza di candidati difficili è la priorità maggiore.