Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast è l'edizione più leggera di Rerank 4, proposta per attività di recupero a latenza più bassa e volume di elaborazione maggiore. Riceve una query e documenti candidati, quindi restituisce il loro ordine di pertinenza e i relativi punteggi. È utile per ricerca interattiva, selezione ripetuta delle prove e applicazioni che devono riordinare un elenco di risultati esistente. Fast resta un'edizione distinta da Rerank 4 Pro, proposto per casi più complessi in cui la qualità del recupero ha priorità.

Il codice del produttore è rerank-v4.0-fast. Come Pro, ha un contesto di 32.768 token e copertura multilingue in più di 100 lingue. La query e un documento condividono il contesto; non è una dimensione vettoriale né un budget per un intero corpus indicizzato. Fornisci i testi candidati da confrontare, senza aspettarti che il modello recuperi documenti da una fonte che non gli è stata fornita.

Il risultato documentato include l'indice del documento originale e un relevance_score. top_n seleziona quanti risultati restituire, mentre ometterlo restituisce l'intero elenco classificato. Mantieni gli identificatori delle fonti accanto agli input affinché il nuovo ordine possa essere collegato ai passaggi effettivi. Per una ricerca di prodotti, descrivi nella query gli attributi richiesti e riordina le descrizioni candidate; una posizione migliore deve restare collegata alla scheda prodotto che l'ha prodotta.

Il modello può lavorare con documenti in inglese e in altre lingue e con record semistrutturati. Nel flusso V2, gli input documentali sono stringhe e Cohere consiglia di rappresentare i dati strutturati come YAML. Inserisci per primi i campi importanti e preservane l'ordine, così che un troncamento non elimini il contenuto necessario a giudicare la pertinenza. Un record di supporto può contenere titolo, prodotto e testo della procedura; un messaggio può contenere oggetto e corpo. Queste relazioni esplicite forniscono al classificatore informazioni che vanno oltre un elenco di parole chiave corrispondenti.

Il limite di query specifico del modello nella guida preparatoria di Cohere è di 16.384 token, con query e documento che consumano il contesto condiviso. La guida descrive l'elaborazione a segmenti di documenti più lunghi, mentre il riferimento V2 imposta separatamente il troncamento dei documenti a 4096 token tramite max_tokens_per_doc. Controlla quell'impostazione documentale effettiva, senza presumere che venga sempre usata l'intera finestra del modello di 32K. Prepara passaggi pertinenti o un budget documentale adatto all'attività di recupero effettiva.

Per le prestazioni consigliate, Cohere sconsiglia più di 1.000 documenti in una richiesta. Suddividi insiemi di candidati più grandi in gruppi gestibili mantenendone gli identificatori. I punteggi di output sono normalizzati da 0 a 1 e dipendono dalla query e dai passaggi. Il loro ordine è il risultato fondamentale; un punteggio non è un multiplo lineare della pertinenza né la prova che un passaggio sia corretto. Stabilisci ogni soglia di filtraggio con query rappresentative e passaggi di pertinenza borderline del dominio.

Un risultato Fast utile è un elenco classificato che può alimentare immediatamente una visualizzazione dei risultati di ricerca o selezionare prove per una fase di scrittura della risposta. Conserva il testo sorgente insieme al punteggio e verifica che i primi risultati affrontino davvero le condizioni richieste. Il ruolo di Fast è classificare il recupero, non generare una nuova spiegazione o un vettore di embedding. Mantieni coerenti l'edizione nominata e la preparazione dell'input quando affini il comportamento di pertinenza.