Cohere: Rerank v3.5

Cohere Rerank 3.5 è un modello multilingue per classificare per pertinenza documenti candidati e testo semistrutturato. Valuta ogni candidato in relazione a una query e restituisce un elenco di risultati riordinato con punteggi di pertinenza. Può affinare candidati ottenuti tramite ricerca per parole chiave o semantica e selezionare passaggi per una risposta aumentata dal recupero di informazioni. Il suo compito è migliorare l'ordine delle prove, non generare una risposta libera o creare un nuovo indice del corpus.

L'identificatore esatto del produttore è rerank-v3.5. Usa un contesto di 4096 token, distinto dal contesto di 32K di Rerank 4 Pro e Fast. I token della query e del documento concorrono insieme a quella finestra per candidato. La guida preparatoria specifica del modello tronca una query oltre i suoi primi 2048 token e descrive segmenti di documento di 4093 token prima di considerare la query. Mantieni la query mirata e prepara passaggi candidati che contengano le informazioni necessarie per giudicare la relazione richiesta.

Fornisci la query e un elenco di stringhe di testo candidate. Ogni risultato contiene un indice che rimanda alla posizione del documento originale e un punteggio di pertinenza; top_n sceglie quanti risultati classificati conservare. In sua assenza, il flusso documentato del produttore restituisce tutti i risultati. Conserva gli identificatori dei documenti indipendentemente dal punteggio, così che il passaggio in cima all'elenco resti riconducibile alla politica, alla scheda prodotto o al messaggio originale.

Rerank 3.5 supporta più di 100 lingue, incluso materiale in inglese e in altre lingue. Una query può contenere diversi aspetti dell'esigenza, come prodotto, situazione dell'utente e procedura desiderata. Per i record strutturati, la versione V2 ha rimosso gli oggetti documento grezzi e consiglia stringhe YAML. Disponi i campi utili in un ordine intenzionale, con il contenuto decisivo prima dei metadati meno pertinenti, perché le stringhe lunghe possono essere troncate. Questo vale per titoli e contenuti, attributi di prodotti o oggetto e corpo di un messaggio.

Il riferimento V2 del produttore usa max_tokens_per_doc per il troncamento dei documenti, con un valore predefinito di 4096. La guida preparatoria di Cohere descrive anche la suddivisione dei documenti lunghi in segmenti; l'input effettivo dipende dal flusso selezionato e dalle impostazioni dei documenti. Per un maggiore controllo, prepara tu stesso passaggi identificabili invece di presumere che ogni sezione di una fonte lunga resti visibile. Conserva abbastanza contesto circostante per distinguere un passaggio che contiene la risposta da uno che ne condivide soltanto il vocabolario.

Per le prestazioni delle richieste, il riferimento attuale consiglia di non inviare più di 1.000 documenti contemporaneamente. I punteggi di pertinenza sono normalizzati tra 0 e 1, ma i loro valori dipendono dalla query e dai candidati e non costituiscono una scala lineare di correttezza. Usa la classificazione per identificare prove utili. Se serve una soglia di punteggio, scegli query rappresentative del dominio e passaggi di pertinenza borderline, affinché la soglia rifletta l'attività di recupero effettiva.

Un flusso pratico di supporto può riordinare sezioni candidate della politica di reso per una domanda su un articolo danneggiato, quindi passare il testo sorgente selezionato a una fase di scrittura della risposta. Una ricerca nelle email può classificare i messaggi rispetto a un problema specifico e conservare l'identificatore del messaggio originale con ogni risultato. L'artefatto utile è l'elenco ordinato delle prove. Mantieni associati al risultato il contesto più breve di Rerank 3.5 e la preparazione dei documenti V2, senza sostituirli con i limiti di modelli successivi.