Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast est l’édition allégée de Rerank 4, destinée aux tâches de recherche à plus faible latence et à plus haut débit. Il reçoit une requête et des documents candidats, puis renvoie leur classement et leurs scores de pertinence. Il est utile pour la recherche interactive, la sélection répétée d’éléments justificatifs et les applications qui doivent réordonner une liste de résultats existante. Fast reste une édition distincte de Rerank 4 Pro, qui vise les cas plus complexes où la qualité de la recherche est prioritaire.

Le code du producteur est rerank-v4.0-fast. Comme Pro, il dispose d’un contexte de 32 768 tokens et d’une couverture multilingue de plus de 100 langues. La requête et un document partagent le contexte ; ce n’est ni une dimension de vecteur ni un budget pour tout un corpus indexé. Fournissez les textes candidats à comparer, plutôt que d’attendre du modèle qu’il retrouve des documents dans une source qui ne lui a pas été fournie.

Le résultat documenté comprend l’index du document original et un relevance_score. top_n sélectionne le nombre de résultats renvoyés ; son omission renvoie la liste classée complète. Conservez les identifiants de source à côté des entrées afin de relier le nouvel ordre aux passages réels. Pour une recherche de produit, décrivez les attributs requis dans la requête et reclassez les descriptions candidates ; un meilleur rang doit rester relié à la fiche produit qui l’a obtenu.

Le modèle peut traiter des documents anglais ou dans d’autres langues ainsi que des enregistrements semi-structurés. Dans le processus V2, les documents d’entrée sont des chaînes, et Cohere recommande de représenter les données structurées en YAML. Placez les champs importants en premier et conservez leur ordre pour qu’une troncature ne supprime pas le contenu nécessaire au jugement de pertinence. Une fiche d’assistance peut contenir un titre, un produit et une procédure ; un message peut contenir son objet et son corps. Ces relations explicites apportent au modèle de classement des informations allant au-delà d’une liste de mots-clés correspondants.

La limite de requête propre au modèle, dans le guide de préparation de Cohere, est de 16 384 tokens ; la requête et le document consomment le contexte partagé. Le guide décrit le traitement des longs documents par segments, tandis que la référence V2 définit séparément la troncature documentaire à 4096 tokens par défaut via max_tokens_per_doc. Vérifiez ce réglage documentaire effectif, sans supposer que toute la fenêtre de 32K du modèle est systématiquement utilisée. Préparez des passages pertinents ou un budget documentaire adapté à la tâche de recherche réelle.

Pour les performances recommandées, Cohere déconseille plus de 1 000 documents dans une requête. Divisez les ensembles de candidats plus grands en groupes gérables tout en conservant leurs identifiants. Les scores de sortie sont normalisés de 0 à 1 et dépendent de la requête et des passages. Leur ordre est le résultat essentiel ; un score n’est ni un multiple linéaire de pertinence ni une preuve d’exactitude d’un passage. Établissez tout seuil de filtrage à l’aide de requêtes représentatives et de passages à la limite de la pertinence issus du domaine.

Un résultat Fast utile est une liste classée qui peut immédiatement alimenter un affichage de recherche ou sélectionner des éléments pour une étape de rédaction de réponse. Conservez le texte source avec le score et vérifiez que les meilleurs résultats répondent effectivement aux conditions demandées. Le rôle de Fast est le classement de recherche, plutôt que la production d’une nouvelle explication ou d’un vecteur d’embedding. Gardez la même édition nommée et une préparation cohérente des entrées lorsque vous affinez le comportement de pertinence.