Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast est l’édition plus légère de Rerank 4, destinée aux tâches de recherche nécessitant une latence plus faible et un débit plus élevé. Il reçoit une requête et des documents candidats, puis renvoie leur classement et leurs scores de pertinence. Il est utile pour la recherche interactive, la sélection répétée d’éléments probants et les applications qui doivent réordonner une liste de résultats existante. Fast reste une édition distincte de Rerank 4 Pro, qui vise les cas plus complexes où la qualité de la recherche est prioritaire.

Le code de l’éditeur est rerank-v4.0-fast. Comme Pro, il dispose d’un contexte de 32 768 tokens et d’une couverture multilingue de plus de 100 langues. La requête et un document partagent le contexte ; ce n’est ni une dimension vectorielle ni un budget pour l’ensemble d’un corpus indexé. Fournissez les textes candidats à comparer, plutôt que d’attendre du modèle qu’il récupère des documents dans une source qui ne lui a pas été donnée.

Le résultat documenté comprend l’index du document d’origine et un relevance_score. top_n détermine le nombre de résultats renvoyés ; son omission renvoie la liste classée complète. Gardez les identifiants de source à côté des entrées pour relier le nouvel ordre aux passages réels. Pour une recherche de produits, décrivez les attributs requis dans la requête et reclassez les descriptions candidates ; un meilleur rang doit rester relié à la fiche produit dont il provient.

Le modèle peut traiter des documents en anglais et dans d’autres langues ainsi que des enregistrements semi-structurés. Dans le processus V2, les documents d’entrée sont des chaînes, et Cohere recommande de représenter les données structurées en YAML. Placez les champs importants en premier et préservez leur ordre pour qu’une troncature ne supprime pas le contenu nécessaire à l’évaluation de la pertinence. Une fiche d’assistance peut contenir le titre, le produit et le texte de procédure ; un message peut contenir son objet et son corps. Ces relations explicites donnent au modèle de classement des informations allant au-delà d’une liste de mots-clés correspondants.

La limite de requête spécifique au modèle dans le guide de préparation de Cohere est de 16 384 tokens, la requête et le document consommant le contexte partagé. Le guide décrit le traitement des documents plus longs par blocs, tandis que la référence V2 définit séparément la troncature des documents à 4096 tokens par défaut via max_tokens_per_doc. Vérifiez ce réglage effectif des documents plutôt que de supposer que toute la fenêtre de 32K du modèle est systématiquement utilisée. Préparez des passages pertinents ou un budget de document adapté à la tâche de recherche réelle.

Pour les performances recommandées, Cohere déconseille plus de 1 000 documents dans une requête. Divisez les ensembles de candidats plus importants en groupes gérables tout en conservant leurs identifiants. Les scores de sortie sont normalisés de 0 à 1 et dépendent de la requête et des passages. Leur ordre est le résultat essentiel ; un score n’est ni un multiple linéaire de pertinence ni une preuve de l’exactitude d’un passage. Établissez tout seuil de filtrage à l’aide de requêtes représentatives et de passages à la limite de la pertinence issus du domaine.

Un résultat Fast utile est une liste classée qui peut immédiatement alimenter un affichage de recherche ou sélectionner des éléments probants pour une étape de rédaction de réponse. Conservez le texte source avec le score et vérifiez si les premiers résultats répondent réellement aux conditions demandées. Le rôle de Fast est le classement pour la recherche, plutôt que la génération d’une nouvelle explication ou d’un vecteur d’embedding. Gardez l’édition nommée et la préparation des entrées cohérentes lorsque vous affinez le comportement de pertinence.