Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast est l’édition plus légère de Rerank 4, destinée aux tâches de recherche documentaire à plus faible latence et plus haut débit. Il reçoit une requête et des documents candidats, puis renvoie leur classement et leurs scores de pertinence. Il est utile pour la recherche interactive, la sélection répétée d’éléments probants et les applications qui doivent réordonner une liste de résultats existante. Fast reste une édition distincte de Rerank 4 Pro, positionné pour les cas plus complexes où la qualité de recherche est prioritaire.

Le code du producteur est rerank-v4.0-fast. Comme Pro, il dispose d’un contexte de 32 768 tokens et d’une couverture multilingue de plus de 100 langues. La requête et un document se partagent le contexte; il ne s’agit ni d’une dimension vectorielle ni d’un budget pour tout un corpus indexé. Fournissez les textes candidats à comparer au lieu d’attendre du modèle qu’il récupère des documents depuis une source qui ne lui a pas été donnée.

Le résultat documenté contient l’index du document d’origine et un relevance_score. top_n sélectionne le nombre de résultats renvoyés; sans lui, la liste classée complète est retournée. Gardez les identifiants sources à côté des entrées pour relier le nouvel ordre aux passages réels. Pour une recherche de produit, décrivez les attributs nécessaires dans la requête et reclassez les descriptions candidates; une meilleure position doit rester liée à la fiche produit qui l’a produite.

Le modèle peut traiter des documents anglophones ou non et des enregistrements semi-structurés. Dans le processus V2, les entrées documentaires sont des chaînes et Cohere recommande de représenter les données structurées en YAML. Placez les champs importants en premier et conservez leur ordre afin qu’une troncature n’écarte pas le contenu nécessaire au jugement de pertinence. Une fiche d’assistance peut contenir le titre, le produit et le texte de procédure; un message peut contenir son objet et son corps. Ces relations explicites donnent au modèle de classement plus d’informations qu’une liste de mots-clés correspondants.

La limite de requête propre au modèle dans le guide de Cohere est de 16 384 tokens, la requête et le document consommant le contexte partagé. Le guide décrit le traitement par segments des documents longs, tandis que la référence V2 fixe séparément la troncature documentaire à 4096 tokens par défaut via max_tokens_per_doc. Vérifiez ce réglage effectif au lieu de supposer que toute la fenêtre de 32K du modèle est toujours utilisée. Préparez des passages pertinents ou un budget documentaire adapté à la tâche réelle de recherche.

Pour les performances recommandées, Cohere déconseille plus de 1 000 documents par requête. Répartissez les ensembles plus grands en groupes maniables en conservant leurs identifiants. Les scores de sortie sont normalisés entre 0 et 1 et dépendent de la requête et des passages. Leur ordre constitue le résultat essentiel; un score n’est ni un multiple linéaire de pertinence ni la preuve qu’un passage est correct. Établissez tout seuil de filtrage avec des requêtes représentatives et des passages de pertinence limite du domaine.

Un résultat Fast utile est une liste classée directement exploitable pour afficher une recherche ou choisir des éléments probants pour une étape de rédaction. Conservez le texte source avec le score et vérifiez que les premiers résultats répondent réellement aux conditions demandées. Le rôle de Fast est le classement documentaire plutôt que la génération d’une nouvelle explication ou d’un vecteur de représentation. Gardez l’édition nommée et la préparation des entrées cohérentes lorsque vous affinez le comportement de pertinence.