Cohere: Rerank v3.5

Cohere Rerank 3.5 est un modèle multilingue de classement par pertinence des documents candidats et des textes semi-structurés. Il évalue chaque candidat par rapport à une requête et retourne une liste de résultats réordonnée avec des scores de pertinence. Il peut affiner les candidats obtenus par recherche par mots-clés ou sémantique et sélectionner les passages destinés à une réponse augmentée par récupération. Sa tâche est d’améliorer l’ordre des éléments probants plutôt que de générer une réponse libre ou de créer un nouvel index de corpus.

L’identifiant exact du producteur est rerank-v3.5. Il utilise un contexte de 4 096 jetons, distinct du contexte de 32K de Rerank 4 Pro et Fast. Les jetons de la requête et du document sont comptés ensemble dans cette fenêtre par candidat. Le guide de préparation propre au modèle tronque une requête après ses 2 048 premiers jetons et décrit des segments de document de 4 093 jetons avant la prise en compte de la requête. Gardez la requête ciblée et préparez des passages candidats contenant les informations nécessaires pour évaluer la relation demandée.

Fournissez la requête et une liste de chaînes de texte candidates. Chaque résultat comporte un index renvoyant à la position du document d’origine et un score de pertinence; top_n choisit le nombre de résultats classés à conserver. Sans ce paramètre, le flux documenté du producteur retourne tous les résultats. Conservez les identifiants des documents indépendamment du score afin de pouvoir relier le passage en tête à la politique, à la fiche de produit ou au message d’origine.

Rerank 3.5 prend en charge plus de 100 langues, y compris des contenus en anglais et dans d’autres langues. Une requête peut comprendre plusieurs aspects du besoin, comme le produit, la situation de l’utilisateur et la procédure souhaitée. Pour les fiches structurées, la version V2 a supprimé les objets document bruts et recommande des chaînes YAML. Placez les champs utiles dans un ordre délibéré, avec le contenu décisif avant les métadonnées moins pertinentes, puisque les longues chaînes peuvent être tronquées. Cela convient aux titres et contenus, aux attributs de produits ou à l’objet et au corps d’un message.

La référence V2 du producteur utilise max_tokens_per_doc pour tronquer les documents, avec une valeur par défaut de 4 096. Le guide de préparation de Cohere décrit aussi la segmentation des documents longs; l’entrée effective dépend du flux choisi et de ses paramètres documentaires. Pour plus de contrôle, préparez vous-même des passages identifiables au lieu de supposer que toutes les sections d’une longue source restent visibles. Conservez assez de contexte environnant pour distinguer un passage contenant la réponse d’un passage qui n’en partage que le vocabulaire.

Pour les performances des requêtes, la référence actuelle recommande de ne pas envoyer plus de 1 000 documents à la fois. Les scores de pertinence sont normalisés entre 0 et 1, mais leurs valeurs dépendent de la requête et des candidats et ne constituent pas une échelle linéaire d’exactitude. Utilisez le classement pour repérer les éléments utiles. Si un seuil de score est nécessaire, choisissez des requêtes représentatives du domaine et des passages à la limite de la pertinence afin que le seuil reflète la tâche de récupération réelle.

Un flux pratique de soutien peut reclasser les sections candidates d’une politique de retour pour une question sur un article endommagé, puis transmettre le texte source choisi à une étape de rédaction de réponse. Une recherche de courriels peut classer les messages selon un problème précis et conserver l’identifiant du message original avec chaque résultat. Le livrable utile est la liste ordonnée d’éléments probants. Gardez le contexte plus court de Rerank 3.5 et la préparation documentaire V2 associés à ce résultat plutôt que d’y substituer les limites d’un modèle ultérieur.