Cohere: Rerank v3.5

Cohere Rerank 3.5 est un modèle multilingue de classement par pertinence de documents candidats et de textes semi-structurés. Il évalue chaque candidat par rapport à une requête et renvoie une liste de résultats réordonnée avec des scores de pertinence. Il peut affiner les candidats obtenus par recherche par mots-clés ou sémantique et sélectionner des passages pour une réponse augmentée par la recherche. Sa tâche consiste à améliorer l’ordre des éléments justificatifs, plutôt qu’à générer une réponse libre ou à créer un nouvel index de corpus.

L’identifiant exact du producteur est rerank-v3.5. Il utilise un contexte de 4096 tokens, distinct du contexte de 32K de Rerank 4 Pro et Fast. Les tokens de la requête et du document se cumulent dans cette fenêtre par candidat. Le guide de préparation propre au modèle tronque la requête après ses 2048 premiers tokens et décrit des segments documentaires de 4093 tokens avant prise en compte de la requête. Gardez une requête ciblée et préparez des passages candidats contenant les informations nécessaires pour juger la relation demandée.

Fournissez la requête et une liste de chaînes de texte candidates. Chaque résultat comporte un index renvoyant à la position du document d’origine et un score de pertinence ; top_n définit le nombre de résultats classés à conserver. Sans ce paramètre, le processus documenté du producteur renvoie tous les résultats. Conservez les identifiants des documents indépendamment du score afin de pouvoir relier le meilleur passage à la politique, à la fiche produit ou au message d’origine.

Rerank 3.5 prend en charge plus de 100 langues, dont l’anglais et d’autres langues. Une requête peut couvrir plusieurs aspects du besoin, comme le produit, la situation de l’utilisateur et la procédure recherchée. Pour les enregistrements structurés, la version V2 a supprimé les objets document bruts et recommande des chaînes YAML. Placez les champs utiles dans un ordre délibéré, en mettant le contenu décisif avant les métadonnées moins pertinentes, car les longues chaînes peuvent être tronquées. Cette approche convient aux titres et contenus, aux attributs de produits ou à l’objet et au corps d’un message.

La référence V2 du producteur utilise max_tokens_per_doc pour tronquer les documents, avec une valeur par défaut de 4096. Le guide de préparation de Cohere décrit aussi le découpage des longs documents ; l’entrée effective dépend du processus choisi et de ses paramètres documentaires. Pour mieux maîtriser le contenu, préparez vous-même des passages identifiables plutôt que de supposer que toutes les sections d’une longue source restent visibles. Conservez suffisamment de contexte environnant pour distinguer un passage contenant la réponse d’un autre qui n’en partage que le vocabulaire.

Pour les performances des requêtes, la référence actuelle recommande de ne pas envoyer plus de 1 000 documents à la fois. Les scores de pertinence sont normalisés entre 0 et 1, mais leurs valeurs dépendent de la requête et des candidats et ne constituent pas une échelle linéaire d’exactitude. Utilisez le classement pour repérer les éléments utiles. Si un seuil de score est nécessaire, choisissez des requêtes représentatives du domaine et des passages à la limite de la pertinence, afin que ce seuil corresponde à la tâche de recherche réelle.

Un processus d’assistance pratique peut reclasser des sections candidates de politique de retour pour une question sur un article endommagé, puis transmettre le texte source sélectionné à une étape de rédaction de réponse. Une recherche dans les courriels peut classer les messages selon un problème précis et conserver l’identifiant du message original dans chaque résultat. Le livrable utile est la liste ordonnée des éléments justificatifs. Associez au résultat le contexte plus court de Rerank 3.5 et sa préparation documentaire V2, sans leur substituer les limites de modèles ultérieurs.