VoyageAI by MongoDB: rerank-2.5

rerank-2.5 est le modèle de reclassement de Voyage AI guidé par consignes, conçu pour affiner un ensemble de candidats de recherche. Il examine conjointement la requête et chaque document comme un cross-encoder, puis renvoie un ordre de pertinence. La publication du fabricant met l’accent sur le contrôle en langage naturel de ce qui compte comme pertinent, la récupération multilingue et un contexte requête-document plus long que celui de l’édition précédente rerank-2.

Fournir au modèle les candidats à comparer

L’entrée est une requête et une liste de documents textuels candidats. Il peut s’agir de passages sélectionnés par une recherche d’embeddings ou une première recherche lexicale. Le modèle de reclassement évalue le texte fourni plutôt que de créer des embeddings de corpus ; son rôle pratique est donc d’affiner les candidats déjà trouvés par la recherche initiale.

Conservez l’ordre original des candidats et les identifiants de sources lors de la préparation de cette liste. Les indices renvoyés font référence à ces positions d’entrée. Pour une tâche RAG, fournissez les passages que l’étape de réponse pourrait réellement utiliser, avec le titre ou les conditions nécessaires à leur interprétation. Un document pertinent absent de l’ensemble de candidats soumis ne peut pas apparaître comme un résultat nouvellement trouvé par le reclassement.

Préciser la notion de pertinence souhaitée

Des consignes peuvent être ajoutées avant ou après la requête. La publication décrit trois rôles utiles : mettre en avant une partie particulière d’un document, privilégier un type de source et lever l’ambiguïté de la requête avec le contexte de l’application. Elles modifient la tâche de pertinence présentée au modèle.

Pour une recherche technique, une consigne illustrative est « Donnez la priorité aux passages qui expliquent le comportement en cas d’échec et de récupération ; les présentations introductives sont secondaires. » Pour une collection de recherche, précisez si le titre, la méthode ou le résultat compte le plus. Pour un terme ambigu, indiquez le domaine de la recherche. Gardez la question et la consigne compatibles, afin que l’une ne demande pas un sujet large tandis que l’autre change implicitement la tâche.

Ces préférences guident l’attribution des scores de pertinence. Si l’application possède des exigences d’éligibilité strictes — comme la version de source, la date ou le périmètre d’accès — préparez séparément l’ensemble des candidats éligibles. La consigne de pertinence du modèle et une restriction déterministe de collection servent des objectifs différents.

Sortie classée et utilisation ultérieure du résultat

Les résultats sont ordonnés par pertinence décroissante et comprennent un score de pertinence à virgule flottante et l’indice d’entrée original du candidat. L’option top-k sélectionne le nombre de premiers résultats à renvoyer ; sans elle, la spécification du fabricant renvoie les résultats pour tous les candidats soumis. Un réglage facultatif return-documents inclut le texte source correspondant ; sinon, la réponse contient des indices et des scores.

Utilisez l’ordre pour sélectionner les passages à afficher ou à transmettre à une étape de réponse ultérieure, en conservant leur identité de source. Examinez le texte réel lors de l’évaluation du classement : le score mesure la pertinence pour la requête soumise, ce n’est ni une réponse générée ni une vérification de l’exactitude des affirmations du document. Cela rend le modèle utile pour affiner des contenus de recherche techniques, juridiques, financiers, médicaux, conversationnels et multilingues sans transformer un classement en conclusion de domaine.

Contexte, budget total de tokens et troncature

La limite documentée de requête est de 8 000 tokens, y compris les consignes placées dans la requête. La requête plus un document candidat quelconque doivent tenir dans 32 000 tokens, et la liste de documents peut contenir au plus 1 000 éléments. Le budget total est de 600 000 tokens, comptés comme les tokens de requête multipliés par le nombre de documents, plus tous les tokens des documents. Une longue consigne est donc comptée plusieurs fois dans les paires de candidats.

Le nombre top-k de sortie ne modifie pas le nombre de candidats dans ce calcul des tokens d’entrée. La troncature par défaut raccourcit les requêtes ou documents trop longs pour respecter la limite de contexte ; la désactiver fait renvoyer une erreur pour une requête ou une paire trop longue. Préparez volontairement des passages contenant la réponse et gardez les conditions pertinentes dans le texte que le modèle verra. Évaluez l’ordre affiné sur des questions et consignes représentatives, puis transmettez les passages originaux sélectionnés à l’étape suivante.