VoyageAI by MongoDB: rerank-2.5

rerank-2.5 est le modèle de reclassement de Voyage AI suivant des consignes, conçu pour affiner un ensemble de candidats de recherche. Il examine conjointement la requête et chaque document comme un encodeur croisé, puis renvoie un classement de pertinence. La publication du concepteur met en avant le contrôle en langage naturel de ce qui compte comme pertinent, la récupération multilingue et un contexte requête-document plus long que celui de l’édition rerank-2 précédente.

Donnez au modèle les candidats à comparer

L’entrée est une requête et une liste de documents textuels candidats. Il peut s’agir de passages sélectionnés par recherche d’embeddings ou par une première recherche lexicale. Le modèle de reclassement évalue le texte fourni au lieu de créer des embeddings du corpus ; son rôle pratique est donc d’affiner les candidats déjà trouvés par la recherche initiale.

Conservez l’ordre d’origine des candidats et les identifiants de sources lorsque vous préparez cette liste. Les indices renvoyés font référence à ces positions d’entrée. Pour une tâche RAG, fournissez les passages que l’étape de réponse pourrait réellement utiliser, avec le titre ou les conditions nécessaires à leur interprétation. Un document pertinent absent de l’ensemble de candidats soumis ne peut pas apparaître comme un nouveau résultat trouvé par le reclassement.

Précisez la notion de pertinence souhaitée

Les consignes peuvent être ajoutées avant ou après la requête. La publication décrit trois rôles utiles : mettre l’accent sur une partie précise d’un document, privilégier un type de source et lever l’ambiguïté de la requête avec le contexte de l’application. Ces consignes modifient la tâche de pertinence présentée au modèle.

Pour une recherche technique, un exemple de consigne est « Privilégiez les passages qui expliquent le comportement en cas d’échec et de récupération ; les présentations introductives sont secondaires. » Pour une collection de recherche, précisez si le titre, la méthode ou le résultat compte le plus. Pour un terme ambigu, indiquez le domaine auquel la recherche se rapporte. Gardez la question et la consigne compatibles, afin que l’une ne demande pas un sujet large tandis que l’autre modifie discrètement la tâche.

Ces préférences guident la notation de pertinence. Si l’application a des exigences strictes d’éligibilité — comme la version de la source, sa date ou le périmètre d’accès — préparez séparément l’ensemble de candidats éligibles. La consigne de pertinence du modèle et une restriction déterministe de collection remplissent des objectifs différents.

Sortie classée et utilisation ultérieure du résultat

Les résultats sont classés par pertinence décroissante et comprennent un score de pertinence à virgule flottante et l’indice d’entrée d’origine du candidat. L’option top-k sélectionne le nombre de premiers résultats à renvoyer ; en son absence, la spécification du concepteur renvoie les résultats de tous les candidats soumis. Un paramètre facultatif return-documents inclut le texte source correspondant ; sinon, la réponse contient les indices et les scores.

Utilisez le classement pour sélectionner les passages à afficher ou à transmettre à une étape de réponse ultérieure, en conservant leur identité de source. Examinez le texte réel pour évaluer le classement : le score mesure la pertinence par rapport à la requête soumise, et ne constitue ni une réponse générée ni une vérification de l’exactitude des affirmations du document. Le modèle sert ainsi à affiner les contenus de recherche techniques, juridiques, financiers, médicaux, conversationnels et multilingues sans transformer le classement en conclusion de domaine.

Contexte, budget total de tokens et troncature

La limite documentée de requête est de 8 000 tokens, consignes placées dans la requête comprises. La requête et n’importe quel document candidat individuel doivent tenir dans 32 000 tokens, et la liste de documents peut contenir au plus 1 000 éléments. L’allocation totale est de 600 000 tokens, comptés comme les tokens de la requête multipliés par le nombre de documents, plus tous les tokens des documents. Une longue consigne est donc comptée plusieurs fois dans les paires candidates.

Le nombre de sorties top-k ne change pas le nombre de candidats de ce calcul de tokens d’entrée. La troncature par défaut raccourcit les requêtes ou documents trop longs pour respecter la limite de contexte ; la désactiver fait renvoyer une erreur pour une requête ou une paire trop longue. Préparez délibérément des passages contenant la réponse et gardez les conditions pertinentes dans le texte que le modèle verra. Évaluez l’ordre affiné sur des questions et consignes représentatives, puis transmettez les passages originaux sélectionnés à l’étape suivante.