VoyageAI by MongoDB: rerank-2.5

rerank-2.5 est le modèle de reclassement guidé par consignes de Voyage AI, conçu pour affiner un ensemble de candidats de recherche. Il examine conjointement la requête et chaque document comme encodeur croisé, puis retourne un ordre de pertinence. La version du fabricant met l’accent sur le contrôle en langage naturel de ce qui est pertinent, la récupération multilingue et un contexte requête-document plus long que celui de l’édition rerank-2 précédente.

Fournir au modèle les candidats à comparer

L’entrée est une requête et une liste de documents textuels candidats. Il peut s’agir de passages sélectionnés par une recherche par plongements ou une recherche lexicale de première étape. Le modèle de reclassement évalue le texte fourni plutôt que de créer des plongements du corpus; son rôle pratique est donc d’affiner les candidats déjà trouvés par la recherche initiale.

Gardez l’ordre original des candidats et les identifiants des sources lorsque vous préparez cette liste. Les indices retournés renvoient à ces positions d’entrée. Pour une tâche RAG, fournissez les passages que l’étape de réponse pourrait réellement utiliser, y compris le titre ou les conditions nécessaires à leur interprétation. Un document pertinent absent de l’ensemble de candidats soumis ne peut pas apparaître comme nouveau résultat trouvé par le reclassement.

Préciser la notion de pertinence souhaitée

Les consignes peuvent être ajoutées avant ou après la requête. La version décrit trois rôles utiles : souligner une partie précise d’un document, privilégier un type de source et lever l’ambiguïté d’une requête grâce au contexte de l’application. Ils modifient la tâche de pertinence présentée au modèle.

Pour une recherche technique, une consigne illustrative est « Privilégier les passages qui expliquent le comportement en cas d’échec et de récupération; les aperçus introductifs sont secondaires. » Pour une collection de recherche, précisez si le titre, la méthode ou le résultat compte le plus. Pour un terme ambigu, indiquez le domaine sur lequel porte la recherche. Gardez la question et la consigne compatibles, afin que l’une ne demande pas un sujet large pendant que l’autre change silencieusement la tâche.

Ces préférences guident la notation de pertinence. Si l’application possède des exigences strictes d’admissibilité — comme la version de source, la date ou la portée d’accès — préparez séparément l’ensemble de candidats admissibles. La consigne de pertinence du modèle et une restriction déterministe de collection servent des objectifs différents.

Sortie classée et utilisation ultérieure du résultat

Les résultats sont ordonnés par pertinence décroissante et comprennent un score de pertinence à virgule flottante et l’indice d’entrée original du candidat. L’option top-k choisit combien de premiers résultats retourner; sans elle, la spécification du fabricant retourne les résultats de tous les candidats soumis. Un paramètre facultatif return-documents inclut le texte source correspondant; sinon, la réponse contient les indices et les scores.

Utilisez l’ordre pour choisir les passages à afficher ou à transmettre à une étape de réponse ultérieure, en conservant leur identité source. Examinez le texte réel lorsque vous évaluez le classement : le score mesure la pertinence pour la requête soumise; ce n’est pas une réponse générée ni une vérification de l’exactitude des affirmations du document. Cela rend le modèle utile pour affiner les contenus de recherche techniques, juridiques, financiers, médicaux, conversationnels et multilingues sans transformer un classement en conclusion de domaine.

Contexte, budget total de jetons et troncature

La limite documentée de requête est de 8 000 jetons, y compris les consignes placées dans la requête. La requête et un document candidat quelconque doivent tenir dans 32 000 jetons, et la liste de documents peut contenir au plus 1 000 éléments. L’allocation totale est de 600 000 jetons, comptés comme les jetons de la requête multipliés par le nombre de documents, plus tous les jetons des documents. Une longue consigne est donc comptée à répétition pour les paires candidates.

Le nombre de sorties top-k ne change pas le nombre de candidats dans ce calcul de jetons d’entrée. La troncature par défaut raccourcit les requêtes ou les documents trop longs pour respecter la limite de contexte; la désactiver fait retourner une erreur pour une requête ou une paire trop longue. Préparez délibérément les passages contenant la réponse et gardez les conditions pertinentes dans le texte que le modèle verra. Évaluez l’ordre affiné sur des questions et des consignes représentatives, puis transmettez les passages originaux sélectionnés à l’étape suivante.