VoyageAI by MongoDB: rerank-2.5

rerank-2.5 est le modèle de reclassement de Voyage AI suivant des instructions, conçu pour affiner un ensemble de candidats de recherche. Il examine conjointement la requête et chaque document comme un encodeur croisé, puis retourne un classement par pertinence. La version du fabricant met l’accent sur le contrôle en langage naturel de ce qui est pertinent, la récupération multilingue et un contexte requête-document plus long que celui de l’édition rerank-2 précédente.

Fournir au modèle les candidats à comparer

L’entrée est une requête et une liste de documents textuels candidats. Il peut s’agir de passages sélectionnés par une recherche par embeddings ou une recherche lexicale initiale. Le modèle de reclassement évalue le texte fourni au lieu de créer des embeddings de corpus ; son rôle pratique consiste donc à affiner les candidats déjà trouvés par la recherche initiale.

Conservez l’ordre d’origine des candidats et les identifiants des sources lorsque vous préparez cette liste. Les indices retournés font référence à ces positions d’entrée. Pour une tâche RAG, fournissez les passages que l’étape de réponse pourrait réellement utiliser, avec le titre ou les conditions nécessaires à leur interprétation. Un document pertinent absent de l’ensemble des candidats envoyés ne peut pas apparaître comme un nouveau résultat découvert par le reclassement.

Préciser la notion de pertinence souhaitée

Les consignes peuvent être ajoutées avant ou après la requête. La version décrit trois rôles utiles : mettre en avant une partie particulière d’un document, privilégier un type de source et lever l’ambiguïté de la requête avec le contexte de l’application. Ils modifient la tâche de pertinence présentée au modèle.

Pour une recherche technique, une consigne illustrative est « Privilégiez les passages qui expliquent le comportement en cas d’échec et de récupération ; les présentations introductives sont secondaires. » Pour une collection de recherche, précisez si le titre, la méthode ou le résultat compte le plus. Pour un terme ambigu, indiquez le domaine concerné par la recherche. Gardez la question et la consigne compatibles, afin que l’une ne demande pas un sujet large tandis que l’autre modifie silencieusement la tâche.

Ces préférences guident l’attribution des scores de pertinence. Si l’application possède des exigences d’éligibilité strictes — telles que la version de la source, la date ou le périmètre d’accès — préparez séparément l’ensemble des candidats éligibles. La consigne de pertinence du modèle et une restriction déterministe de la collection ont des objectifs différents.

Sortie classée et utilisation ultérieure des résultats

Les résultats sont ordonnés par pertinence décroissante et comprennent un score de pertinence à virgule flottante et l’indice d’entrée d’origine du candidat. L’option top-k choisit le nombre de premiers résultats à retourner ; sans elle, la spécification du fabricant retourne les résultats de tous les candidats envoyés. Un réglage facultatif return-documents inclut le texte source correspondant ; sinon, la réponse contient les indices et les scores.

Utilisez le classement pour sélectionner des passages à afficher ou à transmettre à une étape de réponse ultérieure, en gardant intacte leur identité de source. Examinez le texte réel lorsque vous évaluez le classement : le score mesure la pertinence pour la requête envoyée, et ne constitue ni une réponse générée ni une vérification de l’exactitude des affirmations du document. Le modèle est ainsi utile pour affiner les contenus de recherche techniques, juridiques, financiers, médicaux, conversationnels et multilingues, sans transformer un classement en conclusion spécialisée.

Contexte, budget total de tokens et troncature

La limite documentée de la requête est de 8 000 tokens, y compris les consignes placées dans celle-ci. La requête et n’importe quel document candidat doivent tenir dans 32 000 tokens, et la liste de documents peut contenir au plus 1 000 éléments. L’allocation totale est de 600 000 tokens, comptés comme les tokens de la requête multipliés par le nombre de documents, plus tous les tokens des documents. Une longue consigne est donc comptée à plusieurs reprises dans les paires requête-document.

Le nombre top-k de sortie ne change pas le nombre de candidats dans ce calcul des tokens d’entrée. La troncature par défaut raccourcit les requêtes ou documents trop longs pour respecter la limite de contexte ; sa désactivation entraîne une erreur pour une requête ou une paire trop longue. Préparez délibérément des passages contenant la réponse et gardez la condition pertinente dans le texte que le modèle verra. Évaluez l’ordre affiné sur des questions et des consignes représentatives, puis transmettez les passages d’origine sélectionnés à l’étape suivante.