VoyageAI by MongoDB: rerank-2.5-lite

rerank-2.5-lite est le membre léger de la série 2.5 de modèles de reclassement de Voyage AI. Le fabricant le décrit comme un modèle généraliste équilibrant latence et qualité de pertinence, avec suivi des consignes en langage naturel et prise en charge multilingue. Son entrée est une requête et des textes candidats ; sa sortie est un ordre affiné de ces candidats avec des scores de pertinence.

Une décision de pertinence légère au deuxième stade

Le modèle Lite traite conjointement chaque paire requête-document comme un cross-encoder. Il peut suivre une recherche initiale par embeddings ou lexicale, en affinant les passages sélectionnés par cette étape. Cela diffère de la préparation d’un index d’embeddings réutilisable : le modèle de reclassement examine ensemble la requête soumise et le texte du document pour la décision de pertinence actuelle.

Pour une recherche d’aide interactive, soumettez les explications candidates qui pourraient répondre à la question de l’utilisateur. Conservez assez de chaque passage pour transmettre le comportement et ses conditions, et préservez l’association entre l’indice d’entrée et l’élément source. Un ensemble ciblé de candidats clarifie la tâche de reclassement tout en laissant les éléments récupérés utilisables pour l’affichage ou une réponse ultérieure.

Les consignes expriment les priorités de l’utilisateur

Comme rerank-2.5, Lite accepte des consignes en langage naturel avant ou après la requête. Les exemples du fabricant les utilisent pour mettre en avant des parties de documents, sélectionner un type de source préféré ou ajouter du contexte à un mot ambigu. Une application peut fournir une préférence de pertinence permanente, ou la question actuelle peut en inclure une plus précise.

Une requête d’assistance illustrative peut demander quel passage explique une erreur, avec une consigne donnant la priorité aux étapes de dépannage plutôt qu’aux descriptions générales du produit. Une recherche documentaire peut demander la formulation originale d’une politique plutôt qu’une discussion à son sujet. Décrivez les éléments attendus et gardez la consigne concise. Les consignes influent sur les scores de pertinence ; appliquez toute restriction stricte de version, de date ou d’autorisation lors de la sélection des candidats plutôt que de traiter une préférence de pertinence comme un filtre garanti.

Lire le classement et restituer le passage source

La sortie est triée par pertinence décroissante. Chaque résultat inclut l’indice du document original et un score à virgule flottante ; le réglage facultatif return-documents renvoie aussi le texte d’entrée correspondant. L’option top-k détermine le nombre de premiers résultats renvoyés ; son omission renvoie le classement de tous les candidats soumis.

Utilisez ces indices pour retrouver le passage source et son identifiant. Un candidat reclassé peut devenir un résultat de recherche ou un élément probant pour l’étape RAG suivante, mais la sortie est un ordre appliqué au texte fourni plutôt qu’une réponse réécrite. Évaluez si les premiers passages satisfont à la fois la question et la consigne de pertinence, y compris dans les langues et types de documents réellement présents dans la collection.

Limites et budget pratique de candidats

L’édition 2.5 Lite possède un maximum documenté de 8 000 tokens pour la requête et une limite de 32 000 tokens pour la requête plus chaque document individuel. Elle se distingue du modèle antérieur rerank-2-lite et de son contexte plus petit. Au maximum 1 000 documents peuvent être soumis, et l’entrée totale est limitée à 600 000 tokens selon la formule : tokens de la requête multipliés par le nombre de candidats, plus la somme des tokens des documents candidats.

Pour les usages sensibles à la latence, la FAQ du fabricant recommande rerank-2.5-lite avec au plus 200 000 tokens au total par requête. C’est un conseil pratique inférieur au maximum annoncé, pas une fenêtre différente par document. Une requête ou une consigne plus longue est comptée une fois pour chaque paire de candidats ; le nombre de candidats et la longueur de requête influent donc sur le total.

La troncature est activée par défaut et raccourcit les entrées requête/document trop longues pour les faire tenir ; sa désactivation renvoie une erreur pour une requête ou une paire trop longue. Préparez volontairement des candidats compacts contenant la réponse afin de ne pas laisser les éléments utiles au-delà d’une limite tronquée. Sélectionner moins de résultats de sortie via top-k ne retire pas les autres candidats fournis du calcul des tokens. Examinez les passages sources renvoyés et affinez la préparation des entrées selon les questions réelles auxquelles l’interface de recherche doit répondre.