VoyageAI by MongoDB: rerank-3

Voyage rerank-3 est un modèle de reclassement textuel conçu pour améliorer la qualité des éléments récupérés. À partir d’une requête et d’une liste de documents candidats, il examine conjointement chaque paire et renvoie les candidats classés par pertinence. Les embeddings et la recherche par mots-clés peuvent d’abord réduire une grande collection à une présélection gérable ; rerank-3 applique ensuite une évaluation plus détaillée de la pertinence à cette présélection. Sa sortie est constituée d’éléments de recherche notés qu’une application affiche ou transmet à une étape distincte de génération de réponse.

Rerank 3 axé sur la qualité Le fabricant positionne rerank-3 comme l’édition axée sur l’exactitude et rerank-3-lite comme l’édition destinée à la recherche sensible à la latence. La troisième génération actualise l’architecture de base et le mélange d’entraînement, avec des améliorations particulières dans la récupération de documents longs et de code source par rapport aux prédécesseurs 2.5 correspondants. Le fournisseur l’évalue sur la documentation technique, le code, les contenus multilingues et d’autres domaines documentaires. Ces résultats soutiennent son rôle de récupération ; sélectionnez l’édition selon les questions et documents candidats importants pour votre propre collection.

Documents longs avec suffisamment de contexte Un long candidat peut contenir du contexte utile bien au-delà de son premier paragraphe. Fournissez une section ou un document cohérent avec son titre et les éléments environnants pertinents, pour que le modèle puisse évaluer le lien entre la question réelle et le contenu. Pour une recherche de politique produit, conservez les titres et les exceptions autour du passage visé. Si plusieurs sections récupérées proviennent de la même source, conservez leurs identifiants de document et de section ; l’application peut alors montrer l’origine des éléments sélectionnés.

La fenêtre de contexte est partagée par la requête et chaque candidat. Le guide actuel du fabricant indique 32 000 tokens pour cette paire, dont une requête d’au plus 8 000 tokens. Une requête de 3 000 tokens laisse donc au maximum 29 000 tokens pour chaque document. Préparez l’entrée pour que son contenu essentiel tienne, notamment lorsqu’un long préambule ou du contenu passe-partout répété consommerait sinon la fenêtre. L’option documentée de troncature est activée par défaut et peut raccourcir le texte trop grand de la requête ou du document avant l’attribution des scores. Examinez ce qui est conservé lorsque l’emplacement des passages compte.

Récupération de code et de contenus techniques Pour l’étape de récupération d’un assistant de programmation, les candidats peuvent contenir des implémentations de fonctions, de la documentation API ou des explications techniques sous forme de texte. Incluez les symboles, les signatures et le contexte nécessaires pour distinguer des candidats similaires. Une requête comme « Trouvez la fonction qui normalise les chemins tout en conservant un séparateur final » donne un comportement concret à rechercher. Ajoutez les contraintes pertinentes de langage, de plateforme ou de version. Après le classement, examinez le code sélectionné et ses dépendances avant de l’utiliser comme contexte ; un score de pertinence ne prouve pas qu’une implémentation satisfait toutes les exigences énoncées.

Les consignes définissent la pertinence Le modèle conserve la capacité de reclassement guidé par consignes introduite dans Rerank 2.5. Ajoutez une consigne concise avant ou après la requête lorsque l’intention de l’utilisateur doit être clarifiée. Pour rechercher des documents de recherche, expliquez si l’accent porte sur le titre, une méthode particulière ou un domaine d’application. Pour un catalogue interne, précisez si la demande concerne l’installation, le dépannage ou la compatibilité. Gardez cette consigne alignée sur la question ; des préférences supplémentaires en conflit avec la demande principale peuvent modifier l’objectif du classement.

Préparer les documents candidats et les budgets L’entrée est une liste de chaînes textuelles. Extrayez du texte exploitable des documents sources, préservez les limites de sections utiles et gardez une correspondance ordonnée des dossiers avec la liste. Le fabricant autorise jusqu’à 1 000 documents par requête. Il indique aussi un plafond agrégé d’entrée de 600 000 tokens : tokens de la requête multipliés par le nombre de documents, plus la somme des tokens de tous les documents. Cela diffère de la limite de contexte par paire. Réduire le texte redondant de la requête peut préserver à la fois la capacité des paires et le budget global de la requête.

Comptez les tokens du modèle concerné plutôt que de supposer qu’un nombre de mots ou de caractères équivaut à un nombre de tokens. Pour les grands candidats, sélectionnez des passages cohérents ou divisez le contenu selon des titres utiles en conservant les informations sur la source parente. Le reclassement est surtout utile après qu’une première recherche a déjà fait apparaître des candidats plausibles : il ne peut pas classer une source manquante qui n’est jamais entrée dans la liste.

Résultats classés et utilisation en aval Le résultat contient les scores de pertinence et les indices renvoyant aux documents d’entrée originaux, triés par pertinence décroissante. L’option top_k limite le nombre de résultats classés renvoyés ; sinon, tous les candidats d’entrée sont renvoyés. L’interface REST du fabricant permet également d’inclure le texte du document. Utilisez chaque indice original pour retrouver le titre, l’identifiant de source et toutes les métadonnées nécessaires à l’application, puis présentez les éléments sélectionnés ou placez le texte pertinent dans le contexte probant d’une réponse.

Examinez les premiers résultats par rapport à la question et gardez l’identité des sources visible. Un rang relatif élevé ne vérifie pas l’exactitude factuelle d’un document, et une présélection de mauvais candidats aura toujours un premier élément. Distinguez la sélection par pertinence de la décision de savoir si les éléments sélectionnés suffisent à répondre à l’utilisateur.

Migration d’édition Le fabricant décrit rerank-3 comme un successeur directement substituable à rerank-2.5, avec la même sémantique API et des scores calibrés sur la distribution de son prédécesseur correspondant. Cette compatibilité permet de conserver une étape de récupération et une correspondance de dossiers existantes. Comparez des classements significatifs et tout seuil de score sur le corpus actuel avant de vous fier à la migration. Gardez rerank-3 et rerank-3-lite comme choix distincts : des limites et un suivi des consignes communs ne rendent pas identiques leurs priorités de qualité et de latence.