VoyageAI by MongoDB: rerank-3

Voyage rerank-3 est un modèle de reclassement textuel conçu pour améliorer la qualité des éléments récupérés. Avec une requête et une liste de documents candidats, il examine conjointement chaque paire et retourne les candidats classés par pertinence. Les plongements et la recherche par mots-clés peuvent d’abord réduire une grande collection à une liste restreinte gérable; rerank-3 applique ensuite une évaluation plus détaillée de la pertinence à cette liste. Sa sortie est un ensemble d’éléments de recherche notés qu’une application peut afficher ou transmettre à une étape distincte de génération de réponse.

Rerank 3 axé sur la qualité Le fabricant positionne rerank-3 comme l’édition axée sur l’exactitude et rerank-3-lite comme celle destinée à la recherche sensible à la latence. La troisième génération met à jour l’architecture de base et le mélange d’entraînement, avec des améliorations particulières de récupération des longs documents et du code source par rapport aux prédécesseurs 2.5 correspondants. Le fournisseur l’évalue sur la documentation technique, le code, le contenu multilingue et d’autres domaines documentaires. Ces résultats appuient son rôle de récupération; choisissez l’édition à partir des questions et des documents candidats qui comptent pour votre collection.

De longs documents avec assez de contexte Un long candidat peut contenir du contexte utile bien au-delà de son premier paragraphe. Fournissez une section ou un document cohérent avec son titre et le contenu environnant pertinent, pour que le modèle puisse évaluer le lien entre la question réelle et le contenu. Pour une recherche de politique de produit, conservez les titres et les exceptions autour du passage d’intérêt. Si plusieurs sections récupérées proviennent de la même source, conservez leurs identifiants de document et de section; l’application pourra alors montrer d’où viennent les éléments sélectionnés.

La fenêtre de contexte est partagée par la requête et chaque candidat. Le guide actuel du fabricant précise 32 000 jetons pour cette paire, y compris une requête d’au plus 8 000 jetons. Une requête de 3 000 jetons laisse donc au plus 29 000 jetons pour chaque document. Préparez l’entrée pour que son contenu essentiel tienne, surtout lorsqu’un long préambule ou du texte passe-partout répété consommerait autrement la fenêtre. L’option de troncature documentée est activée par défaut et peut raccourcir le texte trop long d’une requête ou d’un document avant la notation. Examinez ce qui est conservé lorsque l’emplacement d’un passage compte.

Récupération de code et de contenu technique Pour l’étape de récupération d’un assistant de code, les candidats peuvent contenir des implémentations de fonctions, de la documentation d’API ou des explications techniques sous forme de texte. Incluez les symboles, les signatures et le contexte nécessaires pour distinguer les candidats semblables. Une requête comme « Trouver la fonction qui normalise les chemins tout en conservant un séparateur de fin » donne un comportement concret à faire correspondre. Joignez toute contrainte pertinente de langue de programmation, de plateforme ou de version. Après le classement, examinez le code sélectionné et ses dépendances avant de l’utiliser comme contexte; un score de pertinence ne prouve pas qu’une implémentation satisfait à toutes les exigences énoncées.

Les consignes définissent la pertinence Le modèle conserve la capacité de reclassement guidé par consignes introduite dans Rerank 2.5. Ajoutez une courte consigne avant ou après la requête lorsque l’intention de l’utilisateur doit être clarifiée. Pour une recherche documentaire, expliquez si l’accent porte sur le titre, une méthode particulière ou un domaine d’application. Pour un catalogue interne, précisez si la demande concerne l’installation, le dépannage ou la compatibilité. Gardez cette consigne cohérente avec la question; des préférences supplémentaires qui contredisent la demande principale peuvent changer ce que le classement cherche à optimiser.

Préparer les documents candidats et les budgets L’entrée est une liste de chaînes textuelles. Extrayez du texte utilisable des documents sources, conservez les limites de sections significatives et gardez une table ordonnée de correspondance des enregistrements avec la liste. Le fabricant permet jusqu’à 1 000 documents dans une requête. Il précise aussi un plafond global d’entrée de 600 000 jetons : les jetons de la requête multipliés par le nombre de documents, plus la somme de tous les jetons des documents. Cela diffère de la limite de contexte par paire. Réduire le texte redondant de la requête peut préserver la capacité des paires et le budget total de requête.

Comptez les jetons pour le modèle pertinent, plutôt que de supposer qu’un nombre de mots ou de caractères équivaut à un nombre de jetons. Pour les grands candidats, sélectionnez des passages cohérents ou divisez le contenu selon des titres utiles en conservant l’information de source parente. Le reclassement est surtout utile une fois que la première recherche a déjà fait ressortir des candidats plausibles : il ne peut pas classer une source manquante qui n’est jamais entrée dans la liste.

Résultats classés et utilisation en aval Le résultat contient des scores de pertinence et des indices renvoyant aux documents d’entrée originaux, triés par pertinence décroissante. L’option top_k limite le nombre de résultats classés retournés; sinon, tous les candidats d’entrée sont retournés. L’interface REST du fabricant permet aussi d’inclure le texte des documents. Utilisez chaque indice d’origine pour retrouver le titre, l’identifiant de source et les métadonnées nécessaires à votre application, puis présentez les éléments sélectionnés ou regroupez le texte pertinent dans le contexte de preuves d’une réponse.

Examinez les premiers résultats par rapport à la question et gardez l’identité de la source visible. Un rang relatif élevé ne vérifie pas l’exactitude factuelle d’un document, et une liste restreinte composée seulement de mauvais candidats aura toujours un premier élément. Séparez la sélection par pertinence de la décision à savoir si les éléments sélectionnés suffisent pour répondre à l’utilisateur.

Migration d’édition Le fabricant décrit rerank-3 comme un successeur de rerank-2.5 compatible sans adaptation, avec la même sémantique d’API et des scores calibrés selon la distribution de son prédécesseur correspondant. Cette compatibilité permet de conserver une étape de récupération et une correspondance d’enregistrements existantes. Comparez des ordres de résultats significatifs et tout seuil de score sur le corpus actuel avant de vous fier à la migration. Gardez rerank-3 et rerank-3-lite comme choix distincts : des limites et un suivi des consignes communs ne rendent pas leurs priorités de qualité et de latence identiques.