VoyageAI by MongoDB: voyage-4-lite

voyage-4-lite est le modèle de plongement textuel conçu pour limiter la latence dans la famille Voyage 4 de Voyage AI. Il représente les requêtes et les documents sous forme de vecteurs numériques pour la recherche d’information généraliste. Sa particularité familiale est un espace de plongement partagé avec voyage-4, voyage-4-large et voyage-4-nano, permettant de choisir séparément les modèles de requête et de document.

Commencer par les rôles de recherche

Préparez le besoin d’information de l’utilisateur comme une requête et le matériau interrogeable comme des documents. Voyage recommande les types d’entrée query/document pour la recherche ; sa recette publiée ajoute l’instruction de recherche correspondante lors de la vectorisation du texte.

Pour une collection de manuels du personnel, une requête sur le report des congés non utilisés à la période suivante doit être comparée aux sections précises de la politique. Gardez la règle, ses conditions et toute exception pertinente dans le passage indexé. Conservez le document d’origine et l’identifiant de section avec le vecteur, afin que l’application puisse renvoyer le texte réel de la politique.

Un type d’entrée non spécifié représente directement le texte, tandis que les rôles query/document l’adaptent à la recherche. Le fabricant indique que les plongements produits avec et sans ces réglages de rôle sont compatibles, mais conserver une politique de préparation cohérente facilite l’évaluation de la collection.

Espace partagé dans la famille textuelle Voyage 4

Voyage documente explicitement un processus de recherche asymétrique : les documents peuvent être encodés avec voyage-4-large et recherchés au moyen de vecteurs de requêtes issus de voyage-4-lite. Il s’agit d’une déclaration de compatibilité au niveau de la famille, plutôt que d’une conclusion tirée du fait que deux modèles renvoient la même longueur vectorielle.

Gardez la dimension vectorielle et la représentation choisies alignées entre la collection et le côté des requêtes. L’espace partagé permet aussi de changer le modèle de requête au sein de cette famille textuelle nommée Voyage 4 sans revectoriser les documents existants. Évaluez le classement obtenu à partir de questions représentatives lorsque vous choisissez l’édition de requête.

Le rôle de l’édition Lite est d’être l’option plus petite de requête et de plongement textuel, centrée sur la latence. Le fabricant attribue l’architecture à mélange d’experts spécifiquement à voyage-4-large ; le nom de la famille n’établit pas cette architecture pour Lite.

Contexte, dimensions et format du résultat

La longueur de contexte publiée est de 32 000 tokens par texte. Le vecteur par défaut possède 1024 dimensions, avec 256, 512 et 2048 également disponibles grâce à l’apprentissage Matryoshka. Le processus de plongement textuel du fabricant documente des représentations à virgule flottante, en entiers signés et non signés de 8 bits, et binaires à bits compactés pour voyage-4-lite.

Pour les vecteurs standards à virgule flottante, les recommandations de similarité de Voyage décrivent des plongements de norme unitaire, ce qui rend équivalentes les similarités cosinus et par produit scalaire. Les formes quantifiées nécessitent la gestion de représentation correspondante. Par exemple, une liste binaire à bits compactés stocke huit bits de plongement dans chaque octet ; sa longueur de liste diffère de la dimension vectorielle sémantique.

Dans la recette de traitement par lots documentée de Voyage, une liste contient au maximum 1000 textes et un million de tokens au total pour cette édition Lite exacte. Le comportement par défaut en cas de longueur excessive tronque chaque texte à la limite du contexte ; l’autre réglage rejette les entrées trop longues. Ces limites par lot et par texte sont distinctes.

Préparer et examiner les résultats de recherche

Divisez les sources longues en sections cohérentes pouvant être renvoyées comme éléments à examiner. Un contexte de 32 000 tokens autorise une entrée longue, mais une unité de recherche utile doit toujours mener à la section source pertinente. Incluez le titre ou le détail d’identification nécessaires à l’interprétation d’une règle.

Pour le RAG, retrouvez les sections candidates et transmettez leur texte d’origine à l’étape de rédaction de la réponse avec leurs associations sources. Le modèle de plongement produit des vecteurs et ne génère pas de réponse sur la politique. La similarité classe les candidats selon le modèle et la configuration de comparaison choisis ; examinez le passage réel pour la condition précise demandée.

La combinaison utile propre à voyage-4-lite associe un modèle textuel centré sur la latence, des représentations flexibles, un contexte de 32 000 tokens et une compatibilité documentée dans la famille textuelle Voyage 4. Gardez ces propriétés avec la collection indexée et utilisez les résultats de recherche liés à leurs sources pour aider l’application environnante.