NVIDIA: Nemotron 3 Embed 1B (free)

Nemotron 3 Embed 1B est la famille de plongement textuel de NVIDIA pour la recherche multilingue, entre langues et par similarité sémantique. Elle transforme une question ou un passage en un vecteur dense qu’un système de recherche peut comparer à d’autres représentations textuelles. Le fabricant évalue les publications 1B documentées dans trente-quatre configurations de langues et de variantes linguistiques, dont l’anglais, l’arabe, le chinois, le russe, le japonais, le coréen et le Hinglish.

Encodeur et représentation

La fiche du modèle du fabricant décrit un transformer bidirectionnel élagué dérivé de Ministral 3. Il possède environ 1,14 milliard de paramètres et calcule la moyenne des représentations par token pour obtenir un plongement par texte. La sortie native est un vecteur à virgule flottante de 2048 dimensions. Il s’agit d’une représentation de recherche, plutôt que d’une réponse écrite à la question encodée.

Le fabricant prend aussi en charge la conservation de la première partie de cette représentation, par exemple 1024 ou 512 dimensions. Le vecteur raccourci doit être normalisé de nouveau en norme L2 après la découpe. Gardez la longueur de représentation choisie et la normalisation cohérentes entre les côtés requête et corpus d’une tâche de recherche. La longueur d’un vecteur et celle de la séquence d’entrée sont des propriétés distinctes.

Préparation des requêtes et des passages

La convention de recherche documentée utilise « query: » pour une question et « passage: » pour le texte documentaire. Les exemples du producteur appliquent ces rôles avant l’encodage et comparent les vecteurs normalisés par produit scalaire, équivalent à la similarité cosinus. Utilisez la préparation attendue par le processus choisi, plutôt que de mélanger une représentation brute du corpus avec une requête préparée différemment.

Une collection concrète peut contenir des explications techniques, des règles ou de la documentation liée au code. Une question sur la manière dont une fonction gère un cas particulier doit retrouver le passage source ou l’extrait de code décrivant ce comportement. Préservez les identifiants, les titres et les conditions pertinentes avec le texte réel du passage. Le vecteur rend le candidat recherchable ; la source conservée constitue ce qu’un lecteur ou une étape ultérieure de réponse RAG utilise.

Sources plus longues

La longueur de séquence maximale documentée est de 32 768 tokens. Choisissez délibérément les limites des passages, même lorsque le modèle peut accueillir un volume important de texte. Une section complète peut préserver une définition et ses exceptions ; un extrait ciblé peut rendre une réponse précise plus facile à examiner. Les entrées dépassant la fenêtre du modèle nécessitent un découpage ou une troncature ; la fin omise ne doit donc pas être traitée comme du contenu représenté.

Gardez chaque élément encodé lié à son document parent et à sa version. Pour un rapport, conservez le titre de section et l’explication entourant la conclusion concernée par la question. Pour une recherche de code, gardez le nom de la fonction, l’interface pertinente et le comportement avec l’extrait. Cela fournit un artefact source concret lorsque l’étape de recherche renvoie un candidat.

Éditions de la famille et utilisation du résultat

NVIDIA documente des versions BF16 et NVFP4 de la famille 1B. Sa fiche de modèle quantifié indique que ces deux publications partagent un espace de plongement et recommande de vérifier la qualité de recherche sur des matériaux représentatifs lors d’un changement de version. La représentation commune déclarée est une affirmation du fabricant sur cette paire nommée, et non une règle générale pour tous les modèles possédant 2048 valeurs de sortie.

Le résultat utile est un vecteur de requête ou une collection source indexée avec son modèle, son choix de dimension et sa préparation consignés. Renvoyez le texte candidat avec son identifiant et examinez s’il fournit les informations requises. Le fabricant souligne explicitement qu’un modèle de recherche ne garantit pas le bon passage pour chaque question ; une étape ultérieure de reclassement ou de réponse utilise ces candidats dans le cadre de sa propre tâche.