NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Recherche par le sens dans une base de connaissances\n\nNemotron 3.5 Embed 8B est un modèle de NVIDIA qui transforme les requêtes et les documents en plongements vectoriels. Ces représentations numériques aident à comparer le contenu des textes lorsque les mots de la question diffèrent de ceux de la source. Le modèle convient à la couche de recherche d’une base de connaissances d’entreprise, d’un service documentaire ou d’une application qui sélectionne des documents avant de préparer une réponse.\n\nLe modèle d’origine de NVIDIA réunit les textes et les images de documents dans un même espace de représentation ; la génération 3.5 ajoute la recherche dans le contenu visuel des pages. Cette fiche Ailoot utilise son parcours textuel : du texte en entrée et un vecteur en sortie.\n\nDans Ailoot, l’entrée textuelle et la sortie vectorielle sont accessibles via embeddings. L’application reçoit une représentation du contenu source et l’utilise pour rechercher les entrées proches dans l’index. Si une réponse rédigée et expliquée est nécessaire, les textes trouvés peuvent être transmis à un modèle de génération distinct avec la question de l’utilisateur.\n\n### Ce qui distingue la version 8B\n\nL’encodage textuel repose sur Nemotron 3 Embed 8B. Pour la génération 3.5, NVIDIA a conservé cette partie textuelle et son espace de plongements vectoriels, tout en ajoutant des capacités au modèle d’origine. La fiche publiée décrit une sortie de 4 096 valeurs, obtenue par moyenne des représentations des tokens et normalisation L2. Lors de la préparation de l’index vectoriel, sa dimension doit être cohérente avec la réponse réelle de la méthode.\n\nLa recherche textuelle a été évaluée dans 34 langues, dont le russe. Pour des instructions et des documents de référence multilingues, cette couverture permet d’envisager le modèle comme une couche de recherche commune. La pertinence de la sélection dépend du contenu de la base, du découpage des documents et des questions habituelles des utilisateurs ; il est utile de la vérifier avec des contenus de votre domaine.\n\n### Déroulement du travail\n\n1. Découpez les documents sources en passages contenant chacun une réponse ou une explication complète.\n2. Obtenez les plongements vectoriels et conservez-les avec le texte, son titre et sa référence à la source.\n3. Transformez la question de l’utilisateur avec le même modèle et recherchez les entrées proches.\n4. Affichez les passages trouvés ou utilisez-les dans un système RAG pour préparer une réponse fondée sur les sources.\n\n### Taille de l’entrée\n\nPour cette variante, Ailoot annonce un contexte textuel et une limite d’entrée de 32 768 tokens. Les passages d’un long document peuvent être stockés comme des entrées autonomes partageant une référence au contenu d’origine. Le résultat fourni par le modèle est un plongement vectoriel du texte, utilisé par l’application pour les traitements suivants.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Plongements vectoriels textuels multilingues de NVIDIA pour la recherche sémantique dans les documents et la construction de systèmes RAG."}