NVIDIA: Nemotron 3 Embed 1B (free)

Nemotron 3 Embed 1B is de tekstembeddingfamilie van NVIDIA voor meertalige en taaloverschrijdende informatieopvraging en semantische gelijkenis. Deze familie zet een vraag of passage om in een dense vector die een zoeksysteem met andere tekstrepresentaties kan vergelijken. De fabrikant evalueert de gedocumenteerde 1B-uitgaven in vierendertig taal- en taalvariantinstellingen, waaronder Engels, Arabisch, Chinees, Russisch, Japans, Koreaans en Hinglish.

Encoder en representatie

De modelkaart van de maker beschrijft een met pruning verkleinde bidirectionele transformer die van Ministral 3 is afgeleid. Het model heeft ongeveer 1,14 miljard parameters en middelt de representaties op tokenniveau om één embedding per tekst te verkrijgen. De native uitvoer is een 2048-dimensionale drijvende-kommavector. Dat is een zoekrepresentatie in plaats van een geschreven antwoord op de vraag die wordt ingebed.

De fabrikant ondersteunt ook het behouden van het eerste deel van die representatie, bijvoorbeeld 1024 of 512 dimensies. De verkorte vector moet na het afsnijden opnieuw L2-genormaliseerd worden. Houd de gekozen representatielengte en normalisatie consistent aan de zoekvraag- en corpuszijde van een zoektaak. De vectorlengte en de invoersequentielengte zijn afzonderlijke eigenschappen.

Zoekvragen en passages voorbereiden

De gedocumenteerde zoekconventie gebruikt “query:” voor een vraag en “passage:” voor documenttekst. De producentvoorbeelden passen die rollen vóór codering toe en vergelijken genormaliseerde vectoren met een inproduct, gelijkwaardig aan cosinusgelijkenis. Gebruik de voorbereiding die de gekozen workflow verwacht in plaats van een ruwe corpusrepresentatie met een anders voorbereide zoekvraag te mengen.

Een praktische verzameling kan technische uitleg, beleid of codegerelateerde documentatie bevatten. Een vraag over hoe een functie een specifiek geval afhandelt moet de bronpassage of het codefragment ophalen dat dat gedrag beschrijft. Bewaar identifiers, koppen en relevante voorwaarden bij de daadwerkelijke passagetekst. De vector maakt de kandidaat doorzoekbaar; de behouden bron is wat een lezer of latere RAG-antwoordfase gebruikt.

Langer bronmateriaal

De gedocumenteerde maximale sequentielengte is 32.768 tokens. Kies passagegrenzen bewust, ook wanneer het model aanzienlijke tekst kan verwerken. Een volledige sectie kan een definitie en de uitzonderingen erop bewaren; een gericht fragment kan een specifiek antwoord makkelijker te onderzoeken maken. Invoer buiten het modelvenster moet worden opgesplitst of afgekapt, dus het weggelaten einde mag niet als gerepresenteerde inhoud worden behandeld.

Houd elk ingebed item gekoppeld aan het bovenliggende document en de versie. Bewaar bij een rapport de sectietitel en de uitleg rond de conclusie waarop de vraag betrekking heeft. Behoud bij codezoeken de functienaam, relevante interface en het gedrag bij het fragment. Dat levert een concreet bronartefact op wanneer de zoekfase een kandidaat retourneert.

Familie-edities en resultaatgebruik

NVIDIA documenteert BF16- en NVFP4-versies van de 1B-familie. De gekwantiseerde modelkaart zegt dat die twee uitgaven een embeddingruimte delen en beveelt aan bij een versiewissel de zoekkwaliteit op representatief materiaal te controleren. De verklaarde gemeenschappelijke representatie is een fabrikantverklaring over dat benoemde paar, geen algemene regel voor elk model met 2048 uitvoerwaarden.

Het bruikbare resultaat is een zoekvraagvector of een geïndexeerde bronverzameling met model, dimensiekeuze en voorbereiding vastgelegd. Retourneer de kandidaattekst met de identifier en onderzoek of die de vereiste informatie levert. De fabrikant merkt expliciet op dat een zoekmodel niet voor elke vraag de juiste passage garandeert; een latere herrangschikkings- of antwoordfase werkt met die kandidaten als eigen taak.