NVIDIA: Nemotron 3 Embed 1B (free)

Nemotron 3 Embed 1B er NVIDIAs tekstembeddingfamilie til flersproget søgning, søgning på tværs af sprog og semantisk lighed. Den omdanner et spørgsmål eller en passage til en tæt vektor, som et søgesystem kan sammenligne med andre tekstrepræsentationer. Producenten evaluerer de dokumenterede 1B-udgaver på tværs af fireogtredive sprog- og sprogvariantindstillinger, herunder engelsk, arabisk, kinesisk, russisk, japansk, koreansk og hinglish.

Koder og repræsentation

Producentens modelkort beskriver en beskåret, bidirektionel transformer afledt af Ministral 3. Den har cirka 1,14 milliarder parametre og beregner gennemsnittet af repræsentationerne på tokenniveau for at få én embedding pr. tekst. Det oprindelige output er en 2048-dimensional vektor af flydende kommatal. Dette er en søgerepræsentation frem for et skriftligt svar på det spørgsmål, der oprettes en embedding af.

Producenten understøtter også at beholde den første del af repræsentationen, eksempelvis 1024 eller 512 dimensioner. Den forkortede vektor skal L2-normaliseres igen efter udskæringen. Hold den valgte repræsentationslængde og normalisering ensartet på forespørgsels- og korpussiden af en søgeopgave. En vektors længde og inputsekvensens længde er separate egenskaber.

Forberedelse af forespørgsler og passager

Den dokumenterede søgekonvention bruger “query:” til et spørgsmål og “passage:” til dokumenttekst. Producentens eksempler anvender rollerne før kodning og sammenligner normaliserede vektorer med et skalarprodukt, som svarer til cosinuslighed. Brug den forberedelse, som det valgte arbejdsforløb forventer, frem for at blande en rå korpusrepræsentation med en anderledes forberedt forespørgsel.

En praktisk samling kan indeholde tekniske forklaringer, politikker eller koderelateret dokumentation. Et spørgsmål om, hvordan en funktion håndterer et bestemt tilfælde, bør finde den kildepassage eller det kodeuddrag, der beskriver denne adfærd. Bevar identifikatorer, overskrifter og relevante betingelser sammen med den faktiske passagetekst. Vektoren gør kandidaten søgbar; den bevarede kilde er det, en læser eller et senere RAG-svartrin bruger.

Længere kildemateriale

Den dokumenterede maksimale sekvenslængde er 32.768 tokens. Vælg passagernes afgrænsning bevidst, også når modellen kan rumme en betydelig tekstmængde. Et helt afsnit kan bevare en definition og dens undtagelser; et afgrænset uddrag kan gøre et konkret svar lettere at undersøge. Input, der overskrider modelvinduet, kræver opdeling eller afkortning, så den udeladte slutning må ikke behandles som repræsenteret indhold.

Hold hvert element, der oprettes en embedding af, knyttet til sit overordnede dokument og sin version. Til en rapport bevares afsnitstitlen og forklaringen omkring den konklusion, spørgsmålet vedrører. Til kodesøgning bevares funktionsnavnet, den relevante grænseflade og adfærden sammen med uddraget. Det giver et konkret kildemateriale, når søgetrinnet returnerer en kandidat.

Familiens udgaver og brug af resultatet

NVIDIA dokumenterer BF16- og NVFP4-versioner af 1B-familien. Modelkortet for den kvantiserede model angiver, at de to udgaver deler et embeddingrum, og anbefaler at kontrollere søgekvaliteten på repræsentativt materiale ved versionsskift. Den angivne fælles repræsentation er en producentudtalelse om netop dette navngivne par, ikke en generel regel for alle modeller med 2048 outputværdier.

Det nyttige resultat er en forespørgselsvektor eller en indekseret kildesamling med registreret model, dimensionsvalg og forberedelse. Returner kandidatteksten med dens identifikator, og undersøg, om den giver den nødvendige information. Producenten bemærker udtrykkeligt, at en søgemodel ikke garanterer den korrekte passage til hvert spørgsmål; et senere omrangerings- eller svartrin arbejder med disse kandidater som sin egen opgave.