NVIDIA: Nemotron 3 Embed 1B (free)

Nemotron 3 Embed 1B er NVIDIAs tekstembeddingfamilie for flerspråklig og tverrspråklig gjenfinning og semantisk likhet. Den omdanner et spørsmål eller en passasje til en tett vektor som et søkesystem kan sammenligne med andre tekstrepresentasjoner. Produsenten evaluerer de dokumenterte 1B-utgavene på tvers av trettifire språk- og språkvariantoppsett, inkludert engelsk, arabisk, kinesisk, russisk, japansk, koreansk og hinglish.

Koder og representasjon

Produsentens modellkort beskriver en beskåret, toveis transformer avledet fra Ministral 3. Den har omtrent 1,14 milliarder parametere og beregner gjennomsnittet av representasjonene på tokennivå for å få én embedding per tekst. Den opprinnelige utdatarepresentasjonen er en 2048-dimensjonal flyttallsvektor. Dette er en gjenfinningsrepresentasjon, ikke et skriftlig svar på spørsmålet det beregnes en embedding av.

Produsenten støtter også å beholde den første delen av representasjonen, for eksempel 1024 eller 512 dimensjoner. Den forkortede vektoren må L2-normaliseres på nytt etter utskjæringen. Hold den valgte representasjonslengden og normaliseringen konsekvent på forespørsels- og korpussiden av en søkeoppgave. Vektorens lengde og lengden på inndatasekvensen er separate egenskaper.

Klargjøring av forespørsler og passasjer

Den dokumenterte gjenfinningskonvensjonen bruker “query:” for et spørsmål og “passage:” for dokumenttekst. Produsentens eksempler legger til disse rollene før koding og sammenligner normaliserte vektorer med et skalarprodukt, som tilsvarer cosinuslikhet. Bruk klargjøringen den valgte arbeidsflyten forventer, fremfor å blande en rå korpusrepresentasjon med en annerledes klargjort forespørsel.

En praktisk samling kan inneholde tekniske forklaringer, retningslinjer eller koderelatert dokumentasjon. Et spørsmål om hvordan en funksjon håndterer et bestemt tilfelle, bør hente kildepassasjen eller kodeutdraget som beskriver denne oppførselen. Bevar identifikatorer, overskrifter og relevante betingelser sammen med selve passasjeteksten. Vektoren gjør kandidaten søkbar; den bevarte kilden er det en leser eller et senere RAG-svartrinn bruker.

Lengre kildemateriale

Den dokumenterte maksimale sekvenslengden er 32 768 tokener. Velg passasjegrenser bevisst selv når modellen kan romme betydelige mengder tekst. En hel seksjon kan bevare en definisjon og unntakene til den; et avgrenset utdrag kan gjøre et konkret svar lettere å undersøke. Inndata som overskrider modellvinduet, må deles opp eller avkortes, så den utelatte slutten må ikke behandles som representert innhold.

Hold hvert element det beregnes en embedding av, knyttet til det overordnede dokumentet og versjonen. For en rapport bevares seksjonstittelen og forklaringen rundt konklusjonen spørsmålet gjelder. For kodesøk bevares funksjonsnavnet, det relevante grensesnittet og oppførselen sammen med utdraget. Dette gir et konkret kildegrunnlag når gjenfinningstrinnet returnerer en kandidat.

Familieutgaver og bruk av resultatet

NVIDIA dokumenterer BF16- og NVFP4-versjoner av 1B-familien. Kortet for den kvantiserte modellen sier at disse to utgavene deler et embeddingrom, og anbefaler å kontrollere gjenfinningskvaliteten på representativt materiale ved bytte av versjon. Den erklærte felles representasjonen er en produsentuttalelse om dette navngitte paret, ikke en generell regel for alle modeller med 2048 utdataverdier.

Det nyttige resultatet er en forespørselsvektor eller en indeksert kildesamling med registrert modell, dimensjonsvalg og klargjøring. Returner kandidatteksten med identifikatoren, og undersøk om den gir den nødvendige informasjonen. Produsenten påpeker uttrykkelig at en gjenfinningsmodell ikke garanterer riktig passasje for hvert spørsmål; et senere omrangerings- eller svartrinn arbeider med disse kandidatene som sin egen oppgave.