NVIDIA: Nemotron 3 Embed 1B (free)

Nemotron 3 Embed 1B är NVIDIAs familj av textinbäddningsmodeller för flerspråkig sökning, sökning mellan språk och semantisk likhet. Den omvandlar en fråga eller ett textstycke till en tät vektor som ett söksystem kan jämföra med andra textrepresentationer. Tillverkaren utvärderar de dokumenterade 1B-utgåvorna i trettiofyra språk- och språkvariantkonfigurationer, inklusive engelska, arabiska, kinesiska, ryska, japanska, koreanska och hinglish.

Kodare och representation

Tillverkarens modellkort beskriver en beskuren, dubbelriktad transformer som härletts från Ministral 3. Den har cirka 1,14 miljarder parametrar och beräknar medelvärdet av representationerna på tokennivå för att få en inbäddning per text. Den ursprungliga utdatavarianten är en flyttalsvektor med 2048 dimensioner. Detta är en sökrepresentation snarare än ett skriftligt svar på frågan som bäddas in.

Tillverkaren stöder även att den första delen av representationen behålls, exempelvis 1024 eller 512 dimensioner. Den förkortade vektorn måste L2-normaliseras på nytt efter beskärningen. Håll den valda representationslängden och normaliseringen konsekvent på fråge- och korpussidan av sökuppgiften. En vektors längd och indatasekvensens längd är separata egenskaper.

Förberedelse av frågor och textstycken

Den dokumenterade sökkonventionen använder “query:” för en fråga och “passage:” för dokumenttext. Tillverkarens exempel tillämpar dessa roller före kodning och jämför normaliserade vektorer med en skalärprodukt, vilket motsvarar cosinuslikhet. Använd den förberedelse som det valda arbetsflödet förväntar sig i stället för att blanda en rå korpusrepresentation med en annorlunda förberedd fråga.

En praktisk samling kan innehålla tekniska förklaringar, policyer eller kodrelaterad dokumentation. En fråga om hur en funktion hanterar ett visst fall bör hämta det källtextstycke eller kodutdrag som beskriver det beteendet. Bevara identifierare, rubriker och relevanta villkor tillsammans med själva textstycket. Vektorn gör kandidaten sökbar; den bevarade källan är det som en läsare eller ett senare RAG-svarssteg använder.

Längre källmaterial

Den dokumenterade maximala sekvenslängden är 32 768 token. Välj gränserna mellan textstycken medvetet även när modellen kan rymma stora textmängder. Ett fullständigt avsnitt kan bevara en definition och dess undantag; ett avgränsat utdrag kan göra ett visst svar lättare att granska. Indata som överskrider modellfönstret måste delas upp eller trunkeras, så den utelämnade slutdelen ska inte behandlas som representerat innehåll.

Håll varje inbäddat objekt kopplat till sitt överordnade dokument och dess version. För en rapport bevaras avsnittstiteln och förklaringen kring den slutsats som frågan gäller. För kodsökning bevaras funktionens namn, det relevanta gränssnittet och beteendet tillsammans med utdraget. Detta ger ett konkret källunderlag när söksteget returnerar en kandidat.

Familjeutgåvor och användning av resultatet

NVIDIA dokumenterar BF16- och NVFP4-versioner av 1B-familjen. Modellkortet för den kvantiserade modellen anger att dessa två utgåvor delar ett inbäddningsrum och rekommenderar att sökkvaliteten kontrolleras på representativt material vid versionsbyte. Den angivna gemensamma representationen är ett tillverkaruttalande om just det namngivna paret, inte en allmän regel för alla modeller med 2048 utdatavärden.

Det användbara resultatet är en frågevektor eller en indexerad källsamling med registrerad modell, dimensionsval och förberedelse. Returnera kandidattexten med dess identifierare och granska om den ger den information som behövs. Tillverkaren påpekar uttryckligen att en sökmodell inte garanterar rätt textstycke för varje fråga; ett senare omrangerings- eller svarssteg arbetar med dessa kandidater som en egen uppgift.