NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B reprezentuje vícejazyčné dotazy a pasáže jako vektory s 2048 rozměry pro vyhledávání a RAG. Zdokumentovaná rodina podporuje sekvenci 32 768 tokenů a menší velikosti vektorů s opětovnou normalizací.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Nemotron 3 Embed 1B je textová embeddingová rodina společnosti NVIDIA pro vícejazyčné vyhledávání, vyhledávání napříč jazyky a posuzování sémantické podobnosti. Převádí otázku nebo pasáž na hustý vektor, který vyhledávací systém může porovnat s dalšími textovými reprezentacemi. Výrobce hodnotí dokumentovaná vydání 1B ve třiceti čtyřech nastaveních jazyků a jazykových variant včetně angličtiny, arabštiny, čínštiny, ruštiny, japonštiny, korejštiny a Hinglish.
Enkodér a reprezentace
Karta modelu výrobce popisuje prořezaný obousměrný transformer odvozený od Ministral 3. Má přibližně 1,14 miliardy parametrů a průměruje reprezentace na úrovni tokenů, aby získal jeden embedding pro každý text. Nativním výstupem je 2048rozměrný vektor s plovoucí řádovou čárkou. Jde o reprezentaci pro vyhledávání, nikoli o písemnou odpověď na otázku, pro kterou se embedding vytváří.
Výrobce také podporuje zachování první části této reprezentace, například 1024 nebo 512 rozměrů. Zkrácený vektor je nutné po odříznutí znovu normalizovat pomocí L2. Zvolenou délku reprezentace a normalizaci udržujte konzistentní na straně dotazu i korpusu v úloze vyhledávání. Délka vektoru a délka vstupní sekvence jsou samostatné vlastnosti.
Příprava dotazu a pasáže
Dokumentovaná konvence vyhledávání používá „query:“ pro otázku a „passage:“ pro text dokumentu. Příklady výrobce tyto role používají před kódováním a porovnávají normalizované vektory skalárním součinem, který je ekvivalentní kosinové podobnosti. Používejte přípravu očekávanou zvoleným postupem, místo abyste míchali neupravenou reprezentaci korpusu s odlišně připraveným dotazem.
Praktická kolekce může obsahovat technická vysvětlení, pravidla nebo dokumentaci související s kódem. Otázka na to, jak funkce zpracovává konkrétní případ, by měla vyhledat zdrojovou pasáž nebo úryvek kódu popisující toto chování. Se skutečným textem pasáže zachovejte identifikátory, nadpisy a příslušné podmínky. Vektor umožňuje kandidáta vyhledat; uchovaný zdroj je tím, co používá čtenář nebo pozdější fáze vytváření odpovědi pomocí RAG.
Delší zdrojový materiál
Dokumentovaná maximální délka sekvence je 32 768 tokenů. Hranice pasáží volte záměrně, i když model pojme značné množství textu. Úplný oddíl může zachovat definici a její výjimky; tematicky zaměřený úryvek může usnadnit kontrolu konkrétní odpovědi. Vstupy přesahující okno modelu vyžadují rozdělení na úseky nebo oříznutí, takže vynechaný konec nelze považovat za reprezentovaný obsah.
Každou položku s embeddingem uchovávejte propojenou s nadřazeným dokumentem a jeho verzí. U zprávy zachovejte název oddílu a vysvětlení kolem závěru, kterého se otázka týká. Při hledání kódu uchovávejte vedle úryvku název funkce, příslušné rozhraní a chování. To poskytuje konkrétní zdrojový podklad, když fáze vyhledávání vrátí kandidáta.
Edice rodiny a použití výsledků
NVIDIA dokumentuje verze BF16 a NVFP4 rodiny 1B. Karta kvantovaného modelu uvádí, že tato dvě vydání sdílejí embeddingový prostor, a při změně verzí doporučuje kontrolovat kvalitu vyhledávání na reprezentativním materiálu. Deklarovaná společná reprezentace je tvrzením výrobce o této pojmenované dvojici, nikoli obecným pravidlem pro každý model s 2048 výstupními hodnotami.
Užitečným výsledkem je vektor dotazu nebo indexovaná zdrojová kolekce se zaznamenaným modelem, volbou rozměru a přípravou. Vraťte kandidátní text s jeho identifikátorem a prozkoumejte, zda dodává potřebné informace. Výrobce výslovně uvádí, že vyhledávací model nezaručuje správnou pasáž pro každou otázku; pozdější fáze přeřazování nebo odpovědi s těmito kandidáty pracuje jako se svým vlastním úkolem.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeÚvod
NVIDIA Nemotron 3 Embed 1B reprezentuje vícejazyčné dotazy a pasáže jako vektory s 2048 rozměry pro vyhledávání a RAG. Zdokumentovaná rodina podporuje sekvenci 32 768 tokenů a menší velikosti vektorů s opětovnou normalizací.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 32 768 tokens
- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity nvidia/nemotron-3-embed-1b:free | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 32 768 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt32768 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Standardní sazba Při výběru rychlého režimu
- Režim flex
- Standardní sazba Při výběru režimu flex
- Maximální intenzita uvažování
- Standardní sazba Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(bajty UTF8);input.min_items:1