NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B reprezentuje viacjazyčné dopyty a pasáže ako 2048-rozmerné vektory na vyhľadávanie a RAG. Jeho zdokumentovaná rodina podporuje sekvenciu 32,768 tokenov a zmenšené rozmery vektorov s opätovnou normalizáciou.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Nemotron 3 Embed 1B je rodina textových embeddingových modelov od NVIDIA na viacjazyčné a medzijazykové vyhľadávanie a hodnotenie sémantickej podobnosti. Prevádza otázku alebo pasáž na hustý vektor, ktorý môže vyhľadávací systém porovnávať s inými textovými reprezentáciami. Výrobca hodnotí zdokumentované vydania 1B v tridsiatich štyroch jazykových nastaveniach a jazykových variantoch vrátane angličtiny, arabčiny, čínštiny, ruštiny, japončiny, kórejčiny a hinglish.
Enkodér a reprezentácia
Modelová karta výrobcu opisuje orezaný obojsmerný transformer odvodený od Ministral 3. Má približne 1,14 miliardy parametrov a spriemerovaním reprezentácií jednotlivých tokenov získava jeden embedding pre každý text. Natívnym výstupom je vektor s 2048 rozmermi a hodnotami s pohyblivou rádovou čiarkou. Ide o reprezentáciu na vyhľadávanie, nie o písomnú odpoveď na otázku, pre ktorú sa embedding vytvára.
Výrobca podporuje aj ponechanie prvej časti tejto reprezentácie, napríklad 1024 alebo 512 rozmerov. Skrátený vektor sa po odrezaní musí znova normalizovať pomocou L2 normalizácie. Zvolenú dĺžku reprezentácie a normalizáciu udržiavajte konzistentné na strane dopytov aj korpusu vyhľadávacej úlohy. Dĺžka vektora a dĺžka vstupnej sekvencie sú samostatné vlastnosti.
Príprava dopytov a pasáží
Zdokumentovaná konvencia vyhľadávania používa „query:“ pre otázku a „passage:“ pre text dokumentu. Príklady výrobcu priraďujú tieto roly pred kódovaním a porovnávajú normalizované vektory skalárnym súčinom, ktorý je ekvivalentný kosínusovej podobnosti. Používajte prípravu očakávanú zvoleným postupom namiesto kombinovania nepripravenej reprezentácie korpusu s inak pripraveným dopytom.
Praktická kolekcia môže obsahovať technické vysvetlenia, pravidlá alebo dokumentáciu týkajúcu sa kódu. Otázka o tom, ako funkcia spracúva určitý prípad, by mala nájsť zdrojovú pasáž alebo úryvok kódu opisujúci toto správanie. Spolu so skutočným textom pasáže zachovajte identifikátory, nadpisy a relevantné podmienky. Vektor umožňuje kandidáta vyhľadať; uchovaný zdroj používa čitateľ alebo neskoršia fáza odpovede RAG.
Dlhšie zdrojové materiály
Zdokumentovaná maximálna dĺžka sekvencie je 32 768 tokenov. Hranice pasáží vyberajte zámerne, aj keď model dokáže prijať rozsiahly text. Celá sekcia môže zachovať definíciu aj jej výnimky; cielený úryvok môže uľahčiť kontrolu konkrétnej odpovede. Vstupy presahujúce okno modelu treba rozdeliť alebo skrátiť, takže vynechaný koniec nemožno považovať za reprezentovaný obsah.
Každú položku s embeddingom udržiavajte prepojenú s jej nadradeným dokumentom a verziou. Pri správe zachovajte názov sekcie a vysvetlenie okolo záveru, ktorého sa otázka týka. Pri vyhľadávaní v kóde uchovajte pri úryvku názov funkcie, relevantné rozhranie a správanie. Keď vyhľadávacia fáza vráti kandidáta, poskytne to konkrétny zdrojový podklad.
Vydania rodiny a použitie výsledkov
NVIDIA dokumentuje verzie BF16 a NVFP4 rodiny 1B. Modelová karta kvantizovanej verzie uvádza, že tieto dve vydania zdieľajú embeddingový priestor, a pri zmene verzie odporúča overiť kvalitu vyhľadávania na reprezentatívnych materiáloch. Deklarovaná spoločná reprezentácia je tvrdením výrobcu o tejto konkrétnej dvojici, nie všeobecným pravidlom pre každý model s 2048 výstupnými hodnotami.
Užitočným výsledkom je vektor dopytu alebo indexovaná zdrojová kolekcia so zaznamenaným modelom, zvoleným počtom rozmerov a prípravou. Vráťte text kandidáta spolu s jeho identifikátorom a preskúmajte, či poskytuje požadované informácie. Výrobca výslovne upozorňuje, že vyhľadávací model nezaručuje správnu pasáž pre každú otázku; neskoršia fáza zmeny poradia kandidátov alebo tvorby odpovede s nimi pracuje v rámci vlastnej úlohy.
Ailoot Ultra · Embeddingy POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeÚvod
NVIDIA Nemotron 3 Embed 1B reprezentuje viacjazyčné dopyty a pasáže ako 2048-rozmerné vektory na vyhľadávanie a RAG. Jeho zdokumentovaná rodina podporuje sekvenciu 32,768 tokenov a zmenšené rozmery vektorov s opätovnou normalizáciou.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 32 768 tokens
- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity nvidia/nemotron-3-embed-1b:free | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 32 768 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia32768 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Štandardná sadzba Keď je zvolený rýchly režim
- Režim Flex
- Štandardná sadzba Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Štandardná sadzba Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(bajty UTF8);input.min_items:1