NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B daugiakalbes užklausas ir ištraukas paverčia 2048 matmenų vektoriais paieškai ir RAG. Dokumentuota šeima palaiko 32,768 žetonų seką ir mažesnius vektorių dydžius su pakartotiniu normalizavimu.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Nemotron 3 Embed 1B yra NVIDIA teksto įterpinių modelių šeima daugiakalbei ir tarpkalbinei paieškai bei semantinio panašumo vertinimui. Ji klausimą ar ištrauką paverčia tankiuoju vektoriumi, kurį paieškos sistema gali palyginti su kitais teksto atvaizdais. Gamintojas dokumentuotas 1B versijas vertina pagal trisdešimt keturias kalbų ir jų variantų konfigūracijas, įskaitant anglų, arabų, kinų, rusų, japonų, korėjiečių ir Hinglish.
Koduotuvas ir reprezentacija
Gamintojo modelio kortelė aprašo apkarpytą dvikryptį transformerių modelį, išvestą iš Ministral 3. Jis turi maždaug 1,14 milijardo parametrų ir vidurkina žetonų lygmens atvaizdus, kad gautų vieną įterpinį vienam tekstui. Natyvioji išvestis yra 2048 matmenų slankiojo kablelio vektorius. Tai paieškos reprezentacija, o ne rašytinis atsakymas į klausimą, kurio įterpinys kuriamas.
Gamintojas taip pat palaiko pirmosios šios reprezentacijos dalies išsaugojimą, pavyzdžiui, 1024 arba 512 matmenų. Po atkirpimo sutrumpintas vektorius turi būti iš naujo normalizuotas pagal L2 normą. Pasirinktą reprezentacijos ilgį ir normalizavimą išlaikykite nuoseklius užklausos ir korpuso pusėse paieškos užduotyje. Vektoriaus ilgis ir įvesties sekos ilgis yra atskiros savybės.
Užklausos ir ištraukos paruošimas
Dokumentuota paieškos konvencija klausimui naudoja „query:“, o dokumento tekstui – „passage:“. Gamintojo pavyzdžiai šiuos vaidmenis pritaiko prieš kodavimą ir normalizuotus vektorius palygina skaliarine sandauga, lygiaverte kosinuso panašumui. Naudokite pasirinkto proceso numatytą paruošimą, užuot maišę neparuoštą korpuso reprezentaciją su kitaip paruošta užklausa.
Praktinėje kolekcijoje gali būti techninių paaiškinimų, taisyklių arba su kodu susijusios dokumentacijos. Klausimas apie tai, kaip funkcija apdoroja konkretų atvejį, turėtų rasti šaltinio ištrauką ar kodo fragmentą, aprašantį tą elgseną. Su tikruoju ištraukos tekstu išsaugokite identifikatorius, antraštes ir aktualias sąlygas. Vektorius padaro kandidatą randamą; išsaugotas šaltinis yra tai, ką naudoja skaitytojas arba vėlesnis RAG atsakymo etapas.
Ilgesnė šaltinio medžiaga
Dokumentuotas didžiausias sekos ilgis yra 32 768 žetonai. Ištraukų ribas rinkitės sąmoningai, net kai modelis gali priimti nemažai teksto. Visas skyrius gali išsaugoti apibrėžimą ir jo išimtis; konkrečiai temai skirta ištrauka gali palengvinti konkretaus atsakymo patikrą. Įvestis, viršijančias modelio langą, reikia skaidyti arba nukirpti, todėl praleistos pabaigos nereikėtų laikyti atvaizduotu turiniu.
Kiekvieną poziciją su įterpiniu išlaikykite susietą su pirminiu dokumentu ir jo versija. Ataskaitoje išsaugokite skyriaus pavadinimą ir paaiškinimą aplink išvadą, apie kurią klausiama. Kodo paieškai šalia ištraukos išsaugokite funkcijos pavadinimą, aktualią sąsają ir elgseną. Tai pateikia konkrečią šaltinio medžiagą, kai paieškos etapas grąžina kandidatą.
Šeimos versijos ir rezultatų naudojimas
NVIDIA dokumentuoja 1B šeimos BF16 ir NVFP4 versijas. Jos kvantuoto modelio kortelė teigia, kad šios dvi versijos dalijasi įterpinių erdve, ir rekomenduoja keičiant versijas tikrinti paieškos kokybę reprezentatyvioje medžiagoje. Deklaruota bendra reprezentacija yra gamintojo teiginys apie šią įvardytą porą, o ne bendra taisyklė kiekvienam modeliui su 2048 išvesties reikšmėmis.
Naudingas rezultatas yra užklausos vektorius arba indeksuota šaltinių kolekcija su užregistruotu modeliu, matmenų pasirinkimu ir paruošimu. Grąžinkite kandidatinį tekstą su jo identifikatoriumi ir patikrinkite, ar jis pateikia reikalingą informaciją. Gamintojas aiškiai pažymi, kad paieškos modelis negarantuoja tinkamos ištraukos kiekvienam klausimui; vėlesnis perrikiavimo ar atsakymo etapas su šiais kandidatais dirba kaip su atskira savo užduotimi.
Ailoot Ultra · Įterpiniai POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freePradžia
NVIDIA Nemotron 3 Embed 1B daugiakalbes užklausas ir ištraukas paverčia 2048 matmenų vektoriais paieškai ir RAG. Dokumentuota šeima palaiko 32,768 žetonų seką ir mažesnius vektorių dydžius su pakartotiniu normalizavimu.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Kontekstas
- 32 768 tokens
- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos nvidia/nemotron-3-embed-1b:free | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 32 768 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija32768 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Standartinis įkainis Pasirinkus spartųjį režimą
- Flex režimas
- Standartinis įkainis Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(UTF8 baitai);input.min_items:1