NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B predstavi večjezične poizvedbe in odlomke kot 2048-dimenzionalne vektorje za iskanje in RAG. Njegova dokumentirana družina podpira zaporedje 32 768 žetonov in zmanjšane velikosti vektorjev s ponovno normalizacijo.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Nemotron 3 Embed 1B je družina besedilnih vektorskih vložitev NVIDIA za večjezično in medjezikovno iskanje ter semantično podobnost. Vprašanje ali odlomek pretvori v gost vektor, ki ga lahko iskalni sistem primerja z drugimi besedilnimi predstavitvami. Proizvajalec dokumentirane izdaje 1B ocenjuje v štiriintridesetih nastavitvah jezikov in jezikovnih različic, vključno z angleščino, arabščino, kitajščino, ruščino, japonščino, korejščino in hinglišem.
Kodirnik in predstavitev
Proizvajalčeva kartica modela opisuje obrezan dvosmerni transformer, izpeljan iz Ministral 3. Ima približno 1,14 milijarde parametrov in povpreči predstavitve na ravni žetonov, da pridobi eno vektorsko vložitev na besedilo. Nativni izhod je 2048-dimenzionalni vektor s plavajočo vejico. To je predstavitev za iskanje, ne pisni odgovor na vprašanje, za katero nastaja vložitev.
Proizvajalec podpira tudi ohranitev prvega dela te predstavitve, na primer 1024 ali 512 dimenzij. Skrajšani vektor je treba po rezanju ponovno normalizirati z L2. Izbrano dolžino predstavitve in normalizacijo ohranite dosledni na strani poizvedb in korpusa iskalne naloge. Dolžina vektorja in dolžina vhodnega zaporedja sta ločeni lastnosti.
Priprava poizvedb in odlomkov
Dokumentirana iskalna konvencija uporablja »query:« za vprašanje in »passage:« za besedilo dokumenta. Proizvajalčevi primeri te vloge uporabijo pred kodiranjem ter normalizirane vektorje primerjajo s skalarnim produktom, enakovrednim kosinusni podobnosti. Uporabite pripravo, ki jo pričakuje izbrani postopek, namesto da surovo predstavitev korpusa mešate z drugače pripravljeno poizvedbo.
Praktična zbirka lahko vsebuje tehnične razlage, pravila ali dokumentacijo, povezano s kodo. Vprašanje o tem, kako funkcija obravnava določen primer, mora poiskati izvorni odlomek ali izsek kode, ki opisuje to vedenje. Ob dejanskem besedilu odlomka ohranite identifikatorje, naslove in ustrezne pogoje. Vektor omogoči iskanje kandidata; ohranjeni vir uporabi bralec ali poznejša stopnja odgovarjanja RAG.
Daljše izvorno gradivo
Dokumentirana največja dolžina zaporedja je 32 768 žetonov. Meje odlomkov izbirajte premišljeno, tudi kadar model lahko sprejme obsežno besedilo. Celoten razdelek lahko ohrani definicijo in njene izjeme; osredotočen izsek lahko olajša pregled konkretnega odgovora. Vhodi zunaj okna modela potrebujejo razdelitev ali krajšanje, zato izpuščenega konca ne smete obravnavati kot predstavljeno vsebino.
Vsak element z vektorsko vložitvijo ohranite povezan z nadrejenim dokumentom in različico. Pri poročilu ohranite naslov razdelka in razlago okoli sklepa, na katerega se vprašanje nanaša. Pri iskanju kode ob izseku ohranite ime funkcije, ustrezni vmesnik in vedenje. To zagotovi konkreten izvorni podatek, ko iskalna stopnja vrne kandidata.
Različice družine in uporaba rezultatov
NVIDIA dokumentira različici BF16 in NVFP4 družine 1B. Kartica kvantiziranega modela navaja, da si ti izdaji delita prostor vektorskih vložitev, in ob spremembi različice priporoča preverjanje kakovosti iskanja na reprezentativnem gradivu. Navedena skupna predstavitev je proizvajalčeva trditev o tem poimensko določenem paru, ne splošno pravilo za vsak model z 2048 izhodnimi vrednostmi.
Uporaben rezultat je vektor poizvedbe ali indeksirana izvorna zbirka z zabeleženim modelom, izbrano dimenzijo in pripravo. Vrnite besedilo kandidata z njegovim identifikatorjem ter preverite, ali zagotavlja zahtevane informacije. Proizvajalec izrecno opozarja, da iskalni model ne zagotavlja pravilnega odlomka za vsako vprašanje; poznejša stopnja ponovnega razvrščanja ali odgovarjanja s temi kandidati opravlja svojo ločeno nalogo.
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeZačetek
NVIDIA Nemotron 3 Embed 1B predstavi večjezične poizvedbe in odlomke kot 2048-dimenzionalne vektorje za iskanje in RAG. Njegova dokumentirana družina podpira zaporedje 32 768 žetonov in zmanjšane velikosti vektorjev s ponovno normalizacijo.
- Dovoljeni vhodi
- Besedilo · token_ids
- Rezultati
- embedding
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings
- Vhod
text,token_ids- Izhod
embedding- Kontekst
- 32.768 tokens
- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve nvidia/nemotron-3-embed-1b:free | Privzeto— |
Poljeinput | Vrstastring|string[]|integer[]|integer[][] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 Pogoji: Neprazen paket istovrstnih vhodnih podatkov. Identifikatorji žetonov so nenegativna cela števila. Vhodni proračun: Največ: 32.768 · Besedilna enota: bajti UTF8 · Enota žetonov: elementi polja žetonov | Privzeto— |
Poljeencoding_format | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve float | Privzetofloat |
Poljedimensions | Vrstainteger | ZahtevaNi podprto | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljeuser | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljesession_id | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljetrace | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je zavrnjen | Privzeto— |
Kombinacije vhodnih gradiv
text_to_embedding
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, input |
Parameterinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Specifikacijafloat |
Parameterdimensions_override | Specifikacijafalse |
Parametermax_input_budget_units | Specifikacija32768 |
Parametermultimodal_objects | Specifikacijafalse |
Parametermaterial_types | Specifikacijatext, token_ids |
Življenjski cikel: synchronous_json
Shranite indeks in dimenzijo vsakega vektorja.
Ime multimodalnega modela ne pomeni, da so na tej točno določeni poti dovoljeni slikovni objekti.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Standardna tarifa Ko je izbran hitri način
- Način flex
- Standardna tarifa Ko je izbran način flex
- Najvišja raven razmišljanja
- Standardna tarifa Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0 / 1K žetonov Izhod · Izhodni žetoni $0 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Vektorske predstavitve
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prejmi in shrani rezultate
Ailoot Ultra · Vektorske predstavitve
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite vsak vektor skupaj z njegovim indeksom. Število vektorjev mora biti enako številu vhodov; dimenzije morajo biti skladne.
Če je treba preveriti izvirni odgovor
Končna točka za opravila ustvarjanja vektorskih predstavitev se ne uvaja.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljeobject | Vrstastring |
Poljemodel | Vrstastring |
Poljedata[].index | Vrstainteger |
Poljedata[].embedding | Vrstafinite float[] |
Poljeusage | Vrstaobject |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Druga imena
Druga imena modelov
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Kateri vhodi in rezultati so na voljo?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Katera polja uporablja zahteva?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Katere omejitve veljajo?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(bajti UTF8);input.min_items:1