NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 je multimodalni model NVIDIA vektorskih vložitev za iskanje. Besedilo, slike ali kombinirane vhode dokumentov pretvori v vektorje in podpira iskanje z besedilno poizvedbo po dokumentih s tabelami, grafi, besedilom in infografikami.
O modelu
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Llama Nemotron Embed VL 1B V2 je model vektorskih vložitev NVIDIA za multimodalno iskanje gradiva pri odgovarjanju na vprašanja. Dokument lahko predstavi kot besedilo, sliko ali kombinacijo slike in besedila. Z besedilno poizvedbo je nato mogoče poiskati povezane dokumente. Njegov objavljeni profil podpira slike dokumentov z besedilom, tabelami, grafi in infografikami ter vrača vektorje vložitev.
Pripravite prepoznavne elemente dokumentov
Vsak vhod ohranite povezan z izvornim dokumentom, stranjo ali odlomkom, ki ga predstavlja. Pri vizualni strani ohranite sliko in morebitno spremljevalno besedilo, ki ji pripada. Pri besedilnem odlomku ohranite naslov ali oznako razdelka, kadar to pomaga pri razumevanju poznejšega ujemanja. Zaradi teh identifikatorjev virov je najdeni element uporaben kot dokazno gradivo, ne le kot numerični rezultat podobnosti.
Meje elementov izberite glede na gradivo, ki ga mora uporabnik najti. Graf in njegova razlaga lahko sodita skupaj; nepovezane strani morajo ohraniti ločene identitete. Preverite, ali je vhod berljiv in ali besedilo ali slika vsebuje informacije, ki naj bi jih želena poizvedba našla.
Besedilne poizvedbe in vektorsko iskanje
Vloga modela je ustvarjanje vektorjev za iskanje, pri čemer profil kot obliko poizvedbe opisuje besedilo. Za poizvedbo in indeksirane elemente uporabljajte združljive nastavitve vektorskih vložitev. Aplikacija shranjuje vektorje, jih primerja in vrača ustrezne izvorne elemente. Najdeni dokument ostaja gradivo za pregled ali posredovanje poznejšemu koraku ustvarjanja odgovora.
Uporaben preizkusni nabor vključuje vprašanja, ki jih uporabniki dejansko postavljajo, in strani, ki bi morale biti najdene. Napačna ali manjkajoča ujemanja preverite glede na izvorno vsebino in meje elementov. Ob vsakem izbranem odlomku ali sliki ohranite celoten identifikator dokumenta, da je rezultat mogoče preveriti v kontekstu.
Vhodna omejitev in rezultat iskanja
Dokumentirani profil gostovane storitve navaja do 131 072 žetonov na vhod. Večje izvorne nabore razdelite na ločene označene vhode in ohranite njihove povezave. Vektorski izhod profila ni ustvarjen odgovor v tekočem besedilu ali prepis; poznejša stopnja aplikacije lahko uporabi najdeno dokazno gradivo za odgovor na vprašanje.
Dokončan rezultat iskanja poveže poizvedbo, izbrane izvorne elemente in njihove identifikatorje. Ohranite model vektorskih vložitev in pripravo vhoda, uporabljena za indeks, da je poznejše spremembe mogoče razlikovati od sprememb izvorne zbirke.
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeZačetek
Llama Nemotron Embed VL 1B V2 je multimodalni model NVIDIA vektorskih vložitev za iskanje. Besedilo, slike ali kombinirane vhode dokumentov pretvori v vektorje in podpira iskanje z besedilno poizvedbo po dokumentih s tabelami, grafi, besedilom in infografikami.
- Dovoljeni vhodi
- Besedilo · token_ids
- Rezultati
- embedding
Na voljo v Ailoot · vhodi in metode
Ailoot Ultra · Vektorske predstavitve POST /v1/embeddings
- Vhod
text,token_ids- Izhod
embedding- Kontekst
- 131.072 tokens
- Izhodni format
- json
| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve nvidia/llama-nemotron-embed-vl-1b-v2:free | Privzeto— |
Poljeinput | Vrstastring|string[]|integer[]|integer[][] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 Pogoji: Neprazen paket istovrstnih vhodnih podatkov. Identifikatorji žetonov so nenegativna cela števila. Vhodni proračun: Največ: 131.072 · Besedilna enota: bajti UTF8 · Enota žetonov: elementi polja žetonov | Privzeto— |
Poljeencoding_format | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve float | Privzetofloat |
Poljedimensions | Vrstainteger | ZahtevaNi podprto | Vrednosti in omejitve Najmanj: 1 | Privzeto— |
Poljeuser | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljesession_id | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljetrace | Vrstajson_value | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: Izvor dovoljuje to polje metapodatkov JSON; natančen pomen pri ponudniku je odvisen od modela. | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je zavrnjen | Privzeto— |
Kombinacije vhodnih gradiv
text_to_embedding
Parametri in življenjski cikel metode
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, input |
Parameterinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Specifikacijafloat |
Parameterdimensions_override | Specifikacijafalse |
Parametermax_input_budget_units | Specifikacija131072 |
Parametermultimodal_objects | Specifikacijafalse |
Parametermaterial_types | Specifikacijatext, token_ids |
Življenjski cikel: synchronous_json
Shranite indeks in dimenzijo vsakega vektorja.
Ime multimodalnega modela ne pomeni, da so na tej točno določeni poti dovoljeni slikovni objekti.
Cenik
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
- Hitri način
- Standardna tarifa Ko je izbran hitri način
- Način flex
- Standardna tarifa Ko je izbran način flex
- Najvišja raven razmišljanja
- Standardna tarifa Ko najvišja raven razmišljanja uporablja privzeto prilagoditev (default)
Cene Ailoot
Cene po nastavitvah
| Nastavitev | Cenovna lestvica | Strošek |
|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Strošek Vhod · Vhodni žetoni $0 / 1K žetonov Izhod · Izhodni žetoni $0 / 1K žetonov Vhod · Branje predpomnilnika — / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
Primeri zahtev
Ailoot Ultra · Vektorske predstavitve
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prejmi in shrani rezultate
Ailoot Ultra · Vektorske predstavitve
json
Ohrani vse dokončane rezultate
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Shranite vsak vektor skupaj z njegovim indeksom. Število vektorjev mora biti enako številu vhodov; dimenzije morajo biti skladne.
Če je treba preveriti izvirni odgovor
Končna točka za opravila ustvarjanja vektorskih predstavitev se ne uvaja.
Polja odgovora
| Polje | Vrsta |
|---|---|
Poljeobject | Vrstastring |
Poljemodel | Vrstastring |
Poljedata[].index | Vrstainteger |
Poljedata[].embedding | Vrstafinite float[] |
Poljeusage | Vrstaobject |
Napake in naslednji koraki
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Druga imena
Druga imena modelov
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Druga imena poti metod
Uporabite zgoraj navedene poti metod.
Povezani ID-ji za klic
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Kateri vhodi in rezultati so na voljo?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Katera polja uporablja zahteva?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Katere omejitve veljajo?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(bajti UTF8);input.min_items:1