NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
A Llama Nemotron Embed VL 1B V2 az NVIDIA multimodális beágyazási modellje kereséshez. Szöveget, képet vagy kombinált dokumentumbemenetet alakít vektorokká, és szöveges lekérdezéssel támogatja a keresést táblázatokat, diagramokat, szöveget és infografikát tartalmazó dokumentumokban.
A modellről
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Llama Nemotron Embed VL 1B V2 az NVIDIA beágyazási modellje multimodális kérdés–válasz rendszerek keresési lépéséhez. Egy dokumentumot szövegként, képként vagy kép és szöveg kombinációjaként is reprezentálhat. Ezután szöveges lekérdezéssel kereshetők a kapcsolódó dokumentumok. Közzétett profilja szöveget, táblázatot, diagramot és infografikát tartalmazó dokumentumképeket támogat, és beágyazási vektorokat ad vissza.
Készítsen elő azonosítható dokumentumelemeket
Minden bemenetet tartson az általa reprezentált forrásdokumentumhoz, oldalhoz vagy szövegrészlethez kapcsolva. Vizuális oldalnál őrizze meg a képet és a hozzá tartozó kísérőszöveget. Szövegrészletnél tartsa meg a címet vagy a szakasz jelölését, ha ez segíti egy későbbi találat értelmezését. Ezek a forrásazonosítók a megtalált elemet bizonyítékként teszik hasznossá, nem csupán numerikus hasonlósági eredményként.
Az elemek határait a felhasználó által keresendő anyag körül válassza meg. Egy diagram és a magyarázata összetartozhat; az egymással össze nem függő oldalak külön identitásúak maradjanak. Vizsgálja meg, hogy a bemenet olvasható-e, és a szöveg vagy kép tartalmazza-e a tervezett lekérdezéssel keresendő információt.
Szöveges lekérdezések és vektoros keresés
A modell szerepe keresési vektorok előállítása, a profil által leírt lekérdezési forma pedig szöveg. A lekérdezést és az indexelt elemeket kompatibilis beágyazási beállításban tartsa. Az alkalmazás tárolja a vektorokat, összehasonlítja őket, és visszaadja a megfelelő forráselemeket. A megtalált dokumentum marad az az anyag, amelyet meg kell vizsgálni vagy egy későbbi válaszgenerálási lépésnek át kell adni.
Egy hasznos tesztkészlet tartalmazza a felhasználók tényleges kérdéseit és azokat az oldalakat, amelyeket meg kell találniuk. A hibás vagy hiányzó találatokat a forrástartalomhoz és az elemhatárokhoz viszonyítva vizsgálja meg. Bármely kiválasztott szövegrészlet vagy kép mellett őrizze meg a teljes dokumentumazonosítót, hogy az eredmény kontextusban ellenőrizhető legyen.
Bemeneti keret és a keresési eredmény
A dokumentált, szolgáltatónál futtatott profil bemenetenként legfeljebb 131 072 tokent sorol fel. A nagyobb forráshalmazokat ossza különálló, megjelölt bemenetekre, és őrizze meg a kapcsolataikat. A profil vektorkimenete nem generált prózai válasz vagy átirat; egy későbbi alkalmazáslépés a megtalált bizonyítékokat használhatja egy kérdés megválaszolásához.
A kész keresési eredmény összekapcsolja a lekérdezést, a kiválasztott forráselemeket és azok azonosítóit. Őrizze meg az indexhez használt beágyazási modellt és bemenet-előkészítést, hogy a későbbi változások megkülönböztethetők legyenek a forrásgyűjtemény változásaitól.
Ailoot Ultra · Beágyazások POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeKezdő lépések
A Llama Nemotron Embed VL 1B V2 az NVIDIA multimodális beágyazási modellje kereséshez. Szöveget, képet vagy kombinált dokumentumbemenetet alakít vektorokká, és szöveges lekérdezéssel támogatja a keresést táblázatokat, diagramokat, szöveget és infografikát tartalmazó dokumentumokban.
- Elfogadott bemenetek
- Szöveg · token_ids
- Eredmények
- embedding
Elérhető az Ailootban · bemenetek és metódusok
Ailoot Ultra · Beágyazások POST /v1/embeddings
- Bemenet
text,token_ids- Kimenet
embedding- Kontextus
- 131 072 tokens
- Kimeneti formátum
- json
| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok nvidia/llama-nemotron-embed-vl-1b-v2:free | Alapértelmezett— |
Mezőinput | Típusstring|string[]|integer[]|integer[][] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 Feltételek: Nem üres, homogén köteg. A tokenazonosítók nemnegatív egész számok. Bemeneti keret: Maximum: 131 072 · Szövegegység: UTF8-bájtok · Tokenegység: tokentömb elemei | Alapértelmezett— |
Mezőencoding_format | Típusstring | KövetelményOpcionális | Értékek és korlátok float | Alapértelmezettfloat |
Meződimensions | Típusinteger | KövetelményNem támogatott | Értékek és korlátok Minimum: 1 | Alapértelmezett— |
Mezőuser | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezősession_id | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőtrace | Típusjson_value | KövetelményOpcionális | Értékek és korlátok Feltételek: A forrás engedélyezi ezt a JSON-metaadatmezőt; a szolgáltatónál érvényes pontos jelentése modellenként eltér. | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasítva | Alapértelmezett— |
Bemeneti anyagok kombinációi
text_to_embedding
Metódus paraméterei és életciklusa
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, input |
Paraméterinput_shapes | Szerződésstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Paraméterencoding_format | Szerződésfloat |
Paraméterdimensions_override | Szerződésfalse |
Paramétermax_input_budget_units | Szerződés131072 |
Paramétermultimodal_objects | Szerződésfalse |
Paramétermaterial_types | Szerződéstext, token_ids |
Életciklus: synchronous_json
Őrizze meg minden vektor indexét és dimenzióját.
A multimodális modell neve ezen a pontos útvonalon nem teszi lehetővé képobjektumok használatát.
Díjcsomagok
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
- Gyors mód
- Normál díjszabás Ha a gyors mód van kiválasztva
- Flex mód
- Normál díjszabás Ha a flex mód van kiválasztva
- Maximális gondolkodási ráfordítás
- Normál díjszabás Ha a maximális gondolkodási ráfordításra a default beállításhoz tartozó korrekció vonatkozik
Ailoot-díjak
Árak beállításonként
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0 / 1K token Kimenet · Kimeneti tokenek $0 / 1K token Bemenet · Gyorsítótár olvasása — / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
Példakérések
Ailoot Ultra · Beágyazások
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Eredmények fogadása és mentése
Ailoot Ultra · Beágyazások
json
Őrizzen meg minden elkészült eredményt
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizzen meg minden vektort az indexével együtt. A vektorok számának meg kell egyeznie a bemenetek számával; a dimenzióknak egységesnek kell lenniük.
Ha az eredeti választ ellenőrizni kell
Nem kerül bevezetésre külön beágyazási feladatvégpont.
Válaszmezők
| Mező | Típus |
|---|---|
Mezőobject | Típusstring |
Mezőmodel | Típusstring |
Meződata[].index | Típusinteger |
Meződata[].embedding | Típusfinite float[] |
Mezőusage | Típusobject |
Hibák és következő lépések
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Álnevek
Modell álnevei
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Metódusútvonalak álnevei
Használja a fent látható metódusútvonalakat.
Kapcsolódó modellazonosítók
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Milyen bemenetek és eredmények érhetők el?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Mely mezőket használja a kérés?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Milyen korlátok érvényesek?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-bájtok);input.min_items:1