NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 är NVIDIAs multimodala inbäddningsmodell för informationssökning. Den omvandlar text, bilder eller kombinerade dokumentindata till vektorer och stöder sökning med textfrågor i dokument som innehåller tabeller, diagram, text och infografik.
Om modellen
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Llama Nemotron Embed VL 1B V2 är NVIDIAs inbäddningsmodell för informationssökning i multimodala fråga–svar-system. Den kan representera ett dokument som text, en bild eller en kombination av bild och text. En textfråga kan sedan användas för att hämta relaterade dokument. Dess publicerade profil stöder dokumentbilder som innehåller text, tabeller, diagram och infografik och returnerar inbäddningsvektorer.
Förbered identifierbara dokumentobjekt
Håll varje inmatat objekt kopplat till det källdokument, den sida eller det textstycke som det representerar. För en visuell sida bevaras bilden och all tillhörande text. För ett textstycke bevaras dess titel eller avsnittsbeteckning när det hjälper till att tolka en senare träff. Dessa källidentifierare gör ett hämtat objekt användbart som belägg snarare än enbart som ett numeriskt likhetsresultat.
Välj objektgränser kring det material användaren behöver hitta. Ett diagram och dess förklaring kan höra ihop; orelaterade sidor bör behålla sina separata identiteter. Granska om indata är läsbara och om texten eller bilden innehåller den information som den avsedda frågan ska hämta.
Textfrågor och vektorsökning
Modellens roll är att producera vektorer för informationssökning, med text som den frågeform profilen beskriver. Håll frågan och de indexerade objekten i en kompatibel inbäddningskonfiguration. Applikationen lagrar vektorerna, jämför dem och returnerar motsvarande källobjekt. Det hämtade dokumentet förblir det material som ska granskas eller föras vidare till ett senare steg för svarsgenerering.
En användbar testuppsättning innehåller de frågor användarna faktiskt ställer och de sidor som ska hittas. Granska felaktiga eller saknade träffar mot källinnehållet och objektgränserna. Bevara den fullständiga dokumentidentifieraren tillsammans med varje valt textstycke eller vald bild så att resultatet kan kontrolleras i sitt sammanhang.
Indatagräns och sökresultat
Den dokumenterade driftade tjänsteprofilen anger upp till 131 072 token per inmatat objekt. Dela upp större källmängder i separata, märkta indataobjekt och bevara deras relationer. Profilens vektorutdata är inget genererat svar i löptext eller någon transkription; ett senare applikationssteg kan använda de hämtade beläggen för att besvara en fråga.
Ett färdigt sökresultat kopplar samman frågan, de valda källobjekten och deras identifierare. Bevara uppgiften om den inbäddningsmodell och indataberedning som används för ett index, så att senare ändringar kan skiljas från ändringar i källsamlingen.
Ailoot Ultra · Embeddings POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeStart
Llama Nemotron Embed VL 1B V2 är NVIDIAs multimodala inbäddningsmodell för informationssökning. Den omvandlar text, bilder eller kombinerade dokumentindata till vektorer och stöder sökning med textfrågor i dokument som innehåller tabeller, diagram, text och infografik.
- Godkända indata
- Text · token_ids
- Resultat
- embedding
Tillgängligt i Ailoot · indata & metoder
Ailoot Ultra · Embeddings POST /v1/embeddings
- Indatatyper
text,token_ids- Utdatatyper
embedding- Kontext
- 131 072 tokens
- Utdataformat
- json
| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nvidia/llama-nemotron-embed-vl-1b-v2:free | Standard— |
Fältinput | Typstring|string[]|integer[]|integer[][] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 Villkor: En homogen batch som inte är tom. Token-ID:n är heltal som är större än eller lika med noll. Indatabudget: Maximum: 131 072 · Textenhet: UTF8-byte · Tokenenhet: element i en tokenarray | Standard— |
Fältencoding_format | Typstring | KravValfritt | Värden & gränser float | Standardfloat |
Fältdimensions | Typinteger | KravStöds inte | Värden & gränser Minimum: 1 | Standard— |
Fältuser | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fältsession_id | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fälttrace | Typjson_value | KravValfritt | Värden & gränser Villkor: Källan tillåter detta JSON-metadatafält; den exakta innebörden hos leverantören beror på modellen. | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisades | Standard— |
Kombinationer av indatamaterial
text_to_embedding
Metodparametrar och livscykel
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, input |
Parameterinput_shapes | Avtalstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Avtalfloat |
Parameterdimensions_override | Avtalfalse |
Parametermax_input_budget_units | Avtal131072 |
Parametermultimodal_objects | Avtalfalse |
Parametermaterial_types | Avtaltext, token_ids |
Livscykel: synchronous_json
Behåll varje vektorindex och dimension.
Att modellen har ett multimodalt namn innebär inte att bildobjekt tillåts på just denna anropsväg.
Priser
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
- Snabbt läge
- Standardpris När snabbt läge är valt
- Flex-läge
- Standardpris När läget flex är valt
- Högsta resonemangsnivå
- Standardpris När den högsta resonemangsnivån använder standardjusteringen (default)
Ailoot-priser
Priser efter konfiguration
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0 / 1K token Utdata · Utdatatoken $0 / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
Exempelbegäranden
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ta emot och spara resultat
Ailoot Ultra · Embeddings
json
Behåll alla färdiga resultat
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje vektor tillsammans med dess index. Antalet vektorer måste vara lika med antalet indataobjekt; dimensionerna måste vara konsekventa.
Om det ursprungliga svaret behöver kontrolleras
Ingen endpoint för inbäddningsjobb införs.
Svarsfält
| Fält | Typ |
|---|---|
Fältobject | Typstring |
Fältmodel | Typstring |
Fältdata[].index | Typinteger |
Fältdata[].embedding | Typfinite float[] |
Fältusage | Typobject |
Fel och nästa steg
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Alias
Modellalias
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Alias för metodsökvägar
Använd metodsökvägarna som visas ovan.
Relaterade anropar-ID:n
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Vilka indata och resultat finns?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Vilka fält använder begäran?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Vilka gränser gäller?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-byte);input.min_items:1