NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 is het multimodale embeddingmodel van NVIDIA voor informatieopvraging. Het zet tekst, afbeeldingen of gecombineerde documentinvoer om in vectoren en ondersteunt zoeken met tekstvragen in documenten met tabellen, grafieken, tekst en infographics.
Over het model
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Llama Nemotron Embed VL 1B V2 is het embeddingmodel van NVIDIA voor multimodale informatieopvraging ten behoeve van vraagbeantwoording. Het kan een document als tekst, een afbeelding of een combinatie van beeld en tekst representeren. Een tekstzoekvraag kan vervolgens worden gebruikt om verwante documenten op te halen. Het gepubliceerde profiel ondersteunt documentafbeeldingen met tekst, tabellen, grafieken en infographics en retourneert embeddingvectoren.
Bereid identificeerbare documentitems voor
Houd elke invoer gekoppeld aan het brondocument, de pagina of passage die zij representeert. Bewaar bij een visuele pagina de afbeelding en eventuele begeleidende tekst die erbij hoort. Behoud bij een tekstpassage de titel of het sectielabel wanneer dat helpt om een latere overeenkomst te interpreteren. Die bronidentifiers maken een opgehaald item bruikbaar als onderbouwing in plaats van alleen als numeriek gelijkenisresultaat.
Kies itemgrenzen rond het materiaal dat een gebruiker moet vinden. Een grafiek en haar uitleg kunnen bij elkaar horen; niet-gerelateerde pagina's moeten hun afzonderlijke identiteiten behouden. Beoordeel of de invoer leesbaar is en of de tekst of afbeelding de informatie bevat die de beoogde zoekvraag moet ophalen.
Tekstzoekvragen en vectoropvraging
De rol van het model is het produceren van vectoren voor informatieopvraging, met tekst als de zoekvraagvorm die het profiel beschrijft. Houd de zoekvraag en geïndexeerde items in een compatibele embeddingopzet. De toepassing bewaart de vectoren, vergelijkt ze en retourneert de bijbehorende bronitems. Het opgehaalde document blijft het materiaal dat wordt onderzocht of aan een latere antwoordgeneratiestap wordt doorgegeven.
Een bruikbare testverzameling bevat de vragen die gebruikers daadwerkelijk stellen en de pagina's die gevonden moeten worden. Beoordeel verkeerde of ontbrekende overeenkomsten tegen de broninhoud en itemgrenzen. Bewaar de volledige documentidentifier bij elke geselecteerde passage of afbeelding, zodat het resultaat in context kan worden gecontroleerd.
Invoerbudget en het zoekartefact
Het gedocumenteerde gehoste profiel vermeldt maximaal 131.072 tokens per invoer. Splits grotere bronverzamelingen in afzonderlijke, gelabelde invoeritems en behoud hun relaties. De vectoruitvoer van het profiel is geen gegenereerd tekstantwoord of transcript; een latere toepassingsfase kan de opgehaalde onderbouwing gebruiken om een vraag te beantwoorden.
Een voltooid zoekartefact koppelt de zoekvraag, geselecteerde bronitems en hun identifiers. Behoud het embeddingmodel en de invoervoorbereiding die voor een index zijn gebruikt, zodat latere wijzigingen van wijzigingen in de bronverzameling kunnen worden onderscheiden.
Ailoot Ultra · Embeddings POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeAan de slag
Llama Nemotron Embed VL 1B V2 is het multimodale embeddingmodel van NVIDIA voor informatieopvraging. Het zet tekst, afbeeldingen of gecombineerde documentinvoer om in vectoren en ondersteunt zoeken met tekstvragen in documenten met tabellen, grafieken, tekst en infographics.
- Toegestane invoer
- Tekst · token_ids
- Resultaten
- embedding
Beschikbaar in Ailoot · invoer en methoden
Ailoot Ultra · Embeddings POST /v1/embeddings
- Invoer
text,token_ids- Uitvoer
embedding- Context
- 131.072 tokens
- Uitvoerformaat
- json
| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten nvidia/llama-nemotron-embed-vl-1b-v2:free | Standaard— |
Veldinput | Typestring|string[]|integer[]|integer[][] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 Voorwaarden: Niet-lege homogene batch. Token-ID's zijn niet-negatieve gehele getallen. Invoerbudget: Maximum: 131.072 · Teksteenheid: UTF8-bytes · Tokeneenheid: elementen van de token-array | Standaard— |
Veldencoding_format | Typestring | VereisteOptioneel | Waarden en limieten float | Standaardfloat |
Velddimensions | Typeinteger | VereisteNiet ondersteund | Waarden en limieten Minimum: 1 | Standaard— |
Velduser | Typejson_value | VereisteOptioneel | Waarden en limieten Voorwaarden: De bron staat dit JSON-metadataveld toe; de precieze betekenis bij de achterliggende leverancier is modelspecifiek. | Standaard— |
Veldsession_id | Typejson_value | VereisteOptioneel | Waarden en limieten Voorwaarden: De bron staat dit JSON-metadataveld toe; de precieze betekenis bij de achterliggende leverancier is modelspecifiek. | Standaard— |
Veldtrace | Typejson_value | VereisteOptioneel | Waarden en limieten Voorwaarden: De bron staat dit JSON-metadataveld toe; de precieze betekenis bij de achterliggende leverancier is modelspecifiek. | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options geweigerd | Standaard— |
Combinaties van invoermaterialen
text_to_embedding
Methodeparameters en levenscyclus
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, input |
Parameterinput_shapes | Contractstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Contractfloat |
Parameterdimensions_override | Contractfalse |
Parametermax_input_budget_units | Contract131072 |
Parametermultimodal_objects | Contractfalse |
Parametermaterial_types | Contracttext, token_ids |
Levenscyclus: synchronous_json
Bewaar elke vectorindex en -dimensie.
Ook bij een multimodale modelnaam zijn afbeeldingsobjecten op dit specifieke pad niet toegestaan.
Tarieven
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
- Snelle modus
- Standaardtarief Wanneer de snelle modus geselecteerd is
- Flex-modus
- Standaardtarief Wanneer de flex-modus geselecteerd is
- Maximale redeneerinspanning
- Standaardtarief Wanneer voor maximale redeneerinspanning de default-aanpassing wordt gebruikt
Ailoot-tarieven
Prijzen per configuratie
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0 / 1K tokens Uitvoer · Uitvoertokens $0 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
Voorbeeldverzoeken
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Resultaten ophalen en opslaan
Ailoot Ultra · Embeddings
json
Alle voltooide resultaten bewaren
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke vector met zijn index. Het aantal vectoren moet gelijk zijn aan het aantal invoeritems; de dimensies moeten consistent zijn.
Als het oorspronkelijke antwoord moet worden gecontroleerd
Er wordt geen endpoint voor embeddingtaken toegevoegd.
Antwoordvelden
| Veld | Type |
|---|---|
Veldobject | Typestring |
Veldmodel | Typestring |
Velddata[].index | Typeinteger |
Velddata[].embedding | Typefinite float[] |
Veldusage | Typeobject |
Fouten en vervolgstappen
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Aliasnamen
Modelaliasnamen
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliasnamen voor methodepaden
Gebruik de hierboven getoonde methodepaden.
Gerelateerde aanroeper-ID’s
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Welke invoer en resultaten zijn beschikbaar?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Welke velden gebruikt het verzoek?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Welke limieten gelden?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-bytes);input.min_items:1