NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 er NVIDIAs multimodale embeddingmodel til søgning. Den omdanner tekst, billeder eller kombinerede dokumentinput til vektorer og understøtter søgning med tekstforespørgsler i dokumenter med tabeller, diagrammer, tekst og infografik.
Om modellen
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Llama Nemotron Embed VL 1B V2 er NVIDIAs embeddingmodel til multimodal søgning som grundlag for spørgsmål og svar. Den kan repræsentere et dokument som tekst, et billede eller en kombination af billede og tekst. En tekstforespørgsel kan derefter bruges til at finde relaterede dokumenter. Dens offentliggjorte profil understøtter dokumentbilleder med tekst, tabeller, diagrammer og infografik og returnerer embeddingvektorer.
Forbered dokumentelementer, der kan identificeres
Hold hvert input knyttet til det kildedokument, den side eller den passage, det repræsenterer. Til en visuel side bevares billedet og eventuel tilhørende tekst. Til en tekstpassage bevares titlen eller afsnitsbetegnelsen, når det hjælper med at fortolke et senere match. Disse kildeidentifikatorer gør et fundet element nyttigt som belæg frem for kun som et numerisk lighedsresultat.
Vælg elementernes afgrænsning omkring det materiale, en bruger skal finde. Et diagram og dets forklaring kan høre sammen; sider uden forbindelse til hinanden bør bevare separate identiteter. Gennemgå, om inputtet er læsbart, og om teksten eller billedet indeholder den information, som den tilsigtede forespørgsel skal hente.
Tekstforespørgsler og vektorsøgning
Modellens rolle er at producere vektorer til søgning med tekst som den forespørgselsform, profilen beskriver. Hold forespørgslen og de indekserede elementer i en kompatibel embeddingopsætning. Applikationen lagrer vektorerne, sammenligner dem og returnerer de tilhørende kildeelementer. Det fundne dokument er fortsat det materiale, der skal undersøges eller sendes videre til et senere trin, der genererer et svar.
Et nyttigt testsæt indeholder de spørgsmål, brugerne faktisk stiller, og de sider, der skal findes. Gennemgå forkerte eller manglende match i forhold til kildeindholdet og elementernes afgrænsning. Bevar den fulde dokumentidentifikator sammen med enhver valgt passage eller ethvert valgt billede, så resultatet kan kontrolleres i sin sammenhæng.
Inputgrænse og søgeresultat
Den dokumenterede hostede profil angiver op til 131.072 tokens pr. input. Opdel større kildesamlinger i separate, mærkede input, og bevar deres forbindelser. Profilens vektoroutput er hverken et genereret svar i prosa eller en transskription; et senere trin i applikationen kan bruge de fundne belæg til at besvare et spørgsmål.
Et færdigt søgeresultat forbinder forespørgslen, de udvalgte kildeelementer og deres identifikatorer. Registrer den embeddingmodel og inputforberedelse, der bruges til et indeks, så senere ændringer kan skelnes fra ændringer i kildesamlingen.
Ailoot Ultra · Embeddings POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeStart
Llama Nemotron Embed VL 1B V2 er NVIDIAs multimodale embeddingmodel til søgning. Den omdanner tekst, billeder eller kombinerede dokumentinput til vektorer og understøtter søgning med tekstforespørgsler i dokumenter med tabeller, diagrammer, tekst og infografik.
- Accepterede input
- Tekst · token_ids
- Resultater
- embedding
Tilgængelig i Ailoot · input og metoder
Ailoot Ultra · Embeddings POST /v1/embeddings
- Inputtyper
text,token_ids- Outputtyper
embedding- Kontekst
- 131.072 tokens
- Outputformat
- json
| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser nvidia/llama-nemotron-embed-vl-1b-v2:free | Standard— |
Feltinput | Typestring|string[]|integer[]|integer[][] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 Betingelser: Ikke-tom batch med ensartede elementer. Token-ID’er er ikke-negative heltal. Inputbudget: Maksimum: 131.072 · Tekstenhed: UTF8-bytes · Tokenenhed: elementer i et tokenarray | Standard— |
Feltencoding_format | Typestring | KravValgfrit | Værdier og grænser float | Standardfloat |
Feltdimensions | Typeinteger | KravIkke understøttet | Værdier og grænser Minimum: 1 | Standard— |
Feltuser | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Feltsession_id | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Felttrace | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvist | Standard— |
Kombinationer af inputmaterialer
text_to_embedding
Metodeparametre og livscyklus
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, input |
Parameterinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontraktfloat |
Parameterdimensions_override | Kontraktfalse |
Parametermax_input_budget_units | Kontrakt131072 |
Parametermultimodal_objects | Kontraktfalse |
Parametermaterial_types | Kontrakttext, token_ids |
Livscyklus: synchronous_json
Gem hver vektors indeks og dimension.
Et multimodalt modelnavn giver ikke adgang til at bruge billedobjekter på denne præcise sti.
Priser
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
- Hurtig tilstand
- Standardpris Når hurtig tilstand er valgt
- flex-tilstand
- Standardpris Når flex-tilstanden er valgt
- Maksimal ræsonneringsindsats
- Standardpris Når default-justeringen anvendes ved maksimal ræsonneringsindsats
Ailoot-takster
Priser efter konfiguration
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0 / 1K tokens Output · Outputtokens $0 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
Eksempelanmodninger
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Hent og gem resultater
Ailoot Ultra · Embeddings
json
Behold alle færdige resultater
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Gem hver vektor med dens indeks. Antallet af vektorer skal svare til antallet af input; dimensionerne skal være ensartede.
Hvis det oprindelige svar skal kontrolleres
Der indføres intet endpoint til embedding-job.
Svarfelter
| Felt | Type |
|---|---|
Feltobject | Typestring |
Feltmodel | Typestring |
Feltdata[].index | Typeinteger |
Feltdata[].embedding | Typefinite float[] |
Feltusage | Typeobject |
Fejl og næste trin
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Aliaser
Modelaliaser
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliaser for metodestier
Brug metodestierne vist ovenfor.
Relaterede kalder-ID’er
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Hvilke input og resultater er tilgængelige?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Hvilke felter bruger anmodningen?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Hvilke grænser gælder?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-bytes);input.min_items:1