NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 er NVIDIAs multimodale embeddingmodell for gjenfinning. Den omdanner tekst, bilder eller kombinerte dokumentinndata til vektorer og støtter søk med tekstforespørsler i dokumenter som inneholder tabeller, diagrammer, tekst og infografikk.
Om modellen
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Llama Nemotron Embed VL 1B V2 er NVIDIAs embeddingmodell for gjenfinning i multimodale spørsmål–svar-systemer. Den kan representere et dokument som tekst, et bilde eller en kombinasjon av bilde og tekst. En tekstforespørsel kan deretter brukes til å hente relaterte dokumenter. Den publiserte profilen støtter dokumentbilder med tekst, tabeller, diagrammer og infografikk og returnerer embeddingvektorer.
Klargjør identifiserbare dokumentelementer
Hold hvert inndataelement knyttet til kildedokumentet, siden eller passasjen det representerer. For en visuell side bevares bildet og eventuell tilhørende tekst. For en tekstpassasje bevares tittelen eller seksjonsbetegnelsen når det bidrar til å tolke et senere treff. Disse kildeidentifikatorene gjør et hentet element nyttig som belegg fremfor bare som et numerisk likhetsresultat.
Velg elementgrenser rundt materialet en bruker trenger å finne. Et diagram og forklaringen til det kan høre sammen; sider uten innbyrdes forbindelse bør beholde separate identiteter. Vurder om inndataene er lesbare, og om teksten eller bildet inneholder informasjonen den tiltenkte forespørselen skal hente.
Tekstforespørsler og vektorgjenfinning
Modellens rolle er å produsere vektorer for gjenfinning, med tekst som forespørselsformen profilen beskriver. Hold forespørselen og de indekserte elementene i et kompatibelt embeddingoppsett. Applikasjonen lagrer vektorene, sammenligner dem og returnerer de tilsvarende kildeelementene. Det hentede dokumentet er fortsatt materialet som skal undersøkes eller sendes videre til et senere trinn for svargenerering.
Et nyttig testsett inneholder spørsmålene brukerne faktisk stiller, og sidene som skal finnes. Gå gjennom feilaktige eller manglende treff opp mot kildeinnholdet og elementgrensene. Bevar den fullstendige dokumentidentifikatoren sammen med enhver valgt passasje eller ethvert valgt bilde, slik at resultatet kan kontrolleres i sammenheng.
Inndatagrense og søkeresultat
Den dokumenterte driftede tjenesteprofilen oppgir opptil 131 072 tokener per inndataelement. Del større kildesett i separate, merkede inndataelementer, og bevar forbindelsene mellom dem. Profilens vektorutdata er ikke et generert svar i prosa eller en transkripsjon; et senere applikasjonstrinn kan bruke de hentede kildebeleggene til å besvare et spørsmål.
Et ferdig gjenfinningsresultat knytter sammen forespørselen, de valgte kildeelementene og identifikatorene deres. Registrer embeddingmodellen og klargjøringen av inndata som brukes for en indeks, slik at senere endringer kan skilles fra endringer i kildesamlingen.
Ailoot Ultra · Vektorrepresentasjoner POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeStart
Llama Nemotron Embed VL 1B V2 er NVIDIAs multimodale embeddingmodell for gjenfinning. Den omdanner tekst, bilder eller kombinerte dokumentinndata til vektorer og støtter søk med tekstforespørsler i dokumenter som inneholder tabeller, diagrammer, tekst og infografikk.
- Godkjente inndata
- Tekst · token_ids
- Resultater
- embedding
Tilgjengelig i Ailoot · inndata & metoder
Ailoot Ultra · Vektorrepresentasjoner POST /v1/embeddings
- Inndatatyper
text,token_ids- Utdatatyper
embedding- Kontekst
- 131 072 tokens
- Utdataformat
- json
| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser nvidia/llama-nemotron-embed-vl-1b-v2:free | Standard— |
Feltinput | Typestring|string[]|integer[]|integer[][] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 Vilkår: Ikke-tom batch med ensartede elementer. Token-ID-er er ikke-negative heltall. Inndatabudsjett: Maksimum: 131 072 · Tekstenhet: UTF8-byte · Tokenenhet: elementer i token-arrayet | Standard— |
Feltencoding_format | Typestring | KravValgfritt | Verdier & grenser float | Standardfloat |
Feltdimensions | Typeinteger | KravStøttes ikke | Verdier & grenser Minimum: 1 | Standard— |
Feltuser | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Feltsession_id | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Felttrace | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises | Standard— |
Kombinasjoner av inngående materialer
text_to_embedding
Metodeparametere og livssyklus
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, input |
Parameterinput_shapes | Avtalestring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Avtalefloat |
Parameterdimensions_override | Avtalefalse |
Parametermax_input_budget_units | Avtale131072 |
Parametermultimodal_objects | Avtalefalse |
Parametermaterial_types | Avtaletext, token_ids |
Livssyklus: synchronous_json
Bevar hver vektors indeks og dimensjon.
Et multimodalt modellnavn innebærer ikke at bildeobjekter er tillatt på denne nøyaktige stien.
Priser
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
- Hurtigmodus
- Standardpris Når hurtigmodus er valgt
- Flex-modus
- Standardpris Når flex-modus er valgt
- Maksimal resonneringsinnsats
- Standardpris Når justeringen «default» brukes for maksimal resonneringsinnsats
Ailoot-satser
Priser etter konfigurasjon
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0 / 1K tokener Utdata · Utgående tokener $0 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
Eksempelforespørsler
Ailoot Ultra · Vektorrepresentasjoner
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Motta og lagre resultater
Ailoot Ultra · Vektorrepresentasjoner
json
Behold alle ferdige resultater
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Bevar hver vektor sammen med indeksen. Antall vektorer må være lik antall inndata; dimensjonene må være konsistente.
Hvis det opprinnelige svaret må kontrolleres
Det innføres ikke noe endepunkt for embedding-jobber.
Svarfelter
| Felt | Type |
|---|---|
Feltobject | Typestring |
Feltmodel | Typestring |
Feltdata[].index | Typeinteger |
Feltdata[].embedding | Typefinite float[] |
Feltusage | Typeobject |
Feil og neste trinn
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Aliaser
Modellaliaser
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliaser for metodestier
Bruk metodestiene som vises ovenfor.
Tilknyttede anroper-ID-er
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Hvilke inndata og resultater er tilgjengelige?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Hvilke felt bruker forespørselen?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Hvilke grenser gjelder?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-byte);input.min_items:1