NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 yra NVIDIA multimodalinis įterpinių modelis paieškai. Jis tekstą, vaizdus ar jungtines dokumentų įvestis paverčia vektoriais ir palaiko paiešką tekstine užklausa dokumentuose, turinčiuose lentelių, diagramų, teksto ir infografikų.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Llama Nemotron Embed VL 1B V2 yra NVIDIA įterpinių modelis multimodalinei paieškai atsakymo į klausimus užduotyse. Jis gali atvaizduoti dokumentą kaip tekstą, vaizdą arba vaizdo ir teksto derinį. Tada tekstine užklausa galima rasti susijusius dokumentus. Paskelbtas profilis palaiko dokumentų vaizdus su tekstu, lentelėmis, diagramomis ir infografikomis bei grąžina įterpinių vektorius.
Paruoškite atpažįstamas dokumentų pozicijas
Kiekvieną įvestį išlaikykite susietą su jos atvaizduojamu šaltinio dokumentu, puslapiu ar ištrauka. Vaizdiniam puslapiui išsaugokite vaizdą ir visą jam priklausantį lydintį tekstą. Tekstinei ištraukai išsaugokite pavadinimą ar skyriaus žymą, kai tai padeda interpretuoti vėlesnį atitikmenį. Šie šaltinio identifikatoriai rastą poziciją padaro naudingu pagrindimu, o ne vien skaitiniu panašumo rezultatu.
Pozicijų ribas rinkitės aplink medžiagą, kurią naudotojui reikia rasti. Diagrama ir jos paaiškinimas gali priklausyti vienai pozicijai; nesusiję puslapiai turėtų išsaugoti atskiras tapatybes. Patikrinkite, ar įvestis skaitoma ir ar tekste arba vaizde yra informacijos, kurią numatyta užklausa turi rasti.
Tekstinės užklausos ir vektorinė paieška
Modelio vaidmuo yra kurti vektorius paieškai, o profilyje aprašyta užklausos forma yra tekstas. Užklausą ir indeksuotas pozicijas išlaikykite suderinamoje įterpinių konfigūracijoje. Programa saugo vektorius, juos palygina ir grąžina atitinkamas šaltinio pozicijas. Rastas dokumentas lieka medžiaga, kurią reikia patikrinti arba perduoti vėlesniam atsakymo generavimo veiksmui.
Naudingas testų rinkinys apima klausimus, kuriuos naudotojai iš tikrųjų užduoda, ir puslapius, kurie turėtų būti rasti. Klaidingus ar trūkstamus atitikmenis tikrinkite pagal šaltinio turinį ir pozicijų ribas. Su pasirinkta ištrauka ar vaizdu išsaugokite visą dokumento identifikatorių, kad rezultatą būtų galima patikrinti kontekste.
Įvesties talpa ir paieškos rezultatas
Dokumentuotas teikiamos paslaugos profilis nurodo iki 131 072 žetonų vienai įvesčiai. Didesnius šaltinių rinkinius skaidykite į atskiras pažymėtas įvestis ir išsaugokite jų ryšius. Profilio vektorinė išvestis nėra sugeneruotas prozinis atsakymas ar transkripcija; vėlesnis programos etapas gali naudoti rastą pagrindžiančią medžiagą atsakyti į klausimą.
Užbaigtas paieškos rezultatas susieja užklausą, pasirinktas šaltinio pozicijas ir jų identifikatorius. Išsaugokite indeksui naudotą įterpinių modelį ir įvesties paruošimą, kad vėlesnius pakeitimus būtų galima atskirti nuo šaltinių kolekcijos pakeitimų.
Ailoot Ultra · Įterpiniai POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freePradžia
Llama Nemotron Embed VL 1B V2 yra NVIDIA multimodalinis įterpinių modelis paieškai. Jis tekstą, vaizdus ar jungtines dokumentų įvestis paverčia vektoriais ir palaiko paiešką tekstine užklausa dokumentuose, turinčiuose lentelių, diagramų, teksto ir infografikų.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Kontekstas
- 131 072 tokens
- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos nvidia/llama-nemotron-embed-vl-1b-v2:free | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 131 072 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija131072 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Standartinis įkainis Pasirinkus spartųjį režimą
- Flex režimas
- Standartinis įkainis Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8 baitai);input.min_items:1