NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 je multimodálny embeddingový model od NVIDIA na vyhľadávanie. Prevádza text, obrázky alebo kombinované vstupy dokumentov na vektory a podporuje vyhľadávanie pomocou textových dopytov v dokumentoch s tabuľkami, grafmi, textom a infografikami.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Llama Nemotron Embed VL 1B V2 je embeddingový model od NVIDIA na multimodálne vyhľadávanie podkladov pre odpovede na otázky. Dokáže reprezentovať dokument ako text, obrázok alebo kombináciu obrázka a textu. Textový dopyt potom umožňuje vyhľadať súvisiace dokumenty. Jeho publikovaný profil podporuje obrázky dokumentov obsahujúce text, tabuľky, grafy a infografiky a vracia embeddingové vektory.
Pripravte identifikovateľné položky dokumentov
Každý vstup udržiavajte prepojený so zdrojovým dokumentom, stranou alebo pasážou, ktorú reprezentuje. Pri vizuálnej strane zachovajte obrázok aj prípadný sprievodný text, ktorý k nemu patrí. Pri textovej pasáži uchovajte jej názov alebo označenie sekcie, ak pomáha interpretovať neskoršiu zhodu. Vďaka týmto identifikátorom zdrojov je nájdená položka použiteľná ako podklad, nielen ako číselný výsledok podobnosti.
Hranice položiek voľte podľa materiálu, ktorý používateľ potrebuje nájsť. Graf a jeho vysvetlenie môžu patriť k sebe; nesúvisiace strany by si mali zachovať samostatnú identitu. Overte, či je vstup čitateľný a či text alebo obrázok obsahuje informácie, ktoré má zamýšľaný dopyt vyhľadať.
Textové dopyty a vektorové vyhľadávanie
Úlohou modelu je vytvárať vektory na vyhľadávanie, pričom profil opisuje text ako formu dopytu. Dopyt a indexované položky spracúvajte v kompatibilnej konfigurácii embeddingov. Aplikácia vektory ukladá, porovnáva ich a vracia zodpovedajúce zdrojové položky. Nájdený dokument zostáva materiálom, ktorý treba skontrolovať alebo odovzdať do neskoršieho kroku generovania odpovede.
Užitočná testovacia množina obsahuje otázky, ktoré používatelia skutočne kladú, a strany, ktoré by sa mali nájsť. Nesprávne alebo chýbajúce zhody skúmajte podľa zdrojového obsahu a hraníc položiek. Pri každej vybranej pasáži alebo obrázku zachovajte úplný identifikátor dokumentu, aby sa dal výsledok overiť v kontexte.
Limit vstupu a výstup vyhľadávania
Zdokumentovaný profil hostovanej služby uvádza až 131 072 tokenov na vstup. Väčšie zdrojové súbory rozdeľte na samostatné označené vstupy a zachovajte ich vzájomné vzťahy. Vektorový výstup tohto profilu nie je generovanou súvislou textovou odpoveďou ani prepisom; neskoršia fáza aplikácie môže použiť nájdené podklady na zodpovedanie otázky.
Dokončený výstup vyhľadávania spája dopyt, vybrané zdrojové položky a ich identifikátory. Zaznamenajte embeddingový model a prípravu vstupov použité pre index, aby sa neskoršie zmeny dali odlíšiť od zmien zdrojovej kolekcie.
Ailoot Ultra · Embeddingy POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeÚvod
Llama Nemotron Embed VL 1B V2 je multimodálny embeddingový model od NVIDIA na vyhľadávanie. Prevádza text, obrázky alebo kombinované vstupy dokumentov na vektory a podporuje vyhľadávanie pomocou textových dopytov v dokumentoch s tabuľkami, grafmi, textom a infografikami.
- Povolené vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Embeddingy POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 131 072 tokens
- Výstupný formát
- json
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity nvidia/llama-nemotron-embed-vl-1b-v2:free | Predvolené— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 Podmienky: Neprázdna homogénna dávka. ID tokenov sú nezáporné celé čísla. Vstupný rozpočet: Maximum: 131 072 · Textová jednotka: bajty UTF8 · Jednotka tokenov: prvky poľa tokenov | Predvolené— |
Poleencoding_format | Typstring | PožiadavkaVoliteľné | Hodnoty a limity float | Predvolenéfloat |
Poledimensions | Typinteger | PožiadavkaNepodporované | Hodnoty a limity Minimum: 1 | Predvolené— |
Poleuser | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Polesession_id | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poletrace | Typjson_value | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Zdroj povoľuje toto pole metadát vo formáte JSON; presný význam na strane dodávateľa sa líši podľa modelu. | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa odmieta | Predvolené— |
Kombinácie vstupných podkladov
text_to_embedding
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, input |
Parameterinput_shapes | Špecifikáciastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Špecifikáciafloat |
Parameterdimensions_override | Špecifikáciafalse |
Parametermax_input_budget_units | Špecifikácia131072 |
Parametermultimodal_objects | Špecifikáciafalse |
Parametermaterial_types | Špecifikáciatext, token_ids |
Životný cyklus: synchronous_json
Uchovajte každý index a rozmer vektora.
Názov multimodálneho modelu neznamená, že na tejto konkrétnej trase možno použiť objekty obrázkov.
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Štandardná sadzba Keď je zvolený rýchly režim
- Režim Flex
- Štandardná sadzba Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Štandardná sadzba Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0 / 1K tokenov Výstup · Výstupné tokeny $0 / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Embeddingy
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Prijať a uložiť výsledky
Ailoot Ultra · Embeddingy
json
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Uchovajte každý vektor spolu s jeho indexom. Počet vektorov sa musí rovnať počtu vstupov; rozmery musia byť konzistentné.
Ak treba overiť pôvodnú odpoveď
Nezavádza sa žiadny koncový bod pre úlohy tvorby embeddingov.
Polia odpovede
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a ďalšie kroky
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Aliasy
Aliasy modelov
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Aké vstupy a výsledky sú dostupné?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Aké polia používa požiadavka?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Aké limity platia?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(bajty UTF8);input.min_items:1