NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 je multimodální embeddingový model společnosti NVIDIA pro vyhledávání. Převádí text, obrázky nebo kombinované dokumentové vstupy na vektory a podporuje vyhledávání textovým dotazem v dokumentech obsahujících tabulky, grafy, text a infografiku.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Llama Nemotron Embed VL 1B V2 je embeddingový model společnosti NVIDIA pro multimodální vyhledávání podkladů k odpovídání na otázky. Může reprezentovat dokument jako text, obrázek nebo kombinaci obrázku a textu. Textový dotaz pak lze použít k vyhledání souvisejících dokumentů. Jeho publikovaný profil podporuje obrázky dokumentů obsahující text, tabulky, grafy a infografiku a vrací vektory embeddingů.
Příprava identifikovatelných položek dokumentů
Každý vstup zachovejte propojený se zdrojovým dokumentem, stránkou nebo pasáží, kterou reprezentuje. U vizuální stránky zachovejte obrázek a doprovodný text, který k němu patří. U textové pasáže uchovávejte název nebo označení oddílu, pokud to pomáhá interpretovat pozdější shodu. Tyto identifikátory zdrojů dělají nalezenou položku užitečnou jako důkazní podklad, nikoli pouze jako číselný výsledek podobnosti.
Hranice položek volte kolem materiálu, který uživatel potřebuje najít. Graf a jeho vysvětlení mohou patřit k sobě; nesouvisející stránky by si měly zachovat samostatné identity. Zkontrolujte, zda je vstup čitelný a zda text nebo obrázek obsahuje informace, které má zamýšlený dotaz vyhledat.
Textové dotazy a vektorové vyhledávání
Úlohou modelu je vytvářet vektory pro vyhledávání, přičemž text je formou dotazu popsanou v profilu. Dotaz a indexované položky udržujte v kompatibilním nastavení embeddingů. Aplikace vektory ukládá, porovnává a vrací odpovídající zdrojové položky. Nalezený dokument zůstává materiálem ke kontrole nebo předání do pozdějšího kroku generování odpovědi.
Užitečná testovací sada zahrnuje otázky, které uživatelé skutečně pokládají, a stránky, které mají být nalezeny. Chybné nebo chybějící shody kontrolujte vůči zdrojovému obsahu a hranicím položek. U každé vybrané pasáže nebo obrázku zachovejte úplný identifikátor dokumentu, aby výsledek mohl být ověřen v kontextu.
Kapacita vstupu a výstup vyhledávání
Dokumentovaný hostovaný profil uvádí až 131 072 tokenů na vstup. Větší sady zdrojů rozdělte na samostatné označené vstupy a zachovejte jejich vztahy. Vektorový výstup profilu není generovanou slovní odpovědí ani přepisem; pozdější fáze aplikace může nalezené důkazní podklady použít k zodpovězení otázky.
Úplný výstup vyhledávání propojuje dotaz, vybrané zdrojové položky a jejich identifikátory. Uchovávejte embeddingový model a přípravu vstupů použité pro index, aby bylo možné pozdější změny odlišit od změn zdrojové kolekce.
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeÚvod
Llama Nemotron Embed VL 1B V2 je multimodální embeddingový model společnosti NVIDIA pro vyhledávání. Převádí text, obrázky nebo kombinované dokumentové vstupy na vektory a podporuje vyhledávání textovým dotazem v dokumentech obsahujících tabulky, grafy, text a infografiku.
- Přijímané vstupy
- Text · token_ids
- Výsledky
- embedding
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Vektorové reprezentace POST /v1/embeddings
- Vstup
text,token_ids- Výstup
embedding- Kontext
- 131 072 tokens
- Výstupní formát
- json
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity nvidia/llama-nemotron-embed-vl-1b-v2:free | Výchozí— |
Poleinput | Typstring|string[]|integer[]|integer[][] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 Podmínky: Neprázdná homogenní dávka. ID tokenů jsou nezáporná celá čísla. Rozpočet vstupu: Maximum: 131 072 · Jednotka textu: bajty UTF8 · Jednotka tokenů: prvky pole tokenů | Výchozí— |
Poleencoding_format | Typstring | PožadavekVolitelné | Hodnoty a limity float | Výchozífloat |
Poledimensions | Typinteger | PožadavekNepodporováno | Hodnoty a limity Minimum: 1 | Výchozí— |
Poleuser | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Polesession_id | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poletrace | Typjson_value | PožadavekVolitelné | Hodnoty a limity Podmínky: Zdroj povoluje toto pole metadat JSON; jeho přesný význam u poskytovatele závisí na konkrétním modelu. | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: Parametr provider.options byl odmítnut | Výchozí— |
Kombinace vstupních materiálů
text_to_embedding
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt131072 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Životní cyklus: synchronous_json
Uchovejte index i rozměr každého vektoru.
Multimodální název modelu neznamená, že tato konkrétní cesta přijímá obrazové objekty.
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Standardní sazba Při výběru rychlého režimu
- Režim flex
- Standardní sazba Při výběru režimu flex
- Maximální intenzita uvažování
- Standardní sazba Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
| Konfigurace | Tabulka sazeb | Poplatek |
|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Poplatek Vstup · Vstupní tokeny $0 / 1K tokenů Výstup · Výstupní tokeny $0 / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Vektorové reprezentace
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Přijímání a ukládání výsledků
Ailoot Ultra · Vektorové reprezentace
json
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Uchovejte každý vektor spolu s jeho indexem. Počet vektorů musí odpovídat počtu vstupů; jejich rozměr musí být jednotný.
Pokud je nutné ověřit původní odpověď
Samostatný endpoint úloh pro embeddingy se nezavádí.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Chyby a další kroky
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Aliasy
Aliasy modelu
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Jaká pole požadavek používá?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Jaké limity platí?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(bajty UTF8);input.min_items:1