NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 je reranker NVIDIA s křížovým enkodérem pro řazení nalezeného materiálu podle relevance k dotazu. Odešlete dotaz a kandidátní textové, obrazové nebo kombinované dokumenty a poté pomocí vrácených skóre a původních indexů vyberte pasáže pro výsledky vyhledávání nebo odpověď rozšířenou o vyhledané podklady.
O modelu
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Llama Nemotron Rerank VL 1B V2 posuzuje relevanci kandidátního textu a obrázků dokumentů vůči textovému dotazu, včetně grafů, tabulek a stránek s kombinovanými médii. NVIDIA jej popisuje jako model s křížovým enkodérem, který má 1,7 miliardy parametrů. V postupu vyhledávání nejprve spusťte úvodní vyhledání a poté odešlete vybrané kandidáty rerankeru. Užitečným výsledkem je přeuspořádaná sada těchto kandidátů se skóre relevance, kterou aplikace může použít k výběru kontextu pro odpověď nebo uspořádání stránky výsledků vyhledávání.
Použijte POST /v1/rerank s tělem application/json. Nastavte model na "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query na skutečnou vyhledávací otázku a documents na neprázdné pole. Každý kandidát může být textový řetězec nebo objekt s poli text a/nebo image; strukturovaný objekt musí obsahovat alespoň jedno z těchto polí. text je řetězec. image je vzdálené URL HTTP/HTTPS nebo datové URI base64 začínající data:image/. Kombinovaný kandidát poskytuje obě pole. Zachovejte pořadí vstupního pole, aby bylo možné vrácené indexy přiřadit k uloženým ID dokumentů. top_n je volitelné celé číslo alespoň 1, které požaduje počet nejvýše hodnocených dokumentů k vrácení.
Například aplikace centra nápovědy může vyhledat pasáže o doručení, vracení zboží a přístupu k účtu a poté tyto pasáže znovu seřadit vůči zákazníkově otázce o doručení. Předávejte skutečný text pasáží, nikoli názvy souborů nebo úryvky vyhledávače nesouvisející s uloženým zdrojem. Každou pasáž v aplikaci ponechte propojenou s jejím vlastním identifikátorem zdroje, aby bylo možné vybrané podklady později citovat nebo otevřít. U naskenovaného dokumentu, grafu, tabulky nebo infografiky dodejte skutečný obrázek v objektu dokumentu a přidejte text, pokud pomůže identifikovat obsah.
Stránka modelu dokumentuje limit 10 240 tokenů na dotaz a dokument. Delší zdrojový materiál před přípravou seznamu kandidátů rozdělte na ohraničené pasáže. S každou pasáží zachovejte užitečný okolní kontext včetně nadpisu nebo názvu produktu, pokud mění význam. Dokumentovaný požadavek vychází z dodaných kandidátů; nevyhledává za vás v kolekci dokumentů.
Přeřazení vrací synchronní výsledek JSON. Přečtěte každou položku results včetně jejího původního pole index, relevance_score a vráceného objektu document, který může obsahovat text a/nebo image, a uchovejte všechna vrácená usage a identifikátory odpovědi. Pomocí pole index přiřaďte seřazený výsledek zpět k jeho vstupnímu kandidátovi. Skóre relevance považujte za signál pro řazení v rámci tohoto dotazu, nikoli za nezávisle ověřenou faktickou odpověď. Při výběru několika pasáží pro další krok uchovejte úplný výsledek.
Pro tuto bezplatnou edici připravte veřejný nebo syntetický kandidátní materiál; její dokumentované podmínky použití vylučují důvěrné informace a osobní údaje. Pokud požadavek skončí bez úplného výsledku, při kontrole daného pokusu uchovejte původní odpověď a identifikátor požadavku. Dokumentovaný postup rerank vrací výsledek přímo a neposkytuje samostatný postup dotazování na úlohu nebo jejího zrušení.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeÚvod
Llama Nemotron Rerank VL 1B V2 je reranker NVIDIA s křížovým enkodérem pro řazení nalezeného materiálu podle relevance k dotazu. Odešlete dotaz a kandidátní textové, obrazové nebo kombinované dokumenty a poté pomocí vrácených skóre a původních indexů vyberte pasáže pro výsledky vyhledávání nebo odpověď rozšířenou o vyhledané podklady.
- Přijímané vstupy
- Text
- Výsledky
- ranking
Dostupné v Ailoot · vstupy a metody
Ailoot Ultra · Rerank POST /v1/rerank
- Vstup
text- Výstup
ranking- Výstupní formát
- JSON
| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity nvidia/llama-nemotron-rerank-vl-1b-v2:free | Výchozí— |
Polequery | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Poledocuments | Typarray | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Poletop_n | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 | Výchozí— |
Parametry a životní cyklus metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, query, documents |
Parametroptional | Kontrakttop_n |
Parametrmaterial_types | Kontrakttext |
Parametrconditions | Kontrakt |
Životní cyklus: synchronous_json
Tarify
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
- Rychlý režim
- Neuvedeno Při výběru rychlého režimu
- Režim flex
- Neuvedeno Při výběru režimu flex
- Maximální intenzita uvažování
- Neuvedeno Když se při maximální intenzitě uvažování použije výchozí úprava (default)
Sazby Ailoot
Ceny podle konfigurace
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Množství pro účtování | Poplatek |
|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Množství pro účtování— | Poplatek Vstup · Vstupní tokeny — / 1K tokenů Výstup · Výstupní tokeny — / 1K tokenů Vstup · Čtení z mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguraceZa požadavek | Tabulka sazeb— | Množství pro účtováníjeden požadavek | Poplatek Vstup $0 za požadavek |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
Příklady požadavků
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Přijímání a ukládání výsledků
Ailoot Ultra · Rerank
JSON
Uchovejte všechny dokončené výsledky
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Pokud je nutné ověřit původní odpověď
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Pole odpovědi
| Pole | Typ |
|---|---|
Poleresults | Typarray |
Aliasy
Aliasy modelu
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Aliasy cest metod
Použijte cesty metod uvedené výše.
Související ID modelů
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Jaké vstupy a výsledky jsou dostupné?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Jaká pole požadavek používá?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Jaké limity platí?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1