NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 je model NVIDIA typu cross-encoder na preusporiadanie vyhľadaných podkladov podľa relevantnosti k dopytu. Odošlite dopyt a kandidátne textové, obrazové alebo kombinované dokumenty a potom pomocou vrátených skóre a pôvodných indexov vyberte pasáže pre výsledky vyhľadávania alebo odpoveď doplnenú vyhľadávaním.
O modeli
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Llama Nemotron Rerank VL 1B V2 hodnotí relevantnosť kandidátnych textov a obrázkov dokumentov k textovému dopytu vrátane grafov, tabuliek a stránok so zmiešanými médiami. NVIDIA ho opisuje ako model typu cross-encoder s 1,7B parametrami. V postupe vyhľadávania najprv vykonajte úvodné vyhľadávanie a potom odošlite vybraných kandidátov modelu na preusporiadanie. Užitočným výsledkom je preusporiadaný súbor týchto kandidátov so skóre relevantnosti, ktorý môže aplikácia použiť na výber kontextu odpovede alebo usporiadanie stránky výsledkov vyhľadávania.
Použite POST /v1/rerank s telom application/json. Nastavte model na "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query na skutočnú vyhľadávaciu otázku a documents na neprázdne pole. Každý kandidát môže byť textovým reťazcom alebo objektom s text a/alebo image; štruktúrovaný objekt musí obsahovať aspoň jedno z týchto polí. text je reťazec. image je vzdialená URL HTTP/HTTPS alebo dátová URI base64 začínajúca data:image/. Kombinovaný kandidát dodáva obe polia. Zachovajte poradie tohto vstupného poľa, aby sa vrátené indexy dali priradiť k uloženým ID dokumentov. top_n je voliteľné celé číslo s hodnotou aspoň 1, ktoré určuje počet najvyššie hodnotených dokumentov na vrátenie.
Napríklad aplikácia centra pomoci môže vyhľadať pasáže o doručení, vrátení tovaru a prístupe k účtu a potom tieto pasáže preusporiadať podľa otázky zákazníka o doručení. Odovzdajte skutočný text pasáže namiesto názvov súborov alebo úryvkov vyhľadávača, ktoré nesúvisia s uloženým zdrojom. V aplikácii ponechajte každú pasáž prepojenú s vlastným identifikátorom zdroja, aby bolo možné vybrané podklady neskôr citovať alebo otvoriť. Pri naskenovanom dokumente, grafe, tabuľke alebo infografike dodajte jeho skutočný obrázok v objekte dokumentu a pridajte text, ak pomáha určiť obsah.
Stránka modelu dokumentuje limit 10 240 tokenov na dopyt a dokument. Dlhšie zdrojové podklady rozdeľte na ohraničené pasáže pred prípravou zoznamu kandidátov. Pri každej pasáži zachovajte užitočný okolitý kontext vrátane nadpisu alebo názvu produktu, ak mení význam. Zdokumentovaná požiadavka začína kandidátmi, ktorých poskytnete; nevyhľadáva za vás v kolekcii dokumentov.
Preusporiadanie vracia synchrónny výsledok JSON. Načítajte každú položku results vrátane jej pôvodného index, relevance_score a vráteného objektu document, ktorý môže niesť text a/alebo image, a zachovajte všetky vrátené usage a identifikátory odpovede. Pomocou index priraďte zoradený výsledok späť k jeho vstupnému kandidátovi. Skóre relevantnosti považujte za signál poradia pre tento dopyt, nie za nezávisle overenú faktickú odpoveď. Keď pre ďalší krok vyberáte viacero pasáží, uchovajte úplný výsledok.
Pre túto bezplatnú edíciu pripravte verejné alebo syntetické kandidátne podklady; jej zdokumentované podmienky používania vylučujú dôverné informácie a osobné údaje. Ak sa požiadavka skončí bez úplného výsledku, počas kontroly daného pokusu uchovajte pôvodnú odpoveď a identifikátor požiadavky. Zdokumentovaný postup rerank vracia výsledok priamo a neposkytuje samostatný postup zisťovania stavu úlohy ani jej zrušenia.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeÚvod
Llama Nemotron Rerank VL 1B V2 je model NVIDIA typu cross-encoder na preusporiadanie vyhľadaných podkladov podľa relevantnosti k dopytu. Odošlite dopyt a kandidátne textové, obrazové alebo kombinované dokumenty a potom pomocou vrátených skóre a pôvodných indexov vyberte pasáže pre výsledky vyhľadávania alebo odpoveď doplnenú vyhľadávaním.
- Povolené vstupy
- Text
- Výsledky
- ranking
Dostupné v Ailoot · vstupy a metódy
Ailoot Ultra · Rerank POST /v1/rerank
- Vstup
text- Výstup
ranking- Výstupný formát
- JSON
| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity nvidia/llama-nemotron-rerank-vl-1b-v2:free | Predvolené— |
Polequery | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Poledocuments | Typarray | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Poletop_n | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 | Predvolené— |
Parametre a životný cyklus metódy
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, query, documents |
Parameteroptional | Špecifikáciatop_n |
Parametermaterial_types | Špecifikáciatext |
Parameterconditions | Špecifikácia |
Životný cyklus: synchronous_json
Cenník
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
- Rýchly režim
- Neuvedené Keď je zvolený rýchly režim
- Režim Flex
- Neuvedené Keď je zvolený režim flex
- Maximálna úroveň uvažovania
- Neuvedené Keď sa pri maximálnej úrovni uvažovania používa predvolená úprava (default)
Sadzby Ailoot
Ceny podľa konfigurácie
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Účtovacie množstvo | Poplatok |
|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Účtovacie množstvo— | Poplatok Vstup · Vstupné tokeny — / 1K tokenov Výstup · Výstupné tokeny — / 1K tokenov Vstup · Čítanie cache — / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaZa požiadavku | Sadzobník— | Účtovacie množstvojedna požiadavka | Poplatok Vstup $0 za požiadavku |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
Príklady požiadaviek
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Prijať a uložiť výsledky
Ailoot Ultra · Rerank
JSON
Uchovať všetky dokončené výsledky
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Ak treba overiť pôvodnú odpoveď
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Polia odpovede
| Pole | Typ |
|---|---|
Poleresults | Typarray |
Aliasy
Aliasy modelov
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Aliasy ciest metód
Použite cesty metód uvedené vyššie.
Súvisiace ID na volanie
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Aké vstupy a výsledky sú dostupné?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Aké polia používa požiadavka?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Aké limity platia?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1