NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 yra NVIDIA kryžminio kodavimo perrikiavimo modelis, skirtas rastai medžiagai išdėstyti pagal jos svarbą užklausai. Siųskite užklausą ir tekstinius, vaizdinius ar mišrius dokumentus kandidatus, tada naudokite grąžintus įverčius ir pradinius indeksus, kad pasirinktumėte ištraukas paieškos rezultatams arba paieška papildytam atsakymui.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Llama Nemotron Rerank VL 1B V2 įvertina kandidatų tekstų ir dokumentų vaizdų svarbą tekstinei užklausai, įskaitant diagramas, lenteles ir mišrios medijos puslapius. NVIDIA jį aprašo kaip 1,7B parametrų kryžminio kodavimo modelį. Paieškos darbo eigoje pirmiausia atlikite pradinę paiešką, tada pasirinktus kandidatus siųskite perrikiavimo modeliui. Naudingas rezultatas yra perrikiuotas šių kandidatų rinkinys su svarbos įverčiais, kurį programa gali naudoti atsakymo kontekstui pasirinkti arba paieškos rezultatų puslapiui išdėstyti.
Naudokite POST /v1/rerank su application/json turiniu. Nustatykite model į "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query – į tikrąjį paieškos klausimą, o documents – į netuščią masyvą. Kiekvienas kandidatas gali būti tekstinė eilutė arba objektas su text ir (arba) image; struktūruotas objektas turi pateikti bent vieną iš šių laukų. text yra eilutė. image yra nuotolinis HTTP/HTTPS URL arba base64 duomenų URI, prasidedantis data:image/. Mišrus kandidatas pateikia abu laukus. Išsaugokite šio įvesties masyvo tvarką, kad grąžintus indeksus būtų galima susieti su jūsų saugomais dokumentų ID. top_n yra pasirinktinis sveikasis skaičius, ne mažesnis nei 1, kuris nurodo grąžintinų aukščiausiai įvertintų dokumentų skaičių.
Pavyzdžiui, pagalbos centro programa gali rasti ištraukas apie pristatymą, grąžinimą ir prieigą prie paskyros, tada perrikiuoti jas pagal kliento klausimą apie pristatymą. Perduokite tikrąjį ištraukos tekstą, o ne failų pavadinimus ar su saugomu šaltiniu nesusijusias paieškos sistemos ištraukas. Programoje kiekvieną ištrauką laikykite susietą su jos šaltinio identifikatoriumi, kad pasirinktus įrodymus vėliau būtų galima cituoti ar atverti. Nuskaitytam dokumentui, diagramai, lentelei ar infografikui pateikite tikrąjį vaizdą dokumento objekte ir pridėkite tekstą, jei jis padeda identifikuoti turinį.
Modelio puslapyje dokumentuota 10 240 žetonų riba vienai užklausai ir dokumentui. Prieš ruošdami kandidatų sąrašą, ilgesnę pradinę medžiagą padalykite į ribotos apimties ištraukas. Su kiekviena ištrauka išsaugokite naudingą aplinkinį kontekstą, įskaitant antraštę ar produkto pavadinimą, kai jie keičia reikšmę. Dokumentuota užklausa prasideda nuo jūsų pateiktų kandidatų; ji jūsų vardu neieško dokumentų rinkinyje.
Perrikiavimas grąžina sinchroninį JSON rezultatą. Perskaitykite kiekvieną results elementą, įskaitant jo pradinį index, relevance_score ir grąžintą document objektą, kuriame gali būti text ir (arba) image, bei išsaugokite visus grąžintus usage ir atsakymo identifikatorius. Naudokite indeksą surikiuotam rezultatui susieti su jo įvesties kandidatu. Svarbos įvertį laikykite šios užklausos rikiavimo signalu, o ne nepriklausomai patikrintu faktiniu atsakymu. Kai kitam žingsniui pasirenkamos kelios ištraukos, išsaugokite visą rezultatą.
Šiam nemokamam leidimui paruoškite viešą ar sintetinę kandidatų medžiagą; dokumentuotos jo naudojimo sąlygos neleidžia konfidencialios informacijos ir asmens duomenų. Jei užklausa baigiasi be viso rezultato, tikrindami tą bandymą išsaugokite pradinį atsakymą ir užklausos identifikatorių. Dokumentuota perrikiavimo eiga rezultatą grąžina tiesiogiai ir neturi atskiros užduoties būsenos tikrinimo ar atšaukimo darbo eigos.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freePradžia
Llama Nemotron Rerank VL 1B V2 yra NVIDIA kryžminio kodavimo perrikiavimo modelis, skirtas rastai medžiagai išdėstyti pagal jos svarbą užklausai. Siųskite užklausą ir tekstinius, vaizdinius ar mišrius dokumentus kandidatus, tada naudokite grąžintus įverčius ir pradinius indeksus, kad pasirinktumėte ištraukas paieškos rezultatams arba paieška papildytam atsakymui.
- Leidžiamos įvestys
- Tekstas
- Rezultatai
- ranking
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Rerank POST /v1/rerank
- Įvestis
text- Išvestis
ranking- Išvesties formatas
- JSON
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos nvidia/llama-nemotron-rerank-vl-1b-v2:free | Numatyta— |
Laukasquery | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasdocuments | Tipasarray | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukastop_n | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, query, documents |
Parametrasoptional | Specifikacijatop_n |
Parametrasmaterial_types | Specifikacijatext |
Parametrasconditions | Specifikacija |
Gyvavimo ciklas: synchronous_json
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Apskaitos kiekis | Mokestis |
|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Apskaitos kiekis— | Mokestis Įvestis · Įvesties tokenai — / 1K tokenų Išvestis · Išvesties tokenai — / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUž užklausą | Įkainių lentelė— | Apskaitos kiekisviena užklausa | Mokestis Įvestis $0 už užklausą |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Rerank
JSON
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Jei reikia patikrinti pradinį atsakymą
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasresults | Tipasarray |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Kokios įvestys ir rezultatai prieinami?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Kokius laukus naudoja užklausa?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Kokie apribojimai taikomi?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1