NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 on NVIDIAn cross-encoder-uudelleenjärjestäjä haetun aineiston järjestämiseen sen kyselyrelevanssin mukaan. Lähetä kysely ja ehdokkaiksi tekstiä, kuvia tai yhdistelmäasiakirjoja ja käytä sitten palautettuja pisteitä ja alkuperäisiä indeksejä valitaksesi katkelmat hakutuloksiin tai haulla täydennettyyn vastaukseen.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Llama Nemotron Rerank VL 1B V2 arvioi ehdokastekstien ja asiakirjakuvien, kuten kaavioiden, taulukoiden ja eri mediamuotoja yhdistävien sivujen, relevanssia tekstikyselylle. NVIDIA kuvaa sitä 1,7 miljardin parametrin cross-encoder-malliksi. Suorita hakutyönkulussa ensin alkuhaku ja lähetä sitten valitut ehdokkaat uudelleenjärjestäjälle. Hyödyllinen tulos on uudelleen järjestetty joukko näitä ehdokkaita relevanssipisteineen, jota sovellus voi käyttää vastauksen kontekstin valitsemiseen tai hakutulossivun järjestämiseen.
Käytä POST /v1/rerank -kutsua application/json-rungolla. Aseta model arvoon "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query varsinaiseksi hakukysymykseksi ja documents ei-tyhjäksi taulukoksi. Kukin ehdokas voi olla tekstimerkkijono tai objekti, jossa on text ja/tai image; rakenteisen objektin tulee sisältää vähintään yksi näistä kentistä. text on merkkijono. image on etäinen HTTP/HTTPS-URL tai base64-data-URI, joka alkaa merkkijonolla data:image/. Yhdistelmäehdokas sisältää molemmat kentät. Säilytä tämän syötetaulukon järjestys, jotta palautetut indeksit voidaan yhdistää tallennettuihin asiakirjatunnuksiin. top_n on valinnainen kokonaisluku, joka on vähintään 1 ja pyytää palautettavien parhaiten sijoittuneiden asiakirjojen määrän.
Esimerkiksi ohjekeskussovellus voi hakea toimitusta, palautuksia ja tilille pääsyä koskevia katkelmia ja järjestää ne sitten uudelleen asiakkaan toimituskysymystä vasten. Anna varsinainen katkelmateksti sen sijaan, että antaisit tiedostonimiä tai tallennettuun lähteeseen liittymättömiä hakukonekatkelmia. Pidä jokainen katkelma yhteydessä omaan lähdetunnisteeseensa sovelluksessa, jotta valittuun aineistoon voidaan myöhemmin viitata tai se voidaan avata. Anna skannatusta asiakirjasta, kaaviosta, taulukosta tai infografiikasta varsinainen kuva asiakirjaobjektissa ja lisää tekstiä, kun se auttaa sisällön tunnistamisessa.
Mallin sivu dokumentoi 10 240 tokenin rajan kyselyä ja asiakirjaa kohti. Jaa pidempi lähdeaineisto rajatuiksi katkelmiksi ennen ehdokasluettelon valmistelua. Säilytä kunkin katkelman mukana hyödyllinen ympäröivä konteksti, mukaan lukien otsikko tai tuotenimi, kun se muuttaa merkitystä. Dokumentoitu pyyntö lähtee antamistasi ehdokkaista; se ei etsi asiakirjakokoelmasta puolestasi.
Uudelleenjärjestäminen palauttaa synkronisen JSON-tuloksen. Lue jokainen results-kohde, mukaan lukien sen alkuperäinen index, relevance_score ja palautettu document-objekti, joka voi sisältää text- ja/tai image-kentän, ja säilytä mahdolliset palautetut usage-tiedot ja vastaustunnisteet. Yhdistä järjestetty tulos takaisin syöte-ehdokkaaseensa index-arvon avulla. Käsittele relevanssipistettä tämän kyselyn järjestyssignaalina, älä itsenäisesti varmennettuna faktavastauksena. Säilytä koko tulos, kun seuraavaan vaiheeseen valitaan useita katkelmia.
Valmistele tälle ilmaisversiolle julkista tai synteettistä ehdokasaineistoa; sen dokumentoidut käyttöehdot sulkevat pois luottamukselliset tiedot ja henkilötiedot. Jos pyyntö päättyy ilman kokonaista tulosta, säilytä alkuperäinen vastaus ja pyyntötunniste yritystä tarkistaessasi. Dokumentoitu rerank-kulku palauttaa tuloksensa suoraan eikä tarjoa erillistä työn tilakysely- tai peruutustyönkulkua.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeAloitus
Llama Nemotron Rerank VL 1B V2 on NVIDIAn cross-encoder-uudelleenjärjestäjä haetun aineiston järjestämiseen sen kyselyrelevanssin mukaan. Lähetä kysely ja ehdokkaiksi tekstiä, kuvia tai yhdistelmäasiakirjoja ja käytä sitten palautettuja pisteitä ja alkuperäisiä indeksejä valitaksesi katkelmat hakutuloksiin tai haulla täydennettyyn vastaukseen.
- Hyväksytyt syötteet
- Teksti
- Tulokset
- ranking
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Rerank POST /v1/rerank
- Syötetyypit
text- Tulostyypit
ranking- Tulosteen muoto
- JSON
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat nvidia/llama-nemotron-rerank-vl-1b-v2:free | Oletus— |
Kenttäquery | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttädocuments | Tyyppiarray | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttätop_n | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, query, documents |
Parametrioptional | Sopimustop_n |
Parametrimaterial_types | Sopimustext |
Parametriconditions | Sopimus |
Elinkaari: synchronous_json
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Ei määritetty Kun nopea tila on valittu
- Flex-tila
- Ei määritetty Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Ei määritetty Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Laskutusmäärä | Veloitus |
|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Laskutusmäärä— | Veloitus Syöte · Syötetokenit — / 1K tokenia Tuloste · Tulostokenit — / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetPyyntöä kohden | Hinnasto— | Laskutusmääräyksi pyyntö | Veloitus Syöte $0 pyyntöä kohden |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Vastaanota ja tallenna tulokset
Ailoot Ultra · Rerank
JSON
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Jos alkuperäinen vastaus on tarkistettava
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäresults | Tyyppiarray |
Aliakset
Mallin aliakset
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Mitä kenttiä pyyntö käyttää?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Mitä rajoja sovelletaan?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1