NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 är NVIDIAs omrankningsmodell med korsenkodare för att ordna hämtat material efter dess relevans för en fråga. Skicka en fråga och kandidatdokument med text, bild eller en kombination och använd sedan de returnerade poängen och ursprungliga indexen för att välja avsnitt till sökresultat eller ett svar som kompletteras med hämtat underlag.
Om modellen
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Llama Nemotron Rerank VL 1B V2 utvärderar relevansen hos kandidattexter och dokumentbilder för en textfråga, inklusive diagram, tabeller och sidor med blandade medier. NVIDIA beskriver den som en korsenkodarmodell med 1,7 miljarder parametrar. I ett hämtningsarbetsflöde kör du först den inledande sökningen och skickar sedan de valda kandidaterna till omrankaren. Det användbara resultatet är en omordnad uppsättning av dessa kandidater med relevanspoäng, som en applikation kan använda för att välja kontext till ett svar eller ordna en sökresultatsida.
Använd POST /v1/rerank med en application/json-kropp. Sätt model till "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query till den faktiska sökfrågan och documents till en icke-tom array. Varje kandidat kan vara en textsträng eller ett objekt med text och/eller image; ett strukturerat objekt måste innehålla minst ett av dessa fält. text är en sträng. image är en fjärr-URL av typen HTTP/HTTPS eller en base64-data-URI som börjar med data:image/. En kombinerad kandidat innehåller båda fälten. Bevara ordningen i denna indata-array så att returnerade index kan matchas mot dina lagrade dokument-ID:n. top_n är ett valfritt heltal på minst 1 som begär antalet högst rankade dokument att returnera.
En hjälpcenterapplikation kan exempelvis hämta avsnitt om leverans, returer och kontoåtkomst och sedan omranka dessa avsnitt mot kundens leveransfråga. Skicka den faktiska avsnittstexten i stället för filnamn eller sökmotorutdrag som saknar koppling till den lagrade källan. Håll varje avsnitt kopplat till sin egen källidentifierare i applikationen så att det valda underlaget senare kan citeras eller öppnas. För ett skannat dokument, diagram, tabell eller en infografik tillhandahåller du dess faktiska bild i ett dokumentobjekt och lägger till text när det hjälper till att identifiera innehållet.
Modellsidan dokumenterar en gräns på 10 240 tokens per fråga och dokument. Dela längre källmaterial i avgränsade avsnitt innan du förbereder kandidatlistan. Behåll användbar omgivande kontext med varje avsnitt, inklusive rubrik eller produktnamn när det ändrar betydelsen. Den dokumenterade förfrågan utgår från kandidaterna du tillhandahåller; den söker inte igenom en dokumentsamling åt dig.
Omrankning returnerar ett synkront JSON-resultat. Läs varje results-objekt, inklusive dess ursprungliga index, relevance_score och returnerade document-objekt som kan innehålla text och/eller image, och bevara eventuell returnerad usage och svarsidentifierare. Använd index för att koppla det rankade resultatet tillbaka till dess indatakandidat. Behandla en relevanspoäng som en rankningssignal för denna fråga snarare än ett oberoende verifierat faktasvar. Behåll hela resultatet när flera avsnitt väljs för nästa steg.
Förbered offentligt eller syntetiskt kandidatmaterial för denna kostnadsfria utgåva; dess dokumenterade användningsvillkor utesluter konfidentiell information och personuppgifter. Om en förfrågan avslutas utan ett fullständigt resultat behåller du det ursprungliga svaret och förfrågningsidentifieraren medan du kontrollerar det försöket. Det dokumenterade omrankningsflödet returnerar resultatet direkt och tillhandahåller inget separat arbetsflöde för jobbpollning eller avbrytande.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeStart
Llama Nemotron Rerank VL 1B V2 är NVIDIAs omrankningsmodell med korsenkodare för att ordna hämtat material efter dess relevans för en fråga. Skicka en fråga och kandidatdokument med text, bild eller en kombination och använd sedan de returnerade poängen och ursprungliga indexen för att välja avsnitt till sökresultat eller ett svar som kompletteras med hämtat underlag.
- Godkända indata
- Text
- Resultat
- ranking
Tillgängligt i Ailoot · indata & metoder
Ailoot Ultra · Rerank POST /v1/rerank
- Indatatyper
text- Utdatatyper
ranking- Utdataformat
- JSON
| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser nvidia/llama-nemotron-rerank-vl-1b-v2:free | Standard— |
Fältquery | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältdocuments | Typarray | KravObligatoriskt | Värden & gränser | Standard— |
Fälttop_n | Typinteger | KravValfritt | Värden & gränser Minimum: 1 | Standard— |
Metodparametrar och livscykel
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, query, documents |
Parameteroptional | Avtaltop_n |
Parametermaterial_types | Avtaltext |
Parameterconditions | Avtal |
Livscykel: synchronous_json
Priser
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
- Snabbt läge
- Ej angivet När snabbt läge är valt
- Flex-läge
- Ej angivet När läget flex är valt
- Högsta resonemangsnivå
- Ej angivet När den högsta resonemangsnivån använder standardjusteringen (default)
Ailoot-priser
Priser efter konfiguration
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Debiteringsmängd | Avgift |
|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Debiteringsmängd— | Avgift Indata · Indatatoken — / 1K token Utdata · Utdatatoken — / 1K token Indata · Cacheläsning — / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationPer begäran | Prislista— | Debiteringsmängden förfrågan | Avgift Indata $0 per begäran |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
Exempelbegäranden
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Ta emot och spara resultat
Ailoot Ultra · Rerank
JSON
Behåll alla färdiga resultat
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Om det ursprungliga svaret behöver kontrolleras
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Svarsfält
| Fält | Typ |
|---|---|
Fältresults | Typarray |
Alias
Modellalias
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Alias för metodsökvägar
Använd metodsökvägarna som visas ovan.
Relaterade anropar-ID:n
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Vilka indata och resultat finns?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Vilka fält använder begäran?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Vilka gränser gäller?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1