NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2 vurderer relevansen af kandidattekster og dokumentbilleder for en tekstforespørgsel, herunder diagrammer, tabeller og sider med blandede medier. NVIDIA beskriver den som en cross-encoder-model med 1,7B parametre. I en arbejdsgang med hentning af materiale skal du først udføre den indledende søgning og derefter sende de valgte kandidater til rerankeren. Det nyttige resultat er et omordnet sæt af disse kandidater med relevansscorer, som en applikation kan bruge til at vælge kontekst til et svar eller organisere en søgeresultatside.

Brug POST /v1/rerank med et application/json-indhold. Sæt model til "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query til det faktiske søgespørgsmål og documents til et ikke-tomt array. Hver kandidat kan være en tekststreng eller et objekt med text og/eller image; et struktureret objekt skal indeholde mindst ét af disse felter. text er en streng. image er en ekstern HTTP/HTTPS-URL eller en base64-data-URI, der begynder med data:image/. En kombineret kandidat indeholder begge felter. Bevar rækkefølgen af inputarrayet, så returnerede indekser kan matches med dine gemte dokument-ID'er. top_n er et valgfrit heltal på mindst 1, der angiver antallet af højest rangerede dokumenter, som skal returneres.

En hjælpecenterapplikation kan for eksempel hente passager om levering, returnering og kontoadgang og derefter omrangere disse passager i forhold til kundens leveringsspørgsmål. Medsend den faktiske passagetekst frem for filnavne eller søgemaskineuddrag uden forbindelse til den gemte kilde. Hold hver passage knyttet til sin egen kildeidentifikator i applikationen, så den valgte dokumentation senere kan citeres eller åbnes. Til et scannet dokument, et diagram, en tabel eller en infografik skal du medsende det faktiske billede i et dokumentobjekt og tilføje tekst, når det hjælper med at identificere indholdet.

Modelsiden dokumenterer en grænse på 10 240 tokens pr. forespørgsel og dokument. Del længere kildemateriale op i afgrænsede passager, før du forbereder kandidatlisten. Bevar nyttig omgivende kontekst sammen med hver passage, inklusive overskrift eller produktnavn, når det ændrer betydningen. Den dokumenterede anmodning tager udgangspunkt i de kandidater, du leverer; den søger ikke i en dokumentsamling på dine vegne.

Omrangeringen returnerer et synkront JSON-resultat. Læs hvert results-element, inklusive dets oprindelige index, relevance_score og returnerede document-objekt, som kan indeholde text og/eller image, og gem eventuelle returnerede usage- og svaridentifikatorer. Brug index til at knytte det rangerede resultat tilbage til dets inputkandidat. Behandl en relevansscore som et rangeringssignal for denne forespørgsel frem for et uafhængigt verificeret faktuelt svar. Gem hele resultatet, når flere passager vælges til næste trin.

Forbered offentligt eller syntetisk kandidatmateriale til denne gratisudgave; de dokumenterede brugsvilkår udelukker fortrolige oplysninger og personoplysninger. Hvis en anmodning afsluttes uden et komplet resultat, skal du gemme det oprindelige svar og anmodningsidentifikatoren, mens du kontrollerer forsøget. Den dokumenterede rerank-arbejdsgang returnerer resultatet direkte og leverer ingen separat arbejdsgang til jobpolling eller annullering.