NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2 beoordeelt de relevantie van kandidaatteksten en documentafbeeldingen voor een tekstuele zoekvraag, waaronder grafieken, tabellen en pagina's met gemengde media. NVIDIA beschrijft het als een cross-encoder-model met 1.7B parameters. Voer in een ophaalwerkproces eerst de oorspronkelijke zoekopdracht uit en stuur vervolgens de geselecteerde kandidaten naar de reranker. Het bruikbare resultaat is een opnieuw geordende verzameling van die kandidaten met relevantiescores, waarmee een toepassing context voor een antwoord kan kiezen of een pagina met zoekresultaten kan ordenen.

Gebruik POST /v1/rerank met een application/json-body. Stel model in op "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query op de daadwerkelijke zoekvraag en documents op een niet-lege array. Elke kandidaat kan een tekenreeks met tekst zijn of een object met text en/of image; een gestructureerd object moet minstens één van die velden bevatten. text is een tekenreeks. image is een externe HTTP/HTTPS-URL of een base64-data-URI die begint met data:image/. Een gecombineerde kandidaat bevat beide velden. Behoud de volgorde van die invoerarray, zodat de geretourneerde indices aan je opgeslagen document-ID's kunnen worden gekoppeld. top_n is een optioneel geheel getal van minimaal 1 dat het aantal hoogst gerangschikte documenten aangeeft dat moet worden geretourneerd.

Een helpcentrumtoepassing kan bijvoorbeeld passages over levering, retouren en accounttoegang ophalen en die vervolgens opnieuw rangschikken op basis van de leveringsvraag van de klant. Geef de daadwerkelijke passagetekst door in plaats van bestandsnamen of zoekmachinefragmenten die geen verband houden met de opgeslagen bron. Houd elke passage in de toepassing gekoppeld aan de eigen bronidentificatie, zodat het geselecteerde bewijsmateriaal later kan worden geciteerd of geopend. Lever voor een gescand document, grafiek, tabel of infographic de daadwerkelijke afbeelding aan in een documentobject en voeg tekst toe wanneer die helpt om de inhoud te identificeren.

De modelpagina documenteert een limiet van 10 240 tokens per zoekvraag en document. Verdeel langer bronmateriaal in begrensde passages voordat je de kandidatenlijst voorbereidt. Houd nuttige omliggende context bij elke passage, waaronder de kop of productnaam wanneer die de betekenis beïnvloedt. Het gedocumenteerde verzoek begint met de kandidaten die je aanlevert; het doorzoekt geen documentverzameling namens jou.

Het opnieuw rangschikken retourneert een synchroon JSON-resultaat. Lees elk results-item, waaronder de oorspronkelijke index, relevance_score en het geretourneerde document-object, dat text en/of image kan bevatten, en bewaar eventuele geretourneerde usage en antwoordidentificaties. Gebruik de index om het gerangschikte resultaat aan de invoerkandidaat te koppelen. Behandel een relevantiescore als een rangschikkingssignaal voor deze zoekvraag en niet als een onafhankelijk geverifieerd feitelijk antwoord. Bewaar het volledige resultaat wanneer meerdere passages voor de volgende stap worden geselecteerd.

Bereid openbaar of synthetisch kandidaatmateriaal voor deze gratis editie voor; de gedocumenteerde gebruiksvoorwaarden sluiten vertrouwelijke informatie en persoonsgegevens uit. Als een verzoek eindigt zonder volledig resultaat, bewaar dan het oorspronkelijke antwoord en de verzoekidentificatie terwijl je die poging controleert. Het gedocumenteerde rangschikkingsproces retourneert het resultaat rechtstreeks en biedt geen afzonderlijk werkproces voor het opvragen van de taakstatus of annuleren.