NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2 évalue la pertinence de textes candidats et d’images de documents par rapport à une requête textuelle, y compris les graphiques, les tableaux et les pages multimédias. NVIDIA le décrit comme un modèle à encodeur croisé comptant 1,7 milliard de paramètres. Dans un flux de travail de récupération, effectuez d’abord la recherche initiale, puis envoyez les candidats sélectionnés au modèle de reclassement. Le résultat utile est un ensemble réordonné de ces candidats avec des scores de pertinence, qu’une application peut utiliser pour choisir le contexte d’une réponse ou organiser une page de résultats de recherche.

Utilisez POST /v1/rerank avec un corps application/json. Définissez model sur "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query sur la véritable question de recherche et documents sur un tableau non vide. Chaque candidat peut être une chaîne de texte ou un objet avec text et/ou image ; un objet structuré doit fournir au moins l’un de ces champs. text est une chaîne. image est une URL distante HTTP/HTTPS ou une URI de données base64 commençant par data:image/. Un candidat combiné fournit les deux champs. Conservez l’ordre de ce tableau d’entrée pour pouvoir associer les indices renvoyés aux ID de documents stockés. top_n est un entier facultatif supérieur ou égal à 1 qui demande le nombre de documents les mieux classés à renvoyer.

Par exemple, une application de centre d’aide peut récupérer des passages sur la livraison, les retours et l’accès au compte, puis les reclasser selon la question de livraison du client. Transmettez le texte réel des passages plutôt que des noms de fichiers ou des extraits de moteur de recherche sans rapport avec la source stockée. Gardez chaque passage lié à son propre identifiant de source dans l’application pour que les éléments sélectionnés puissent ensuite être cités ou ouverts. Pour un document numérisé, un graphique, un tableau ou une infographie, fournissez son image réelle dans un objet document et ajoutez du texte lorsque cela aide à identifier le contenu.

La page du modèle documente une limite de 10 240 tokens par requête et document. Divisez les sources plus longues en passages bornés avant de préparer la liste des candidats. Gardez le contexte environnant utile avec chaque passage, y compris le titre ou le nom du produit lorsqu’il en change le sens. La requête documentée part des candidats que vous fournissez ; elle ne recherche pas dans une collection de documents à votre place.

Le reclassement renvoie un résultat JSON synchrone. Lisez chaque élément results, notamment son index d’origine, relevance_score et l’objet document renvoyé, qui peut contenir text et/ou image, puis conservez les informations d’utilisation et les identifiants de réponse renvoyés. Utilisez index pour associer le résultat classé à son candidat d’entrée. Traitez un score de pertinence comme un signal de classement pour cette requête plutôt que comme une réponse factuelle vérifiée indépendamment. Conservez le résultat complet lorsque plusieurs passages sont sélectionnés pour l’étape suivante.

Préparez des candidats publics ou synthétiques pour cette édition gratuite ; ses conditions d’utilisation documentées excluent les informations confidentielles et les données personnelles. Si une requête se termine sans résultat complet, conservez la réponse et l’identifiant de requête d’origine pendant la vérification de cette tentative. Le flux de reclassement documenté renvoie directement son résultat et ne fournit pas de flux de travail distinct d’interrogation périodique ou d’annulation de tâche.