NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2 evalúa la relevancia del texto y las imágenes de documentos candidatos para una consulta de texto, incluidos gráficos, tablas y páginas con distintos tipos de medios. NVIDIA lo describe como un modelo con codificador cruzado de 1.7B parámetros. En un flujo de recuperación, ejecuta primero la búsqueda inicial y envía después los candidatos seleccionados al modelo de reordenación. El resultado útil es un conjunto reordenado de esos candidatos con puntuaciones de relevancia que una aplicación puede utilizar para elegir el contexto de una respuesta u organizar una página de resultados de búsqueda.

Utiliza POST /v1/rerank con un cuerpo application/json. Establece model en "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query en la pregunta de búsqueda real y documents en un array no vacío. Cada candidato puede ser una cadena de texto o un objeto con text y/o image; un objeto estructurado debe proporcionar al menos uno de esos campos. text es una cadena. image es una URL remota HTTP/HTTPS o un URI de datos base64 que comienza por data:image/. Un candidato combinado proporciona ambos campos. Conserva el orden de ese array de entrada para poder relacionar los índices devueltos con los ID de documento que tienes almacenados. top_n es un entero opcional de al menos 1 que solicita el número de documentos mejor clasificados que deben devolverse.

Por ejemplo, una aplicación de centro de ayuda puede recuperar pasajes sobre entregas, devoluciones y acceso a la cuenta y reordenar después esos pasajes frente a la pregunta del cliente sobre la entrega. Pasa el texto real del pasaje en lugar de nombres de archivo o fragmentos de buscadores sin relación con la fuente almacenada. Mantén cada pasaje conectado a su propio identificador de origen en la aplicación para que la evidencia seleccionada pueda citarse o abrirse posteriormente. Para un documento escaneado, un gráfico, una tabla o una infografía, proporciona su imagen real en un objeto de documento y añade texto cuando ayude a identificar el contenido.

La página del modelo documenta un límite de 10 240 tokens por consulta y documento. Divide el material de origen más largo en pasajes acotados antes de preparar la lista de candidatos. Conserva contexto útil alrededor de cada pasaje, incluido el encabezado o el nombre del producto cuando cambie su significado. La solicitud documentada parte de los candidatos que proporcionas; no busca en una colección de documentos en tu nombre.

La reordenación devuelve un resultado JSON síncrono. Lee todos los elementos de results, incluidos su index original, relevance_score y el objeto document devuelto, que puede contener text y/o image, y conserva cualquier usage e identificador de respuesta devueltos. Utiliza index para relacionar el resultado clasificado con su candidato de entrada. Trata una puntuación de relevancia como una señal de clasificación para esta consulta en lugar de una respuesta factual verificada de forma independiente. Conserva el resultado completo cuando se seleccionen varios pasajes para el siguiente paso.

Prepara material candidato público o sintético para esta edición gratuita; sus condiciones de uso documentadas excluyen la información confidencial y los datos personales. Si una solicitud termina sin un resultado completo, conserva la respuesta original y el identificador de solicitud mientras compruebas ese intento. El flujo documentado de reordenación devuelve su resultado directamente y no proporciona un flujo independiente de consulta del estado de trabajos o cancelación.