VoyageAI by MongoDB: rerank-2.5

rerank-2.5 es el reclasificador con seguimiento de instrucciones de Voyage AI, diseñado para afinar un conjunto de candidatos de búsqueda. Examina conjuntamente la consulta y cada documento como codificador cruzado y después devuelve un orden de relevancia. La publicación del fabricante destaca el control en lenguaje natural sobre lo que se considera pertinente, la recuperación multilingüe y un contexto de consulta-documento más largo que el de la edición anterior rerank-2.

Dale al modelo los candidatos que debe comparar

La entrada es una consulta y una lista de documentos candidatos de texto. Pueden ser pasajes seleccionados por búsqueda de embeddings o una búsqueda léxica de primera etapa. El reclasificador evalúa el texto proporcionado en lugar de crear embeddings del corpus, así que su trabajo práctico es afinar los candidatos que la búsqueda inicial ya encontró.

Conserva el orden original de los candidatos y los identificadores de fuentes al preparar esa lista. Los índices devueltos se refieren a esas posiciones de entrada. Para una tarea RAG, proporciona los pasajes que la etapa de respuesta podría usar realmente, incluido el título o las condiciones necesarias para interpretarlos. Un documento pertinente que no esté en el conjunto de candidatos enviado no puede aparecer como un resultado recién encontrado de la reclasificación.

Especifica la noción de relevancia deseada

Las instrucciones se pueden agregar antes o después de la consulta. La publicación describe tres funciones útiles: destacar una parte particular de un documento, preferir un tipo de fuente y desambiguar la consulta con contexto de la aplicación. Estas modifican la tarea de relevancia presentada al modelo.

Para una búsqueda técnica, una instrucción ilustrativa es «Prioriza los pasajes que expliquen el comportamiento ante fallas y la recuperación; las descripciones introductorias son secundarias». Para una colección de investigación, especifica si importa más el título, el método o el resultado. Para un término ambiguo, indica el área temática de la búsqueda. Mantén compatibles la pregunta y la instrucción para que una no pida un tema amplio mientras la otra cambia silenciosamente la tarea.

Estas preferencias guían la puntuación de relevancia. Si la aplicación tiene requisitos estrictos de elegibilidad, como versión de fuente, fecha o alcance de acceso, prepara por separado el conjunto de candidatos elegibles. La instrucción de relevancia del modelo y una restricción determinista de la colección cumplen propósitos distintos.

Salida clasificada y uso posterior del resultado

Los resultados se ordenan por relevancia descendente e incluyen una puntuación de relevancia de punto flotante y el índice original de entrada del candidato. La opción top-k selecciona cuántos resultados iniciales devolver; sin ella, la especificación del fabricante devuelve resultados para todos los candidatos enviados. Un ajuste opcional return-documents incluye el texto de origen correspondiente; de lo contrario, la respuesta contiene índices y puntuaciones.

Usa el orden para seleccionar pasajes que se mostrarán o pasarán a una etapa posterior de respuesta, manteniendo intacta su identidad de fuente. Inspecciona el texto real al evaluar la clasificación: la puntuación mide la relevancia para la consulta enviada, no es una respuesta generada ni una verificación de que las afirmaciones del documento sean correctas. Esto hace que el modelo sea útil para afinar material de búsqueda técnico, legal, financiero, médico, conversacional y multilingüe sin convertir la clasificación en una conclusión del ámbito.

Contexto, presupuesto total de tokens y truncamiento

El límite documentado de consulta es de 8,000 tokens, incluidas las instrucciones colocadas en la consulta. La consulta más cualquier documento candidato individual deben caber en 32,000 tokens, y la lista de documentos puede contener como máximo 1,000 elementos. La asignación total es de 600,000 tokens, contados como tokens de consulta multiplicados por el número de documentos, más todos los tokens de documentos. Por lo tanto, una instrucción larga se cuenta repetidamente entre los pares candidatos.

La cantidad top-k de salida no cambia el número de candidatos en ese cálculo de tokens de entrada. El truncamiento predeterminado acorta las consultas o los documentos demasiado largos para cumplir el límite de contexto; deshabilitarlo hace que una consulta o par demasiado largo devuelva un error. Prepara deliberadamente pasajes que contengan la respuesta y mantén la condición pertinente dentro del texto que verá el modelo. Evalúa el orden refinado con preguntas e instrucciones representativas y después pasa los pasajes originales seleccionados a la siguiente etapa.