VoyageAI by MongoDB: rerank-3

Voyage rerank-3 es un reclasificador de texto diseñado para mejorar la calidad de la evidencia recuperada. Dada una consulta y una lista de documentos candidatos, examina conjuntamente cada par y devuelve los candidatos ordenados por relevancia. Los embeddings y la búsqueda por palabras clave pueden reducir primero una colección grande a una lista corta manejable; después rerank-3 aplica una evaluación de relevancia más detallada a esa lista. Su salida es evidencia de búsqueda puntuada para que una aplicación la muestre o la pase a un paso separado de generación de respuestas.

Rerank 3 centrado en calidad El fabricante posiciona rerank-3 como la edición centrada en precisión y rerank-3-lite como la edición para búsqueda sensible a la latencia. La tercera generación actualiza la estructura principal y la mezcla de entrenamiento, con mejoras particulares en recuperación de documentos largos y código fuente frente a los predecesores 2.5 correspondientes. El productor lo evalúa en documentación técnica, código, material multilingüe y otros ámbitos documentales. Esos resultados respaldan su papel en recuperación; selecciona la edición usando las preguntas y los documentos candidatos que importan en tu propia colección.

Documentos largos con suficiente contexto Un candidato largo puede contener contexto útil mucho más allá de su primer párrafo. Proporciona una sección o documento coherente con su título y el material circundante pertinente para que el modelo evalúe cómo se relaciona la pregunta real con el contenido. Para una búsqueda de políticas de producto, conserva los encabezados y las excepciones alrededor del pasaje de interés. Si varias secciones recuperadas vienen de la misma fuente, conserva sus identificadores de documento y sección; así la aplicación puede mostrar de dónde provino la evidencia seleccionada.

La ventana de contexto se comparte entre la consulta y cada candidato. La guía actual del fabricante especifica 32,000 tokens para ese par, incluida una consulta de como máximo 8,000 tokens. Por lo tanto, una consulta de 3,000 tokens deja como máximo 29,000 tokens para cada documento. Prepara la entrada para que su contenido esencial quepa, en especial cuando un preámbulo largo o texto de plantilla repetido consumiría la ventana. La opción documentada de truncamiento está habilitada por defecto y puede acortar una consulta o un documento demasiado largos antes de puntuarlos. Inspecciona lo que se conserva cuando importa la ubicación del pasaje.

Recuperación de código y material técnico Para la etapa de recuperación de un asistente de programación, los candidatos pueden contener implementaciones de funciones, documentación de API o explicaciones técnicas como texto. Incluye los símbolos, las firmas y el contexto necesarios para distinguir candidatos similares. Una consulta como «Encuentra la función que normaliza rutas conservando un separador al final» aporta un comportamiento concreto que se debe encontrar. Agrega las restricciones pertinentes de lenguaje, plataforma o versión. Después de clasificar, examina el código seleccionado y sus dependencias antes de usarlo como contexto; una puntuación de relevancia no demuestra que una implementación cumpla todos los requisitos indicados.

Las instrucciones definen la relevancia El modelo conserva la capacidad de reclasificación con seguimiento de instrucciones introducida en Rerank 2.5. Agrega una instrucción breve antes o después de la consulta cuando la intención del usuario necesite aclararse. Para búsqueda de documentos de investigación, explica si el foco es el título, un método particular o un ámbito de aplicación. Para un catálogo interno, especifica si la solicitud trata instalación, solución de problemas o compatibilidad. Mantén esa instrucción alineada con la pregunta; las preferencias adicionales que entren en conflicto con la solicitud principal pueden cambiar lo que intenta optimizar la clasificación.

Prepara documentos candidatos y presupuestos La entrada es una lista de cadenas de texto. Extrae texto utilizable de los documentos de origen, conserva los límites significativos entre secciones y mantén un mapeo ordenado de registros junto con la lista. El fabricante permite hasta 1,000 documentos en una solicitud. También especifica un límite agregado de entrada de 600,000 tokens: tokens de consulta multiplicados por el número de documentos, más la suma de todos los tokens de documentos. Esto difiere del límite de contexto por par. Reducir el texto redundante de la consulta puede conservar tanto la capacidad del par como el presupuesto general de la solicitud.

Cuenta los tokens del modelo pertinente en lugar de suponer que una cantidad de palabras o caracteres equivale a una cantidad de tokens. Para candidatos grandes, selecciona pasajes coherentes o divide el material según encabezados útiles, conservando la información de la fuente principal. La reclasificación es más útil después de que la primera búsqueda ya haya encontrado candidatos plausibles: no puede clasificar una fuente faltante que nunca entró en la lista.

Resultados clasificados y uso posterior El resultado contiene puntuaciones de relevancia e índices que se refieren a los documentos originales de entrada, ordenados por relevancia descendente. La opción top_k limita la cantidad de resultados clasificados devueltos; de lo contrario, se devuelven todos los candidatos de entrada. La interfaz REST del fabricante también permite incluir el texto del documento. Usa cada índice original para recuperar el título, el identificador de fuente y los metadatos que necesite tu aplicación; después presenta los elementos seleccionados o incorpora el texto pertinente al contexto de evidencia de una respuesta.

Inspecciona los primeros resultados contra la pregunta y mantén visible la identidad de la fuente. Una clasificación relativa alta no verifica la exactitud factual de un documento, y una lista corta que contenga solo candidatos malos seguirá teniendo un primer elemento. Separa la selección por relevancia de la decisión sobre si la evidencia seleccionada basta para responder al usuario.

Migración de edición El fabricante describe rerank-3 como un sucesor de rerank-2.5 que se puede sustituir directamente, con la misma semántica de API y puntuaciones calibradas con la distribución de su predecesor correspondiente. Esa compatibilidad permite conservar una etapa de recuperación y un mapeo de registros existentes. Compara órdenes de resultados significativos y cualquier umbral de puntuación en el corpus actual antes de confiar en la migración. Mantén rerank-3 y rerank-3-lite como opciones distintas: los límites compartidos y el seguimiento de instrucciones no hacen idénticas sus prioridades de calidad y latencia.