VoyageAI by MongoDB: rerank-3

Voyage rerank-3 es un reclasificador de texto diseñado para mejorar la calidad de las pruebas recuperadas. Dada una consulta y una lista de documentos candidatos, examina conjuntamente cada par y devuelve los candidatos ordenados por relevancia. Los embeddings y la búsqueda por palabras clave pueden reducir primero una colección grande a una lista manejable; rerank-3 aplica después una evaluación más detallada de la relevancia a esa lista. Su salida son pruebas de búsqueda puntuadas para que una aplicación las muestre o las pase a una etapa separada de generación de respuestas.

Rerank 3 centrado en calidad El fabricante sitúa rerank-3 como la edición centrada en precisión y rerank-3-lite como la edición para búsquedas sensibles a la latencia. La tercera generación actualiza la arquitectura principal y la mezcla de entrenamiento, con mejoras particulares en recuperación de documentos extensos y código fuente frente a sus predecesores 2.5 correspondientes. El productor lo evalúa en documentación técnica, código, material multilingüe y otros ámbitos documentales. Esos resultados respaldan su función de recuperación; selecciona la edición utilizando las preguntas y los documentos candidatos que importan para tu propia colección.

Documentos extensos con contexto suficiente Un candidato largo puede contener contexto útil mucho más allá del párrafo inicial. Proporciona una sección o un documento coherentes con su título y el material circundante pertinente para que el modelo pueda evaluar la relación de la pregunta real con el contenido. Para buscar políticas de producto, conserva los encabezados y las excepciones que rodean el pasaje de interés. Si varias secciones recuperadas proceden de la misma fuente, conserva sus identificadores de documento y sección; la aplicación podrá mostrar así de dónde proceden las pruebas seleccionadas.

La ventana de contexto se comparte entre la consulta y cada candidato. La guía actual del fabricante especifica 32,000 tokens para ese par, incluida una consulta de como máximo 8,000 tokens. Por tanto, una consulta de 3,000 tokens deja como máximo 29,000 tokens para cada documento. Prepara la entrada para que quepa su contenido esencial, especialmente cuando un preámbulo largo o texto genérico repetido consumirían la ventana. La opción documentada de truncamiento está activada por defecto y puede acortar el texto de consultas o documentos demasiado largos antes de puntuarlos. Examina qué se conserva cuando importe la ubicación del pasaje.

Recuperación de código y material técnico Para la etapa de recuperación de un asistente de programación, los candidatos pueden contener implementaciones de funciones, documentación de API o explicaciones técnicas como texto. Incluye los símbolos, las firmas y el contexto necesarios para distinguir candidatos similares. Una consulta como «Encuentra la función que normaliza rutas conservando un separador al final» proporciona un comportamiento concreto que buscar. Añade cualquier condición pertinente de lenguaje, plataforma o versión. Tras clasificar, examina el código seleccionado y sus dependencias antes de utilizarlo como contexto; una puntuación de relevancia no demuestra que una implementación cumpla todos los requisitos indicados.

Las instrucciones definen la relevancia El modelo conserva la capacidad de reclasificación con seguimiento de instrucciones introducida en Rerank 2.5. Añade una instrucción concisa antes o después de la consulta cuando sea necesario aclarar la intención del usuario. Para buscar documentos de investigación, explica si el foco está en el título, un método concreto o un ámbito de aplicación. Para un catálogo interno, especifica si la petición se refiere a instalación, resolución de problemas o compatibilidad. Mantén esa instrucción alineada con la pregunta; las preferencias adicionales que entren en conflicto con la petición principal pueden cambiar lo que la clasificación intenta optimizar.

Prepara los documentos candidatos y los presupuestos La entrada es una lista de cadenas de texto. Extrae texto utilizable de los documentos de origen, conserva límites de sección significativos y mantén un mapa ordenado de registros junto con la lista. El fabricante permite hasta 1,000 documentos en una petición. También especifica un máximo agregado de entrada de 600,000 tokens: tokens de consulta multiplicados por el número de documentos, más la suma de todos los tokens de los documentos. Esto difiere del límite de contexto por par. Reducir el texto redundante de la consulta puede preservar tanto la capacidad de cada par como el presupuesto total de petición.

Cuenta los tokens del modelo pertinente en lugar de asumir que un recuento de palabras o caracteres es un recuento de tokens. Para candidatos grandes, selecciona pasajes coherentes o divide el material por encabezados útiles conservando la información de la fuente principal. La reclasificación es más útil después de que la primera búsqueda haya encontrado candidatos plausibles: no puede clasificar una fuente ausente que nunca entró en la lista.

Resultados clasificados y uso posterior El resultado contiene puntuaciones de relevancia e índices que remiten a los documentos originales de entrada, ordenados por relevancia descendente. La opción top_k limita el número de resultados clasificados devueltos; en caso contrario, se devuelven todos los candidatos de entrada. La interfaz REST del fabricante también permite incluir el texto del documento. Utiliza cada índice original para recuperar el título, el identificador de fuente y cualquier metadato que necesite tu aplicación, y después presenta los elementos seleccionados o reúne el texto pertinente en el contexto de pruebas de una respuesta.

Examina los primeros resultados frente a la pregunta y mantén visible la identidad de las fuentes. Una posición relativa alta no verifica la exactitud factual de un documento, y una lista reducida que solo contenga candidatos deficientes seguirá teniendo un primer elemento. Separa la selección por relevancia de la decisión de si las pruebas seleccionadas bastan para responder al usuario.

Migración de edición El fabricante describe rerank-3 como un sucesor de rerank-2.5 que puede sustituirlo directamente, con la misma semántica de API y puntuaciones calibradas según la distribución del predecesor correspondiente. Esa compatibilidad permite conservar una etapa de recuperación y una correspondencia de registros existentes. Compara órdenes de resultados significativos y cualquier umbral de puntuación sobre el corpus actual antes de confiar en la migración. Mantén rerank-3 y rerank-3-lite como opciones distintas: compartir límites y seguimiento de instrucciones no hace idénticas sus prioridades de calidad y latencia.