VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite es la edición centrada en latencia de la serie Rerank 3 de Voyage. Recibe una consulta de texto y documentos candidatos, evalúa conjuntamente cada par de consulta y documento y devuelve puntuaciones de relevancia en orden de clasificación. Atiende la segunda etapa de búsqueda: un recuperador basado en embeddings o palabras clave encuentra los candidatos y después Lite afina su orden. El resultado es una clasificación para usar en búsqueda o en un flujo de generación aumentada por recuperación.

Qué cambia en Rerank 3 Lite El productor destaca una mejor recuperación de documentos largos y código en comparación con rerank-2.5-lite. Ambas ediciones Rerank 3 conservan el seguimiento de instrucciones y la misma clase de contexto de 32K, mientras que Lite está diseñada para aplicaciones sensibles a la latencia. Esto la convierte en una candidata práctica para búsqueda interactiva en bases de conocimiento, recuperación de documentos de soporte y consulta de código cuando los usuarios necesitan resultados pertinentes con rapidez. Elígela según los requisitos de calidad y tiempo de respuesta de la colección real, en lugar de suponer que una edición más pequeña implica una ventana de contexto menor.

Guía la relevancia con la consulta Las instrucciones en lenguaje natural pueden acompañar la consulta para explicar qué se considera pertinente. Mantén la pregunta y la preferencia de relevancia breves y consistentes. Para una búsqueda de soporte de software, usa «Encuentra el procedimiento para restablecer un dispositivo; prioriza las instrucciones de la revisión de hardware indicada». Para un nombre ambiguo de producto, incluye la categoría del producto para que no dominen los significados sin relación. Una preferencia en la consulta guía la puntuación semántica; usa metadatos explícitos de la colección para seleccionar el producto, la versión documental o el alcance de acceso correctos antes de construir la lista de candidatos.

Prepara una lista corta de candidatos de texto Los documentos de entrada son cadenas de texto. Extrae texto legible del material de origen y conserva títulos, encabezados, identificadores y contexto circundante útiles. Mantén un mapeo estable de cada posición de entrada al registro original. Para un artículo de solución de problemas, incluye el síntoma y el procedimiento pertinente, no solo una oración aislada. Para búsqueda de código fuente, incluye la función y la información cercana necesaria para distinguirla de funciones con nombres similares. Elimina la navegación repetitiva o el texto de plantilla cuando desplacen el pasaje útil.

El reclasificador solo puede reordenar los documentos que recibe. Si la primera búsqueda nunca recupera el artículo pertinente, esta etapa no puede recuperar ese candidato faltante. Inspecciona tanto la lista corta como el orden final cuando un resultado parezca incorrecto. Cuando un documento largo abarque muchos temas, separa secciones coherentes y conserva sus referencias al documento de origen para poder seleccionar una sección pertinente sin perder su fuente.

Límites de contexto y solicitud La guía actual del fabricante especifica un máximo de consulta de 8,000 tokens y un máximo combinado de 32,000 tokens para la consulta más cada documento individual. Permite hasta 1,000 documentos candidatos y un presupuesto total de solicitud de 600,000 tokens, calculado como los tokens de consulta multiplicados por la cantidad de documentos, más todos los tokens de documentos. Por lo tanto, una consulta larga consume espacio en cada par y contribuye repetidamente al presupuesto agregado. Cuenta el texto enviado con el tokenizador del modelo apropiado en lugar de tratar caracteres, palabras y tokens como intercambiables.

Por ejemplo, una consulta de 500 tokens con 100 documentos de 4,000 tokens cada uno representa 450,000 tokens de entrada según esa fórmula. Esto ilustra el presupuesto, no un tamaño recomendado de lista corta ni un resultado medido de velocidad. La opción documentada de truncamiento está habilitada por defecto; el texto demasiado grande se puede acortar antes de puntuarlo. Prepara deliberadamente las secciones importantes para que el truncamiento no elimine precisamente el pasaje que necesitas encontrar.

Lee y usa el resultado Los resultados se ordenan de mayor a menor puntuación de relevancia. Cada resultado identifica la posición original de entrada del documento, lo que permite a la aplicación adjuntar su propio título, identificador de registro y fuente. El ajuste top_k controla cuántos candidatos clasificados se devuelven; sin él, se devuelven todos. La interfaz REST del fabricante también puede devolver el texto del documento. Conserva los identificadores originales junto con los resultados seleccionados al mostrar una página de búsqueda o pasar evidencia a un paso de generación de respuestas.

Una puntuación de relevancia expresa qué tan bien coincide un candidato con la consulta; no establece que sus afirmaciones sean correctas. Compara los elementos mejor clasificados con la pregunta real del usuario, incluidas las exclusiones y las diferencias de versión de documentos. Si todos los candidatos son irrelevantes, de todos modos existe un elemento con la clasificación más alta. Decide cómo maneja tu aplicación ese caso usando consultas representativas de la colección.

Actualización y elección de la edición El fabricante describe rerank-3-lite como una actualización de rerank-2.5-lite con semántica de API sin cambios y puntuaciones calibradas con la distribución de su predecesor correspondiente. Conserva el mapeo de registros y la etapa de recuperación existentes; después compara el orden resultante en consultas significativas antes de confiar en un umbral de puntuación establecido. Usa Lite para una experiencia de búsqueda donde importe el tiempo de respuesta; usa la edición rerank-3 centrada en calidad como comparación cuando la relevancia de candidatos difíciles sea la prioridad mayor.