VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite es la edición centrada en latencia de la serie Rerank 3 de Voyage. Recibe una consulta de texto y documentos candidatos, evalúa conjuntamente cada par consulta-documento y devuelve puntuaciones de relevancia en orden de clasificación. Actúa como segunda etapa de búsqueda: un recuperador por embeddings o palabras clave encuentra los candidatos y después Lite afina su orden. El resultado es una clasificación para utilizar en búsquedas o en un flujo de generación aumentada por recuperación.

Qué cambia en Rerank 3 Lite El productor destaca una recuperación mejorada en documentos extensos y código frente a rerank-2.5-lite. Ambas ediciones de Rerank 3 conservan el seguimiento de instrucciones y la misma clase de contexto de 32K, mientras que Lite está diseñada para aplicaciones sensibles a la latencia. Esto la convierte en una candidata práctica para búsqueda interactiva en bases de conocimiento, recuperación de documentos de soporte y consultas de código cuando los usuarios necesitan resultados pertinentes con rapidez. Elígela según los requisitos de calidad y tiempo de respuesta de la colección real, en lugar de asumir que una edición más pequeña implica una ventana de contexto menor.

Orienta la relevancia mediante la consulta La consulta puede acompañarse de instrucciones en lenguaje natural que expliquen qué se considera pertinente. Mantén concisas y coherentes la pregunta y la preferencia de relevancia. Para una búsqueda de soporte de software, utiliza «Encuentra el procedimiento para restablecer un dispositivo; prioriza las instrucciones para la revisión de hardware indicada». Para un nombre de producto ambiguo, incluye la categoría del producto para que no predominen significados sin relación. Una preferencia en la consulta orienta la puntuación semántica; utiliza metadatos explícitos de la colección para seleccionar el producto, la versión del documento o el ámbito de acceso correctos antes de construir la lista de candidatos.

Prepara una lista reducida de candidatos de texto Los documentos de entrada son cadenas de texto. Extrae texto legible del material de origen y conserva los títulos, encabezados, identificadores y contexto circundante útiles. Mantén una correspondencia estable entre cada posición de entrada y el registro original. Para un artículo de resolución de problemas, incluye el síntoma y el procedimiento pertinente, no solo una frase aislada. Para búsqueda de código fuente, incluye la función y la información cercana necesaria para distinguirla de otras funciones con nombres similares. Elimina la navegación repetitiva o el texto genérico cuando desplacen el pasaje útil.

El reclasificador solo puede reordenar los documentos que recibe. Si la primera búsqueda nunca recupera el artículo pertinente, esta etapa no puede recuperar ese candidato ausente. Examina tanto la lista reducida como el orden final cuando un resultado parezca incorrecto. Cuando un documento extenso abarque muchos temas, separa secciones coherentes y conserva sus referencias al documento principal para poder seleccionar una sección pertinente sin perder su fuente.

Límites de contexto y petición La guía actual del fabricante especifica un máximo de 8,000 tokens para la consulta y un máximo combinado de 32,000 tokens para la consulta más cada documento individual. Permite hasta 1,000 documentos candidatos y un presupuesto total de petición de 600,000 tokens, calculado como los tokens de consulta multiplicados por el número de documentos, más todos los tokens de los documentos. Por tanto, una consulta larga consume espacio en cada par y contribuye repetidamente al presupuesto agregado. Cuenta el texto enviado con el tokenizador del modelo adecuado en lugar de tratar caracteres, palabras y tokens como intercambiables.

Por ejemplo, una consulta de 500 tokens con 100 documentos de 4,000 tokens cada uno supone 450,000 tokens de entrada según esa fórmula. Esto ilustra la planificación del presupuesto, no un tamaño recomendado de lista reducida ni un resultado medido de velocidad. La opción documentada de truncamiento está activada por defecto; el texto demasiado largo puede acortarse antes de puntuarse. Prepara deliberadamente las secciones importantes para que el truncamiento no elimine precisamente el pasaje que necesitas encontrar.

Lee y utiliza el resultado Los resultados se ordenan de mayor a menor puntuación de relevancia. Cada resultado identifica la posición original del documento en la entrada, lo que permite a la aplicación añadir su propio título, identificador de registro y fuente. El ajuste top_k controla cuántos candidatos clasificados se devuelven; si se omite, se devuelven todos los candidatos. La interfaz REST del fabricante también puede devolver el texto del documento. Conserva los identificadores originales junto con los resultados seleccionados al mostrar una página de búsqueda o pasar pruebas a una etapa de generación de respuestas.

Una puntuación de relevancia expresa cuánto se ajusta un candidato a la consulta; no establece que sus afirmaciones sean correctas. Compara los elementos mejor clasificados con la pregunta real del usuario, incluidas las exclusiones y las diferencias de versión de los documentos. Si todos los candidatos son irrelevantes, sigue existiendo un elemento en primer lugar. Decide cómo debe tratar tu aplicación ese caso utilizando consultas representativas de la colección.

Actualización y elección de edición El fabricante describe rerank-3-lite como una actualización de rerank-2.5-lite con semántica de API sin cambios y puntuaciones calibradas según la distribución del predecesor correspondiente. Conserva la correspondencia existente de registros y la etapa de recuperación y compara después el orden resultante con consultas significativas antes de confiar en un umbral de puntuación establecido. Utiliza Lite para una experiencia de búsqueda donde importe el tiempo de respuesta; utiliza la edición rerank-3 centrada en calidad como comparación cuando la relevancia de candidatos difíciles sea la prioridad principal.