Cohere: Rerank v3.5

Cohere Rerank 3.5 es un modelo multilingüe para ordenar documentos candidatos y texto semiestructurado por relevancia. Evalúa cada candidato en relación con una consulta y devuelve una lista de resultados reordenada con puntuaciones de relevancia. Puede afinar candidatos obtenidos mediante búsquedas por palabras clave o semánticas y seleccionar pasajes para una respuesta aumentada con recuperación. Su tarea es mejorar el orden de la evidencia, en lugar de generar una respuesta libre o crear un índice nuevo del corpus.

El identificador exacto del productor es rerank-v3.5. Usa un contexto de 4096 tokens, distinto del contexto de 32K de Rerank 4 Pro y Fast. Los tokens de la consulta y del documento cuentan juntos dentro de esa ventana por candidato. La guía de preparación específica del modelo trunca una consulta después de sus primeros 2048 tokens y describe fragmentos de documentos de 4093 tokens antes de tomar en cuenta la consulta. Mantén la consulta enfocada y prepara pasajes candidatos que contengan la información necesaria para evaluar la relación solicitada.

Proporciona la consulta y una lista de cadenas de texto candidatas. Cada resultado incluye un índice que apunta a la posición del documento original y una puntuación de relevancia; top_n permite elegir cuántos resultados ordenados conservar. Si se omite, el flujo documentado del productor devuelve todos los resultados. Conserva los identificadores de los documentos por separado de la puntuación para que el pasaje mejor clasificado siga siendo rastreable hasta la política, el registro de producto o el mensaje original.

Rerank 3.5 admite más de 100 idiomas, incluido material en inglés y otros idiomas. Una consulta puede contener varios aspectos de la necesidad, como el producto, la situación del usuario y el procedimiento deseado. Para registros estructurados, la versión V2 eliminó los objetos de documento sin procesar y recomienda cadenas YAML. Ordena deliberadamente los campos útiles y coloca el contenido decisivo antes de los metadatos menos relevantes, porque las cadenas largas pueden truncarse. Esto funciona para títulos y contenido, atributos de productos o el asunto y cuerpo de un mensaje.

La referencia V2 del productor usa max_tokens_per_doc para truncar documentos, con un valor predeterminado de 4096. La guía de preparación de Cohere también describe la división de documentos largos en fragmentos; la entrada efectiva depende del flujo seleccionado y de su configuración de documentos. Para tener mayor control, prepara tú mismo pasajes identificables en lugar de suponer que todas las secciones de una fuente extensa seguirán visibles. Conserva suficiente contexto alrededor para distinguir un pasaje que contiene la respuesta de otro que solo comparte su vocabulario.

Para el rendimiento de las solicitudes, la referencia actual recomienda no enviar más de 1,000 documentos a la vez. Las puntuaciones de relevancia se normalizan entre 0 y 1, pero sus valores dependen de la consulta y de los candidatos y no constituyen una escala lineal de exactitud. Usa la clasificación para identificar evidencia útil. Si necesitas un umbral de puntuación, elige consultas representativas del dominio y pasajes de relevancia limítrofe para que el umbral refleje la tarea real de recuperación.

Un flujo práctico de soporte puede reordenar secciones candidatas de una política de devoluciones para una pregunta sobre un artículo dañado y después pasar el texto fuente seleccionado a una etapa de redacción de respuestas. Una búsqueda de correo puede clasificar mensajes por un problema específico y conservar el identificador original de cada mensaje con su resultado. El entregable útil es la lista ordenada de evidencia. Mantén asociados a ese resultado el contexto más corto de Rerank 3.5 y la preparación de documentos de V2, sin sustituirlos por los límites de modelos posteriores.