Cohere: Rerank v3.5

Cohere Rerank 3.5 es un modelo multilingüe para ordenar documentos candidatos y texto semiestructurado por relevancia. Evalúa cada candidato respecto a una consulta y devuelve una lista reordenada con puntuaciones de relevancia. Puede perfeccionar candidatos obtenidos mediante búsqueda por palabras clave o semántica y seleccionar pasajes para una respuesta con generación aumentada por recuperación. Su tarea consiste en mejorar el orden de las fuentes, en lugar de generar una respuesta libre o crear un índice nuevo del corpus.

El identificador exacto del productor es rerank-v3.5. Utiliza un contexto de 4096 tokens, distinto del contexto de 32K de Rerank 4 Pro y Fast. Los tokens de la consulta y del documento se contabilizan juntos en esa ventana por candidato. La guía de preparación específica del modelo trunca la consulta después de sus primeros 2048 tokens y describe fragmentos de documento de 4093 tokens antes de tener en cuenta la consulta. Mantén la consulta enfocada y prepara pasajes candidatos que contengan la información necesaria para valorar la relación solicitada.

Proporciona la consulta y una lista de cadenas de texto candidatas. Cada resultado incluye un índice que apunta a la posición original del documento y una puntuación de relevancia; top_n determina cuántos resultados ordenados conservar. Si se omite, el flujo documentado del productor devuelve todos los resultados. Conserva los identificadores de los documentos independientemente de la puntuación, de modo que el pasaje mejor situado pueda seguir vinculándose a la política, ficha de producto o mensaje original.

Rerank 3.5 admite más de 100 idiomas, con material en inglés y en otros idiomas. Una consulta puede contener varios aspectos de la necesidad, como el producto, la situación del usuario y el procedimiento deseado. Para los registros estructurados, la versión V2 eliminó los objetos de documento sin procesar y recomienda cadenas YAML. Ordena deliberadamente los campos útiles, colocando el contenido decisivo antes de los metadatos menos relevantes, porque las cadenas largas pueden truncarse. Esto sirve para títulos y contenido, atributos de productos o el asunto y cuerpo de un mensaje.

La referencia V2 del productor utiliza max_tokens_per_doc para truncar documentos, con un valor predeterminado de 4096. La guía de preparación de Cohere también describe la división de documentos largos en fragmentos; la entrada efectiva depende del flujo seleccionado y de sus ajustes de documento. Para un mayor control, prepara tú mismo pasajes identificables en lugar de suponer que todas las secciones de una fuente larga siguen visibles. Conserva suficiente contexto circundante para distinguir un pasaje que contiene la respuesta de otro que solo comparte su vocabulario.

Para mejorar el rendimiento de las solicitudes, la referencia actual recomienda no enviar más de 1,000 documentos a la vez. Las puntuaciones de relevancia se normalizan entre 0 y 1, pero sus valores dependen de la consulta y los candidatos y no constituyen una escala lineal de corrección. Utiliza la clasificación para identificar fuentes útiles. Si necesitas un umbral de puntuación, elige consultas representativas del dominio y pasajes de relevancia dudosa para que el umbral refleje la tarea real de recuperación.

Un flujo práctico de soporte puede reordenar secciones candidatas de una política de devoluciones para una pregunta sobre un artículo dañado y después pasar el texto de las fuentes seleccionadas a una etapa de redacción de respuestas. Una búsqueda de correo puede ordenar mensajes por un problema concreto y conservar el identificador original de cada mensaje en los resultados. El resultado útil es la lista ordenada de fuentes. Mantén vinculados a ese resultado el contexto más corto de Rerank 3.5 y la preparación de documentos V2, en lugar de sustituirlos por los límites de modelos posteriores.