Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast es la edición más ligera de Rerank 4, orientada a tareas de recuperación con menor latencia y mayor capacidad de procesamiento. Recibe una consulta y documentos candidatos, y devuelve su orden de relevancia y sus puntuaciones. Resulta útil para búsqueda interactiva, selección repetida de fuentes y aplicaciones que necesitan reordenar una lista de resultados existente. Fast sigue siendo una edición distinta de Rerank 4 Pro, orientada a casos más complejos en los que prima la calidad de recuperación.

El código del productor es rerank-v4.0-fast. Al igual que Pro, tiene un contexto de 32,768 tokens y cobertura multilingüe de más de 100 idiomas. La consulta y un documento comparten el contexto; no es una dimensión vectorial ni un presupuesto para todo un corpus indexado. Proporciona los textos candidatos que deban compararse, en lugar de esperar que el modelo recupere documentos de una fuente que no se le ha facilitado.

El resultado documentado incluye el índice original del documento y relevance_score. top_n selecciona cuántos resultados se devuelven, mientras que omitirlo devuelve la lista ordenada completa. Conserva los identificadores de fuente junto a las entradas para asociar el nuevo orden con los pasajes reales. En una búsqueda de productos, describe en la consulta los atributos necesarios y reordena las descripciones candidatas; una posición superior debe seguir vinculada a la ficha de producto que la originó.

El modelo puede trabajar con documentos en inglés y en otros idiomas, así como con registros semiestructurados. En el flujo V2, las entradas de documento son cadenas, y Cohere recomienda representar los datos estructurados como YAML. Coloca primero los campos importantes y conserva su orden para que un truncamiento no descarte el contenido necesario para valorar la relevancia. Un registro de soporte puede contener el título, el producto y el texto del procedimiento; un mensaje puede contener su asunto y cuerpo. Estas relaciones explícitas aportan al clasificador información más allá de una lista de palabras clave coincidentes.

El límite de consulta específico del modelo en la guía de preparación de Cohere es de 16,384 tokens, y la consulta y el documento consumen el contexto compartido. La guía describe el procesamiento por fragmentos de documentos más largos, mientras que la referencia V2 establece por separado un truncamiento predeterminado de documentos a 4096 tokens mediante max_tokens_per_doc. Comprueba ese ajuste efectivo de documento en lugar de suponer que siempre se utiliza toda la ventana de 32K del modelo. Prepara pasajes pertinentes o un presupuesto de documento adecuado para la tarea real de recuperación.

Para el rendimiento recomendado, Cohere aconseja no superar los 1,000 documentos en una solicitud. Divide los conjuntos mayores de candidatos en grupos manejables conservando sus identificadores. Las puntuaciones de salida se normalizan de 0 a 1 y dependen de la consulta y los pasajes. El orden es el resultado clave; una puntuación no es un múltiplo lineal de relevancia ni demuestra que un pasaje sea correcto. Establece cualquier umbral de filtrado con consultas representativas y pasajes de relevancia dudosa del dominio.

Un resultado útil de Fast es una lista ordenada que puede alimentar de inmediato una vista de búsqueda o seleccionar fuentes para una etapa de redacción de respuestas. Conserva el texto fuente con la puntuación y revisa si los primeros resultados responden realmente a las condiciones solicitadas. La función de Fast es ordenar resultados de recuperación, no generar una nueva explicación ni un vector de embeddings. Mantén coherentes la edición identificada y la preparación de entradas al perfeccionar su comportamiento de relevancia.