Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast — облегчённая версия Rerank 4 для поисковых задач с меньшей задержкой и большей пропускной способностью. Она принимает запрос и документы-кандидаты, затем возвращает их порядок релевантности и оценки. Она полезна для интерактивного поиска, повторяющегося выбора доказательств и приложений, которым нужно переупорядочить существующий список результатов. Fast отличается от Rerank 4 Pro, предназначенной для более сложных случаев с приоритетом качества поиска.

Код производителя — rerank-v4.0-fast. Как и Pro, она имеет контекст 32 768 токенов и многоязычный охват более 100 языков. Запрос и один документ делят контекст; это не размерность вектора и не бюджет всего индексированного корпуса. Предоставьте тексты кандидатов для сравнения, не ожидая от модели извлечения документов из непереданного источника.

Документированный результат содержит исходный индекс документа и relevance_score. top_n выбирает число возвращаемых результатов, а его отсутствие возвращает полный ранжированный список. Сохраняйте идентификаторы источников рядом с вводом, чтобы соединить новый порядок с реальными фрагментами. Для поиска товаров опишите нужные характеристики в запросе и переранжируйте описания кандидатов; более высокий ранг должен оставаться связанным с записью товара, которая его получила.

Модель работает с английскими и иноязычными документами и полуструктурированными записями. В процессе V2 документы передаются строками, а Cohere рекомендует представлять структурированные данные как YAML. Размещайте важные поля первыми и сохраняйте их порядок, чтобы усечение не отбросило содержимое для оценки релевантности. Запись поддержки может содержать заголовок, продукт и текст процедуры; сообщение — тему и тело. Эти явные связи дают ранжировщику информацию сверх списка совпадающих ключевых слов.

Лимит запроса для модели в руководстве подготовки Cohere — 16 384 токена, причём запрос и документ расходуют общий контекст. Руководство описывает обработку длинных документов по фрагментам, а справочник V2 отдельно задаёт усечение документов по умолчанию до 4096 токенов через max_tokens_per_doc. Проверяйте эту фактическую настройку документа, не предполагая, что всё окно 32K всегда используется. Подготовьте релевантные фрагменты или подходящий бюджет документа для реальной поисковой задачи.

Для рекомендуемой производительности Cohere советует не передавать более 1 000 документов в одном запросе. Делите более крупные наборы кандидатов на управляемые группы, сохраняя идентификаторы. Выходные оценки нормализованы от 0 до 1 и зависят от запроса и фрагментов. Их порядок — ключевой результат; оценка не является линейным множителем релевантности или доказательством правильности фрагмента. Устанавливайте порог фильтрации на репрезентативных запросах и погранично релевантных фрагментах предметной области.

Полезный результат Fast — ранжированный список, который может сразу управлять поисковой выдачей или выбирать доказательства для написания ответа. Сохраняйте исходный текст с оценкой и проверяйте, действительно ли лучшие результаты отвечают запрошенным условиям. Роль Fast — поисковое ранжирование, а не генерация нового объяснения или вектора эмбеддинга. Сохраняйте согласованность именованной версии и подготовки ввода при доработке поведения релевантности.