Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro — ориентированная на качество модель семейства Rerank 4 от Cohere. Она оценивает документы-кандидаты относительно запроса и возвращает их порядок релевантности и оценки. Модель предназначена для сложных поисковых задач, включая многоязычные документы и полуструктурированную информацию. Она включается в поиск или RAG-процесс после того, как существующая система собрала кандидатов: результат помогает выбрать фрагменты для показа или передачи как доказательств на следующий этап.

Идентификатор производителя — rerank-v4.0-pro, отдельный от rerank-v4.0-fast и rerank-v3.5. Pro предназначена для сложных случаев, где приоритет — качество поиска, а Fast нацелена на меньшую задержку и большую пропускную способность. Обе версии Rerank 4 используют контекст 32 768 токенов. Запрос и один документ-кандидат делят этот бюджет; это не отдельное полное окно для каждого поля ввода и не лимит всего хранимого поискового корпуса.

Предоставьте понятный запрос и список текстовых строк-кандидатов. Каждый возвращённый результат включает исходный индекс документа и оценку релевантности; top_n выбирает число возвращаемых ранжированных результатов, а без него производитель возвращает все. Сохраняйте идентификатор источника рядом с каждым вводом, чтобы связать ранжирование с точным фрагментом. Для вопроса поддержки сформулируйте нужные условия и предоставьте отобранные разделы правил, не ожидая, что реранкер найдёт правила, отсутствующие в списке.

Модель поддерживает более 100 языков и может переранжировать английские и иноязычные материалы. Для запроса с несколькими требованиями укажите условия полезности фрагмента, например продукт, ситуацию и нужную процедуру. Для полуструктурированных записей Cohere рекомендует строки YAML вместо передачи исходных объектов в списке документов V2. Сохраняйте значимые поля, например заголовок и содержимое, в продуманном порядке, поскольку усечение может удалить поздние поля. Такая подготовка полезна для записей товаров, сообщений, метаданных документов и обычного текста.

Руководство подготовки для модели ограничивает запрос Rerank 4 первыми 16 384 токенами. Оно описывает обработку длинных документов через фрагменты, делящие контекст 32 768 токенов с запросом и зарезервированными токенами. Текущий справочник V2 отдельно задаёт max_tokens_per_doc по умолчанию 4096 и говорит, что более длинные строки документов усекаются до этой настройки. Рассматривайте окно модели и усечение документа в запросе производителя как разные настройки. Готовьте короткие релевантные фрагменты или выбирайте подходящий бюджет документа, не предполагая, что любой длинный источник всегда читается полностью.

Для рекомендуемой производительности Cohere советует не отправлять более 1 000 документов одновременно. Сохраняйте идентификаторы кандидатов при разбиении большого списка на управляемые группы. Оценки релевантности нормализованы между 0 и 1, но зависят от запроса и кандидатов; они не являются линейной мерой фактической правильности. Используйте порядок как основной результат поиска. Если фильтруете по порогу, определяйте его на репрезентативных запросах и погранично релевантных фрагментах реальной предметной области, не предполагая универсальный порог.

Полезный итоговый артефакт — ранжированный список кандидатов с идентификаторами источников и оценками, готовый для выдачи поиска или выбора доказательств. Документ с высокой релевантностью всё ещё может содержать устаревшую или неверную информацию, поэтому сохраняйте источник и содержимое для использующего их этапа. Назначение Pro — оценка релевантности, а не свободный ответ или генерация эмбеддингов. Сохраняйте точную версию Pro с результатом при сравнении или доработке поискового процесса.