Cohere: Rerank v3.5

Cohere Rerank 3.5 — многоязычная модель ранжирования релевантности отобранных документов и полуструктурированного текста. Она оценивает каждого кандидата относительно запроса и возвращает переупорядоченный список с оценками релевантности. Она может уточнять кандидатов, полученных ключевым или семантическим поиском, и выбирать фрагменты для ответа с дополнением поисковыми материалами. Её задача — улучшать порядок доказательств, а не генерировать свободный ответ или создавать новый индекс корпуса.

Точный идентификатор производителя — rerank-v3.5. Она использует контекст 4096 токенов, отличающийся от контекста 32K моделей Rerank 4 Pro и Fast. Токены запроса и документа вместе расходуют это окно на кандидата. Руководство подготовки для модели усекает запрос после первых 2048 токенов и описывает фрагменты документа по 4093 токена до учёта запроса. Сохраняйте запрос целевым и готовьте фрагменты-кандидаты с информацией для оценки требуемой связи.

Предоставьте запрос и список текстовых строк-кандидатов. Каждый результат несёт индекс исходной позиции документа и оценку релевантности; top_n выбирает число сохраняемых ранжированных результатов. Без него документированный процесс производителя возвращает все результаты. Сохраняйте идентификаторы документов независимо от оценки, чтобы лучший фрагмент прослеживался до исходных правил, записи товара или сообщения.

Rerank 3.5 поддерживает более 100 языков, включая материалы на английском и других языках. Запрос может содержать несколько аспектов потребности: продукт, ситуацию пользователя и нужную процедуру. Для структурированных записей выпуск V2 убрал исходные объекты документов и рекомендует строки YAML. Размещайте полезные поля в продуманном порядке, с решающим содержимым перед менее важными метаданными, поскольку длинные строки могут усекаться. Это подходит для заголовков и содержимого, характеристик товара или темы и тела сообщения.

Справочник V2 производителя использует max_tokens_per_doc для усечения документов, со значением по умолчанию 4096. Руководство подготовки Cohere также описывает разбиение длинных документов; фактический ввод зависит от выбранного процесса и настроек документов. Для большего контроля готовьте идентифицируемые фрагменты сами, не предполагая, что каждый раздел длинного источника остаётся видимым. Сохраняйте достаточно окружающего контекста, чтобы отличить фрагмент с ответом от фрагмента лишь с похожей лексикой.

Для производительности запросов текущий справочник рекомендует не отправлять более 1 000 документов одновременно. Оценки релевантности нормализованы между 0 и 1, но зависят от запроса и кандидатов и не являются линейной шкалой правильности. Используйте ранжирование для выявления полезных доказательств. Если нужен порог оценки, выбирайте репрезентативные запросы предметной области и погранично релевантные фрагменты, чтобы порог отражал реальную поисковую задачу.

Практический процесс поддержки может переранжировать разделы правил возврата для вопроса о повреждённом товаре, затем передать выбранный исходный текст на этап написания ответа. Поиск по почте может ранжировать сообщения по конкретной проблеме и сохранять исходный идентификатор каждого сообщения. Полезный артефакт — упорядоченный список доказательств. Сохраняйте с результатом короткий контекст Rerank 3.5 и подготовку документов V2, не подставляя лимиты более поздних моделей.