VoyageAI by MongoDB: rerank-3

Voyage rerank-3 — текстовый реранкер, предназначенный для повышения качества найденных доказательных материалов. Получив запрос и список документов-кандидатов, он совместно рассматривает каждую пару и возвращает кандидатов в порядке релевантности. Эмбеддинги и ключевой поиск сначала могут сузить большую коллекцию до обозримого списка; затем rerank-3 более подробно оценивает его релевантность. На выходе приложение получает поисковые материалы с оценками, которые можно показать или передать отдельному этапу генерации ответа.

Rerank 3 с приоритетом качества Разработчик позиционирует rerank-3 как редакцию с приоритетом точности, а rerank-3-lite — как редакцию для поиска, чувствительного к задержке. Третье поколение обновляет базовую архитектуру и состав обучающих данных, особенно улучшая поиск по длинным документам и исходному коду по сравнению с соответствующими предшественниками 2.5. Разработчик оценивает модель на технической документации, коде, многоязычных материалах и других типах документов. Эти результаты подтверждают её поисковую роль; выбирайте редакцию на вопросах и документах-кандидатах, значимых для вашей коллекции.

Длинные документы с достаточным контекстом Длинный кандидат может содержать полезный контекст далеко за первым абзацем. Предоставьте связный раздел или документ с названием и важными окружающими материалами, чтобы модель могла оценить связь фактического вопроса с содержанием. Для поиска по правилам продукта сохраните заголовки и исключения вокруг нужного фрагмента. Если несколько найденных разделов относятся к одному источнику, сохраните идентификаторы документа и разделов; тогда приложение сможет показать происхождение выбранных доказательств.

Окно контекста делят запрос и каждый кандидат. Текущее руководство разработчика указывает 32 000 токенов для такой пары, включая запрос не длиннее 8000 токенов. Поэтому запрос на 3000 токенов оставляет каждому документу максимум 29 000 токенов. Подготавливайте ввод так, чтобы существенное содержание помещалось, особенно если длинное вступление или повторяющийся шаблонный текст иначе займут окно. Документированная опция усечения включена по умолчанию и может сокращать слишком длинный запрос или документ до оценки. Проверяйте сохранённый текст, когда важно расположение фрагмента.

Поиск кода и технических материалов На поисковом этапе помощника по программированию кандидаты могут содержать реализации функций, документацию API или технические объяснения в текстовом виде. Включите символы, сигнатуры и контекст, необходимые для различения похожих кандидатов. Запрос вроде «Найди функцию, которая нормализует пути, сохраняя завершающий разделитель» задаёт конкретное поведение для сопоставления. Добавьте значимые ограничения языка, платформы или версии. После ранжирования изучите выбранный код и его зависимости до использования в качестве контекста: оценка релевантности не доказывает соблюдение реализацией каждого заявленного требования.

Инструкции определяют релевантность Модель сохраняет возможность ранжирования по инструкциям, введённую в Rerank 2.5. Добавьте краткую инструкцию до или после запроса, если намерение пользователя требует уточнения. Для поиска по исследовательским документам объясните, что важнее: название, конкретный метод или область применения. Для внутреннего каталога укажите, касается ли запрос установки, устранения неполадок или совместимости. Согласуйте инструкцию с вопросом: дополнительные предпочтения, противоречащие основному запросу, могут изменить цель оптимизации ранжирования.

Подготовка документов-кандидатов и бюджетов На вход подаётся список текстовых строк. Извлеките пригодный текст из исходных документов, сохраните осмысленные границы разделов и упорядоченную карту записей рядом со списком. Разработчик допускает до 1000 документов в одном запросе. Он также устанавливает суммарный потолок ввода в 600 000 токенов: число токенов запроса, умноженное на число документов, плюс сумма всех токенов документов. Это отличается от ограничения контекста отдельной пары. Сокращение избыточного текста запроса сохраняет и ёмкость пары, и общий бюджет запроса.

Подсчитывайте токены для соответствующей модели, не предполагая, что число слов или символов равно числу токенов. Для больших кандидатов выбирайте связные фрагменты или делите материал по полезным заголовкам, сохраняя сведения о родительском источнике. Повторное ранжирование полезнее всего, когда первый поиск уже нашёл правдоподобных кандидатов: оно не может ранжировать отсутствующий источник, не попавший в список.

Ранжированные результаты и дальнейшее использование Результат содержит оценки релевантности и индексы исходных входных документов, отсортированные по убыванию релевантности. Опция top_k ограничивает число возвращаемых ранжированных результатов; иначе возвращаются все входные кандидаты. REST-интерфейс разработчика также позволяет включить текст документа. Используйте исходный индекс для восстановления названия, идентификатора источника и метаданных, нужных приложению, затем покажите выбранные элементы или поместите нужный текст в контекст доказательств для ответа.

Сверяйте первые результаты с вопросом и сохраняйте видимую идентичность источника. Высокое относительное место не проверяет фактическую точность документа, а список из одних слабых кандидатов всё равно имеет первый элемент. Разделяйте отбор по релевантности и решение о достаточности выбранных доказательств для ответа пользователю.

Переход между редакциями Разработчик описывает rerank-3 как прямую замену rerank-2.5 с той же семантикой API и оценками, откалиброванными под распределение соответствующего предшественника. Такая совместимость позволяет сохранить существующий этап поиска и соответствие записей. Прежде чем полагаться на переход, сравните значимые порядки результатов и пороги оценок на текущем корпусе. Сохраняйте rerank-3 и rerank-3-lite как разные варианты: общие ограничения и следование инструкциям не делают их приоритеты качества и задержки одинаковыми.