VoyageAI by MongoDB: rerank-2.5
rerank-2.5 переупорядочивает предоставленный набор текстовых кандидатов по релевантности запросу и необязательным инструкциям на естественном языке. Это многоязычный реранкер с приоритетом качества, контекстом в 32 000 токенов для пары «запрос — документ» и ранжированными оценками, связанными с исходными индексами кандидатов.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
rerank-2.5 — реранкер Voyage AI, следующий инструкциям и предназначенный для уточнения набора поисковых кандидатов. Он совместно рассматривает запрос и каждый документ как кросс-энкодер, затем возвращает порядок релевантности. В описании выпуска разработчик подчёркивает управление понятием релевантности через естественный язык, многоязычный поиск и более длинный контекст пары «запрос — документ», чем у предыдущей редакции rerank-2.
Передайте модели кандидатов для сравнения
На вход подаются запрос и список текстовых документов-кандидатов. Это могут быть фрагменты, выбранные поиском по эмбеддингам или лексическим поиском первого этапа. Реранкер оценивает переданный текст, а не создаёт эмбеддинги корпуса, поэтому его практическая задача — уточнить кандидатов, уже найденных первоначальным поиском.
При подготовке списка сохраняйте исходный порядок кандидатов и идентификаторы источников. Возвращаемые индексы относятся к этим входным позициям. Для задачи RAG предоставьте фрагменты, которые этап ответа действительно сможет использовать, включая название или оговорки, необходимые для их понимания. Релевантный документ, отсутствующий в переданном наборе кандидатов, не может появиться как вновь найденный результат ранжирования.
Укажите нужное понимание релевантности
Инструкции можно добавлять после или перед запросом. Выпуск описывает три полезные роли: выделить определённую часть документа, предпочесть тип источника и устранить неоднозначность запроса контекстом приложения. Они меняют задачу релевантности, которую получает модель.
Для технического поиска примером инструкции будет: «Отдавай приоритет фрагментам, объясняющим сбой и поведение при восстановлении; вводные обзоры второстепенны». Для исследовательской коллекции укажите, что важнее: название, метод или результат. Для неоднозначного термина укажите предметную область поиска. Согласуйте вопрос и инструкцию, чтобы один не запрашивал широкую тему, пока другая незаметно меняет задачу.
Эти предпочтения направляют оценку релевантности. Если приложение предъявляет строгие требования к допустимости — например, версии источника, дате или области доступа, — отдельно подготовьте допустимый набор кандидатов. Инструкция модели о релевантности и детерминированное ограничение коллекции решают разные задачи.
Ранжированный вывод и дальнейшее использование результата
Результаты упорядочены по убыванию релевантности и содержат оценку с плавающей точкой и исходный входной индекс кандидата. Опция top-k выбирает число возвращаемых первых результатов; без неё спецификация разработчика предусматривает результаты для всех переданных кандидатов. Необязательная настройка return-documents включает соответствующий исходный текст; иначе ответ содержит индексы и оценки.
Используйте порядок для отбора фрагментов к показу или последующему этапу ответа, сохраняя идентичность их источников. При оценке ранжирования изучайте сам текст: оценка измеряет релевантность переданному запросу, а не является сгенерированным ответом или проверкой истинности утверждений документа. Поэтому модель полезна для уточнения технических, юридических, финансовых, медицинских, разговорных и многоязычных поисковых материалов, не превращая ранжирование в предметное заключение.
Контекст, общий бюджет токенов и усечение
Документированный предел запроса — 8000 токенов, включая инструкции, размещённые в запросе. Запрос вместе с любым одним документом-кандидатом должен укладываться в 32 000 токенов, а список документов может содержать максимум 1000 элементов. Общий объём — 600 000 токенов, рассчитанный как число токенов запроса, умноженное на число документов, плюс все токены документов. Поэтому длинная инструкция многократно учитывается в парах с кандидатами.
Число выходных результатов top-k не меняет количество кандидатов в расчёте входных токенов. Усечение по умолчанию сокращает слишком длинные запросы или документы до ограничения контекста; при его отключении слишком длинный запрос или пара возвращают ошибку. Намеренно подготавливайте фрагменты с ответом и сохраняйте значимые оговорки в тексте, который увидит модель. Оцените уточнённый порядок на типичных вопросах и инструкциях, затем передайте выбранные исходные фрагменты следующему этапу.
Ailoot Ultra · Переранжирование POST /v1/rerank voyageai/rerank-2.5
voyageai/rerank-2.5Начало
rerank-2.5 переупорядочивает предоставленный набор текстовых кандидатов по релевантности запросу и необязательным инструкциям на естественном языке. Это многоязычный реранкер с приоритетом качества, контекстом в 32 000 токенов для пары «запрос — документ» и ранжированными оценками, связанными с исходными индексами кандидатов.
- Допустимые входные данные
- Текст
- Результаты
- Ранжированные результаты
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Переранжирование POST /v1/rerank
- Входные данные
text- Результат
rerank- Выходной формат
- json
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеdocuments | Типarray | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения voyageai/rerank-2.5 | По умолчанию— |
Полеprovider | Типschema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеquery | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеsession_id | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtop_n | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 | По умолчанию— |
Полеtrace | Типschema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеuser | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеdocuments[].text | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеdocuments[].image | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Сочетания входных материалов
text_rerank · Обязательно: query, documents array with minItems1
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, query, documents |
Параметрmaterial_types | Контрактtext |
Параметрoptional_controls | Контрактprovider, session_id, top_n, trace, user |
Параметрmultimodal_input_binding | Контрактnull |
Жизненный цикл: synchronous
Передайте точный ID модели и сохраните полный нативный ответ.
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Ставки Ailoot
Цены по конфигурациям
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Расчётная единица | Плата |
|---|---|---|---|
| КонфигурацияБазовые тарифы на токены | Шкала ставокБазовая ставка | Расчётная единица— | Плата Вход · Входные токены — / 1K токенов Выход · Выходные токены — / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияUltra | Шкала ставок— | Расчётная единица/ 1K токенов | Плата Вход $0.0001 / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Переранжирование
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Получить и сохранить результаты
Ailoot Ultra · Переранжирование
json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняются каждый фактический индекс результата, конечное значение relevance_score и исходный объект документа. Индексы связаны с исходным массивом документов. Весь исходный JSON сохраняется и возвращается только после окончательного расчёта.
Если нужно проверить исходный ответ
Сохраните исходную операцию и полный либо частичный ответ; не повторяйте POST.
Поля ответа
| Поле | Тип |
|---|---|
Полеmodel | Типstring |
Полеid | Типstring |
Полеprovider | Типstring |
Полеresults[].index | Типinteger |
Полеresults[].relevance_score | Типnumber |
Полеresults[].document.text | Типstring |
Полеresults[].document.image | Типstring |
Полеusage.search_units | Типinteger |
Полеusage.total_tokens | Типinteger |
Полеusage.cost | Типnumber |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНедопустимое обязательное поле, представление или значение | Следующий шагИсправьте указанное поле запроса. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra voyageai/rerank-2.5
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · VoyageAI by MongoDB: rerank-2.5
- Какие входные данные и результаты доступны?
POST /v1/rerank·voyageai/rerank-2.5:text→rerank- Какие поля использует запрос?
POST /v1/rerank·voyageai/rerank-2.5:documents,model,provider,query,session_id,top_n,trace,user- Какие ограничения действуют?
POST /v1/rerank·voyageai/rerank-2.5:top_n.minimum:1