VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite — ориентированный на низкую задержку реранкер Voyage AI, следующий инструкциям и работающий с предоставленным набором текстовых кандидатов. Он сохраняет контекст в 32 000 токенов для пары «запрос — документ» и многоязычную поддержку, возвращая упорядоченный список оценок релевантности и исходных индексов документов.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
rerank-2.5-lite — облегчённая модель выпуска реранкеров 2.5 от Voyage AI. Разработчик описывает её как универсальную модель с балансом между задержкой и качеством оценки релевантности, со следованием инструкциям на естественном языке и многоязычной поддержкой. На вход она получает запрос и тексты-кандидаты, а на выходе возвращает уточнённый порядок этих кандидатов с оценками релевантности.
Облегчённая оценка релевантности на втором этапе
Модель Lite совместно обрабатывает каждую пару «запрос — документ» как кросс-энкодер. Она может идти после первого этапа поиска по эмбеддингам или лексического поиска, уточняя порядок выбранных там фрагментов. Это отличается от подготовки многократно используемого индекса эмбеддингов: реранкер рассматривает переданные запрос и текст документа вместе для текущей оценки релевантности.
Для интерактивного поиска справки передайте объяснения-кандидаты, которые могут ответить на вопрос пользователя. Сохраните достаточную часть каждого фрагмента, чтобы передать описанное поведение и связанные с ним оговорки, а также связь входного индекса с исходным элементом. Сосредоточенный набор кандидатов делает задачу ранжирования яснее, оставляя найденные доказательства пригодными для показа или последующего ответа.
Инструкции выражают приоритеты пользователя
Как и rerank-2.5, Lite принимает инструкции на естественном языке до или после запроса. В примерах разработчика они выделяют части документа, задают предпочтительный тип источника или добавляют контекст к неоднозначному слову. Приложение может передать постоянное предпочтение релевантности, а текущий вопрос — более конкретное.
Например, запрос поддержки может спрашивать, какой фрагмент объясняет ошибку, с инструкцией предпочитать шаги устранения неполадок общим описаниям продукта. Поиск по документам может запрашивать исходную формулировку правила вместо его обсуждения. Опишите нужные доказательства и сделайте инструкцию краткой. Инструкции влияют на оценки релевантности; строгие ограничения версии, даты или разрешений реализуйте при отборе кандидатов, не считая предпочтение релевантности гарантированным фильтром.
Прочитайте ранжирование и верните исходный фрагмент
Вывод отсортирован по убыванию релевантности. Каждый результат включает исходный индекс документа и оценку с плавающей точкой; необязательная настройка return-documents также возвращает соответствующий входной текст. Опция top-k определяет число возвращаемых первых результатов, а без неё возвращается ранжирование всех переданных кандидатов.
Используйте эти индексы для восстановления исходного фрагмента и его идентификатора. Повторно ранжированный кандидат может стать результатом поиска или доказательством для следующего шага RAG, но вывод представляет порядок предоставленных текстов, а не переписанный ответ. Оцените соответствие первых фрагментов и вопросу, и инструкции о релевантности, в том числе на языках и типах документов, реально присутствующих в коллекции.
Ограничения и практический бюджет кандидатов
Редакция 2.5 Lite имеет документированный максимум запроса в 8000 токенов и ограничение в 32 000 токенов для запроса вместе с каждым отдельным документом. Она отличается от более ранней rerank-2-lite с меньшим контекстом. Можно передать максимум 1000 документов; суммарный ввод ограничен 600 000 токенов по формуле: токены запроса, умноженные на число кандидатов, плюс сумма токенов документов-кандидатов.
Для задач, чувствительных к задержке, FAQ разработчика рекомендует rerank-2.5-lite с общим объёмом не более 200 000 токенов на запрос. Это практическая рекомендация ниже заявленного максимума, а не другое окно для отдельного документа. Более длинный запрос или инструкция учитываются один раз для каждой пары с кандидатом, поэтому и число кандидатов, и длина запроса влияют на итог.
Усечение включено по умолчанию и сокращает слишком длинный ввод запроса или документа до допустимого размера; отключение возвращает ошибку для слишком длинного запроса или пары. Намеренно подготавливайте компактных кандидатов с ответом, чтобы полезные доказательства не остались за границей усечения. Выбор меньшего числа выходных результатов через top-k не исключает остальных переданных кандидатов из расчёта токенов. Изучайте возвращённые исходные фрагменты и уточняйте подготовку ввода с учётом реальных вопросов, на которые должен отвечать поисковый интерфейс.
Ailoot Ultra · Переранжирование POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteНачало
rerank-2.5-lite — ориентированный на низкую задержку реранкер Voyage AI, следующий инструкциям и работающий с предоставленным набором текстовых кандидатов. Он сохраняет контекст в 32 000 токенов для пары «запрос — документ» и многоязычную поддержку, возвращая упорядоченный список оценок релевантности и исходных индексов документов.
- Допустимые входные данные
- Текст
- Результаты
- Ранжированные результаты
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Переранжирование POST /v1/rerank
- Входные данные
text- Результат
rerank- Выходной формат
- json
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеdocuments | Типarray | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения voyageai/rerank-2.5-lite | По умолчанию— |
Полеprovider | Типschema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеquery | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеsession_id | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеtop_n | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 | По умолчанию— |
Полеtrace | Типschema | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеuser | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеdocuments[].text | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Полеdocuments[].image | Типstring | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— |
Сочетания входных материалов
text_rerank · Обязательно: query, documents array with minItems1
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, query, documents |
Параметрmaterial_types | Контрактtext |
Параметрoptional_controls | Контрактprovider, session_id, top_n, trace, user |
Параметрmultimodal_input_binding | Контрактnull |
Жизненный цикл: synchronous
Передайте точный ID модели и сохраните полный нативный ответ.
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Ставки Ailoot
Цены по конфигурациям
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Расчётная единица | Плата |
|---|---|---|---|
| КонфигурацияБазовые тарифы на токены | Шкала ставокБазовая ставка | Расчётная единица— | Плата Вход · Входные токены — / 1K токенов Выход · Выходные токены — / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияUltra | Шкала ставок— | Расчётная единица/ 1K токенов | Плата Вход $0.00004 / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Переранжирование
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Получить и сохранить результаты
Ailoot Ultra · Переранжирование
json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняются каждый фактический индекс результата, конечное значение relevance_score и исходный объект документа. Индексы связаны с исходным массивом документов. Весь исходный JSON сохраняется и возвращается только после окончательного расчёта.
Если нужно проверить исходный ответ
Сохраните исходную операцию и полный либо частичный ответ; не повторяйте POST.
Поля ответа
| Поле | Тип |
|---|---|
Полеmodel | Типstring |
Полеid | Типstring |
Полеprovider | Типstring |
Полеresults[].index | Типinteger |
Полеresults[].relevance_score | Типnumber |
Полеresults[].document.text | Типstring |
Полеresults[].document.image | Типstring |
Полеusage.search_units | Типinteger |
Полеusage.total_tokens | Типinteger |
Полеusage.cost | Типnumber |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНедопустимое обязательное поле, представление или значение | Следующий шагИсправьте указанное поле запроса. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra voyageai/rerank-2.5-lite
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Какие входные данные и результаты доступны?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Какие поля использует запрос?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Какие ограничения действуют?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1