NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 — кросс-энкодер NVIDIA для упорядочивания найденного материала по релевантности запросу. Отправьте запрос и документы-кандидаты с текстом, изображением или их сочетанием, затем используйте возвращённые оценки и исходные индексы, чтобы выбрать отрывки для поисковой выдачи или ответа с дополнением из найденных источников.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Llama Nemotron Rerank VL 1B V2 оценивает релевантность текстов-кандидатов и изображений документов текстовому запросу, включая диаграммы, таблицы и страницы со смешанными медиа. NVIDIA описывает её как модель кросс-энкодера с 1,7 миллиарда параметров. В процессе поиска сначала выполните начальный поиск, затем отправьте выбранных кандидатов модели переранжирования. Полезный результат — переупорядоченный набор этих кандидатов с оценками релевантности, который приложение может использовать для выбора контекста ответа или организации страницы поисковой выдачи.
Используйте POST /v1/rerank с телом application/json. Задайте model как "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query — как фактический поисковый вопрос, а documents — как непустой массив. Каждый кандидат может быть текстовой строкой или объектом с text и/или image; структурированный объект должен предоставлять хотя бы одно из этих полей. text — строка. image — удалённый URL HTTP/HTTPS либо URI данных base64, начинающийся с data:image/. Комбинированный кандидат предоставляет оба поля. Сохраняйте порядок входного массива, чтобы возвращённые индексы можно было сопоставить с сохранёнными ID документов. top_n — необязательное целое число не меньше 1, запрашивающее количество наиболее высоко ранжированных документов для возврата.
Например, приложение справочного центра может найти отрывки о доставке, возврате и доступе к аккаунту, затем переранжировать их по вопросу клиента о доставке. Передавайте фактический текст отрывка вместо имён файлов или фрагментов поисковой выдачи, не связанных с сохранённым источником. Сохраняйте в приложении связь каждого отрывка с его собственным идентификатором источника, чтобы выбранное свидетельство можно было позднее процитировать или открыть. Для сканированного документа, диаграммы, таблицы или инфографики предоставьте фактическое изображение в объекте документа и добавьте текст, если это помогает определить содержимое.
Страница модели документирует ограничение в 10 240 токенов на запрос и документ. Разделяйте более длинный исходный материал на ограниченные отрывки до подготовки списка кандидатов. Сохраняйте полезный окружающий контекст каждого отрывка, включая заголовок или название продукта, если оно меняет смысл. Документированный запрос начинает работу с предоставленных вами кандидатов; он не выполняет поиск по коллекции документов от вашего имени.
Переранжирование возвращает синхронный результат JSON. Прочитайте каждый элемент results, включая исходный index, relevance_score и возвращённый объект document, который может содержать text и/или image, и сохраняйте возвращённые usage и идентификаторы ответа. Используйте index для сопоставления ранжированного результата с входным кандидатом. Рассматривайте оценку релевантности как сигнал ранжирования для этого запроса, а не как независимо проверенный фактический ответ. Сохраняйте полный результат, когда для следующего шага выбрано несколько отрывков.
Подготовьте общедоступный или синтетический материал кандидатов для этой бесплатной редакции; её документированные условия использования исключают конфиденциальную информацию и персональные данные. Если запрос заканчивается без полного результата, сохраняйте исходный ответ и идентификатор запроса при проверке этой попытки. Документированный процесс переранжирования возвращает результат напрямую и не предоставляет отдельного процесса опроса задания или отмены.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeНачало
Llama Nemotron Rerank VL 1B V2 — кросс-энкодер NVIDIA для упорядочивания найденного материала по релевантности запросу. Отправьте запрос и документы-кандидаты с текстом, изображением или их сочетанием, затем используйте возвращённые оценки и исходные индексы, чтобы выбрать отрывки для поисковой выдачи или ответа с дополнением из найденных источников.
- Допустимые входные данные
- Текст
- Результаты
- ranking
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Rerank POST /v1/rerank
- Входные данные
text- Результат
ranking- Выходной формат
- JSON
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения nvidia/llama-nemotron-rerank-vl-1b-v2:free | По умолчанию— |
Полеquery | Типstring | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеdocuments | Типarray | ТребованиеОбязательно | Значения и ограничения | По умолчанию— |
Полеtop_n | Типinteger | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 | По умолчанию— |
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, query, documents |
Параметрoptional | Контрактtop_n |
Параметрmaterial_types | Контрактtext |
Параметрconditions | Контракт |
Жизненный цикл: synchronous_json
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Ставки Ailoot
Цены по конфигурациям
Сопоставьте каждую плату с указанными условиями. Для каждого набора альтернативных конфигураций используйте одну ставку.
| Конфигурация | Шкала ставок | Расчётное количество | Плата |
|---|---|---|---|
| КонфигурацияБазовые тарифы на токены | Шкала ставокБазовая ставка | Расчётное количество— | Плата Вход · Входные токены — / 1K токенов Выход · Выходные токены — / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
| КонфигурацияЗа запрос | Шкала ставок— | Расчётное количествоОдин запрос | Плата Вход $0 за запрос |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Получить и сохранить результаты
Ailoot Ultra · Rerank
JSON
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Если нужно проверить исходный ответ
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Поля ответа
| Поле | Тип |
|---|---|
Полеresults | Типarray |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Какие входные данные и результаты доступны?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Какие поля использует запрос?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Какие ограничения действуют?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1