NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 — мультимодальная модель эмбеддингов NVIDIA для поиска. Она преобразует текст, изображения или комбинированные входы документов в векторы и поддерживает поиск по текстовому запросу в документах с таблицами, графиками, текстом и инфографикой.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
Llama Nemotron Embed VL 1B V2 — модель эмбеддингов NVIDIA для мультимодального поиска материалов при ответах на вопросы. Она может представить документ как текст, изображение или сочетание изображения и текста. Затем текстовый запрос можно использовать для нахождения связанных документов. Её опубликованный профиль поддерживает изображения документов с текстом, таблицами, графиками и инфографикой и возвращает векторы эмбеддингов.
Подготовьте идентифицируемые записи документов
Связывайте каждый вход с исходным документом, страницей или фрагментом, которые он представляет. Для визуальной страницы сохраняйте изображение и относящийся к нему сопутствующий текст. Для текстового фрагмента храните заголовок или обозначение раздела, когда это помогает понимать последующее совпадение. Эти идентификаторы источников делают найденную запись полезной как доказательную основу, а не только как числовой результат сходства.
Выбирайте границы записей по материалам, которые пользователю нужно найти. График и его объяснение могут находиться вместе; несвязанные страницы должны сохранять отдельную идентичность. Проверьте читаемость входа и наличие в тексте или изображении информации, которую должен находить предполагаемый запрос.
Текстовые запросы и векторный поиск
Роль модели — создавать векторы для поиска, с текстом в качестве формы запроса, описанной профилем. Обрабатывайте запрос и индексируемые записи в совместимой конфигурации эмбеддингов. Приложение хранит векторы, сравнивает их и возвращает соответствующие исходные записи. Найденный документ остаётся материалом для проверки или передачи на последующий шаг генерации ответа.
Полезный тестовый набор включает вопросы, которые пользователи действительно задают, и страницы, которые должны находиться. Проверяйте неверные или отсутствующие совпадения по исходному содержимому и границам записей. Храните полный идентификатор документа вместе с любым выбранным фрагментом или изображением, чтобы результат можно было проверить в контексте.
Лимит входа и результат поиска
Документированный профиль размещённого сервиса указывает до 131 072 токенов на вход. Разделяйте более крупные наборы источников на отдельные обозначенные входы и сохраняйте их взаимосвязи. Векторный выход профиля не является сгенерированным связным текстовым ответом или расшифровкой; последующий этап приложения может использовать найденные доказательные материалы для ответа на вопрос.
Завершённый результат поиска соединяет запрос, выбранные исходные записи и их идентификаторы. Сохраняйте модель эмбеддингов и подготовку входа, использованные для индекса, чтобы последующие изменения можно было отличать от изменений исходной коллекции.
Ailoot Ultra · Эмбеддинги POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeНачало
Llama Nemotron Embed VL 1B V2 — мультимодальная модель эмбеддингов NVIDIA для поиска. Она преобразует текст, изображения или комбинированные входы документов в векторы и поддерживает поиск по текстовому запросу в документах с таблицами, графиками, текстом и инфографикой.
- Допустимые входные данные
- Текст · token_ids
- Результаты
- embedding
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Эмбеддинги POST /v1/embeddings
- Входные данные
text,token_ids- Результат
embedding- Контекст
- 131 072 tokens
- Выходной формат
- json
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения nvidia/llama-nemotron-embed-vl-1b-v2:free | По умолчанию— |
Полеinput | Типstring|string[]|integer[]|integer[][] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 Условия: Непустой однородный пакет. ID токенов — неотрицательные целые числа. Входной бюджет: Максимум: 131 072 · Текстовая единица: байты UTF8 · Единица токенов: элементы массива токенов | По умолчанию— |
Полеencoding_format | Типstring | ТребованиеНеобязательно | Значения и ограничения float | По умолчаниюfloat |
Полеdimensions | Типinteger | ТребованиеНе поддерживается | Значения и ограничения Минимум: 1 | По умолчанию— |
Полеuser | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеsession_id | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеtrace | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеprovider | Типobject | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется | По умолчанию— |
Сочетания входных материалов
text_to_embedding
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, input |
Параметрinput_shapes | Контрактstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Контрактfloat |
Параметрdimensions_override | Контрактfalse |
Параметрmax_input_budget_units | Контракт131072 |
Параметрmultimodal_objects | Контрактfalse |
Параметрmaterial_types | Контрактtext, token_ids |
Жизненный цикл: synchronous_json
Сохраняйте индекс и размерность каждого вектора.
Название мультимодальной модели не означает допуск объектов изображений на этом конкретном маршруте.
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Стандартный тариф При выборе быстрого режима
- Режим flex
- Стандартный тариф При выборе режима flex
- Максимальная интенсивность рассуждений
- Стандартный тариф При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Ставки Ailoot
Цены по конфигурациям
| Конфигурация | Шкала ставок | Плата |
|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Плата Вход · Входные токены $0 / 1K токенов Выход · Выходные токены $0 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Эмбеддинги
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Получить и сохранить результаты
Ailoot Ultra · Эмбеддинги
json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте каждый вектор с его индексом. Число векторов должно совпадать с числом входных элементов; размерности должны быть согласованы.
Если нужно проверить исходный ответ
Отдельный эндпоинт заданий эмбеддингов не вводится.
Поля ответа
| Поле | Тип |
|---|---|
Полеobject | Типstring |
Полеmodel | Типstring |
Полеdata[].index | Типinteger |
Полеdata[].embedding | Типfinite float[] |
Полеusage | Типobject |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Какие входные данные и результаты доступны?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Какие поля использует запрос?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Какие ограничения действуют?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(байты UTF8);input.min_items:1