NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 — NVIDIA-ның іздеуге арналған мультимодальді эмбеддинг моделі. Мәтінді, суреттерді немесе біріктірілген құжат кірістерін векторларға айналдырады және кесте, график, мәтін мен инфографикасы бар құжаттардан мәтіндік сұраумен іздеуді қолдайды.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
Llama Nemotron Embed VL 1B V2 — NVIDIA-ның сұрақтарға жауап беруге арналған мультимодальді материал іздеу эмбеддинг моделі. Ол құжатты мәтін, сурет немесе сурет пен мәтіннің үйлесімі ретінде көрсете алады. Одан кейін мәтіндік сұраумен байланысты құжаттарды табуға болады. Жарияланған профилі мәтін, кесте, график және инфографикасы бар құжат суреттерін қолдап, эмбеддинг векторларын қайтарады.
Сәйкестендіруге болатын құжат элементтерін дайындаңыз
Әр кірісті өзі көрсететін бастапқы құжатпен, бетпен немесе үзіндімен байланыстырыңыз. Көрнекі бет үшін суретті және оған жататын ілеспе мәтінді сақтаңыз. Мәтін үзіндісінде кейінгі сәйкестікті түсіндіруге көмектессе, тақырыбын немесе бөлім белгісін сақтаңыз. Осы дереккөз идентификаторлары табылған элементті тек сандық ұқсастық нәтижесі емес, дәлел ретінде пайдалы етеді.
Элемент шекараларын пайдаланушы табуы қажет материалға сай таңдаңыз. График пен оның түсіндірмесі бірге болуы мүмкін; қатысы жоқ беттерді дербес элементтер ретінде сақтау керек. Кірістің оқуға жарамдылығын және мәтін не суретте көзделген сұрау табуы тиіс ақпарат бар-жоғын тексеріңіз.
Мәтіндік сұраулар және векторлық іздеу
Модельдің рөлі — іздеуге арналған векторлар жасау; профильде сұрау пішімі ретінде мәтін сипатталған. Сұрау мен индекстелген элементтерге үйлесімді эмбеддинг баптауларын қолданыңыз. Қолданба векторларды сақтайды, салыстырады және тиісті бастапқы элементтерді қайтарады. Табылған құжат тексерілетін немесе кейінгі жауап генерациялау қадамына берілетін материал болып қалады.
Пайдалы сынақ жиыны пайдаланушылар нақты қоятын сұрақтар мен табылуы тиіс беттерді қамтиды. Қате немесе табылмаған сәйкестіктерді бастапқы мазмұн мен элемент шекараларына сүйеніп тексеріңіз. Нәтижені контекстінде тексеру үшін кез келген таңдалған үзіндімен немесе суретпен бірге толық құжат идентификаторын сақтаңыз.
Кіріс шегі және іздеу нәтижесі
Хостингтегі қызметтің құжатталған профилі әр кіріске 131 072 токенге дейін көрсетеді. Үлкен бастапқы жиындарды бөлек белгіленген кірістерге бөліп, олардың байланысын сақтаңыз. Профильдің векторлық шығысы генерацияланған тұтас мәтіндік жауап немесе транскрипт емес; қолданбаның кейінгі кезеңі табылған дәлелдерді сұраққа жауап беруге қолдана алады.
Аяқталған іздеу нәтижесі сұрауды, таңдалған бастапқы элементтерді және олардың идентификаторларын байланыстырады. Кейінгі өзгерістерді бастапқы жинақ өзгерісінен ажырату үшін индекске қолданылған эмбеддинг моделі мен кіріс дайындауын сақтаңыз.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeБастау
Llama Nemotron Embed VL 1B V2 — NVIDIA-ның іздеуге арналған мультимодальді эмбеддинг моделі. Мәтінді, суреттерді немесе біріктірілген құжат кірістерін векторларға айналдырады және кесте, график, мәтін мен инфографикасы бар құжаттардан мәтіндік сұраумен іздеуді қолдайды.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Контекст
- 131 072 tokens
- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер nvidia/llama-nemotron-embed-vl-1b-v2:free | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 131 072 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары131072 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Стандартты тариф Жылдам режим таңдалғанда
- Икемді режим
- Стандартты тариф flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Стандартты тариф Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8 байттары);input.min_items:1