NVIDIA: Nemotron 3 Embed 1B (free)

NVIDIA Nemotron 3 Embed 1B көптілді сұраулар мен үзінділерді іздеу және RAG үшін 2048 өлшемді векторларға айналдырады. Оның құжатталған отбасы 32,768 токендік тізбекті және қайта нормализацияланған қысқартылған вектор өлшемдерін қолдайды.

Ailoot Ultra · Эмбеддингтер POST /v1/embeddings nvidia/nemotron-3-embed-1b:free

Модель туралы

Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.

Nemotron 3 Embed 1B — NVIDIA-ның көптілді және тіларалық іздеуге, семантикалық ұқсастыққа арналған мәтіндік эмбеддинг модельдер тобы. Ол сұрақты немесе үзіндіні іздеу жүйесі басқа мәтін көрсетілімдерімен салыстыра алатын тығыз векторға айналдырады. Өндіруші құжатталған 1B шығарылымдарын отыз төрт тілдік баптау мен тілдік нұсқада, соның ішінде ағылшын, араб, қытай, орыс, жапон, корей және Hinglish тілдерінде бағалайды.

Энкодер және көрсетілім

Өндірушінің модель карточкасы Ministral 3 негізінде алынған сиретілген, екібағытты трансформерді сипаттайды. Оның шамамен 1,14 миллиард параметрі бар және әр мәтінге бір эмбеддинг алу үшін токен деңгейіндегі көрсетілімдердің орташа мәнін есептейді. Төл шығысы — 2048 өлшемді жылжымалы нүктелі вектор. Бұл эмбеддингі жасалатын сұраққа жазбаша жауап емес, іздеуге арналған көрсетілім.

Өндіруші осы көрсетілімнің бірінші бөлігін, мысалы 1024 немесе 512 өлшемін сақтауды да қолдайды. Қысқартылған векторды қиып алғаннан кейін қайта L2 нормалау керек. Іздеу тапсырмасының сұрау және корпус жақтарында таңдалған көрсетілім ұзындығы мен нормалауды бірізді ұстаңыз. Вектор ұзындығы мен кіріс тізбегінің ұзындығы — бөлек қасиеттер.

Сұрау мен үзіндіні дайындау

Құжатталған іздеу тәртібі сұрақ үшін «query:», құжат мәтіні үшін «passage:» қолданады. Өндіруші мысалдары кодтау алдында осы рөлдерді қосып, нормаланған векторларды косинустық ұқсастыққа тең скалярлық көбейтіндімен салыстырады. Өңделмеген корпус көрсетілімін басқаша дайындалған сұраумен араластырмай, таңдалған үдеріс күтетін дайындауды пайдаланыңыз.

Практикалық жинақта техникалық түсіндірмелер, ережелер немесе кодқа қатысты құжаттама болуы мүмкін. Функцияның белгілі бір жағдайды қалай өңдейтіні туралы сұрақ сол әрекетті сипаттайтын бастапқы үзіндіні немесе код үзіндісін табуы тиіс. Нақты үзінді мәтінімен бірге идентификаторларды, тақырыптарды және тиісті шарттарды сақтаңыз. Вектор кандидатты іздеуге қолжетімді етеді; сақталған дереккөзді оқырман немесе кейінгі RAG жауап кезеңі қолданады.

Ұзын бастапқы материал

Құжатталған ең үлкен тізбек ұзындығы — 32 768 токен. Модель көлемді мәтінді қабылдай алса да, үзінді шекараларын саналы таңдаңыз. Толық бөлім анықтама мен оның ерекшеліктерін сақтай алады; мақсатты үзінді нақты жауапты тексеруді жеңілдетеді. Модель терезесінен асқан кірістерді бөлу немесе қысқарту қажет, сондықтан алынып тасталған соңын көрсетілімге енген мазмұн деп қабылдамаңыз.

Эмбеддингі жасалған әр элементті өзінің негізгі құжатымен және нұсқасымен байланыстырыңыз. Есеп үшін бөлім тақырыбын және сұраққа қатысты қорытындының айналасындағы түсіндірмені сақтаңыз. Код іздеу үшін үзіндімен бірге функция атауын, тиісті интерфейсті және әрекетін сақтаңыз. Бұл іздеу кезеңі кандидатты қайтарғанда нақты бастапқы материал береді.

Топ нұсқалары және нәтижені пайдалану

NVIDIA 1B тобының BF16 және NVFP4 нұсқаларын құжаттайды. Квантталған модель карточкасы осы екі шығарылымның эмбеддинг кеңістігі ортақ екенін айтып, нұсқа ауыстырғанда өкілдік материалда іздеу сапасын тексеруді ұсынады. Мәлімделген ортақ көрсетілім — 2048 шығыс мәні бар кез келген модельге ортақ ереже емес, осы аталған жұп туралы өндірушінің мәлімдемесі.

Пайдалы нәтиже — моделі, өлшем таңдауы және дайындауы тіркелген сұрау векторы немесе индекстелген бастапқы жинақ. Кандидат мәтінін идентификаторымен бірге қайтарып, қажетті ақпаратты беретін-бермейтінін тексеріңіз. Өндіруші іздеу моделі әр сұраққа дұрыс үзіндіні табуға кепілдік бермейтінін нақты ескертеді; кейінгі қайта ранжирлеу немесе жауап кезеңі осы кандидаттармен өзінің бөлек тапсырмасы ретінде жұмыс істейді.

Ailoot Ultra · Эмбеддингтер POST /v1/embeddings nvidia/nemotron-3-embed-1b:free

nvidia/nemotron-3-embed-1b:free

NVIDIA /nvidia/nemotron-3-embed-1b:free

Бастау

Қабылданатын кіріс деректері: Мәтін · token_ids
Нәтижелер: embedding

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot Ultra · Эмбеддингтер POST /v1/embeddings

Кіріс: text, token_ids
Шығыс: embedding
Контекст: 32 768 tokens
Шығыс пішімі: json

Өріс	Түрі	Талап	Мәндер мен шектеулер	Әдепкі
Өріс`model`	Түрі`string`	ТалапМіндетті	Мәндер мен шектеулер nvidia/nemotron-3-embed-1b:free	Әдепкі—
Өріс`input`	Түрі`string\|string[]\|integer[]\|integer[][]`	ТалапМіндетті	Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 32 768 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері	Әдепкі—
Өріс`encoding_format`	Түрі`string`	ТалапМіндетті емес	Мәндер мен шектеулер float	Әдепкіfloat
Өріс`dimensions`	Түрі`integer`	ТалапҚолдау көрсетілмейді	Мәндер мен шектеулер Ең азы: 1	Әдепкі—
Өріс`user`	Түрі`json_value`	ТалапМіндетті емес	Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты.	Әдепкі—
Өріс`session_id`	Түрі`json_value`	ТалапМіндетті емес	Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты.	Әдепкі—
Өріс`trace`	Түрі`json_value`	ТалапМіндетті емес	Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты.	Әдепкі—
Өріс`provider`	Түрі`object`	ТалапМіндетті емес	Мәндер мен шектеулер Шарттар: provider.options қабылданбайды	Әдепкі—

Кіріс материалдарының үйлесімдері

text_to_embedding

Әдіс параметрлері мен өмірлік циклі

Параметр	Параметр талаптары
Параметр`content_type`	Параметр талаптарыapplication/json
Параметр`required`	Параметр талаптарыmodel, input
Параметр`input_shapes`	Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[]
Параметр`encoding_format`	Параметр талаптарыfloat
Параметр`dimensions_override`	Параметр талаптарыfalse
Параметр`max_input_budget_units`	Параметр талаптары32768
Параметр`multimodal_objects`	Параметр талаптарыfalse
Параметр`material_types`	Параметр талаптарыtext, token_ids

Өмірлік цикл: synchronous_json

Әрбір вектордың индексін және өлшемін сақтаңыз.

Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.

Тарифтер

Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.

Жылдам режим: Стандартты тариф Жылдам режим таңдалғанда
Икемді режим: Стандартты тариф flex режимі таңдалғанда
Ой қорытудың ең жоғары деңгейі: Стандартты тариф Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда

Ailoot мөлшерлемелері

Баптаулар бойынша бағалар

Баптау	Мөлшерлемелер кестесі	Төлем
БаптауТокендердің базалық тарифтері	Мөлшерлемелер кестесіНегізгі мөлшерлеме	Төлем Кіріс · Кіріс токендері $0 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot Ultra · Эмбеддингтер

curlPython SDK

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT

from openai import OpenAI
import os

client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)

Нәтижелерді алу және сақтау

Ailoot Ultra · Эмбеддингтер

json

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.

Бастапқы жауапты тексеру қажет болса

Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.

Жауап өрістері

Өріс	Түрі
Өріс`object`	Түріstring
Өріс`model`	Түріstring
Өріс`data[].index`	Түріinteger
Өріс`data[].embedding`	Түріfinite float[]
Өріс`usage`	Түріobject

Қателер және келесі қадамдар

Жауап	Шарт	Келесі қадам
Жауап400 · `invalid_request_error`	ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате	Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз.

Балама атаулар

Модельдердің балама атаулары

Ailoot Ultra nvidia/nemotron-3-embed-1b:free

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

nvidia/nemotron-3-embed-1b:free

FAQ · NVIDIA: Nemotron 3 Embed 1B (free)

Қандай кіріс деректері мен нәтижелер қолжетімді?: POST /v1/embeddings · nvidia/nemotron-3-embed-1b:free: text, token_ids → embedding
Сұрау қандай өрістерді пайдаланады?: POST /v1/embeddings · nvidia/nemotron-3-embed-1b:free: model, input, encoding_format, provider
Қандай шектеулер қолданылады?: POST /v1/embeddings · nvidia/nemotron-3-embed-1b:free: ctx: 32768; input.budget.maximum: 32768 (UTF8 байттары); input.min_items: 1

NVIDIA: Nemotron 3 Embed 1B (free)