NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B qidiruv va RAG uchun koʻp tilli soʻrovlar hamda parchalarni 2048 oʻlchamli vektorlar sifatida ifodalaydi. Uning hujjatlashtirilgan oilasi 32,768 tokenli ketma-ketlikni va qayta normallashtirish bilan kichraytirilgan vektor oʻlchamlarini qoʻllaydi.
Model haqida
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Nemotron 3 Embed 1B — ko‘p tilli va tillararo qidiruv hamda semantik o‘xshashlik uchun NVIDIA’ning matn embedding oilasi. U savol yoki parchani qidiruv tizimi boshqa matn ifodalari bilan taqqoslay oladigan zich vektorga aylantiradi. Ishlab chiqaruvchi hujjatlashtirilgan 1B relizlarini o‘ttiz to‘rtta til va til varianti sozlamasida, jumladan ingliz, arab, xitoy, rus, yapon, koreys tillari va Hinglish’da baholaydi.
Enkoder va ifoda
Ishlab chiqaruvchining model kartasi Ministral 3’dan olingan, qisqartirilgan ikki yo‘nalishli transformerni tavsiflaydi. U taxminan 1,14 milliard parametrga ega va har matn uchun bitta embedding olishda token darajasidagi ifodalarning o‘rtachasini oladi. Asl chiqish 2048 o‘lchamli suzuvchi nuqtali vektordir. Bu embedding qilinayotgan savolga yozma javob emas, qidiruv ifodasidir.
Ishlab chiqaruvchi shu ifodaning boshlang‘ich qismini, masalan 1024 yoki 512 o‘lchamni saqlashni ham qo‘llaydi. Qisqartirilgan vektorni kesishdan keyin yana L2 normallash kerak. Qidiruv vazifasining so‘rov va korpus tomonlarida tanlangan ifoda uzunligi hamda normallash izchil bo‘lsin. Vektor uzunligi va kirish ketma-ketligi uzunligi alohida xususiyatlardir.
So‘rov va parchani tayyorlash
Hujjatlashtirilgan qidiruv qoidasi savol uchun “query:”, hujjat matni uchun “passage:”dan foydalanadi. Ishlab chiqaruvchi misollari kodlashdan oldin shu rollarni qo‘llaydi va normallangan vektorlarni kosinus o‘xshashligiga teng skalyar ko‘paytma bilan taqqoslaydi. Xom korpus ifodasini boshqacha tayyorlangan so‘rov bilan aralashtirish o‘rniga, tanlangan jarayon kutadigan tayyorlash usulidan foydalaning.
Amaliy to‘plam texnik izohlar, siyosatlar yoki kodga oid hujjatlarni saqlashi mumkin. Funksiya muayyan holatni qanday qayta ishlashi haqidagi savol shu xulqni tavsiflovchi manba parchasi yoki kod bo‘lagini topishi kerak. Haqiqiy parcha matni bilan identifikatorlar, sarlavhalar va tegishli shartlarni saqlang. Vektor nomzodni qidiriladigan qiladi; saqlangan manba esa o‘quvchi yoki keyingi RAG javob bosqichi ishlatadigan materialdir.
Uzunroq manba materiali
Hujjatlashtirilgan maksimal ketma-ketlik uzunligi 32 768 token. Model ko‘p matnni sig‘dira olsa ham parcha chegaralarini ongli tanlang. To‘liq bo‘lim ta’rif va istisnolarini saqlashi, aniq yo‘naltirilgan parcha esa muayyan javobni tekshirishni osonlashtirishi mumkin. Model oynasidan ortiq kirishlarni bo‘lish yoki kesish kerak; tashlangan oxirgi qismni ifodalangan mazmun deb ko‘rmaslik lozim.
Har embedding qilingan elementni asosiy hujjat va versiyaga bog‘liq saqlang. Hisobotda bo‘lim sarlavhasi va savolga tegishli xulosa atrofidagi izohni saqlang. Kod qidiruvida funksiya nomi, tegishli interfeys va xulqni parcha yonida saqlang. Bu qidiruv bosqichi nomzod qaytarganda aniq manba artefaktini beradi.
Oila nashrlari va natijadan foydalanish
NVIDIA 1B oilasining BF16 va NVFP4 versiyalarini hujjatlashtiradi. Kvantlangan model kartasida shu ikki reliz umumiy embedding makoniga egaligi aytiladi; versiyalarni almashtirishda qidiruv sifatini namunaviy materialda tekshirish tavsiya qilinadi. E’lon qilingan umumiy ifoda ishlab chiqaruvchining shu nomlangan juftlik haqidagi bayonoti, 2048 chiqish qiymatli barcha modellar uchun umumiy qoida emas.
Foydali natija — model, o‘lcham tanlovi va tayyorlash usuli qayd etilgan so‘rov vektori yoki indekslangan manba to‘plami. Nomzod matnini identifikatori bilan qaytaring va kerakli ma’lumotni berishini tekshiring. Ishlab chiqaruvchi qidiruv modeli har bir savol uchun to‘g‘ri parchani kafolatlamasligini ochiq qayd etadi; keyingi qayta reytinglash yoki javob bosqichi shu nomzodlar bilan o‘z vazifasi sifatida ishlaydi.
Ailoot Ultra · Embeddinglar POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeBoshlash
NVIDIA Nemotron 3 Embed 1B qidiruv va RAG uchun koʻp tilli soʻrovlar hamda parchalarni 2048 oʻlchamli vektorlar sifatida ifodalaydi. Uning hujjatlashtirilgan oilasi 32,768 tokenli ketma-ketlikni va qayta normallashtirish bilan kichraytirilgan vektor oʻlchamlarini qoʻllaydi.
- Qabul qilinadigan kirish ma’lumotlari
- Matn · token_ids
- Natijalar
- embedding
Ailoot da mavjud · kirish ma’lumotlari va usullar
Ailoot Ultra · Embeddinglar POST /v1/embeddings
- Kirish
text,token_ids- Chiqish
embedding- Kontekst
- 32 768 tokens
- Chiqish formati
- json
| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar nvidia/nemotron-3-embed-1b:free | Standart— |
Maydoninput | Turstring|string[]|integer[]|integer[][] | TalabMajburiy | Qiymatlar va cheklovlar Elementlarning eng kam soni: 1 Shartlar: Bo‘sh bo‘lmagan, bir xil turdagi elementlardan iborat paket. Token ID lari manfiy bo‘lmagan butun sonlardir. Kirish budjeti: Eng ko‘p: 32 768 · Matn birligi: UTF8 baytlari · Token birligi: Tokenlar massivi elementlari | Standart— |
Maydonencoding_format | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar float | Standartfloat |
Maydondimensions | Turinteger | TalabQo‘llab-quvvatlanmaydi | Qiymatlar va cheklovlar Eng kam: 1 | Standart— |
Maydonuser | Turjson_value | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Manba ushbu JSON metama’lumot maydoniga ruxsat beradi; uning ta’minotchi xizmatidagi aniq ma’nosi modelga bog‘liq. | Standart— |
Maydonsession_id | Turjson_value | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Manba ushbu JSON metama’lumot maydoniga ruxsat beradi; uning ta’minotchi xizmatidagi aniq ma’nosi modelga bog‘liq. | Standart— |
Maydontrace | Turjson_value | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Manba ushbu JSON metama’lumot maydoniga ruxsat beradi; uning ta’minotchi xizmatidagi aniq ma’nosi modelga bog‘liq. | Standart— |
Maydonprovider | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: provider.options rad etildi | Standart— |
Kirish materiallari birikmalari
text_to_embedding
Usul parametrlari va hayot sikli
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, input |
Parametrinput_shapes | Parametr talablaristring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Parametr talablarifloat |
Parametrdimensions_override | Parametr talablarifalse |
Parametrmax_input_budget_units | Parametr talablari32768 |
Parametrmultimodal_objects | Parametr talablarifalse |
Parametrmaterial_types | Parametr talablaritext, token_ids |
Hayot sikli: synchronous_json
Har bir vektorning indeksi va o‘lchamini saqlang.
Model nomida multimodal deyilgani aynan shu yo‘nalishda rasm obyektlariga ruxsat borligini anglatmaydi.
Tariflar
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
- Tezkor rejim
- Standart tarif Tezkor rejim tanlanganda
- Flex rejimi
- Standart tarif flex rejimi tanlanganda
- Maksimal fikrlash darajasi
- Standart tarif Maksimal fikrlash darajasi uchun standart (default) tuzatish qo‘llanganda
Ailoot tariflari
Sozlamalar bo‘yicha narxlar
| Sozlama | Tariflar jadvali | To‘lov |
|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | To‘lov Kirish · Kirish tokenlari $0 / 1K token Chiqish · Chiqish tokenlari $0 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
So‘rov namunalari
Ailoot Ultra · Embeddinglar
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Natijalarni olish va saqlash
Ailoot Ultra · Embeddinglar
json
Barcha tayyor natijalarni saqlash
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Har bir vektorni indeksi bilan saqlang. Vektorlar soni kirish elementlari soniga teng bo‘lishi va o‘lchamlar bir xil bo‘lishi kerak.
Asl javobni tekshirish kerak bo‘lsa
Embedding vazifalari uchun endpoint qo‘shilmaydi.
Javob maydonlari
| Maydon | Tur |
|---|---|
Maydonobject | Turstring |
Maydonmodel | Turstring |
Maydondata[].index | Turinteger |
Maydondata[].embedding | Turfinite float[] |
Maydonusage | Turobject |
Xatolar va keyingi qadamlar
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Taxalluslar
Model taxalluslari
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Usul yo‘llari taxalluslari
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
Chaqirish uchun tegishli ID lar
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Qanday kirish ma’lumotlari va natijalar mavjud?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- So‘rov qaysi maydonlardan foydalanadi?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Qanday cheklovlar amal qiladi?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(UTF8 baytlari);input.min_items:1