NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B mewakili pertanyaan dan petikan berbilang bahasa sebagai vektor 2048 dimensi untuk carian dan RAG. Keluarga yang didokumentasikan menyokong jujukan 32,768 token dan saiz vektor yang dikurangkan dengan penormalan semula.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Nemotron 3 Embed 1B ialah keluarga embedding teks NVIDIA untuk pemerolehan semula berbilang bahasa dan merentas bahasa serta keserupaan semantik. Ia menukarkan soalan atau petikan kepada vektor padat yang boleh dibandingkan sistem carian dengan perwakilan teks lain. Pengeluar menilai keluaran 1B yang didokumenkan merentas tiga puluh empat tetapan bahasa dan varian bahasa, termasuk bahasa Inggeris, Arab, Cina, Rusia, Jepun, Korea dan Hinglish.
Pengekod dan perwakilan
Kad model pembuat menerangkan transformer dwihala yang dipangkas dan dibangunkan daripada Ministral 3. Ia mempunyai kira-kira 1.14 bilion parameter dan mempuratakan perwakilan peringkat token untuk mendapatkan satu embedding bagi setiap teks. Output natif ialah vektor titik terapung 2048 dimensi. Ini perwakilan pemerolehan semula, bukannya jawapan bertulis kepada soalan yang dihasilkan embeddingnya.
Pengeluar turut menyokong pengekalan bahagian awal perwakilan itu, contohnya 1024 atau 512 dimensi. Vektor dipendekkan mesti dinormalkan semula mengikut L2 selepas dipotong. Pastikan panjang perwakilan terpilih dan penormalan konsisten antara bahagian pertanyaan serta korpus tugas carian. Panjang vektor dan panjang jujukan input ialah sifat berasingan.
Penyediaan pertanyaan dan petikan
Konvensyen pemerolehan semula yang didokumenkan menggunakan “query:” untuk soalan dan “passage:” untuk teks dokumen. Contoh pengeluar menggunakan peranan itu sebelum pengekodan dan membandingkan vektor ternormal melalui hasil darab titik, bersamaan keserupaan kosinus. Gunakan penyediaan yang dijangka oleh aliran kerja terpilih, bukannya mencampurkan perwakilan korpus mentah dengan pertanyaan yang disediakan secara berbeza.
Koleksi praktikal boleh mengandungi penjelasan teknikal, dasar atau dokumentasi berkaitan kod. Soalan tentang cara fungsi mengendalikan kes tertentu patut mendapatkan petikan sumber atau petikan kod yang menerangkan tingkah laku itu. Simpan pengecam, tajuk dan syarat berkaitan bersama teks petikan sebenar. Vektor menjadikan calon boleh dicari; sumber yang disimpan ialah bahan yang digunakan pembaca atau peringkat jawapan RAG kemudian.
Bahan sumber lebih panjang
Panjang jujukan maksimum yang didokumenkan ialah 32,768 token. Pilih sempadan petikan dengan sengaja walaupun model boleh memuatkan teks yang banyak. Bahagian lengkap boleh mengekalkan takrif dan pengecualiannya; petikan terfokus boleh menjadikan jawapan khusus lebih mudah diperiksa. Input melebihi tetingkap model memerlukan pembahagian atau pemotongan, maka hujung yang terbuang tidak patut dianggap sebagai kandungan yang diwakili.
Pastikan setiap item yang dihasilkan embeddingnya dipautkan kepada dokumen induk dan versi. Untuk laporan, simpan tajuk bahagian dan penjelasan di sekeliling kesimpulan yang ditanyakan. Untuk carian kod, simpan nama fungsi, antara muka berkaitan dan tingkah laku di sisi petikan. Ini menyediakan artifak sumber konkrit apabila peringkat pemerolehan semula mengembalikan calon.
Edisi keluarga dan penggunaan hasil
NVIDIA mendokumenkan versi BF16 dan NVFP4 keluarga 1B. Kad model terkuantumnya menyatakan bahawa kedua-dua keluaran berkongsi ruang embedding dan mengesyorkan semakan kualiti pemerolehan semula menggunakan bahan yang mewakili tugas apabila menukar versi. Perwakilan bersama yang diisytiharkan ialah pernyataan pengeluar tentang pasangan bernama itu, bukan peraturan umum bagi setiap model yang mempunyai 2048 nilai output.
Hasil berguna ialah vektor pertanyaan atau koleksi sumber berindeks dengan model, pilihan dimensi dan penyediaannya direkodkan. Kembalikan teks calon bersama pengecam dan periksa sama ada ia membekalkan maklumat yang diperlukan. Pengeluar secara jelas menyatakan bahawa model pemerolehan semula tidak menjamin petikan yang betul untuk setiap soalan; peringkat penyusunan semula kedudukan atau jawapan kemudian mengendalikan calon itu sebagai tugasnya sendiri.
Ailoot Ultra · Pembenaman POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freePengenalan
NVIDIA Nemotron 3 Embed 1B mewakili pertanyaan dan petikan berbilang bahasa sebagai vektor 2048 dimensi untuk carian dan RAG. Keluarga yang didokumentasikan menyokong jujukan 32,768 token dan saiz vektor yang dikurangkan dengan penormalan semula.
- Input yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pembenaman POST /v1/embeddings
- Input
text,token_ids- Output
embedding- Konteks
- 32,768 tokens
- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nvidia/nemotron-3-embed-1b:free | Lalai— |
Medaninput | Jenisstring|string[]|integer[]|integer[][] | KeperluanDiperlukan | Nilai & had Item minimum: 1 Syarat: Kelompok homogen yang tidak kosong. ID token ialah integer bukan negatif. Bajet input: Maksimum: 32,768 · Unit teks: bait UTF8 · Unit token: elemen tatasusunan token | Lalai— |
Medanencoding_format | Jenisstring | KeperluanPilihan | Nilai & had float | Lalaifloat |
Medandimensions | Jenisinteger | KeperluanTidak disokong | Nilai & had Minimum: 1 | Lalai— |
Medanuser | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medansession_id | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medantrace | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak | Lalai— |
Gabungan bahan input
text_to_embedding
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak32768 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Kitar hayat: synchronous_json
Simpan setiap indeks dan dimensi vektor.
Nama model multimodal tidak bermakna objek imej dibenarkan pada laluan khusus ini.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Kadar standard Apabila mod pantas dipilih
- Mod flex
- Kadar standard Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Kadar standard Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pembenaman
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Pembenaman
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan setiap vektor bersama indeksnya. Bilangan vektor mesti sama dengan bilangan input; dimensi mesti konsisten.
Jika respons asal perlu disemak
Tiada titik akhir tugas pembenaman diperkenalkan.
Medan respons
| Medan | Jenis |
|---|---|
Medanobject | Jenisstring |
Medanmodel | Jenisstring |
Medandata[].index | Jenisinteger |
Medandata[].embedding | Jenisfinite float[] |
Medanusage | Jenisobject |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Alias
Alias model
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Apakah input dan hasil yang tersedia?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Apakah medan yang digunakan oleh permintaan?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Apakah had yang terpakai?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(bait UTF8);input.min_items:1