NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B merepresentasikan kueri dan bagian teks multibahasa sebagai vektor berdimensi 2048 untuk pencarian dan RAG. Keluarga model yang didokumentasikan mendukung urutan 32,768 token dan ukuran vektor yang lebih kecil dengan normalisasi ulang.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Nemotron 3 Embed 1B adalah keluarga embedding teks NVIDIA untuk temu kembali multibahasa dan lintas bahasa serta kemiripan semantik. Model mengubah pertanyaan atau bagian teks menjadi vektor dense yang dapat dibandingkan sistem pencarian dengan representasi teks lain. Produsen mengevaluasi rilis 1B yang didokumentasikan pada tiga puluh empat pengaturan bahasa dan varian bahasa, termasuk Inggris, Arab, Tionghoa, Rusia, Jepang, Korea, dan Hinglish.
Encoder dan representasi
Kartu model pembuat menjelaskan transformer dua arah yang dipangkas dan diturunkan dari Ministral 3. Model memiliki sekitar 1,14 miliar parameter dan merata-ratakan representasi tingkat token untuk memperoleh satu embedding per teks. Keluaran bawaan adalah vektor floating-point 2048 dimensi. Ini merupakan representasi temu kembali, bukan jawaban tertulis atas pertanyaan yang dibuat embedding-nya.
Produsen juga mendukung penyimpanan bagian awal representasi tersebut, misalnya 1024 atau 512 dimensi. Vektor yang dipendekkan harus dinormalisasi L2 kembali setelah dipotong. Pertahankan panjang representasi dan normalisasi yang dipilih secara konsisten pada sisi kueri serta korpus tugas pencarian. Panjang vektor dan panjang urutan masukan adalah sifat terpisah.
Persiapan kueri dan bagian teks
Konvensi temu kembali yang didokumentasikan menggunakan “query:” untuk pertanyaan dan “passage:” untuk teks dokumen. Contoh produsen menerapkan peran tersebut sebelum pengodean dan membandingkan vektor ternormalisasi dengan hasil kali titik, setara kemiripan kosinus. Gunakan persiapan yang diharapkan alur terpilih alih-alih mencampur representasi korpus mentah dengan kueri yang disiapkan secara berbeda.
Koleksi praktis dapat memuat penjelasan teknis, kebijakan, atau dokumentasi terkait kode. Pertanyaan tentang cara fungsi menangani kasus tertentu harus menemukan bagian sumber atau cuplikan kode yang menjelaskan perilaku itu. Pertahankan pengenal, judul, dan kondisi relevan bersama teks bagian sebenarnya. Vektor membuat kandidat dapat dicari; sumber yang disimpan merupakan materi yang digunakan pembaca atau tahap jawaban RAG berikutnya.
Materi sumber yang lebih panjang
Panjang urutan maksimum yang didokumentasikan adalah 32.768 token. Pilih batas bagian secara sengaja meskipun model dapat menampung banyak teks. Bagian lengkap dapat mempertahankan definisi dan pengecualiannya; kutipan terfokus dapat memudahkan pemeriksaan jawaban tertentu. Masukan di atas jendela model membutuhkan pembagian atau pemotongan, sehingga bagian akhir yang dihilangkan tidak boleh diperlakukan sebagai konten yang direpresentasikan.
Pertahankan hubungan setiap item yang dibuat embedding-nya dengan dokumen induk dan versi. Untuk laporan, simpan judul bagian dan penjelasan di sekitar kesimpulan yang ditanyakan. Untuk pencarian kode, simpan nama fungsi, antarmuka relevan, dan perilaku di samping cuplikan. Ini menyediakan artefak sumber konkret ketika tahap temu kembali mengembalikan kandidat.
Edisi keluarga dan penggunaan hasil
NVIDIA mendokumentasikan versi BF16 dan NVFP4 dari keluarga 1B. Kartu model terkuantisasinya menyatakan bahwa kedua rilis berbagi ruang embedding dan menyarankan pemeriksaan kualitas temu kembali pada materi representatif ketika mengganti versi. Representasi bersama yang dinyatakan adalah pernyataan produsen tentang pasangan bernama tersebut, bukan aturan umum untuk setiap model dengan 2048 nilai keluaran.
Hasil yang berguna adalah vektor kueri atau koleksi sumber terindeks dengan model, pilihan dimensi, dan persiapannya dicatat. Kembalikan teks kandidat bersama pengenalnya dan periksa apakah menyediakan informasi yang dibutuhkan. Produsen secara eksplisit menyatakan bahwa model temu kembali tidak menjamin bagian yang benar untuk setiap pertanyaan; tahap pemeringkatan ulang atau jawaban berikutnya menangani kandidat tersebut sebagai tugasnya sendiri.
Ailoot Ultra · Embedding POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeMulai
NVIDIA Nemotron 3 Embed 1B merepresentasikan kueri dan bagian teks multibahasa sebagai vektor berdimensi 2048 untuk pencarian dan RAG. Keluarga model yang didokumentasikan mendukung urutan 32,768 token dan ukuran vektor yang lebih kecil dengan normalisasi ulang.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Konteks
- 32.768 tokens
- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan nvidia/nemotron-3-embed-1b:free | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 32.768 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak32768 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tarif standar Saat mode fast dipilih
- Mode Flex
- Tarif standar Saat mode flex dipilih
- Upaya penalaran maksimum
- Tarif standar Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(byte UTF8);input.min_items:1