NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 adalah model embedding multimodal NVIDIA untuk temu kembali. Model mengubah teks, gambar, atau masukan dokumen gabungan menjadi vektor dan mendukung pencarian melalui kueri teks atas dokumen yang memuat tabel, grafik, teks, dan infografik.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama Nemotron Embed VL 1B V2 adalah model embedding NVIDIA untuk temu kembali tanya jawab multimodal. Model dapat merepresentasikan dokumen sebagai teks, gambar, atau gabungan gambar dan teks. Kueri teks kemudian dapat digunakan untuk menemukan dokumen terkait. Profil yang diterbitkan mendukung gambar dokumen berisi teks, tabel, grafik, dan infografik serta mengembalikan vektor embedding.
Siapkan item dokumen yang dapat diidentifikasi
Pertahankan hubungan setiap masukan dengan dokumen sumber, halaman, atau bagian yang direpresentasikannya. Untuk halaman visual, simpan gambar dan teks pendamping yang termasuk di dalamnya. Untuk bagian teks, pertahankan judul atau label bagian ketika membantu menafsirkan kecocokan berikutnya. Pengenal sumber ini membuat item yang ditemukan berguna sebagai bukti, bukan hanya hasil kemiripan numerik.
Pilih batas item di sekitar materi yang perlu ditemukan pengguna. Grafik dan penjelasannya mungkin perlu disimpan bersama; halaman tidak terkait harus mempertahankan identitas terpisah. Tinjau apakah masukan dapat dibaca dan apakah teks atau gambar memuat informasi yang harus ditemukan kueri tujuan.
Kueri teks dan temu kembali vektor
Peran model adalah menghasilkan vektor untuk temu kembali, dengan teks sebagai bentuk kueri yang dijelaskan profil. Pertahankan kueri dan item terindeks dalam pengaturan embedding yang kompatibel. Aplikasi menyimpan vektor, membandingkannya, dan mengembalikan item sumber terkait. Dokumen yang ditemukan tetap menjadi materi untuk diperiksa atau diteruskan ke tahap pembangkitan jawaban berikutnya.
Himpunan pengujian yang berguna memuat pertanyaan yang benar-benar diajukan pengguna dan halaman yang seharusnya ditemukan. Tinjau kecocokan yang salah atau tidak ditemukan berdasarkan konten sumber serta batas item. Simpan pengenal dokumen lengkap bersama bagian atau gambar terpilih agar hasil dapat diperiksa dalam konteks.
Jatah masukan dan artefak pencarian
Profil layanan yang dihosting dan didokumentasikan mencantumkan hingga 131.072 token per masukan. Bagi himpunan sumber lebih besar menjadi masukan berlabel terpisah dan pertahankan hubungannya. Keluaran vektor profil ini bukan jawaban prosa yang dihasilkan atau transkrip; tahap aplikasi berikutnya dapat menggunakan bukti yang ditemukan untuk menjawab pertanyaan.
Artefak temu kembali lengkap menghubungkan kueri, item sumber terpilih, dan pengenalnya. Pertahankan model embedding serta persiapan masukan yang digunakan untuk indeks agar perubahan berikutnya dapat dibedakan dari perubahan koleksi sumber.
Ailoot Ultra · Embedding POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeMulai
Llama Nemotron Embed VL 1B V2 adalah model embedding multimodal NVIDIA untuk temu kembali. Model mengubah teks, gambar, atau masukan dokumen gabungan menjadi vektor dan mendukung pencarian melalui kueri teks atas dokumen yang memuat tabel, grafik, teks, dan infografik.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Konteks
- 131.072 tokens
- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan nvidia/llama-nemotron-embed-vl-1b-v2:free | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 131.072 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak131072 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tarif standar Saat mode fast dipilih
- Mode Flex
- Tarif standar Saat mode flex dipilih
- Upaya penalaran maksimum
- Tarif standar Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(byte UTF8);input.min_items:1