NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 ialah model embedding multimodal NVIDIA untuk pemerolehan semula. Ia menukarkan teks, imej atau input dokumen gabungan kepada vektor dan menyokong carian pertanyaan teks terhadap dokumen yang mengandungi jadual, carta, teks dan infografik.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama Nemotron Embed VL 1B V2 ialah model embedding NVIDIA untuk pemerolehan semula soal jawab multimodal. Ia boleh mewakili dokumen sebagai teks, imej atau gabungan imej dan teks. Pertanyaan teks kemudian boleh digunakan untuk mendapatkan dokumen berkaitan. Profil yang diterbitkan menyokong imej dokumen yang mengandungi teks, jadual, carta dan infografik serta mengembalikan vektor embedding.
Sediakan item dokumen yang dapat dikenal pasti
Pastikan setiap input dipautkan kepada dokumen sumber, halaman atau petikan yang diwakilinya. Untuk halaman visual, simpan imej dan sebarang teks iringan yang tergolong bersamanya. Untuk petikan teks, simpan tajuk atau label bahagian apabila membantu mentafsir padanan kemudian. Pengecam sumber ini menjadikan item yang diperoleh semula berguna sebagai bukti, bukannya hanya hasil keserupaan berangka.
Pilih sempadan item berdasarkan bahan yang perlu ditemui pengguna. Carta dan penjelasannya mungkin perlu bersama; halaman tidak berkaitan patut mengekalkan identiti berasingan. Semak sama ada input boleh dibaca dan sama ada teks atau imej mengandungi maklumat yang dimaksudkan untuk diperoleh semula oleh pertanyaan sasaran.
Pertanyaan teks dan pemerolehan semula vektor
Peranan model ialah menghasilkan vektor untuk pemerolehan semula, dengan teks sebagai bentuk pertanyaan yang diterangkan profil. Pastikan pertanyaan dan item berindeks menggunakan tetapan embedding serasi. Aplikasi menyimpan vektor, membandingkannya dan mengembalikan item sumber sepadan. Dokumen yang diperoleh semula kekal bahan untuk diperiksa atau diberikan kepada langkah penjanaan jawapan kemudian.
Set ujian berguna menyertakan soalan sebenar pengguna dan halaman yang patut ditemui. Semak padanan salah atau yang tiada berdasarkan kandungan sumber serta sempadan item. Simpan pengecam dokumen penuh bersama mana-mana petikan atau imej terpilih supaya hasil dapat diperiksa dalam konteks.
Peruntukan input dan artifak carian
Profil perkhidmatan dihoskan yang didokumenkan menyenaraikan sehingga 131,072 token bagi setiap input. Bahagikan set sumber lebih besar kepada input berlabel berasingan dan simpan hubungannya. Output vektor profil ini bukan jawapan prosa terjana atau transkrip; peringkat aplikasi kemudian boleh menggunakan bukti yang diperoleh semula untuk menjawab soalan.
Artifak pemerolehan semula lengkap menghubungkan pertanyaan, item sumber terpilih dan pengecamnya. Simpan model embedding serta penyediaan input yang digunakan untuk indeks supaya perubahan kemudian dapat dibezakan daripada perubahan koleksi sumber.
Ailoot Ultra · Pembenaman POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freePengenalan
Llama Nemotron Embed VL 1B V2 ialah model embedding multimodal NVIDIA untuk pemerolehan semula. Ia menukarkan teks, imej atau input dokumen gabungan kepada vektor dan menyokong carian pertanyaan teks terhadap dokumen yang mengandungi jadual, carta, teks dan infografik.
- Input yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pembenaman POST /v1/embeddings
- Input
text,token_ids- Output
embedding- Konteks
- 131,072 tokens
- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nvidia/llama-nemotron-embed-vl-1b-v2:free | Lalai— |
Medaninput | Jenisstring|string[]|integer[]|integer[][] | KeperluanDiperlukan | Nilai & had Item minimum: 1 Syarat: Kelompok homogen yang tidak kosong. ID token ialah integer bukan negatif. Bajet input: Maksimum: 131,072 · Unit teks: bait UTF8 · Unit token: elemen tatasusunan token | Lalai— |
Medanencoding_format | Jenisstring | KeperluanPilihan | Nilai & had float | Lalaifloat |
Medandimensions | Jenisinteger | KeperluanTidak disokong | Nilai & had Minimum: 1 | Lalai— |
Medanuser | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medansession_id | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medantrace | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak | Lalai— |
Gabungan bahan input
text_to_embedding
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak131072 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Kitar hayat: synchronous_json
Simpan setiap indeks dan dimensi vektor.
Nama model multimodal tidak bermakna objek imej dibenarkan pada laluan khusus ini.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Kadar standard Apabila mod pantas dipilih
- Mod flex
- Kadar standard Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Kadar standard Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pembenaman
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Pembenaman
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan setiap vektor bersama indeksnya. Bilangan vektor mesti sama dengan bilangan input; dimensi mesti konsisten.
Jika respons asal perlu disemak
Tiada titik akhir tugas pembenaman diperkenalkan.
Medan respons
| Medan | Jenis |
|---|---|
Medanobject | Jenisstring |
Medanmodel | Jenisstring |
Medandata[].index | Jenisinteger |
Medandata[].embedding | Jenisfinite float[] |
Medanusage | Jenisobject |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Alias
Alias model
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Apakah input dan hasil yang tersedia?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Apakah medan yang digunakan oleh permintaan?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Apakah had yang terpakai?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(bait UTF8);input.min_items:1