NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 adalah reranker cross-encoder dari NVIDIA untuk mengurutkan materi hasil penelusuran berdasarkan relevansinya terhadap kueri. Kirim kueri dan dokumen kandidat berupa teks, gambar, atau gabungan keduanya, lalu gunakan skor dan indeks asli yang dikembalikan untuk memilih bacaan bagi hasil pencarian atau jawaban yang diperkaya penelusuran.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama Nemotron Rerank VL 1B V2 mengevaluasi relevansi teks kandidat dan gambar dokumen terhadap kueri teks, termasuk bagan, tabel, dan halaman media campuran. NVIDIA menjelaskannya sebagai model cross-encoder dengan 1,7B parameter. Dalam alur penelusuran, jalankan pencarian awal terlebih dahulu, lalu kirim kandidat yang dipilih ke reranker. Hasil yang berguna berupa kumpulan kandidat tersebut yang diurutkan ulang dengan skor relevansi, yang dapat digunakan aplikasi untuk memilih konteks jawaban atau menata halaman hasil pencarian.
Gunakan POST /v1/rerank dengan badan application/json. Atur model ke "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query ke pertanyaan pencarian yang sebenarnya, dan documents ke array yang tidak kosong. Setiap kandidat dapat berupa string teks atau objek dengan text dan/atau image; objek terstruktur wajib menyediakan minimal salah satu kolom tersebut. text adalah string. image adalah URL HTTP/HTTPS jarak jauh atau URI data base64 yang diawali data:image/. Kandidat gabungan menyediakan kedua kolom. Pertahankan urutan array masukan tersebut agar indeks yang dikembalikan dapat dicocokkan dengan ID dokumen yang Anda simpan. top_n adalah bilangan bulat opsional minimal 1 yang meminta jumlah dokumen berperingkat tertinggi untuk dikembalikan.
Misalnya, aplikasi pusat bantuan dapat menelusuri bacaan tentang pengiriman, pengembalian, dan akses akun, lalu mengurutkan ulang bacaan tersebut terhadap pertanyaan pengiriman pelanggan. Kirim teks bacaan yang sebenarnya, bukan nama berkas atau cuplikan mesin pencari yang tidak berkaitan dengan sumber tersimpan. Hubungkan setiap bacaan dengan pengenal sumbernya sendiri dalam aplikasi, agar bukti yang dipilih nantinya dapat dikutip atau dibuka. Untuk dokumen pindaian, bagan, tabel, atau infografik, berikan gambar aslinya dalam objek dokumen dan tambahkan teks jika membantu mengidentifikasi isinya.
Halaman model mendokumentasikan batas 10.240 token per kueri dan dokumen. Bagi materi sumber yang lebih panjang menjadi bacaan dengan ukuran terbatas sebelum menyiapkan daftar kandidat. Sertakan konteks sekitar yang berguna pada setiap bacaan, termasuk judul atau nama produk jika memengaruhi makna. Permintaan yang didokumentasikan dimulai dari kandidat yang Anda berikan; permintaan ini tidak mencari koleksi dokumen atas nama Anda.
Pemeringkatan ulang mengembalikan hasil JSON sinkron. Baca setiap item results, termasuk index aslinya, relevance_score, dan objek document yang dikembalikan, yang dapat memuat text dan/atau image, serta simpan setiap usage dan pengenal respons yang dikembalikan. Gunakan index untuk memetakan hasil berperingkat kembali ke kandidat masukannya. Perlakukan skor relevansi sebagai sinyal pemeringkatan untuk kueri ini, bukan jawaban faktual yang diverifikasi secara independen. Simpan hasil lengkap ketika beberapa bacaan dipilih untuk langkah berikutnya.
Siapkan materi kandidat publik atau sintetis untuk edisi gratis ini; ketentuan penggunaan yang didokumentasikan tidak mengizinkan informasi rahasia dan data pribadi. Jika permintaan berakhir tanpa hasil lengkap, simpan respons asli dan pengenal permintaan saat memeriksa upaya tersebut. Alur rerank yang didokumentasikan mengembalikan hasil secara langsung dan tidak menyediakan alur polling tugas atau pembatalan terpisah.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeMulai
Llama Nemotron Rerank VL 1B V2 adalah reranker cross-encoder dari NVIDIA untuk mengurutkan materi hasil penelusuran berdasarkan relevansinya terhadap kueri. Kirim kueri dan dokumen kandidat berupa teks, gambar, atau gabungan keduanya, lalu gunakan skor dan indeks asli yang dikembalikan untuk memilih bacaan bagi hasil pencarian atau jawaban yang diperkaya penelusuran.
- Masukan yang diterima
- Teks
- Hasil
- ranking
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Rerank POST /v1/rerank
- Masukan
text- Keluaran
ranking- Format keluaran
- JSON
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan nvidia/llama-nemotron-rerank-vl-1b-v2:free | Bawaan— |
Kolomquery | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomdocuments | Jenisarray | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomtop_n | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 | Bawaan— |
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parameteroptional | Kontraktop_n |
Parametermaterial_types | Kontraktext |
Parameterconditions | Kontrak |
Siklus hidup: synchronous_json
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tidak ditentukan Saat mode fast dipilih
- Mode Flex
- Tidak ditentukan Saat mode flex dipilih
- Upaya penalaran maksimum
- Tidak ditentukan Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Jumlah penagihan | Biaya |
|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Jumlah penagihan— | Biaya Masukan · Token masukan — / 1K token Keluaran · Token keluaran — / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPer permintaan | Jadwal tarif— | Jumlah penagihansatu permintaan | Biaya Masukan $0 per permintaan |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Terima dan simpan hasil
Ailoot Ultra · Rerank
JSON
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Jika respons asli perlu diperiksa
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomresults | Jenisarray |
Alias
Alias model
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Input dan hasil apa yang tersedia?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Kolom apa yang digunakan permintaan?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Batasan apa yang berlaku?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1