NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 ialah penyusun semula kedudukan pengekod silang NVIDIA untuk menyusun bahan yang diperoleh mengikut kerelevanannya dengan pertanyaan. Hantar pertanyaan dan dokumen calon berupa teks, imej atau gabungan, kemudian gunakan skor dan indeks asal yang dikembalikan untuk memilih petikan bagi hasil carian atau jawapan yang diperkaya melalui pemerolehan maklumat.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama Nemotron Rerank VL 1B V2 menilai kerelevanan teks calon dan imej dokumen terhadap pertanyaan teks, termasuk carta, jadual dan halaman media campuran. NVIDIA menerangkannya sebagai model pengekod silang berparameter 1.7B. Dalam aliran kerja pemerolehan maklumat, jalankan carian awal dahulu, kemudian hantar calon terpilih kepada penyusun semula kedudukan. Hasil yang berguna ialah set calon tersebut yang disusun semula dengan skor kerelevanan, yang boleh digunakan oleh aplikasi untuk memilih konteks bagi jawapan atau menyusun halaman hasil carian.
Gunakan POST /v1/rerank dengan badan application/json. Tetapkan model kepada "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query kepada soalan carian sebenar, dan documents kepada tatasusunan yang tidak kosong. Setiap calon boleh berupa rentetan teks atau objek dengan text dan/atau image; objek berstruktur mesti membekalkan sekurang-kurangnya satu daripada medan itu. text ialah rentetan. image ialah URL HTTP/HTTPS jauh atau URI data base64 yang bermula dengan data:image/. Calon gabungan membekalkan kedua-dua medan. Kekalkan urutan tatasusunan input itu supaya indeks yang dikembalikan boleh dipadankan dengan ID dokumen yang disimpan. top_n ialah integer pilihan sekurang-kurangnya 1 yang meminta bilangan dokumen berkedudukan tertinggi untuk dikembalikan.
Sebagai contoh, aplikasi pusat bantuan boleh mendapatkan petikan tentang penghantaran, pemulangan dan akses akaun, kemudian menyusun semula kedudukan petikan itu berdasarkan soalan penghantaran pelanggan. Hantar teks petikan sebenar, dan bukannya nama fail atau cebisan enjin carian yang tidak berkaitan dengan sumber yang disimpan. Pastikan setiap petikan dikaitkan dengan pengecam sumbernya sendiri dalam aplikasi, supaya bukti terpilih boleh dipetik atau dibuka kemudian. Untuk dokumen imbasan, carta, jadual atau infografik, bekalkan imej sebenarnya dalam objek dokumen dan tambah teks apabila ia membantu mengenal pasti kandungan.
Halaman model mendokumenkan had 10,240 token bagi setiap pertanyaan dan dokumen. Bahagikan bahan sumber yang lebih panjang kepada petikan terhad sebelum menyediakan senarai calon. Simpan konteks sekeliling yang berguna bersama setiap petikan, termasuk tajuk atau nama produk apabila ia mengubah makna. Permintaan yang didokumenkan bermula dengan calon yang anda bekalkan; ia tidak mencari koleksi dokumen bagi pihak anda.
Penyusunan semula kedudukan mengembalikan hasil JSON segerak. Baca setiap item results, termasuk index asalnya, relevance_score dan objek document yang dikembalikan, yang boleh membawa text dan/atau image, serta simpan sebarang usage dan pengecam balasan yang dikembalikan. Gunakan index untuk memetakan hasil berkedudukan kepada calon inputnya. Anggap skor kerelevanan sebagai isyarat kedudukan bagi pertanyaan ini dan bukannya jawapan fakta yang disahkan secara bebas. Simpan hasil lengkap apabila beberapa petikan dipilih untuk langkah seterusnya.
Sediakan bahan calon awam atau sintetik untuk edisi percuma ini; terma penggunaan yang didokumenkan mengecualikan maklumat sulit dan data peribadi. Jika permintaan berakhir tanpa hasil lengkap, simpan balasan asal dan pengecam permintaan semasa menyemak percubaan itu. Aliran rerank yang didokumenkan mengembalikan hasilnya secara langsung dan tidak membekalkan aliran kerja tinjauan status tugasan atau pembatalan berasingan.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freePengenalan
Llama Nemotron Rerank VL 1B V2 ialah penyusun semula kedudukan pengekod silang NVIDIA untuk menyusun bahan yang diperoleh mengikut kerelevanannya dengan pertanyaan. Hantar pertanyaan dan dokumen calon berupa teks, imej atau gabungan, kemudian gunakan skor dan indeks asal yang dikembalikan untuk memilih petikan bagi hasil carian atau jawapan yang diperkaya melalui pemerolehan maklumat.
- Input yang diterima
- Teks
- Hasil
- ranking
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Rerank POST /v1/rerank
- Input
text- Output
ranking- Format output
- JSON
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had nvidia/llama-nemotron-rerank-vl-1b-v2:free | Lalai— |
Medanquery | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medandocuments | Jenisarray | KeperluanDiperlukan | Nilai & had | Lalai— |
Medantop_n | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 | Lalai— |
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parameteroptional | Kontraktop_n |
Parametermaterial_types | Kontraktext |
Parameterconditions | Kontrak |
Kitar hayat: synchronous_json
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Kuantiti pengebilan | Caj |
|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Kuantiti pengebilan— | Caj Input · Token input — / 1K token Output · Token output — / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiBagi setiap permintaan | Jadual kadar— | Kuantiti pengebilansatu permintaan | Caj Input $0 bagi setiap permintaan |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Terima dan simpan hasil
Ailoot Ultra · Rerank
JSON
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Jika respons asal perlu disemak
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Medan respons
| Medan | Jenis |
|---|---|
Medanresults | Jenisarray |
Alias
Alias model
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Apakah input dan hasil yang tersedia?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Apakah medan yang digunakan oleh permintaan?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Apakah had yang terpakai?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1