VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite adalah reranker Voyage AI yang mengikuti instruksi dan berorientasi pada latensi untuk kumpulan kandidat teks yang diberikan. Model ini mempertahankan konteks kueri-dokumen 32.000 token dan dukungan multibahasa, serta mengembalikan daftar terurut skor relevansi dan indeks dokumen asli.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
rerank-2.5-lite adalah anggota ringan dari rilis reranker 2.5 Voyage AI. Pembuatnya mendeskripsikannya sebagai model generalis yang menyeimbangkan latensi dan kualitas relevansi, dengan kepatuhan terhadap instruksi bahasa alami serta dukungan multibahasa. Masukannya berupa kueri dan teks kandidat, sedangkan keluarannya berupa urutan kandidat yang disempurnakan beserta skor relevansi.
Keputusan relevansi tahap kedua yang ringan
Model Lite memproses setiap pasangan kueri-dokumen secara bersamaan sebagai cross-encoder. Model ini dapat mengikuti pencarian embedding atau leksikal tahap pertama, dengan menyempurnakan bagian teks yang dipilih tahap tersebut. Ini berbeda dari menyiapkan indeks embedding yang dapat digunakan kembali: reranker memeriksa kueri dan teks dokumen yang dikirim secara bersamaan untuk keputusan relevansi saat ini.
Untuk pencarian bantuan interaktif, kirim penjelasan kandidat yang mungkin menjawab pertanyaan pengguna. Pertahankan cukup banyak dari setiap bagian teks untuk menyampaikan perilaku dan kondisi yang menyertainya, serta jaga keterkaitan indeks masukan dengan item sumber. Kumpulan kandidat yang terarah membantu memperjelas tugas pemeringkatan ulang sambil menjaga bukti hasil pengambilan tetap dapat digunakan untuk ditampilkan atau untuk jawaban berikutnya.
Instruksi menyatakan hal yang ingin diprioritaskan pengguna
Seperti rerank-2.5, Lite menerima instruksi bahasa alami sebelum atau sesudah kueri. Contoh pembuat menggunakannya untuk menekankan komponen dokumen, memilih jenis sumber yang disukai, atau menambahkan konteks pada kata yang ambigu. Aplikasi dapat menyediakan preferensi relevansi tetap, atau pertanyaan saat ini dapat menyertakan preferensi yang lebih spesifik.
Contoh kueri dukungan dapat menanyakan bagian teks mana yang menjelaskan suatu kesalahan, dengan instruksi untuk memprioritaskan langkah pemecahan masalah daripada deskripsi produk umum. Pencarian dokumen dapat meminta redaksi kebijakan asli, bukan pembahasan tentang kebijakan tersebut. Deskripsikan bukti yang dituju dan jaga instruksi tetap ringkas. Instruksi memengaruhi skor relevansi; siapkan batasan versi, tanggal, atau izin yang ketat dalam pemilihan kandidat, alih-alih memperlakukan preferensi relevansi sebagai filter yang dijamin.
Baca peringkat dan kembalikan bagian teks sumber
Keluaran diurutkan berdasarkan relevansi menurun. Setiap hasil mencakup indeks dokumen asli dan skor floating-point; pengaturan return-documents opsional juga mengembalikan teks masukan yang bersesuaian. Opsi top-k menentukan jumlah hasil teratas yang dikembalikan, sementara tidak menyertakannya mengembalikan peringkat untuk semua kandidat yang dikirim.
Gunakan indeks tersebut untuk memperoleh kembali bagian teks sumber dan pengidentifikasinya. Kandidat yang diperingkat ulang dapat menjadi hasil pencarian atau bukti untuk langkah RAG berikutnya, tetapi keluarannya adalah pengurutan teks yang diberikan, bukan jawaban yang ditulis ulang. Evaluasi apakah bagian teks teratas memenuhi pertanyaan sekaligus instruksi relevansi, termasuk pada bahasa dan jenis dokumen yang benar-benar ada dalam koleksi.
Batas dan anggaran kandidat praktis
Edisi 2.5 Lite memiliki maksimum kueri terdokumentasi 8.000 token dan batas 32.000 token untuk kueri ditambah setiap dokumen individual. Model ini berbeda dari model rerank-2-lite sebelumnya dan konteksnya yang lebih kecil. Maksimum 1.000 dokumen dapat dikirim, dan total masukan dibatasi 600.000 token berdasarkan rumus: token kueri dikalikan jumlah kandidat, ditambah jumlah token seluruh dokumen kandidat.
Untuk penggunaan yang sensitif terhadap latensi, FAQ pembuat merekomendasikan rerank-2.5-lite dengan tidak lebih dari 200.000 total token per permintaan. Ini merupakan panduan praktis di bawah maksimum yang dinyatakan, bukan jendela per dokumen yang berbeda. Kueri atau instruksi lebih panjang dihitung sekali untuk setiap pasangan kandidat, sehingga jumlah kandidat dan panjang kueri sama-sama memengaruhi total.
Truncation aktif secara default dan memendekkan masukan kueri/dokumen yang terlalu panjang agar muat; menonaktifkannya mengembalikan kesalahan untuk kueri atau pasangan yang terlalu panjang. Siapkan kandidat ringkas yang memuat jawaban secara sengaja agar bukti berguna tidak tertinggal di luar batas pemotongan. Memilih lebih sedikit hasil keluaran melalui top-k tidak menghapus kandidat lain yang diberikan dari perhitungan token. Periksa bagian teks sumber yang dikembalikan dan sempurnakan persiapan masukan berdasarkan pertanyaan aktual yang perlu dijawab antarmuka pencarian.
Ailoot Ultra · Pemeringkatan ulang POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteMulai
rerank-2.5-lite adalah reranker Voyage AI yang mengikuti instruksi dan berorientasi pada latensi untuk kumpulan kandidat teks yang diberikan. Model ini mempertahankan konteks kueri-dokumen 32.000 token dan dukungan multibahasa, serta mengembalikan daftar terurut skor relevansi dan indeks dokumen asli.
- Masukan yang diterima
- Teks
- Hasil
- Hasil berperingkat
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Pemeringkatan ulang POST /v1/rerank
- Masukan
text- Keluaran
rerank- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolomdocuments | Jenisarray | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan voyageai/rerank-2.5-lite | Bawaan— |
Kolomprovider | Jenisschema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomquery | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomsession_id | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtop_n | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomtrace | Jenisschema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomuser | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomdocuments[].text | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomdocuments[].image | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kombinasi bahan masukan
text_rerank · Wajib: query, documents array with minItems1
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parametermaterial_types | Kontraktext |
Parameteroptional_controls | Kontrakprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous
Kirim ID model yang persis dan simpan respons native secara utuh.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tidak ditentukan Saat mode fast dipilih
- Mode Flex
- Tidak ditentukan Saat mode flex dipilih
- Upaya penalaran maksimum
- Tidak ditentukan Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Satuan penagihan | Biaya |
|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Satuan penagihan— | Biaya Masukan · Token masukan — / 1K token Keluaran · Token keluaran — / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiUltra | Jadwal tarif— | Satuan penagihan/ 1K token | Biaya Masukan $0.00004 / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Pemeringkatan ulang
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Terima dan simpan hasil
Ailoot Ultra · Pemeringkatan ulang
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Setiap indeks hasil aktual, relevance_score yang bernilai berhingga, dan objek dokumen asli dipertahankan. Indeks mengacu pada array dokumen asli. Seluruh JSON asli disimpan dan hanya dikembalikan setelah penyelesaian tagihan.
Jika respons asli perlu diperiksa
Simpan operasi awal dan balasan lengkap/sebagian; jangan ulangi POST.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolommodel | Jenisstring |
Kolomid | Jenisstring |
Kolomprovider | Jenisstring |
Kolomresults[].index | Jenisinteger |
Kolomresults[].relevance_score | Jenisnumber |
Kolomresults[].document.text | Jenisstring |
Kolomresults[].document.image | Jenisstring |
Kolomusage.search_units | Jenisinteger |
Kolomusage.total_tokens | Jenisinteger |
Kolomusage.cost | Jenisnumber |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi, atau nilai tidak valid | Langkah berikutnyaPerbaiki bidang permintaan yang ditunjukkan. |
Alias
Alias model
Ailoot Ultra voyageai/rerank-2.5-lite
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Input dan hasil apa yang tersedia?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Kolom apa yang digunakan permintaan?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Batasan apa yang berlaku?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1