VoyageAI by MongoDB: rerank-2.5
rerank-2.5 menyusun semula set calon teks yang dibekalkan mengikut kerelevanan kepada pertanyaan dan arahan bahasa semula jadi pilihan. Ia ialah pemeringkat semula berbilang bahasa yang berorientasikan kualiti dengan konteks pertanyaan–dokumen 32,000 token serta skor berperingkat yang dikaitkan dengan indeks calon asal.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
rerank-2.5 ialah pemeringkat semula Voyage AI yang mematuhi arahan, direka untuk memperhalusi set calon carian. Ia memeriksa pertanyaan dan setiap dokumen bersama-sama sebagai pengekod silang, kemudian mengembalikan susunan kerelevanan. Keluaran pengeluar menekankan kawalan bahasa semula jadi terhadap perkara yang dianggap relevan, pemerolehan maklumat berbilang bahasa dan konteks pertanyaan–dokumen yang lebih panjang daripada edisi rerank-2 terdahulu.
Berikan calon yang perlu dibandingkan kepada model
Input ialah pertanyaan dan senarai dokumen teks calon. Ini boleh berupa petikan yang dipilih oleh carian pembenaman atau carian leksikal peringkat pertama. Pemeringkat semula menilai teks yang dibekalkan tanpa mencipta pembenaman korpus, jadi tugas praktikalnya ialah memperhalusi calon yang telah ditemukan oleh carian awal.
Kekalkan susunan calon asal dan pengecam sumber apabila menyediakan senarai itu. Indeks yang dikembalikan merujuk kedudukan input tersebut. Untuk tugasan RAG, bekalkan petikan yang mungkin benar-benar digunakan oleh peringkat jawapan, termasuk tajuk atau syarat yang diperlukan untuk mentafsirkannya. Dokumen berkaitan yang tiada dalam set calon yang dihantar tidak boleh muncul sebagai hasil baharu yang ditemukan melalui pemeringkatan semula.
Nyatakan pengertian kerelevanan yang dimaksudkan
Arahan boleh ditambahkan selepas atau sebelum pertanyaan. Keluaran menerangkan tiga peranan berguna: menekankan bahagian tertentu dokumen, mengutamakan jenis sumber dan menjelaskan kekaburan pertanyaan dengan konteks aplikasi. Ini mengubah tugasan kerelevanan yang diberikan kepada model.
Untuk carian teknikal, contoh arahan ialah “Utamakan petikan yang menerangkan tingkah laku kegagalan dan pemulihan; gambaran keseluruhan pengenalan adalah sekunder.” Untuk koleksi penyelidikan, nyatakan sama ada tajuk, kaedah atau hasil paling penting. Untuk istilah yang kabur, nyatakan bidang subjek carian. Pastikan soalan dan arahan serasi, supaya satu tidak meminta topik luas sementara yang lain mengubah tugasan secara senyap.
Keutamaan ini memandu penskoran kerelevanan. Jika aplikasi mempunyai keperluan kelayakan yang ketat—seperti versi sumber, tarikh atau skop akses—sediakan set calon yang layak secara berasingan. Arahan kerelevanan model dan sekatan koleksi deterministik memenuhi tujuan yang berbeza.
Output berperingkat dan penggunaan hasil kemudian
Hasil disusun mengikut kerelevanan menurun dan menyertakan skor kerelevanan titik apung serta indeks input asal calon. Pilihan top-k memilih bilangan hasil teratas yang perlu dikembalikan; tanpanya, spesifikasi pengeluar mengembalikan hasil bagi semua calon yang dihantar. Tetapan return-documents pilihan menyertakan teks sumber yang sepadan; jika tidak, respons mengandungi indeks dan skor.
Gunakan susunan itu untuk memilih petikan bagi paparan atau peringkat jawapan kemudian, sambil memastikan identiti sumbernya utuh. Periksa teks sebenar apabila menilai pemeringkatan: skor ialah ukuran kerelevanan kepada pertanyaan yang dihantar, bukannya jawapan yang dijana atau pengesahan bahawa dakwaan dokumen adalah benar. Ini menjadikan model berguna untuk memperhalusi bahan carian teknikal, undang-undang, kewangan, perubatan, perbualan dan berbilang bahasa tanpa menukar pemeringkatan menjadi kesimpulan bidang.
Konteks, belanjawan jumlah token dan pemangkasan
Had pertanyaan yang didokumenkan ialah 8,000 token, termasuk arahan yang diletakkan dalam pertanyaan. Pertanyaan bersama mana-mana satu dokumen calon mesti muat dalam 32,000 token, dan senarai dokumen boleh mengandungi paling banyak 1,000 item. Jumlah peruntukan ialah 600,000 token, dikira sebagai token pertanyaan didarab bilangan dokumen, ditambah semua token dokumen. Oleh itu, arahan panjang dikira berulang kali merentas pasangan calon.
Bilangan output top-k tidak mengubah bilangan calon dalam pengiraan token input itu. Pemangkasan lalai memendekkan pertanyaan atau dokumen yang terlalu panjang untuk memenuhi had konteks; mematikannya menyebabkan pertanyaan atau pasangan yang terlalu panjang mengembalikan ralat. Sediakan petikan yang mengandungi jawapan dengan sengaja dan kekalkan syarat berkaitan dalam teks yang akan dilihat oleh model. Nilai susunan yang diperhalusi pada soalan dan arahan yang mewakili, kemudian teruskan petikan asal yang dipilih ke peringkat seterusnya.
Ailoot Ultra · Pemeringkatan semula POST /v1/rerank voyageai/rerank-2.5
voyageai/rerank-2.5Pengenalan
rerank-2.5 menyusun semula set calon teks yang dibekalkan mengikut kerelevanan kepada pertanyaan dan arahan bahasa semula jadi pilihan. Ia ialah pemeringkat semula berbilang bahasa yang berorientasikan kualiti dengan konteks pertanyaan–dokumen 32,000 token serta skor berperingkat yang dikaitkan dengan indeks calon asal.
- Input yang diterima
- Teks
- Hasil
- Hasil mengikut kedudukan
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pemeringkatan semula POST /v1/rerank
- Input
text- Output
rerank- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medandocuments | Jenisarray | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had voyageai/rerank-2.5 | Lalai— |
Medanprovider | Jenisschema | KeperluanPilihan | Nilai & had | Lalai— |
Medanquery | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medansession_id | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantop_n | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 | Lalai— |
Medantrace | Jenisschema | KeperluanPilihan | Nilai & had | Lalai— |
Medanuser | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medandocuments[].text | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medandocuments[].image | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Gabungan bahan input
text_rerank · Diperlukan: query, documents array with minItems1
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parametermaterial_types | Kontraktext |
Parameteroptional_controls | Kontrakprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous
Hantar ID model yang tepat dan simpan respons natif yang lengkap.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Unit pengebilan | Caj |
|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Unit pengebilan— | Caj Input · Token input — / 1K token Output · Token output — / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiUltra | Jadual kadar— | Unit pengebilan/ 1K token | Caj Input $0.0001 / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pemeringkatan semula
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Terima dan simpan hasil
Ailoot Ultra · Pemeringkatan semula
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Setiap indeks hasil sebenar, relevance_score terhingga dan objek dokumen asal dikekalkan. Indeks mengikat tatasusunan dokumen asal. Keseluruhan JSON asal disimpan dan hanya dikembalikan selepas penyelesaian caj.
Jika respons asal perlu disemak
Simpan operasi asal dan balasan penuh/separa; jangan ulang POST.
Medan respons
| Medan | Jenis |
|---|---|
Medanmodel | Jenisstring |
Medanid | Jenisstring |
Medanprovider | Jenisstring |
Medanresults[].index | Jenisinteger |
Medanresults[].relevance_score | Jenisnumber |
Medanresults[].document.text | Jenisstring |
Medanresults[].document.image | Jenisstring |
Medanusage.search_units | Jenisinteger |
Medanusage.total_tokens | Jenisinteger |
Medanusage.cost | Jenisnumber |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, bentuk perwakilan atau nilai tidak sah | Langkah seterusnyaBetulkan medan permintaan yang dinyatakan. |
Alias
Alias model
Ailoot Ultra voyageai/rerank-2.5
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · VoyageAI by MongoDB: rerank-2.5
- Apakah input dan hasil yang tersedia?
POST /v1/rerank·voyageai/rerank-2.5:text→rerank- Apakah medan yang digunakan oleh permintaan?
POST /v1/rerank·voyageai/rerank-2.5:documents,model,provider,query,session_id,top_n,trace,user- Apakah had yang terpakai?
POST /v1/rerank·voyageai/rerank-2.5:top_n.minimum:1