Cohere: Rerank v3.5
Cohere Rerank 3.5 mengurutkan ulang kandidat teks dan rekaman semi-terstruktur berdasarkan relevansinya terhadap kueri. Model ini mendukung lebih dari 100 bahasa dan konteks 4.096 token untuk menyempurnakan hasil pencarian kata kunci atau semantik sebelum penyusunan jawaban atau tampilan pencarian.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Cohere Rerank 3.5 adalah model multibahasa untuk memeringkat relevansi kandidat dokumen dan teks semi-terstruktur. Model mengevaluasi setiap kandidat terhadap kueri dan mengembalikan daftar hasil yang diurutkan ulang beserta skor relevansi. Model ini dapat menyempurnakan kandidat dari pencarian kata kunci atau semantik dan memilih kutipan untuk jawaban berbantuan temu balik. Tugasnya memperbaiki urutan bukti, bukan menghasilkan jawaban bebas atau membuat indeks korpus baru.
Identifikator tepat dari pembuatnya adalah rerank-v3.5. Model menggunakan konteks 4.096 token, berbeda dari konteks 32K milik Rerank 4 Pro dan Fast. Token kueri dan dokumen dihitung bersama dalam jendela per kandidat tersebut. Panduan persiapan khusus model memotong kueri setelah 2.048 token pertamanya dan menjelaskan potongan dokumen berukuran 4.093 token sebelum memperhitungkan kueri. Buat kueri tetap terarah dan siapkan kutipan kandidat yang memuat informasi untuk menilai hubungan yang diminta.
Berikan kueri dan daftar string teks kandidat. Setiap hasil membawa indeks yang menunjuk posisi dokumen asli serta skor relevansi; top_n memilih jumlah hasil berperingkat yang dipertahankan. Tanpanya, alur kerja pembuat yang didokumentasikan mengembalikan seluruh hasil. Pertahankan identifikator dokumen secara terpisah dari skor agar kutipan teratas tetap dapat ditelusuri ke kebijakan, rekaman produk, atau pesan aslinya.
Rerank 3.5 mendukung lebih dari 100 bahasa, termasuk materi berbahasa Inggris dan selain Inggris. Kueri dapat memuat beberapa aspek kebutuhan, seperti produk, situasi pengguna, dan prosedur yang diinginkan. Untuk rekaman terstruktur, rilis V2 menghapus objek dokumen mentah dan merekomendasikan string YAML. Susun bidang berguna dengan urutan yang disengaja, mendahulukan isi penentu daripada metadata yang kurang relevan, karena string panjang dapat dipotong. Ini berlaku untuk judul dan isi, atribut produk, maupun subjek dan isi pesan.
Referensi V2 pembuat menggunakan max_tokens_per_doc untuk pemotongan dokumen, dengan nilai bawaan 4.096. Panduan persiapan Cohere juga menjelaskan pemecahan dokumen panjang; masukan efektif bergantung pada alur kerja dan pengaturan dokumen yang dipilih. Untuk kendali lebih besar, siapkan sendiri kutipan yang dapat diidentifikasi, alih-alih menganggap seluruh bagian sumber panjang tetap terlihat. Pertahankan konteks sekitar yang cukup untuk membedakan kutipan yang mengandung jawaban dari kutipan yang hanya memiliki kosakata serupa.
Untuk kinerja permintaan, referensi saat ini merekomendasikan agar tidak mengirim lebih dari 1.000 dokumen sekaligus. Skor relevansi dinormalisasi antara 0 dan 1, tetapi nilainya bergantung pada kueri dan kandidat serta bukan skala kebenaran linear. Gunakan peringkat untuk menemukan bukti yang berguna. Jika diperlukan ambang skor, pilih kueri domain yang representatif dan kutipan dengan relevansi di batas ambang agar ambang mencerminkan tugas temu balik sebenarnya.
Alur dukungan yang praktis dapat mengurutkan ulang kandidat bagian kebijakan pengembalian untuk pertanyaan tentang barang rusak, lalu meneruskan teks sumber terpilih ke tahap penulisan jawaban. Pencarian email dapat memeringkat pesan berdasarkan masalah tertentu dan menyimpan identifikator pesan asli pada setiap hasil. Artefak yang berguna adalah daftar bukti berurutan. Sertakan konteks Rerank 3.5 yang lebih pendek dan persiapan dokumen V2 bersama hasil tersebut, alih-alih menggantinya dengan batas model yang lebih baru.
Ailoot Ultra · Pemeringkatan ulang POST /v1/rerank cohere/rerank-v3.5
cohere/rerank-v3.5Mulai
Cohere Rerank 3.5 mengurutkan ulang kandidat teks dan rekaman semi-terstruktur berdasarkan relevansinya terhadap kueri. Model ini mendukung lebih dari 100 bahasa dan konteks 4.096 token untuk menyempurnakan hasil pencarian kata kunci atau semantik sebelum penyusunan jawaban atau tampilan pencarian.
- Masukan yang diterima
- Teks
- Hasil
- Hasil berperingkat
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Pemeringkatan ulang POST /v1/rerank
- Masukan
text- Keluaran
rerank- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolomdocuments | Jenisarray | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan cohere/rerank-v3.5 | Bawaan— |
Kolomprovider | Jenisschema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomquery | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomsession_id | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtop_n | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomtrace | Jenisschema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomuser | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomdocuments[].text | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomdocuments[].image | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kombinasi bahan masukan
text_rerank · Wajib: query, documents array with minItems1
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parametermaterial_types | Kontraktext |
Parameteroptional_controls | Kontrakprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous
Kirim ID model yang persis dan simpan respons native secara utuh.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tidak ditentukan Saat mode fast dipilih
- Mode Flex
- Tidak ditentukan Saat mode flex dipilih
- Upaya penalaran maksimum
- Tidak ditentukan Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Satuan penagihan | Biaya |
|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Satuan penagihan— | Biaya Masukan · Token masukan — / 1K token Keluaran · Token keluaran — / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiUltra | Jadwal tarif— | Satuan penagihanper unit pencarian | Biaya total · unit pencarian $0.002 per unit pencarian |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Pemeringkatan ulang
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-v3.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-v3.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Terima dan simpan hasil
Ailoot Ultra · Pemeringkatan ulang
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Setiap indeks hasil aktual, relevance_score yang bernilai berhingga, dan objek dokumen asli dipertahankan. Indeks mengacu pada array dokumen asli. Seluruh JSON asli disimpan dan hanya dikembalikan setelah penyelesaian tagihan.
Jika respons asli perlu diperiksa
Simpan operasi awal dan balasan lengkap/sebagian; jangan ulangi POST.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolommodel | Jenisstring |
Kolomid | Jenisstring |
Kolomprovider | Jenisstring |
Kolomresults[].index | Jenisinteger |
Kolomresults[].relevance_score | Jenisnumber |
Kolomresults[].document.text | Jenisstring |
Kolomresults[].document.image | Jenisstring |
Kolomusage.search_units | Jenisinteger |
Kolomusage.total_tokens | Jenisinteger |
Kolomusage.cost | Jenisnumber |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi, atau nilai tidak valid | Langkah berikutnyaPerbaiki bidang permintaan yang ditunjukkan. |
Alias
Alias model
Ailoot Ultra cohere/rerank-v3.5
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · Cohere: Rerank v3.5
- Input dan hasil apa yang tersedia?
POST /v1/rerank·cohere/rerank-v3.5:text→rerank- Kolom apa yang digunakan permintaan?
POST /v1/rerank·cohere/rerank-v3.5:documents,model,provider,query,session_id,top_n,trace,user- Batasan apa yang berlaku?
POST /v1/rerank·cohere/rerank-v3.5:top_n.minimum:1