Cohere: Rerank v3.5
Cohere Rerank 3.5 menyusun semula teks calon dan rekod separa berstruktur mengikut kerelevanan kepada pertanyaan. Model ini menyokong lebih daripada 100 bahasa dan konteks 4096 token untuk memperhalus hasil carian kata kunci atau semantik sebelum jawapan dijana atau hasil carian dipaparkan.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Cohere Rerank 3.5 ialah model berbilang bahasa untuk pemeringkatan kerelevanan dokumen calon dan teks separa berstruktur. Model ini menilai setiap calon berhubung dengan pertanyaan dan mengembalikan senarai hasil yang disusun semula berserta skor kerelevanan. Model ini boleh memperhalus calon yang diperoleh melalui carian kata kunci atau semantik dan memilih petikan untuk jawapan yang diperkaya dengan dapatan carian. Tugasnya ialah memperbaik susunan bukti, bukannya menjana jawapan bebas atau membina indeks korpus baharu.
Pengenal pengeluar yang tepat ialah rerank-v3.5. Model ini menggunakan konteks 4096 token, berbeza daripada konteks 32K Rerank 4 Pro dan Fast. Token pertanyaan dan dokumen dikira bersama dalam tetingkap bagi setiap calon itu. Panduan penyediaan khusus model memotong pertanyaan selepas 2048 token pertamanya dan menerangkan cebisan dokumen sebanyak 4093 token sebelum pertanyaan diambil kira. Pastikan pertanyaan tertumpu dan sediakan petikan calon yang mengandungi maklumat untuk menilai hubungan yang diminta.
Bekalkan pertanyaan dan senarai rentetan teks calon. Setiap hasil membawa indeks yang merujuk kedudukan dokumen asal dan skor kerelevanan; top_n memilih bilangan hasil berperingkat untuk disimpan. Tanpanya, aliran kerja pengeluar yang didokumenkan mengembalikan semua hasil. Simpan pengenal dokumen secara berasingan daripada skor supaya petikan teratas masih boleh dijejak kepada polisi, rekod produk atau mesej asal.
Rerank 3.5 menyokong lebih daripada 100 bahasa, termasuk bahan bahasa Inggeris dan bahasa lain. Pertanyaan boleh mengandungi beberapa aspek keperluan, seperti produk, situasi pengguna dan prosedur yang dikehendaki. Untuk rekod berstruktur, keluaran V2 membuang objek dokumen mentah dan mengesyorkan rentetan YAML. Susun medan berguna secara sengaja, dengan kandungan penentu sebelum metadata yang kurang relevan, kerana rentetan panjang boleh dipotong. Ini sesuai untuk tajuk dan kandungan, atribut produk atau subjek dan isi mesej.
Rujukan pengeluar V2 menggunakan max_tokens_per_doc untuk pemotongan dokumen, dengan lalai 4096. Panduan penyediaan Cohere turut menerangkan pemecahan dokumen panjang kepada cebisan; input berkesan bergantung pada aliran kerja yang dipilih dan tetapan dokumennya. Untuk kawalan yang lebih baik, sediakan sendiri petikan yang boleh dikenal pasti dan jangan menganggap setiap bahagian sumber panjang kekal kelihatan. Kekalkan konteks sekeliling yang mencukupi untuk membezakan petikan yang mengandungi jawapan daripada petikan yang hanya berkongsi kosa kata.
Untuk prestasi permintaan, rujukan semasa mengesyorkan supaya tidak menghantar lebih daripada 1,000 dokumen sekali gus. Skor kerelevanan dinormalkan antara 0 dengan 1, tetapi nilainya bergantung pada pertanyaan dan calon, dan bukan skala linear ketepatan. Gunakan pemeringkatan untuk mengenal pasti bukti yang berguna. Jika ambang skor diperlukan, pilih pertanyaan domain yang mewakili penggunaan dan petikan yang hampir relevan supaya ambang mencerminkan tugasan dapatan maklumat sebenar.
Aliran kerja sokongan yang praktikal boleh memeringkat semula bahagian polisi pemulangan calon untuk soalan tentang barang rosak, kemudian menghantar teks sumber terpilih kepada peringkat penulisan jawapan. Carian e-mel boleh memeringkat mesej berdasarkan isu tertentu dan menyimpan pengenal mesej asal bersama-sama setiap hasil. Artifak yang berguna ialah senarai bukti tersusun. Kekalkan konteks Rerank 3.5 yang lebih pendek dan penyediaan dokumen V2 bersama hasil itu, tanpa menggantikannya dengan had model lebih baharu.
Ailoot Ultra · Pemeringkatan semula POST /v1/rerank cohere/rerank-v3.5
cohere/rerank-v3.5Pengenalan
Cohere Rerank 3.5 menyusun semula teks calon dan rekod separa berstruktur mengikut kerelevanan kepada pertanyaan. Model ini menyokong lebih daripada 100 bahasa dan konteks 4096 token untuk memperhalus hasil carian kata kunci atau semantik sebelum jawapan dijana atau hasil carian dipaparkan.
- Input yang diterima
- Teks
- Hasil
- Hasil mengikut kedudukan
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pemeringkatan semula POST /v1/rerank
- Input
text- Output
rerank- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medandocuments | Jenisarray | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had cohere/rerank-v3.5 | Lalai— |
Medanprovider | Jenisschema | KeperluanPilihan | Nilai & had | Lalai— |
Medanquery | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medansession_id | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantop_n | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 | Lalai— |
Medantrace | Jenisschema | KeperluanPilihan | Nilai & had | Lalai— |
Medanuser | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medandocuments[].text | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medandocuments[].image | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Gabungan bahan input
text_rerank · Diperlukan: query, documents array with minItems1
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parametermaterial_types | Kontraktext |
Parameteroptional_controls | Kontrakprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous
Hantar ID model yang tepat dan simpan respons natif yang lengkap.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Unit pengebilan | Caj |
|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Unit pengebilan— | Caj Input · Token input — / 1K token Output · Token output — / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiUltra | Jadual kadar— | Unit pengebilanbagi setiap unit carian | Caj total · unit carian $0.002 bagi setiap unit carian |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pemeringkatan semula
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-v3.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-v3.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Terima dan simpan hasil
Ailoot Ultra · Pemeringkatan semula
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Setiap indeks hasil sebenar, relevance_score terhingga dan objek dokumen asal dikekalkan. Indeks mengikat tatasusunan dokumen asal. Keseluruhan JSON asal disimpan dan hanya dikembalikan selepas penyelesaian caj.
Jika respons asal perlu disemak
Simpan operasi asal dan balasan penuh/separa; jangan ulang POST.
Medan respons
| Medan | Jenis |
|---|---|
Medanmodel | Jenisstring |
Medanid | Jenisstring |
Medanprovider | Jenisstring |
Medanresults[].index | Jenisinteger |
Medanresults[].relevance_score | Jenisnumber |
Medanresults[].document.text | Jenisstring |
Medanresults[].document.image | Jenisstring |
Medanusage.search_units | Jenisinteger |
Medanusage.total_tokens | Jenisinteger |
Medanusage.cost | Jenisnumber |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, bentuk perwakilan atau nilai tidak sah | Langkah seterusnyaBetulkan medan permintaan yang dinyatakan. |
Alias
Alias model
Ailoot Ultra cohere/rerank-v3.5
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Cohere: Rerank v3.5
- Apakah input dan hasil yang tersedia?
POST /v1/rerank·cohere/rerank-v3.5:text→rerank- Apakah medan yang digunakan oleh permintaan?
POST /v1/rerank·cohere/rerank-v3.5:documents,model,provider,query,session_id,top_n,trace,user- Apakah had yang terpakai?
POST /v1/rerank·cohere/rerank-v3.5:top_n.minimum:1