Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast menyusun dokumen calon mengikut kerelevanan kepada pertanyaan, dengan tumpuan pada dapatan maklumat berkependaman rendah dan berdaya pemprosesan tinggi. Model ini menyokong konteks 32K, lebih daripada 100 bahasa dan teks separa berstruktur untuk carian dan aliran kerja yang diperkaya dengan dapatan carian.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Cohere Rerank 4 Fast ialah edisi Rerank 4 yang lebih ringan, ditujukan kepada tugasan dapatan maklumat dengan kependaman lebih rendah dan daya pemprosesan lebih tinggi. Model ini menerima pertanyaan dan dokumen calon, kemudian mengembalikan susunan dan skor kerelevanannya. Model ini berguna untuk carian interaktif, pemilihan bukti berulang dan aplikasi yang perlu menyusun semula senarai hasil sedia ada. Fast kekal sebagai edisi berbeza daripada Rerank 4 Pro, yang ditujukan kepada kes lebih kompleks apabila kualiti dapatan maklumat menjadi keutamaan.
Kod pengeluar ialah rerank-v4.0-fast. Seperti Pro, model ini mempunyai konteks 32,768 token dan liputan berbilang bahasa merangkumi lebih daripada 100 bahasa. Pertanyaan dan satu dokumen berkongsi konteks; ia bukan dimensi vektor atau bajet bagi seluruh korpus berindeks. Bekalkan teks calon yang perlu dibandingkan, tanpa mengharapkan model mendapatkan dokumen daripada sumber yang tidak diberikan kepadanya.
Hasil yang didokumenkan menyertakan indeks dokumen asal dan relevance_score. top_n memilih bilangan hasil yang dikembalikan, manakala penggugurannya mengembalikan senarai berperingkat penuh. Simpan pengenal sumber di sisi input supaya susunan baharu boleh dipadankan dengan petikan sebenar. Untuk carian produk, terangkan atribut produk yang diperlukan dalam pertanyaan dan peringkatkan semula penerangan calon; kedudukan yang lebih tinggi patut kekal terhubung dengan rekod produk yang menghasilkannya.
Model ini boleh menggunakan dokumen bahasa Inggeris dan bahasa lain serta rekod separa berstruktur. Dalam aliran kerja V2, input dokumen ialah rentetan, dan Cohere mengesyorkan perwakilan data berstruktur sebagai YAML. Letakkan medan penting dahulu dan kekalkan susunannya supaya pemotongan tidak membuang kandungan yang diperlukan untuk menilai kerelevanan. Rekod sokongan boleh membawa tajuk, produk dan teks prosedur; mesej boleh membawa subjek dan isinya. Hubungan yang dinyatakan ini memberi pemeringkat maklumat melangkaui senarai kata kunci sepadan.
Had pertanyaan khusus model dalam panduan penyediaan Cohere ialah 16,384 token, dengan pertanyaan dan dokumen menggunakan konteks bersama. Panduan itu menerangkan pemprosesan cebisan dokumen lebih panjang, manakala rujukan V2 secara berasingan menetapkan lalai pemotongan dokumen kepada 4096 token melalui max_tokens_per_doc. Semak tetapan dokumen berkesan itu, tanpa menganggap seluruh tetingkap model 32K sentiasa digunakan. Sediakan petikan relevan atau bajet dokumen yang sesuai untuk tugasan dapatan maklumat sebenar.
Untuk prestasi yang disyorkan, Cohere menasihatkan agar tidak melebihi 1,000 dokumen dalam satu permintaan. Bahagikan set calon lebih besar kepada kumpulan yang mudah dikendalikan sambil mengekalkan pengenalnya. Skor output dinormalkan dari 0 hingga 1 dan bergantung pada pertanyaan serta petikan. Susunannya ialah hasil utama; skor bukan gandaan linear kerelevanan atau bukti bahawa petikan itu betul. Tentukan sebarang ambang penapisan melalui pertanyaan yang mewakili penggunaan dan petikan yang hampir relevan dalam domain tersebut.
Hasil Fast yang berguna ialah senarai berperingkat yang boleh terus memacu paparan carian atau memilih bukti untuk peringkat penulisan jawapan. Simpan teks sumber bersama skor dan semak sama ada hasil teratas benar-benar menjawab syarat yang diminta. Peranan Fast ialah pemeringkatan dapatan maklumat, bukannya penjanaan penjelasan baharu atau vektor embedding. Kekalkan edisi bernama dan penyediaan input yang konsisten apabila memperhalus tingkah laku kerelevanan.
Ailoot Ultra · Pemeringkatan semula POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastPengenalan
Cohere Rerank 4 Fast menyusun dokumen calon mengikut kerelevanan kepada pertanyaan, dengan tumpuan pada dapatan maklumat berkependaman rendah dan berdaya pemprosesan tinggi. Model ini menyokong konteks 32K, lebih daripada 100 bahasa dan teks separa berstruktur untuk carian dan aliran kerja yang diperkaya dengan dapatan carian.
- Input yang diterima
- Teks
- Hasil
- Hasil mengikut kedudukan
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pemeringkatan semula POST /v1/rerank
- Input
text- Output
rerank- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medandocuments | Jenisarray | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had cohere/rerank-4-fast | Lalai— |
Medanprovider | Jenisschema | KeperluanPilihan | Nilai & had | Lalai— |
Medanquery | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medansession_id | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantop_n | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 | Lalai— |
Medantrace | Jenisschema | KeperluanPilihan | Nilai & had | Lalai— |
Medanuser | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medandocuments[].text | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medandocuments[].image | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Gabungan bahan input
text_rerank · Diperlukan: query, documents array with minItems1
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, query, documents |
Parametermaterial_types | Kontraktext |
Parameteroptional_controls | Kontrakprovider, session_id, top_n, trace, user |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous
Hantar ID model yang tepat dan simpan respons natif yang lengkap.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Unit pengebilan | Caj |
|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Unit pengebilan— | Caj Input · Token input — / 1K token Output · Token output — / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiUltra | Jadual kadar— | Unit pengebilanbagi setiap unit carian | Caj total · unit carian $0.004 bagi setiap unit carian |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pemeringkatan semula
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Terima dan simpan hasil
Ailoot Ultra · Pemeringkatan semula
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Setiap indeks hasil sebenar, relevance_score terhingga dan objek dokumen asal dikekalkan. Indeks mengikat tatasusunan dokumen asal. Keseluruhan JSON asal disimpan dan hanya dikembalikan selepas penyelesaian caj.
Jika respons asal perlu disemak
Simpan operasi asal dan balasan penuh/separa; jangan ulang POST.
Medan respons
| Medan | Jenis |
|---|---|
Medanmodel | Jenisstring |
Medanid | Jenisstring |
Medanprovider | Jenisstring |
Medanresults[].index | Jenisinteger |
Medanresults[].relevance_score | Jenisnumber |
Medanresults[].document.text | Jenisstring |
Medanresults[].document.image | Jenisstring |
Medanusage.search_units | Jenisinteger |
Medanusage.total_tokens | Jenisinteger |
Medanusage.cost | Jenisnumber |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, bentuk perwakilan atau nilai tidak sah | Langkah seterusnyaBetulkan medan permintaan yang dinyatakan. |
Alias
Alias model
Ailoot Ultra cohere/rerank-4-fast
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Cohere: Rerank 4 Fast
- Apakah input dan hasil yang tersedia?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Apakah medan yang digunakan oleh permintaan?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Apakah had yang terpakai?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1