Cohere: Rerank 4 Pro

Cohere Rerank 4 Pro adalah model yang mengutamakan mutu dalam keluarga Rerank 4 Cohere. Model mengevaluasi kandidat dokumen terhadap kueri dan mengembalikan urutan relevansi beserta skornya. Model ditujukan untuk tugas temu balik kompleks, termasuk dokumen multibahasa dan informasi semi-terstruktur. Model cocok ditempatkan dalam alur pencarian atau berbantuan temu balik setelah sistem yang ada mengumpulkan kandidat: hasilnya membantu memilih kutipan yang ditampilkan atau diberikan sebagai bukti ke tahap berikutnya.

Identifikator pembuatnya adalah rerank-v4.0-pro, terpisah dari rerank-v4.0-fast dan rerank-v3.5. Pro diposisikan untuk kasus kompleks ketika mutu temu balik menjadi prioritas, sedangkan Fast menyasar latensi lebih rendah dan throughput lebih tinggi. Kedua edisi Rerank 4 memakai konteks 32.768 token. Kueri dan satu kandidat dokumen berbagi anggaran itu; ini bukan jendela penuh terpisah untuk setiap bidang masukan atau batas seluruh korpus pencarian tersimpan.

Berikan kueri yang jelas dan daftar string teks kandidat. Setiap hasil yang dikembalikan mencakup indeks dokumen asli dan skor relevansi, dan top_n dapat memilih jumlah hasil berperingkat yang dikembalikan; tanpanya, pembuat mengembalikan seluruh hasil. Pertahankan identifikator sumber di samping setiap masukan agar peringkat dapat dihubungkan kembali ke kutipan yang tepat. Untuk pertanyaan dukungan, tanyakan syarat yang dibutuhkan dan berikan kandidat bagian kebijakan, alih-alih mengharapkan pemeringkat menemukan kebijakan yang tidak ada dalam daftar.

Model mendukung lebih dari 100 bahasa dan dapat mengurutkan ulang materi berbahasa Inggris maupun selain Inggris. Untuk kueri dengan beberapa persyaratan, nyatakan kondisi yang membuat kutipan berguna, seperti produk, situasi, dan prosedur yang dibutuhkan. Untuk rekaman semi-terstruktur, Cohere merekomendasikan string YAML alih-alih mengirim objek mentah dalam daftar dokumen V2. Susun bidang bermakna seperti judul dan isi dengan urutan yang disengaja, karena pemotongan dapat menghapus bidang belakangan. Persiapan ini berguna untuk rekaman produk, pesan, dan metadata dokumen, selain prosa biasa.

Panduan persiapan khusus model membatasi kueri Rerank 4 pada 16.384 token pertama. Panduan menjelaskan pemrosesan dokumen lebih panjang melalui potongan yang berbagi konteks 32.768 token dengan kueri dan token yang dicadangkan. Secara terpisah, referensi V2 saat ini menetapkan max_tokens_per_doc bawaan sebesar 4.096 dan menyatakan bahwa string dokumen yang lebih panjang dipotong pada pengaturan tersebut. Perlakukan jendela model dan pemotongan dokumen dalam permintaan pembuat sebagai kendali berbeda. Siapkan kutipan relevan yang ringkas atau pilih anggaran dokumen yang sesuai, alih-alih menganggap setiap sumber panjang selalu dibaca penuh.

Untuk kinerja permintaan yang direkomendasikan, Cohere menyarankan agar tidak mengirim lebih dari 1.000 dokumen sekaligus. Pertahankan identifikator kandidat saat membagi daftar lebih besar menjadi kelompok yang mudah dikelola. Skor relevansi dinormalisasi antara 0 dan 1, tetapi bergantung pada kueri dan kandidat; skor bukan ukuran linear kebenaran faktual. Gunakan urutan sebagai hasil utama temu balik. Jika menyaring dengan ambang skor, tentukan ambang menggunakan kueri representatif dan kutipan dengan relevansi di batas ambang dari domain sebenarnya, alih-alih menganggap ada ambang universal.

Artefak akhir yang berguna adalah daftar kandidat berperingkat dengan identifikator sumber dan skor, siap untuk hasil pencarian atau langkah pemilihan bukti. Dokumen berskor relevansi tinggi tetap dapat memuat informasi usang atau salah, sehingga pertahankan sumber dan isinya untuk tahap yang menggunakannya. Tujuan Pro adalah penilaian relevansi, bukan penulisan jawaban bebas atau pembuatan embedding. Pertahankan edisi Pro yang tepat bersama hasil saat membandingkan atau menyempurnakan alur temu balik.