VoyageAI by MongoDB: rerank-3

Voyage rerank-3 adalah reranker teks yang dirancang untuk meningkatkan kualitas bukti hasil pengambilan informasi. Dengan kueri dan daftar dokumen kandidat, model ini memeriksa setiap pasangan secara bersamaan dan mengembalikan kandidat yang diurutkan berdasarkan relevansi. Embedding dan pencarian kata kunci dapat terlebih dahulu mempersempit koleksi besar menjadi daftar pendek yang dapat dikelola; rerank-3 kemudian menerapkan penilaian relevansi lebih terperinci pada daftar pendek tersebut. Keluarannya berupa bukti pencarian yang diberi skor untuk ditampilkan aplikasi atau diteruskan ke langkah pembuatan jawaban yang terpisah.

Rerank 3 yang berfokus pada kualitas Pembuatnya menempatkan rerank-3 sebagai edisi yang berfokus pada akurasi dan rerank-3-lite sebagai edisi untuk pencarian yang sensitif terhadap latensi. Generasi ketiga memperbarui arsitektur inti dan campuran pelatihan, dengan peningkatan khusus pada pengambilan dokumen panjang dan kode sumber dibandingkan pendahulu 2.5 yang bersesuaian. Pembuat mengevaluasinya pada dokumentasi teknis, kode, materi multibahasa, dan bidang dokumen lainnya. Hasil tersebut mendukung perannya dalam pengambilan informasi; pilih edisi menggunakan pertanyaan dan dokumen kandidat yang penting bagi koleksi Anda sendiri.

Dokumen panjang dengan konteks yang cukup Kandidat panjang dapat memuat konteks berguna jauh melampaui paragraf pembukanya. Berikan bagian atau dokumen yang koheren dengan judul dan materi sekitar yang relevan agar model dapat menilai hubungan pertanyaan aktual dengan konten. Untuk pencarian kebijakan produk, pertahankan judul dan pengecualian di sekitar bagian yang diminati. Jika beberapa bagian hasil pengambilan berasal dari sumber yang sama, pertahankan pengidentifikasi dokumen dan bagiannya; aplikasi kemudian dapat menunjukkan asal bukti yang dipilih.

Jendela konteks digunakan bersama oleh kueri dan setiap kandidat. Panduan pembuat saat ini menetapkan 32.000 token untuk pasangan tersebut, termasuk kueri yang maksimum 8.000 token. Karena itu, kueri 3.000 token menyisakan paling banyak 29.000 token untuk setiap dokumen. Siapkan masukan agar konten esensialnya muat, terutama ketika pengantar panjang atau teks standar berulang akan menghabiskan jendela. Opsi truncation yang didokumentasikan aktif secara default dan dapat memendekkan teks kueri atau dokumen yang terlalu panjang sebelum diberi skor. Periksa bagian yang dipertahankan ketika penempatan bagian teks berpengaruh.

Pengambilan kode dan informasi teknis Untuk tahap pengambilan informasi asisten pemrograman, kandidat dapat memuat implementasi fungsi, dokumentasi API, atau penjelasan teknis sebagai teks. Sertakan simbol, signature, dan konteks yang diperlukan untuk membedakan kandidat serupa. Kueri seperti “Temukan fungsi yang menormalisasi path sambil mempertahankan pemisah di bagian akhir” memberikan perilaku konkret untuk dicocokkan. Sertakan batasan bahasa, platform, atau versi yang relevan. Setelah pemeringkatan, periksa kode terpilih dan dependensinya sebelum menggunakannya sebagai konteks; skor relevansi tidak membuktikan bahwa implementasi memenuhi setiap persyaratan yang dinyatakan.

Instruksi menentukan relevansi Model ini mempertahankan kemampuan pemeringkatan ulang yang mengikuti instruksi, yang diperkenalkan dalam Rerank 2.5. Tambahkan instruksi ringkas sebelum atau sesudah kueri ketika maksud pengguna memerlukan klarifikasi. Untuk pencarian dokumen riset, jelaskan apakah fokusnya pada judul, metode tertentu, atau bidang aplikasi. Untuk katalog internal, tentukan apakah permintaan menyangkut instalasi, pemecahan masalah, atau kompatibilitas. Jaga instruksi tersebut selaras dengan pertanyaan; preferensi tambahan yang bertentangan dengan permintaan utama dapat mengubah hal yang berusaha dioptimalkan pemeringkatan.

Siapkan dokumen kandidat dan anggaran Masukannya adalah daftar string teks. Ekstrak teks yang dapat digunakan dari dokumen sumber, pertahankan batas bagian yang bermakna, dan simpan peta catatan berurutan bersama daftar tersebut. Pembuat mengizinkan hingga 1.000 dokumen dalam satu permintaan. Pembuat juga menetapkan batas masukan agregat 600.000 token: token kueri dikalikan jumlah dokumen, ditambah jumlah seluruh token dokumen. Ini berbeda dari batas konteks per pasangan. Mengurangi teks kueri yang berlebihan dapat mempertahankan kapasitas pasangan sekaligus anggaran total permintaan.

Hitung token untuk model yang relevan, alih-alih menganggap jumlah kata atau karakter sebagai jumlah token. Untuk kandidat besar, pilih bagian teks yang koheren atau bagi materi menurut judul yang berguna sambil mempertahankan informasi sumber induk. Pemeringkatan ulang paling berguna setelah pencarian pertama sudah menemukan kandidat yang masuk akal: tahap ini tidak dapat memeringkat sumber yang belum tersedia karena tidak pernah masuk daftar.

Hasil berperingkat dan penggunaan hilir Hasil memuat skor relevansi dan indeks yang merujuk pada dokumen masukan asli, diurutkan berdasarkan relevansi menurun. Opsi top_k membatasi jumlah hasil berperingkat yang dikembalikan; jika tidak ditentukan, semua kandidat masukan dikembalikan. Antarmuka REST pembuat juga memungkinkan penyertaan teks dokumen. Gunakan setiap indeks asli untuk memperoleh kembali judul, pengidentifikasi sumber, dan metadata yang dibutuhkan aplikasi, lalu tampilkan item yang dipilih atau masukkan teks relevan ke konteks bukti jawaban.

Periksa hasil teratas terhadap pertanyaan dan jaga identitas sumber tetap terlihat. Peringkat relatif tinggi tidak memverifikasi akurasi faktual dokumen, dan daftar pendek yang hanya memuat kandidat buruk tetap memiliki item pertama. Pisahkan pemilihan relevansi dari keputusan apakah bukti terpilih cukup untuk menjawab pengguna.

Migrasi edisi Pembuatnya mendeskripsikan rerank-3 sebagai penerus langsung rerank-2.5 yang dapat menggantikannya, dengan semantik API yang sama dan skor yang dikalibrasi terhadap distribusi pendahulunya yang bersesuaian. Kompatibilitas tersebut mendukung pemeliharaan tahap pengambilan informasi dan pemetaan catatan yang ada. Bandingkan urutan hasil yang bermakna dan ambang skor apa pun pada korpus saat ini sebelum mengandalkan migrasi. Pertahankan rerank-3 dan rerank-3-lite sebagai pilihan berbeda: batas bersama dan kepatuhan terhadap instruksi tidak membuat prioritas kualitas dan latensinya identik.