Voyage AI: Voyage Context 3

Voyage Context 3 menghasilkan embedding potongan yang mempertimbangkan konteks untuk pencarian dokumen. Setiap potongan mendapatkan vektornya sendiri, sementara model juga mempertimbangkan potongan lain yang diberikan dari dokumen yang sama. Dengan demikian, sistem pencarian memperoleh representasi bagian teks setempat beserta konteks dokumen yang lebih luas, seperti entitas atau topik yang diperkenalkan di bagian lain sumber.

Siapkan setiap dokumen sebagai urutan potongan teks yang mudah dibaca. Kelompokkan potongan dari satu dokumen dan pertahankan urutan aslinya. Dalam alur kerja berkonteks yang dijelaskan pembuatnya, setiap kelompok di dalam masukan berisi potongan dari satu sumber, dan kelompok yang berbeda mewakili sumber yang berbeda. Pengelompokan ini merupakan bagian dari makna masukan: pengelompokan memberi tahu model teks sekitar mana yang termasuk dalam dokumen yang sedang direpresentasikan.

Contoh yang berguna adalah laporan yang memperkenalkan perusahaan pada bagian pembuka, sementara paragraf berikutnya menjelaskan pertumbuhannya. Pencarian tentang pertumbuhan perusahaan tersebut memerlukan paragraf yang spesifik sekaligus identitas dokumennya. Simpan teks potongan asli dan metadata dokumen induknya bersama vektor yang dihasilkan agar hasil dapat menampilkan bagian teks dan menautkan ke sumber lengkap.

Referensi pembuatnya mendokumentasikan hingga 120000 token dalam satu permintaan, dengan tidak lebih dari 1000 kelompok masukan dan total 16000 potongan. Panduan model secara terpisah mencantumkan jendela 32000 token per potongan. Bedakan cakupan ini saat menyiapkan materi: batas satu potongan dan batas seluruh permintaan menggambarkan ukuran masukan yang berbeda. Periksa jumlah keseluruhan setelah membagi sumber, alih-alih menganggap setiap potongan dapat mencapai batas maksimumnya dalam permintaan yang sama.

Untuk pencarian dokumen, tandai bagian teks yang dikelompokkan sebagai masukan dokumen. Siapkan setiap pertanyaan pencarian sebagai kelompok kuerinya sendiri. Pembuatnya menyarankan agar potongan dokumen yang diberikan tidak tumpang tindih, sehingga representasi berkonteks dapat membawa informasi sekitar tanpa mengulang teks di setiap bagian. Pertahankan pemetaan antara kelompok dokumen, posisi potongan, dan vektor yang dikembalikan saat menulis indeks.

Voyage Context 3 mendukung dimensi 2048, 1024, 512, dan 256, dengan pilihan keluaran floating-point, bilangan bulat delapan bit, serta biner. Pilih representasi indeks dan evaluasi menggunakan dokumen sumber dan pertanyaan yang sama. Simpan dimensi dan tipe data yang dipilih bersama indeks agar representasi kueri dan vektor tersimpan tetap konsisten.

Gunakan vektor yang dihasilkan untuk pencarian bagian teks, penemuan dokumen, atau tahap pencarian pada asisten yang bekerja dengan laporan, makalah penelitian, kontrak, atau manual teknis. Hasil dapat mengidentifikasi bagian teks yang terfokus, sementara tautan sumbernya memberi akses ke definisi dan batasan di bagian lain dokumen. Pertahankan versi dan izin dokumen sebagai metadata aplikasi di samping vektor.

Uji pertanyaan yang memerlukan detail setempat sekaligus konteks pada tingkat dokumen. Sertakan bagian teks serupa dari sumber berbeda, entitas bernama yang hanya diperkenalkan pada awal dokumen, dan pertanyaan yang buktinya tersebar di beberapa bagian. Periksa apakah potongan yang diharapkan ditemukan dan apakah aplikasi menampilkan cukup teks sekitar untuk menafsirkannya. Saat sumber berubah, buat ulang kelompok dokumen yang terdampak secara sengaja agar potongan berkonteksnya sesuai dengan satu versi yang utuh dan konsisten.