Voyage AI: Voyage Context 3

Voyage Context 3 menghasilkan embedding cebisan yang mengambil kira konteks untuk carian dokumen. Setiap cebisan menerima vektornya sendiri, sementara model turut mempertimbangkan cebisan lain yang diberikan daripada dokumen yang sama. Ini memberi sistem carian perwakilan petikan setempat bersama konteks dokumen yang lebih luas, seperti entiti atau topik yang diperkenalkan di tempat lain dalam sumber.

Sediakan setiap dokumen sebagai urutan cebisan teks yang boleh dibaca. Himpunkan cebisan daripada satu dokumen dan kekalkan susunan asalnya. Dalam aliran kerja berkonteks pembuatnya, setiap kumpulan dalaman mengandungi cebisan daripada satu sumber, dan kumpulan berasingan mewakili sumber berasingan. Pengelompokan ini sebahagian daripada makna input: ia memberitahu model teks sekeliling yang tergolong dalam dokumen yang sedang diwakili.

Satu contoh berguna ialah laporan yang mengenal pasti syarikat pada bahagian pembukaan, sementara perenggan kemudian menerangkan pertumbuhannya. Carian tentang pertumbuhan syarikat itu memerlukan perenggan khusus dan identiti dokumen. Kekalkan teks cebisan asal serta metadata dokumen induknya bersama vektor yang terhasil supaya hasil dapat memaparkan petikan dan memautkan sumber lengkap.

Rujukan pembuatnya mendokumentasikan sehingga 120000 token merentas satu permintaan, dengan tidak lebih daripada 1000 kumpulan input dan jumlah keseluruhan 16000 cebisan. Panduan model secara berasingan menyenaraikan tetingkap 32000 token bagi setiap cebisan. Bezakan skop ini semasa menyediakan bahan: had satu cebisan dan had seluruh permintaan menerangkan saiz input yang berbeza. Semak jumlah selepas membahagikan sumber dan jangan menganggap setiap cebisan boleh mencapai had maksimumnya dalam permintaan yang sama.

Untuk carian dokumen, kenal pasti petikan yang dikelompokkan sebagai input dokumen. Sediakan setiap soalan carian sebagai kumpulan pertanyaannya sendiri. Pembuatnya mengesyorkan cebisan dokumen yang diberikan tidak bertindih, membolehkan perwakilan berkonteks membawa maklumat sekeliling tanpa mengulang teks dalam setiap petikan. Kekalkan pemetaan antara kumpulan dokumen, kedudukan cebisan dan vektor yang dikembalikan semasa menulis indeks.

Voyage Context 3 menyokong dimensi 2048, 1024, 512 dan 256, dengan pilihan output titik apung, integer lapan bit dan binari. Pilih perwakilan indeks dan nilainya menggunakan dokumen sumber serta soalan yang sama. Simpan dimensi dan jenis data yang dipilih bersama indeks supaya perwakilan pertanyaan dan vektor tersimpan kekal konsisten.

Gunakan vektor yang terhasil dalam carian petikan, penemuan dokumen atau tahap carian pembantu yang bekerja dengan laporan, kertas penyelidikan, kontrak atau manual teknikal. Hasil boleh mengenal pasti petikan yang terfokus, sementara pautan sumbernya memberikan akses kepada definisi dan batasan di tempat lain dalam dokumen. Kekalkan versi dokumen dan kebenaran akses sebagai metadata aplikasi bersama vektor.

Uji soalan yang memerlukan butiran setempat dan konteks pada peringkat dokumen. Sertakan petikan serupa daripada sumber berbeza, entiti bernama yang diperkenalkan hanya pada awal dokumen dan soalan yang buktinya merentasi beberapa bahagian. Periksa sama ada cebisan yang dijangka ditemukan dan sama ada aplikasi memaparkan teks sekeliling yang mencukupi untuk mentafsirkannya. Apabila sumber berubah, jana semula kumpulan dokumen yang terjejas secara terancang supaya cebisan berkonteksnya sepadan dengan satu versi yang utuh dan konsisten.