DeepSeek: DeepSeek V3.2

DeepSeek V3.2 adalah model teks DeepSeek untuk penalaran dan pekerjaan agen, dengan penekanan pada pemrosesan konteks panjang yang efisien. Pembuatnya menyusun perubahan utamanya berdasarkan DeepSeek Sparse Attention, kerangka pembelajaran penguatan berskala besar, dan rangkaian proses pelatihan untuk tugas agen. Model ini menerima pertanyaan dan konteks tertulis serta menghasilkan teks, termasuk jawaban, kode, atau konten pemanggilan alat. Model ini berbeda dari rilis V3.2 Exp sebelumnya dan varian penalaran Speciale yang terpisah.

DeepSeek Sparse Attention menambahkan pengindeks dan pemilihan token terperinci pada arsitektur attention laten. Untuk urutan yang panjang, pengindeks memilih informasi token sebelumnya yang digunakan oleh perhitungan attention utama. Laporan tersebut menyatakan bahwa ini merupakan perubahan arsitektur dari V3.1 Terminus dan menggunakan arsitektur yang sama dengan V3.2 Exp. Konteks yang dipublikasikan adalah 128K token, yang mendukung materi sumber dalam jumlah besar dan tugas yang berlanjut, sementara penalaran yang dihasilkan serta riwayat alat juga memakai konteks yang tersedia.

Pascapelatihan mencakup respons dengan dan tanpa proses berpikir dalam matematika, pemrograman, penalaran logis, tugas agen umum, pemrograman berbasis agen, serta pencarian. Spesialis bidang menyediakan data yang digabungkan ke dalam model akhir, kemudian dilanjutkan dengan pembelajaran penguatan campuran. Untuk pertanyaan biasa, jawaban langsung mungkin sesuai; untuk masalah sulit, alur kerja berpikir dapat mengembangkan solusi sebelum menyajikan hasil akhir. Tentukan jawaban atau artefak yang diperlukan secara terpisah dari penalaran pada tahap perantara.

Perubahan penting dalam edisi ini adalah proses berpikir dengan alat. Format percakapan yang diperbarui memungkinkan penalaran berlanjut sepanjang tugas yang melibatkan pemanggilan alat, alih-alih memperlakukan analisis dan tindakan sebagai tahap yang tidak berkaitan. Operasi yang dipilih model dijalankan oleh aplikasi, yang mengembalikan hasilnya untuk langkah berikutnya. Aturan konteks alat dari pembuat mempertahankan penalaran sebelumnya selama hanya pesan terkait alat yang ditambahkan; ketika pesan pengguna baru masuk, aturan tersebut membuang penalaran itu sambil mempertahankan pemanggilan alat dan hasilnya. Pembedaan peran percakapan yang benar penting bagi perilaku tersebut.

Untuk pemrograman, berikan potongan sumber atau berkas yang relevan, masalah yang diamati, hasil yang diharapkan, dan kondisi yang harus dipertahankan oleh perubahan. Contoh arahan: “Gunakan kode dan hasil alat yang diberikan untuk menemukan penyebabnya, usulkan perbaikan terkecil, dan kembalikan patch akhir beserta hasil validasi pendukungnya.” Untuk tugas pencarian, jelaskan pertanyaan, bukti yang diperlukan, dan kriteria jawaban yang dianggap selesai. Alat pencarian dan eksekusi disediakan oleh aplikasi yang menaunginya, bukan oleh teks semata.

Pembuat merekomendasikan temperature 1.0 dan top-p 0.95 untuk penggunaan lokal. V3.2 memperkenalkan representasi pemanggilan alat yang direvisi dan encoder pesan khusus. Peran developer-nya dikhususkan untuk templat agen pencarian milik pembuat, dan API resmi tidak menerima peran tersebut. Parser referensi mengharapkan keluaran dengan format yang benar dan tidak memperbaiki hasil yang formatnya keliru; ketika aplikasi menggunakan bidang atau argumen alat yang dihasilkan, aplikasi sebaiknya memeriksa strukturnya sebelum bertindak berdasarkan data tersebut.

Laporan teknis mengidentifikasi alur penalaran panjang dan verifikasi mandiri berulang yang tidak perlu sebagai keterbatasan praktis. Tugas agen dapat mencapai batas 128K meskipun materi sumber awal muat, karena keluaran alat dan penalaran berulang terus terakumulasi. Pertahankan catatan ringkas tentang pengamatan yang relevan dan nyatakan artefak akhir secara eksplisit. Untuk pekerjaan yang memerlukan ketepatan pengetahuan, lampirkan materi otoritatif atau sediakan alat pencarian yang sesuai, alih-alih mengharapkan pengetahuan dari pelatihan untuk menentukan setiap fakta.

DeepSeek V3.2 Speciale adalah varian penalaran mendalam terpisah dengan kebutuhan komputasi tinggi dan, menurut kartu model, tidak mendukung pemanggilan alat. Fitur-fiturnya tidak boleh digunakan sebagai profil alat V3.2 standar. Demikian pula, generasi V4 yang lebih baru dan pendahulu eksperimentalnya memiliki identitas serta pilihan konfigurasi tersendiri. Pertahankan edisi bernama V3.2 saat membandingkan tugas yang model dan format prompt-nya penting.

Untuk analisis praktis berbasis sumber, beri label pada materi dan minta kesimpulan yang didukung oleh bagian teks yang relevan, dengan asumsi dan informasi yang belum tersedia tetap dipisahkan. Untuk agen, nyatakan fungsi yang diizinkan, hasil akhir yang diharapkan, dan kriteria penyelesaiannya. Hal ini menyiapkan alur kerja penalaran dan alat model untuk menghasilkan artefak teks, kode, atau analisis yang dapat ditinjau dan terkait dengan bukti yang diberikan.