Cohere: North Mini Code (free)

North Mini Code 1.0 adalah model Cohere untuk rekayasa perangkat lunak berbasis agen, tugas terminal, dan pembuatan kode. Model menerima teks dan menghasilkan teks, termasuk kode, penjelasan, dan permintaan alat. Pembuat merilis bobotnya dengan lisensi Apache 2.0 dan mengidentifikasinya sebagai model pertama dalam keluarga agen kode North. Model ini merupakan profil khusus pemrograman, bukan model pemahaman gambar atau pemberi skor keputusan umum.

Arsitektur sparse dan persiapan pemrograman

Model memiliki total 30 miliar parameter dengan sekitar 3 miliar aktif. Transformer khusus dekodernya memakai Mixture of Experts sparse dengan 128 pakar, delapan diaktifkan per token, dan satu lapisan dense sebelum lapisan sparse. Attention jendela geser dengan posisi rotari diselingi attention global tanpa embedding posisi dalam rasio 3:1. Jumlah parameter aktif menggambarkan komputasi yang digunakan untuk satu token, bukan seluruh bobot yang harus disimpan.

Pascapelatihan Cohere memakai dua tahap fine-tuning terawasi diikuti pembelajaran penguatan dengan imbalan yang dapat diverifikasi, berfokus pada rekayasa perangkat lunak dan pekerjaan terminal. Pembuat menjelaskan pelatihan lintas beberapa lingkungan pengendali agen, bukan satu kerangka tetap. Ini mendukung persiapan tugas berdasarkan perilaku yang dibutuhkan dan alat yang tersedia, sementara lingkungan pengendali tetap bertanggung jawab memperoleh berkas, menjalankan perintah, dan mengembalikan observasi.

Siapkan perubahan pada tingkat repositori

Berikan kode dan perilaku saat ini, perubahan yang diminta, batas berkas atau antarmuka yang relevan, dan bukti yang menentukan penyelesaian. Untuk bug, sertakan kesalahan teramati atau masukan yang gagal serta hasil yang diharapkan. Untuk fitur, nyatakan perilaku wajib dan batasan kompatibilitas. Artefak akhir yang berguna adalah usulan perubahan kode beserta penjelasan dan hasil pemeriksaan yang benar-benar dijalankan.

Contoh permintaan dapat meminta pembaruan parser untuk satu masukan tambahan yang didukung sambil mempertahankan format yang ada. Tentukan masukan representatif dan bagian repositori yang menetapkan perilaku parser. Model dapat memakai kode dan observasi alat untuk mengembangkan perubahan; patch yang dihasilkan atau pernyataan bahwa suatu perintah semestinya berjalan bukan bukti bahwa perintah berhasil.

Alat terminal dan observasi terstruktur

Kartu model native mendokumentasikan pelatihan penggunaan alat dan merekomendasikan deskripsi alat berskema JSON melalui templat percakapan model. Jelaskan tujuan dan argumen alat dengan jelas. Alat eksekusi perintah dapat mengembalikan keluaran dan status sebenarnya, sementara alat pemeriksaan berkas dapat mengembalikan materi yang diperlukan langkah berikutnya. Hubungkan setiap hasil alat dengan identifikator pemanggilannya agar analisis berikutnya memakai observasi yang dimaksud.

Contoh pembuat menyimpan pemanggilan alat dan penalaran asisten dalam riwayat, menjalankan alat, lalu menambahkan hasilnya sebelum menghasilkan respons lagi. Contoh templat native memakai kamus terstruktur untuk hasil alat. Pertahankan representasi itu sesuai integrasi yang didokumentasikan, alih-alih menganggap setiap API lain menyerialisasikan hasil alat dengan cara sama. Skema JSON yang menjelaskan argumen alat berbeda dari klaim dukungan keluaran akhir dengan batasan skema sembarang.

Penalaran tersisip dan riwayat beberapa giliran

North Mini Code mendukung penalaran tersisip, yang direkomendasikan pembuat untuk pekerjaan agen. Bawa isi penalaran dan pemanggilan alat yang dihasilkan model ke langkah agen dan giliran percakapan berikutnya. Contoh native menyimpan bidang penalaran bersama pesan asisten dan kemudian mengembalikan observasi alat yang bersesuaian. Ini mempertahankan informasi yang dipakai model ketika memutuskan hal berikutnya untuk diperiksa atau diubah.

Pertahankan tujuan saat ini, materi sumber, dan observasi sebenarnya dalam riwayat tugas. Untuk tugas repositori lebih panjang, rangkum hasil akhir berdasarkan perilaku yang berubah dan artefak yang berguna, sambil mempertahankan bukti yang dibutuhkan untuk meninjaunya. Penalaran tersisip tidak menyiratkan bahwa jawaban terlihat yang pendek tidak memerlukan analisis, juga tidak membuktikan bahwa tindakan yang dijelaskan model sudah terjadi.

Tugas kode dan penjelasan mandiri

Pembuat juga menyebut pemrograman ilmiah dan penalaran algoritmis di luar siklus agen. Berikan definisi soal, format masukan dan keluaran, batasan, asumsi numerik yang relevan, serta perilaku kasus tepi yang diharapkan. Minta fungsi atau program lengkap ketika itulah artefak yang dibutuhkan, dengan penjelasan sesuai tingkat kebutuhan pembaca.

Untuk penjelasan kode, berikan implementasi serta perilaku atau dependensi tertentu yang perlu diperjelas. Untuk kode visualisasi data, tentukan bidang yang tersedia dan perbandingan yang diinginkan, alih-alih membiarkan tujuan grafik tersirat. Contoh pengembangan pembuat mencakup penjelasan kode, penyuntingan, visualisasi, dan implementasi dari spesifikasi. Ini merupakan pola tugas untuk menghasilkan atau mengubah kode, bukan janji hasil benar bagi setiap repositori atau framework.

Konteks, keluaran, dan pengaturan pembuatan

Kartu model dan halaman API pembuat mencantumkan jendela konteks 256K token dan keluaran maksimum 64K token. Siapkan materi repositori yang besar berdasarkan kedua jatah terpisah itu dan ukuran artefak akhir. Pertahankan batas serta identifikator sumber, dan hapus materi tidak relevan alih-alih menganggap jendela besar menghilangkan kebutuhan akan arahan terfokus.

Kartu model native merekomendasikan temperature 1,0 dan top_p 0,95 untuk pembuatan, serta memakai templat percakapan model, termasuk prompt pembuatan, untuk alur teks dan alat. Batas keluaran contoh merupakan pengaturan contoh tersebut, bukan pengganti maksimum model yang dipublikasikan. Cohere menerbitkan bobot BF16 dan artefak FP8 bernama terpisah. Pilih artefak yang sesuai saat menyiapkan penerapan.

Hasil North Mini Code yang berguna adalah artefak kode atau penjelasan teknis yang dapat diperiksa dan terhubung dengan persyaratan yang diberikan. Bandingkan hasil dengan perilaku asli dan keluaran alat sebenarnya, periksa asumsi yang memengaruhi kode, serta pertahankan sumber dan observasi yang diperlukan untuk peninjauan. Model pemrograman khusus teks menyediakan penalaran dan isi yang dihasilkan; aplikasi di sekitarnya menjalankan operasi yang mengubah usulan tersebut menjadi tugas perangkat lunak yang selesai.