Poolside: Laguna S 2.1 (free)

Poolside Laguna S 2.1 ialah model bahasa campuran pakar yang direka untuk pengekodan berasaskan ejen dan kerja jangka panjang. Ia mempunyai 118B jumlah parameter dan kira-kira 8B aktif bagi setiap token, meletakkannya di antara Laguna XS 2.1 yang lebih kecil dan Laguna M.1 yang lebih besar dalam siri pengeluar. Model ini memproses teks dan menghasilkan teks, kod, penaakulan serta permintaan panggilan alat dalam aplikasi yang disambungkan kepada alat.

Seni binanya menggabungkan perhatian global dan tetingkap gelongsor merentas 48 lapisan: 12 lapisan global dan 36 lapisan tetingkap gelongsor. Tetingkap gelongsor 512 token menerangkan perhatian setempat dalam lapisan tersebut, manakala konteks model yang didokumenkan ialah 1,048,576 token. Ini ialah ukuran yang berbeza. Konteks yang lebih besar menyokong tugas yang mengumpulkan fail sumber, pemerhatian dan keputusan melalui banyak langkah. Simpan objektif kerja dan bukti bermakna bersama-sama, serta sediakan ruang untuk penaakulan seterusnya dan respons akhir dalam konfigurasi yang terpakai.

Tujuan utama model ialah kerja perisian yang memerlukan ketekunan, semakan dan semakan semula. Untuk tugas repositori, berikan tingkah laku yang dijangka, fail yang berkaitan sebagai teks, maklumat kebergantungan dan output sebenar yang gagal. Minta hasil yang terfokus: “Jejaki punca regresi ini, cadangkan perubahan yang mengekalkan antara muka yang didokumenkan dan kenal pasti semakan yang dapat membezakan pembetulan daripada perubahan yang tidak berkaitan.” Dalam aliran kerja yang disambungkan kepada alat, berikan kepada model hasil setiap semakan yang dilaksanakan sebelum ia memilih langkah seterusnya.

Untuk kerja pengoptimuman, berikan ukuran dan objektif yang jelas. Contohnya: “Gunakan profil dan laporan peruntukan ini untuk mengenal pasti kesesakan. Cadangkan satu perubahan, terangkan kesan yang dijangka dan bandingkannya dengan garis dasar selepas ukuran yang sama diulang.” Ini menjadikan dakwaan prestasi boleh diperiksa. Keluaran Poolside membincangkan pengesahan dan kemajuan berterusan sebagai tingkah laku penting, tetapi penerangan yang meyakinkan sahaja tidak membuktikan bahawa versi yang disemak semula itu lebih pantas, betul atau lengkap. Kekalkan pemerhatian yang menyokong keputusan untuk mengekalkan atau menolak perubahan.

Laguna S 2.1 menyokong pemikiran berselang sebelum dan antara panggilan alat. Pengeluar mengesyorkan pengekalan kandungan penaakulan daripada mesej pembantu terdahulu dalam sejarah seterusnya; menggugurkan blok itu boleh menyebabkan penaakulan berhenti dalam langkah susulan. Simpan respons pembantu, maklumat panggilan alat dan hasil alat yang sepadan bersama-sama. Ini membantu tugas yang lebih panjang diteruskan daripada keadaan sebenarnya, dan bukannya membina semula perkara yang sudah dicuba berulang kali.

Pilihan pemikiran yang didokumenkan ialah off dan max, dengan max didayakan secara lalai dalam persediaan yang diterangkan oleh pembuat. Model menentukan bajet pemikirannya dalam mod itu; keluaran ini tidak membentangkan kawalan usaha low, medium dan high yang berasingan. Untuk pengekodan berasaskan ejen, Poolside mengesyorkan supaya pemikiran didayakan dan dikekalkan antara langkah. Nyatakan artifak akhir dan kriteria penyelesaian secara jelas, dan bezakan urutan penaakulan yang panjang daripada hasil yang telah selesai. Pengeluar mengenal pasti pemikiran berlebihan, khususnya dalam matematik pertandingan, sebagai batasan yang ketara.

Takrif alat memerlukan perhatian khusus. Poolside melaporkan bahawa S 2.1 pada mulanya mungkin bergantung pada antara muka alat yang biasa dikenalinya dan bukannya mematuhi skema yang serupa tetapi berbeza dengan teliti. Ia juga boleh menghasilkan JSON yang cacat atau mempunyai aksara lepas yang salah apabila argumen alat mengandungi tatasusunan bersarang. Berikan takrif argumen sebenar, sahkan cadangan panggilan dan kembalikan ralat yang tepat apabila panggilan tidak sepadan. Pembuat menerangkan pembetulan melalui maklum balas dalam konteks sebagai cara menyelesaikan sebahagian ketidakpadanan ini. Pastikan pemerhatian alat yang terhasil tersedia untuk keputusan seterusnya.

Pengeluar menerbitkan varian BF16 dan terkuantum yang berasingan serta model draf DFlash pilihan. Ini ialah artifak dan resipi penyajian yang berbeza, maka penggunaan memori atau prestasi penyahkodan spekulatif sesuatu checkpoint terkuantum tidak patut diandaikan daripada nama model umum. Untuk kerja teks biasa, sediakan kod sumber, output arahan dan petikan dokumen sebagai teks yang boleh dibaca. Keluaran ini menyatakan bahawa model tiada keupayaan penglihatan; tangkap layar memerlukan pemerhatian teks atau langkah pemeriksaan luaran yang sesuai sebelum ia boleh menyokong analisis.

Minta hasil serahan akhir yang mengenal pasti artifak yang berubah, keputusan penting, semakan yang diperhatikan dan sebarang syarat yang belum diselesaikan. Untuk semakan kod, hubungkan dapatan dengan sumber yang berkaitan dan tunjukkan sebab setiap isu mempengaruhi tingkah laku. Untuk pembaikan, asingkan cadangan tampalan daripada tampalan yang tingkah lakunya benar-benar disemak. Pengekalan sejarah penaakulan dan alat membantu model menyelesaikan tugas, manakala artifak akhir dan hasil yang direkodkan membuktikan perkara yang telah dicapai.