Poolside: Laguna XS 2.1 (free)

Poolside Laguna XS 2.1 ialah model bahasa campuran pakar untuk pengekodan berasaskan ejen dan kerja jangka panjang, yang diposisikan sebagai model penggunaan setempat yang lebih kecil dalam siri Laguna. Ia mempunyai 33B jumlah parameter dan 3B aktif bagi setiap token. Ia ialah model yang dikemas kini berbanding Laguna XS.2, mengekalkan seni bina model itu sambil meningkatkan hasil kejuruteraan perisian dan tugas terminal yang dilaporkan oleh pembuat. Model ini menerima teks dan menjana teks, kod, penaakulan serta permintaan panggilan alat.

Reka bentuk 40 lapisannya menggabungkan 10 lapisan perhatian global dan 30 lapisan tetingkap gelongsor, dengan penggetan sigmoid dan tetingkap gelongsor 512 token. Tetingkap perhatian setempat itu berasingan daripada konteks model 262,144 token. Poolside turut menerangkan reka bentuk cache KV FP8 untuk mengurangkan memori bagi setiap token. Ciri-ciri ini membantu menjelaskan tumpuan model pada penggunaan setempat, tetapi keperluan memori yang tepat masih bergantung pada checkpoint, pengkuantuman, konteks kerja dan konfigurasi penyajian.

Untuk tugas pengekodan, berikan fail sumber yang berkaitan sebagai teks, tingkah laku yang dijangka dan ralat sebenar atau output yang gagal. Permintaan yang berguna ialah: “Betulkan cara penghurai ini mengendalikan pembatas yang menggunakan aksara lepas sambil mengekalkan format input yang diterbitkan. Tunjukkan perubahan yang dicadangkan, terangkan kes yang terjejas dan kenal pasti contoh yang dapat mendedahkan regresi.” Tetapkan hasil serahan yang konkrit dan syarat penyelesaian supaya model boleh berusaha menghasilkan hasil dan bukannya sekadar membincangkan masalah.

Untuk tugas gaya terminal, berikan persekitaran semasa, output arahan yang berkaitan dan kekangan kerja. Dalam aplikasi yang disambungkan kepada alat, model mencadangkan panggilan fungsi, aplikasi melaksanakannya dan hasil dikembalikan untuk keputusan seterusnya. Minta model menerangkan perkara yang ditunjukkan oleh kegagalan sebelum mencadangkan arahan lain. Contohnya, bekalkan manifes kebergantungan dan output pemasangan yang gagal, kemudian minta pembetulan paling kecil yang berasaskan sumber serta hasil yang dijangka daripada semakan seterusnya. Kekalkan langkah terdahulu yang berjaya dan isu yang belum diselesaikan dalam sejarah.

Laguna XS 2.1 direka untuk pemikiran berselang sebelum dan antara panggilan alat. Pengeluar mengesyorkan supaya kandungan penaakulan daripada mesej pembantu terdahulu dikekalkan ketika membina semula permintaan seterusnya. Membuang kandungan itu boleh menghalang penaakulan lanjut dalam langkah susulan. Simpan respons pembantu, maklumat panggilan alatnya dan hasil alat yang sepadan bersama-sama, dengan objektif berterusan jelas kelihatan. Ini amat berguna apabila beberapa pemerhatian menyumbang kepada pembetulan dan langkah kemudian bergantung pada keputusan terdahulu.

Pemikiran boleh didayakan atau dilumpuhkan melalui templat sembang. Poolside mengesyorkan supaya ia didayakan untuk pengekodan berasaskan ejen dan dikekalkan merentas giliran. Permintaan jawapan langsung mungkin sesuai untuk transformasi kecil atau penerangan, manakala pembaikan dengan beberapa syarat saling bergantung mendapat manfaat daripada gelung penaakulan dan pemerhatian yang berterusan. Nyatakan format output akhir dan sediakan ruang untuk jawapan akhir. Tetapan penilaian pengeluar ialah pilihan resipi, bukannya jaminan sejagat tentang jumlah penaakulan atau panjang jawapan maksimum.

Untuk input sumber panjang, susun fail dan dokumentasi dengan sempadan yang jelas serta nama yang stabil. Minta hubungan khusus untuk dijejaki, seperti pemanggil yang bergantung pada antara muka yang diubah, syarat yang membezakan dua pelaksanaan atau sebab hasil ujian bercanggah dengan diagnosis yang dicadangkan. Simpan keputusan penting dan semakan sebenar dalam rekod tugas yang ringkas, dan buang sejarah yang tidak berkaitan. Had konteks meliputi bahan kerja dan sambungan yang dijana; respons akhir yang memenuhi seluruh konteks bukan kapasiti berasingan yang dijanjikan.

Poolside menerbitkan BF16 dan varian FP8, NVFP4, INT4 serta GGUF yang berasingan, di samping artifak model draf DFlash. Ini ialah pilihan penggunaan yang berbeza. Bilangan parameter aktif yang kecil tidak bermakna keseluruhan pemberat model hanya menggunakan memori sebanyak itu, dan model draf ialah pendamping pecutan, bukannya model pengekodan itu sendiri. Kekalkan checkpoint yang tepat semasa membandingkan hasil setempat, dan sediakan kod atau kandungan dokumen sebagai teks untuk model teks kepada teks ini.

Pembuat mendokumenkan isu penghurai alat dalam binaan penyajian yang lebih lama yang boleh menggugurkan panggilan tertentu dan memaparkan penanda mentahnya sebagai teks respons biasa. Ini menunjukkan sebab aliran kerja yang disambungkan kepada alat perlu membezakan permintaan yang dimaksudkan oleh model daripada panggilan fungsi yang dihuraikan dengan betul. Periksa nama dan argumen yang dihuraikan, sahkannya dengan skema sebenar dan kekalkan hasil pelaksanaan. Laporan akhir hendaklah mengenal pasti artifak yang disemak semula, semakan yang diperhatikan dan andaian yang masih ada. Cadangan tampalan atau arahan hanya menjadi hasil yang selesai apabila tingkah lakunya dibuktikan oleh rekod tersebut.