LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B ialah model teks yang dilatih lanjut dalam keluarga LFM2.5 padat Liquid, direka untuk ejen pada peranti dan aliran kerja praktikal. Kad model tepatnya menyenaraikan 2.69B parameter dan 30 lapisan: 22 blok konvolusi pendek berpagar berganda dan lapan blok perhatian pertanyaan berkumpulan. Reka bentuk hibrid menyasarkan pemprosesan teks yang cekap. Model menerima teks dan mengembalikan teks, termasuk jawapan berpenaakulan atau permintaan untuk menggunakan fungsi yang ditentukan.

Pengeluar mengesyorkannya untuk beban kerja berejen, penggunaan alat, pengekstrakan data, penjanaan diperkaya pengambilan maklumat dan aliran kerja konteks panjang. Saluran latihan keluaran itu menggabungkan penalaan halus terselia, model guru khusus, penyulingan berbilang domain mengikut dasar semasa dan pembelajaran pengukuhan dalam persekitaran ejen. Ini membantu menerangkan fokusnya pada pematuhan arahan tugas, penggunaan pemerhatian alat dan kemajuan melalui beberapa langkah. Berikan bahan sebenar dan objektif tepat, bukannya bergantung pada pengetahuan luas yang dipelajari untuk mengisi kekosongan.

Untuk pengekstrakan, takrifkan medan dan peraturan sumber sebelum membekalkan bahan. Permintaan praktikal ialah: “Baca kemas kini perkhidmatan ini, ekstrak pengecam setiap rekod, status yang dinyatakan dan tindakan seterusnya yang diperlukan, serta kekalkan ayat yang menyokong setiap medan. Kembalikan null apabila medan tiada.” Nyatakan sama ada nilai perlu disalin tepat, dinormalkan atau disimpulkan. Ini menjadikan output boleh diperiksa dan menghalang tafsiran yang munasabah daripada menggantikan maklumat yang benar-benar ada dalam sumber secara senyap.

Untuk RAG, berikan petikan berkaitan dengan label stabil dan minta jawapan berasaskan petikan itu. Contohnya ialah: “Dengan menggunakan hanya arahan pemasangan ini, terangkan langkah yang terpakai pada persekitaran yang dinyatakan dan senaraikan prasyarat yang masih tidak diketahui.” Kekalkan versi dokumen dan syarat bersama teks. Minta model mengenal pasti fakta yang tiada atau bercanggah, bukannya mereka prosedur lengkap. Ini lebih sesuai dengan cadangan pembuat untuk tugas berasaskan sumber berbanding meminta model padat bertindak sebagai simpanan pengetahuan pakar yang menyeluruh.

LFM2.5-2.6B ialah model penaakulan tulen: templat sembangnya memulakan jawapan pembantu dengan penanda pemikiran, dan ia menaakul sebelum jawapan akhir. Kad model pengeluar mengesyorkan temperature 0.1, top-k 50 dan penalti pengulangan 1.1 untuk penjanaan. Itu ialah tetapan resipi model bernama ini. Pisahkan hasil akhir daripada teks penaakulan dan tinggalkan ruang untuk kedua-duanya dalam permintaan kerja. Kawalan atau mod jawapan langsung milik edisi arahan LFM lain tidak patut diandaikan untuk model ini.

Model menggunakan format perbualan seakan ChatML dengan peranan system, user, assistant dan tool. Aliran kerja fungsinya yang didokumenkan mempunyai empat peringkat: takrifkan alat, biarkan model meminta fungsi, laksanakan fungsi itu dalam aplikasi yang mengelilinginya dan kembalikan hasil sebenar supaya model boleh menjawab. Panggilan natif ialah senarai bergaya Python yang dikelilingi penanda panggilan alat; pembuat turut menerangkan permintaan format panggilan JSON melalui arahan sistem. Gunakan penghurai yang sesuai, semak nama fungsi dan argumen berdasarkan takrif yang dibekalkan, dan kekalkan hasil bersama panggilan yang menghasilkannya.

Untuk aliran kerja ejen padat, dedahkan hanya fungsi yang berkaitan dengan tugas semasa, dengan penerangan ringkas dan jenis argumen yang jelas. Takrif alat sendiri menggunakan ruang konteks. Urutan yang berguna boleh mencari status rekod yang dibekalkan, membandingkan status yang dikembalikan dengan peraturan dan menerangkan sama ada susulan diperlukan. Bekalkan pengecam rekod sebagai bukti dan minta jawapan akhir yang terikat pada pemerhatian yang dikembalikan. Model mencadangkan dan mentafsir operasi; aplikasi membekalkan pelaksanaan sebenar serta hasilnya.

Kad model semasa pengeluar menetapkan konteks model 131,072 token, dan keluaran itu menerangkan peringkat khusus perluasan konteks. Bekerja dalam tetingkap konfigurasi yang digunakan, dengan mengekalkan sempadan sumber, sejarah berkaitan dan ruang untuk sambungan. Untuk beberapa dokumen, minta perbandingan tertentu atau kebergantungan yang perlu dijejaki. Artifak checkpoint model natif, GGUF, ONNX dan MLX memenuhi keperluan penempatan berbeza, dan draf penyahkodan spekulatif ialah artifak pendamping yang berasingan. Angka sumber atau kelajuan daripada satu konfigurasi tidak secara automatik menerangkan setiap format model dan tetingkap kerja.

Liquid secara jelas tidak mengesyorkan LFM2.5-2.6B untuk pengekodan berejen atau tugas yang memerlukan pengetahuan luas. Kekalkan fokusnya pada aliran kerja konkrit dengan bukti yang dibekalkan, peraturan pengekstrakan dan pemerhatian alat. Checkpoint model Base pralatih juga ialah artifak berasingan untuk penyesuaian, manakala edisi yang dilatih lanjut ini ialah model ejen. Untuk hasil akhir, periksa nilai diekstrak berdasarkan sumbernya, semak bahawa petikan yang dirujuk menyokong jawapan dan bezakan panggilan alat yang diminta daripada operasi dengan hasil yang direkodkan. Kekalkan maklumat yang belum diselesaikan apabila mempengaruhi kesimpulan, bukannya membiarkan teks lancar mengaburkannya.