LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B adalah model teks yang telah dilatih lanjut dalam keluarga ringkas LFM2.5 dari Liquid, dirancang untuk agen di perangkat dan alur kerja praktis. Kartu model persisnya mencantumkan 2,69 miliar parameter dan 30 lapisan: 22 blok konvolusi pendek dengan gerbang ganda dan delapan blok grouped-query attention. Desain hibrida tersebut menargetkan pemrosesan teks yang efisien. Model menerima teks dan mengembalikan teks, termasuk jawaban hasil penalaran atau permintaan untuk menggunakan fungsi yang didefinisikan.

Produsen menyarankannya untuk beban kerja agentik, penggunaan alat, ekstraksi data, pembangkitan yang diperkuat pengambilan informasi, dan alur kerja konteks panjang. Pipeline pelatihan rilis ini menggabungkan fine-tuning terawasi, model pengajar khusus, distilasi on-policy lintas domain, dan pembelajaran penguatan dalam lingkungan agen. Hal ini membantu menjelaskan fokusnya pada mengikuti instruksi tugas, menggunakan pengamatan alat, dan bergerak melalui beberapa langkah. Berikan materi sebenarnya dan tujuan yang tepat, alih-alih mengandalkan pengetahuan luas hasil pelatihan untuk mengisi kekosongan.

Untuk ekstraksi, tentukan kolom dan aturan sumber sebelum memberikan materi. Permintaan praktis adalah: “Baca pembaruan layanan ini, ekstrak pengenal setiap catatan, status yang dinyatakan, dan tindakan berikutnya yang diperlukan, serta pertahankan kalimat pendukung setiap kolom. Kembalikan null jika suatu kolom tidak tersedia.” Tentukan apakah nilai perlu disalin persis, dinormalkan, atau disimpulkan. Ini membuat keluaran dapat diperiksa dan mencegah interpretasi yang masuk akal diam-diam menggantikan informasi yang benar-benar ada dalam sumber.

Untuk RAG, berikan bagian teks relevan dengan label stabil dan minta jawaban yang berlandaskan bagian-bagian tersebut. Contoh: “Hanya menggunakan petunjuk pemasangan ini, jelaskan langkah mana yang berlaku bagi lingkungan yang dinyatakan dan cantumkan prasyarat yang masih belum diketahui.” Pertahankan versi dokumen dan syarat bersama teks. Mintalah model mengidentifikasi fakta yang hilang atau bertentangan, bukan menciptakan prosedur lengkap. Ini lebih sesuai dengan rekomendasi pembuat untuk tugas berdasarkan sumber dibanding meminta model ringkas bertindak sebagai penyimpan pengetahuan spesialis yang menyeluruh.

LFM2.5-2.6B adalah model penalaran murni: templat chat-nya memulai jawaban asisten dengan penanda thinking, dan model menalar sebelum jawaban akhir. Kartu model produsen menyarankan temperature 0.1, top-k 50, dan penalti pengulangan 1.1 untuk pembangkitan. Itu adalah pengaturan resep model bernama tersebut. Pisahkan hasil akhir dari teks penalaran, dan sisakan ruang bagi keduanya dalam permintaan kerja. Kontrol atau mode jawaban langsung milik edisi instruksi LFM lain tidak boleh diasumsikan berlaku pada model ini.

Model menggunakan format percakapan serupa ChatML dengan peran system, user, assistant, dan tool. Alur fungsi yang didokumentasikan memiliki empat tahap: mendefinisikan alat, membiarkan model meminta fungsi, menjalankan fungsi dalam aplikasi yang mengelilinginya, dan mengembalikan hasil nyata agar model dapat menjawab. Panggilan bawaan berupa daftar bergaya Python yang diapit penanda panggilan alat; pembuat juga menjelaskan permintaan format panggilan JSON melalui instruksi sistem. Gunakan parser yang sesuai, periksa nama fungsi serta argumen terhadap definisi yang diberikan, dan simpan hasil bersama panggilan yang menghasilkannya.

Untuk alur kerja agen ringkas, sediakan hanya fungsi yang relevan dengan tugas saat ini, dengan deskripsi singkat dan tipe argumen eksplisit. Definisi alat sendiri mengisi konteks. Urutan yang berguna dapat mencari status catatan yang diberikan, membandingkan status yang dikembalikan dengan aturan, lalu menjelaskan apakah tindak lanjut diperlukan. Berikan pengenal catatan sebagai bukti dan minta jawaban akhir yang terkait pengamatan yang dikembalikan. Model mengusulkan dan menafsirkan operasi; aplikasi menyediakan eksekusi nyata serta hasilnya.

Kartu model produsen saat ini menetapkan konteks model 131.072 token, dan rilis menjelaskan tahap khusus perluasan konteks. Bekerjalah dalam jendela konfigurasi yang digunakan, sambil mempertahankan batas sumber, riwayat relevan, dan ruang untuk kelanjutan. Untuk beberapa dokumen, mintalah perbandingan atau dependensi tertentu untuk ditelusuri. Checkpoint bawaan serta artefak GGUF, ONNX, dan MLX melayani kebutuhan penerapan yang berbeda, dan draf speculative-decoding adalah artefak pendamping terpisah. Angka sumber daya atau kecepatan dari satu konfigurasi tidak otomatis menggambarkan setiap format model dan jendela kerja.

Liquid secara eksplisit tidak menyarankan LFM2.5-2.6B untuk pemrograman agentik atau tugas yang sangat bergantung pada pengetahuan. Jaga fokusnya pada alur kerja konkret dengan bukti, aturan ekstraksi, dan pengamatan alat yang diberikan. Checkpoint Base pralatih juga merupakan artefak terpisah untuk penyesuaian, sedangkan edisi yang telah dilatih lanjut ini adalah model agen. Untuk hasil akhir, periksa nilai hasil ekstraksi terhadap sumbernya, pastikan bagian yang dikutip mendukung jawaban, dan bedakan permintaan panggilan alat dari operasi dengan hasil tercatat. Pertahankan informasi yang belum terselesaikan ketika memengaruhi kesimpulan, jangan biarkan teks lancar mengaburkannya.