LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B là mô hình văn bản hậu huấn luyện trong họ LFM2.5 gọn của Liquid, được thiết kế cho tác tử trên thiết bị và quy trình thực dụng. Thẻ mô hình chính xác liệt kê 2,69 tỷ tham số và 30 lớp: 22 khối tích chập ngắn hai cổng cùng tám khối chú ý truy vấn theo nhóm. Thiết kế lai hướng tới xử lý văn bản hiệu quả. Mô hình nhận và trả văn bản, gồm câu trả lời có suy luận hoặc yêu cầu sử dụng hàm được định nghĩa.

Nhà sản xuất khuyến nghị mô hình cho công việc tác tử, công cụ, trích xuất dữ liệu, sinh tăng cường truy xuất và quy trình ngữ cảnh dài. Quy trình huấn luyện kết hợp tinh chỉnh có giám sát, mô hình giáo viên chuyên biệt, chưng cất on-policy đa miền và học tăng cường trong môi trường tác tử. Điều này giải thích trọng tâm làm theo chỉ dẫn, dùng quan sát công cụ và tiến qua nhiều bước. Cung cấp tài liệu thực tế cùng mục tiêu chính xác thay vì dựa vào kiến thức học rộng để lấp chỗ trống.

Để trích xuất, xác định trường và quy tắc nguồn trước khi cung cấp tài liệu. Yêu cầu thực dụng là: “Đọc các cập nhật dịch vụ này, trích mã định danh, trạng thái được nêu và hành động tiếp theo cần thiết của từng bản ghi; giữ câu hỗ trợ mỗi trường. Trả null khi thiếu trường.” Nêu giá trị phải được sao chép nguyên văn, chuẩn hóa hay suy ra. Điều này giúp kiểm tra đầu ra và ngăn diễn giải có vẻ hợp lý âm thầm thay thế thông tin thực sự có trong nguồn.

Với RAG, cung cấp đoạn liên quan có nhãn ổn định và yêu cầu câu trả lời bám các đoạn đó. Ví dụ: “Chỉ dùng những chỉ dẫn cài đặt này, giải thích bước nào áp dụng cho môi trường đã nêu và liệt kê điều kiện tiên quyết còn chưa biết.” Giữ phiên bản tài liệu và điều kiện cùng văn bản. Yêu cầu mô hình xác định dữ kiện thiếu hoặc mâu thuẫn thay vì bịa quy trình đầy đủ. Cách này phù hợp khuyến nghị làm việc dựa trên nguồn hơn việc yêu cầu mô hình gọn làm kho kiến thức chuyên môn toàn diện.

LFM2.5-2.6B là mô hình thuần suy luận: mẫu hội thoại mở đầu câu trả lời trợ lý bằng dấu tư duy và mô hình suy luận trước câu trả lời cuối. Thẻ mô hình của nhà sản xuất khuyến nghị temperature 0.1, top-k 50 và hình phạt lặp 1.1 khi sinh. Đó là thiết lập trong công thức của mô hình có tên này. Tách sản phẩm cuối khỏi văn bản suy luận và chừa chỗ cho cả hai trong yêu cầu. Không nên mặc định mô hình có điều khiển hoặc chế độ trả lời trực tiếp của các phiên bản chỉ dẫn LFM khác.

Mô hình dùng định dạng hội thoại giống ChatML với các vai trò system, user, assistant và tool. Quy trình hàm được tài liệu mô tả có bốn giai đoạn: định nghĩa công cụ, để mô hình yêu cầu hàm, thực thi hàm trong ứng dụng bao quanh và trả kết quả thực tế để mô hình trả lời. Lời gọi gốc là danh sách kiểu Python nằm trong dấu lời gọi công cụ; nhà sản xuất cũng mô tả yêu cầu định dạng lời gọi JSON qua chỉ dẫn hệ thống. Dùng bộ phân tích phù hợp, đối chiếu tên hàm và đối số với định nghĩa cung cấp, đồng thời giữ kết quả cùng lời gọi tạo ra nó.

Với quy trình tác tử gọn, chỉ cung cấp hàm liên quan tác vụ hiện tại, có mô tả ngắn và kiểu đối số rõ ràng. Chính định nghĩa công cụ chiếm ngữ cảnh. Chuỗi hữu ích có thể tra trạng thái bản ghi được cung cấp, so sánh trạng thái trả về với quy tắc và giải thích có cần theo dõi không. Cung cấp mã bản ghi làm bằng chứng và yêu cầu câu trả lời cuối gắn với quan sát trả về. Mô hình đề xuất và diễn giải thao tác; ứng dụng cung cấp thực thi và kết quả thực tế.

Thẻ hiện tại của nhà sản xuất quy định ngữ cảnh mô hình 131.072 token, và bản phát hành mô tả giai đoạn mở rộng ngữ cảnh riêng. Làm việc trong cửa sổ của cấu hình đang dùng, giữ ranh giới nguồn, lịch sử liên quan và chỗ cho phần tiếp diễn. Với nhiều tài liệu, yêu cầu truy một phép so sánh hoặc quan hệ phụ thuộc cụ thể. Checkpoint gốc, GGUF, ONNX và MLX phục vụ nhu cầu triển khai khác nhau; mô hình nháp dùng cho giải mã suy đoán là một sản phẩm đi kèm riêng. Số liệu tài nguyên hoặc tốc độ của một cấu hình không tự mô tả mọi định dạng mô hình và cửa sổ làm việc.

Liquid nêu rõ không khuyến nghị LFM2.5-2.6B cho lập trình tác tử hoặc tác vụ cần nhiều kiến thức. Giữ trọng tâm ở quy trình cụ thể có bằng chứng, quy tắc trích xuất và quan sát công cụ được cung cấp. Checkpoint Base tiền huấn luyện cũng là sản phẩm riêng cho tùy biến, còn phiên bản hậu huấn luyện này là mô hình tác tử. Với kết quả cuối, đối chiếu giá trị trích với nguồn, kiểm tra đoạn dẫn có hỗ trợ câu trả lời và phân biệt lời gọi công cụ yêu cầu với thao tác có kết quả được ghi lại. Giữ thông tin chưa giải quyết khi nó ảnh hưởng kết luận, thay vì để văn bản trôi chảy che khuất.