Poolside: Laguna XS 2.1 (free)

Poolside Laguna XS 2.1 là mô hình ngôn ngữ hỗn hợp chuyên gia dành cho lập trình tác tử và công việc dài hạn, được định vị là mô hình nhỏ hơn để triển khai cục bộ trong dòng Laguna. Mô hình có tổng cộng 33B tham số và 3B hoạt động trên mỗi token. Đây là mô hình được cập nhật so với Laguna XS.2, giữ kiến trúc của mô hình đó nhưng cải thiện các kết quả kỹ thuật phần mềm và nhiệm vụ terminal do nhà sản xuất báo cáo. Mô hình nhận văn bản và tạo văn bản, mã, nội dung suy luận cùng yêu cầu gọi công cụ.

Thiết kế 40 lớp kết hợp 10 lớp attention toàn cục và 30 lớp cửa sổ trượt, với cơ chế cổng sigmoid và cửa sổ trượt 512 token. Cửa sổ attention cục bộ đó tách biệt với ngữ cảnh 262,144 token của mô hình. Poolside cũng mô tả thiết kế KV-cache FP8 để giảm bộ nhớ trên mỗi token. Những đặc điểm này giúp giải thích trọng tâm triển khai cục bộ của mô hình, nhưng yêu cầu bộ nhớ chính xác vẫn phụ thuộc vào checkpoint, lượng tử hóa, ngữ cảnh làm việc và cấu hình phục vụ.

Đối với nhiệm vụ lập trình, cung cấp các tệp nguồn liên quan dưới dạng văn bản, hành vi mong đợi và lỗi thực tế hoặc đầu ra thất bại. Một yêu cầu hữu ích là: “Sửa cách bộ phân tích này xử lý dấu phân cách được escape, đồng thời giữ nguyên định dạng đầu vào đã công bố. Trình bày thay đổi đề xuất, giải thích các trường hợp bị ảnh hưởng và xác định những ví dụ sẽ cho thấy lỗi hồi quy.” Giữ sản phẩm đầu ra cụ thể và điều kiện hoàn thành để mô hình làm việc hướng đến kết quả thay vì chỉ bàn luận về vấn đề.

Đối với các nhiệm vụ kiểu terminal, cung cấp môi trường hiện tại, đầu ra lệnh liên quan và ràng buộc của công việc. Trong ứng dụng có kết nối công cụ, mô hình đề xuất lệnh gọi hàm, ứng dụng thực thi và kết quả được trả lại cho quyết định tiếp theo. Yêu cầu mô hình giải thích một thất bại cho thấy điều gì trước khi đề xuất lệnh khác. Chẳng hạn, cung cấp bản kê thành phần phụ thuộc và đầu ra cài đặt thất bại, rồi yêu cầu cách sửa nhỏ nhất dựa trên nguồn và kết quả mong đợi của kiểm tra tiếp theo. Giữ các bước thành công trước đó và vấn đề chưa giải quyết trong lịch sử.

Laguna XS 2.1 được thiết kế để suy nghĩ xen kẽ trước và giữa các lệnh gọi công cụ. Nhà sản xuất khuyến nghị giữ nội dung suy luận từ những tin nhắn trợ lý trước đó khi dựng lại yêu cầu tiếp theo. Bỏ nội dung đó có thể ngăn việc suy luận tiếp ở các bước sau. Giữ phản hồi trợ lý, thông tin gọi công cụ của nó và kết quả công cụ tương ứng cùng nhau, với mục tiêu đang thực hiện luôn rõ ràng. Điều này đặc biệt hữu ích khi nhiều quan sát cùng đóng góp cho cách sửa và một bước sau phụ thuộc vào quyết định trước đó.

Có thể bật hoặc tắt suy nghĩ thông qua mẫu trò chuyện. Poolside khuyến nghị bật cho lập trình tác tử và giữ nội dung ấy xuyên suốt các lượt. Yêu cầu trả lời trực tiếp có thể phù hợp với phép biến đổi hoặc giải thích nhỏ, còn việc sửa chữa với nhiều điều kiện phụ thuộc được hỗ trợ bởi vòng lặp suy luận và quan sát tiếp diễn. Nêu định dạng đầu ra cuối và chừa chỗ cho câu trả lời cuối. Các thiết lập đánh giá của nhà sản xuất là lựa chọn trong công thức, không phải bảo đảm phổ quát về lượng suy luận hoặc độ dài câu trả lời tối đa.

Đối với đầu vào nguồn dài, tổ chức tệp và tài liệu với ranh giới rõ ràng, tên ổn định. Yêu cầu truy vết một quan hệ cụ thể, chẳng hạn những bên gọi nào phụ thuộc vào giao diện đã thay đổi, điều kiện nào phân biệt hai cách triển khai hoặc tại sao kết quả kiểm tra mâu thuẫn với chẩn đoán đề xuất. Giữ các quyết định quan trọng và kiểm tra thực tế trong bản ghi nhiệm vụ gọn, đồng thời loại bỏ lịch sử không liên quan. Giới hạn ngữ cảnh bao gồm tài liệu làm việc và phần tiếp nối được tạo; phản hồi cuối dài bằng toàn bộ ngữ cảnh không phải một dung lượng được cam kết riêng.

Poolside công bố BF16 cùng các biến thể FP8, NVFP4, INT4 và GGUF riêng, cũng như các sản phẩm mô hình nháp DFlash. Đây là những lựa chọn triển khai khác nhau. Số tham số hoạt động nhỏ không có nghĩa toàn bộ trọng số mô hình chỉ chiếm lượng bộ nhớ tương ứng, và mô hình nháp là thành phần đồng hành để tăng tốc chứ không phải chính mô hình lập trình. Giữ checkpoint chính xác khi so sánh kết quả cục bộ và chuẩn bị nội dung mã hoặc tài liệu dưới dạng văn bản cho mô hình văn bản sang văn bản này.

Nhà sản xuất ghi nhận vấn đề bộ phân tích công cụ trong các bản phục vụ cũ, có thể làm rơi một số lệnh gọi và hiển thị markup thô của chúng như văn bản phản hồi thông thường. Điều này cho thấy tại sao quy trình có kết nối công cụ cần phân biệt yêu cầu mà mô hình định đưa ra với lệnh gọi hàm được phân tích đúng. Kiểm tra tên và đối số đã phân tích, xác thực theo schema thực tế và giữ kết quả thực thi. Báo cáo cuối cần xác định sản phẩm đã chỉnh sửa, các kiểm tra đã quan sát và những giả định còn lại. Bản vá hoặc lệnh được đề xuất chỉ trở thành kết quả hoàn tất khi hành vi của nó được xác lập bằng những bản ghi ấy.