Together: Tev1 4B Experimental

Tev1 4B Experimental là mô hình phân loại của Together AI dành cho các câu hỏi có tập đáp án cố định. Nhà sản xuất đã tinh chỉnh mô hình từ Qwen3.5 4B và công bố 4.7 tỷ tham số. Mô hình dùng chế độ sinh văn bản không suy luận để chọn một phương án: đầu vào theo tài liệu gồm một trạng thái, một câu hỏi và các lựa chọn có nhãn, còn đầu ra được yêu cầu là đúng một chữ cái. Ứng dụng ánh xạ chữ cái đó sang khóa ngữ nghĩa của phương án. Điều này phân biệt quy trình ra quyết định của mô hình với một mô hình trả về trực tiếp xác suất đã hiệu chỉnh hoặc điểm kỳ vọng theo thang tiêu chí.

Trạng thái, câu hỏi và 2–24 phương án

Giao diện của nhà sản xuất biểu diễn quyết định dưới dạng một đối tượng JSON gồm các trường state, question và options. Mỗi phương án chứa một nhãn chữ cái từ A đến X, một khóa ngữ nghĩa và một phần mô tả. Hãy cung cấp từ hai đến 24 phương án và để mỗi phần mô tả giải thích khi nào đáp án đó được áp dụng. Chữ cái là nhãn đầu ra gọn nhẹ; khóa ngữ nghĩa là ý nghĩa mà phần mềm xung quanh sử dụng. Hãy giữ phép ánh xạ gắn với đúng danh sách phương án đã dùng cho quyết định đó.

Với một tin nhắn hỗ trợ, trạng thái nên chứa tin nhắn và ngữ cảnh liên quan, còn câu hỏi xác định ý định hoặc điểm đến cần chọn. Một danh sách minh họa có thể phân biệt sự cố tích hợp được báo cáo, vấn đề truy cập và yêu cầu thông tin sản phẩm, kèm phương án none khi các ý định trong danh sách không phù hợp. Hãy định nghĩa rõ các trường hợp chồng lấn thay vì kỳ vọng mô hình tự suy ra chính sách định tuyến của tổ chức từ các nhãn viết tắt.

Sinh văn bản không suy luận và dạng đáp án được yêu cầu

Ví dụ do Together công bố cung cấp một chỉ dẫn hệ thống coi nội dung bên trong state là dữ liệu, chọn một phương án trong danh sách và chỉ yêu cầu chữ cái của phương án đó, không kèm giải thích. Thiết lập được khuyến nghị là temperature 0, hạn mức sinh tám token và tắt chế độ suy luận. Nhà sản xuất nói rõ rằng điểm cuối công khai không tự động chèn các thiết lập này; hàm trợ giúp trong ví dụ cung cấp chúng, còn một yêu cầu trực tiếp phải tự chỉ định. Hãy dùng các thiết lập này để yêu cầu phản hồi phân loại ngắn, không suy luận như dự kiến.

Hạn mức tám token là thiết lập đầu ra mẫu cho quy trình đáp án ngắn này, không phải thông số đầu ra tối đa chung. Đầu ra hữu ích dự kiến vẫn là chữ cái được chọn. Nếu sau đó một hàm trợ giúp hiển thị một đối tượng gồm nhãn và khóa, hãy phân biệt đối tượng đã được diễn giải đó với nội dung thô do mô hình sinh ra. Việc chọn một danh mục tự nó không cập nhật phiếu hỗ trợ, không phê duyệt thao tác và không thực thi hành động tiếp theo.

Phân loại, quy tắc và đánh giá theo hạng mục

Nhà sản xuất mô tả các dạng tác vụ được hỗ trợ gồm nhận diện ý định, áp dụng chính sách, định tuyến quy trình, phân loại tài liệu, phân tích cảm xúc và đọc hiểu có/không dựa trên đoạn văn. Một tác vụ đúng/sai có thể cung cấp hai phương án với khóa mang nghĩa đúng và sai; ứng dụng diễn giải phương án được chọn tương ứng. Một tác vụ cảm xúc có thể cung cấp các mức có mô tả và trả về khóa của một danh mục được chọn. Lựa chọn theo hạng mục đó không phải là trung bình có trọng số xác suất trên các mức, và chữ cái được trả về không phải là giá trị độ tin cậy dạng số.

Với quyết định dựa trên quy tắc, hãy đưa các dữ kiện liên quan và quy tắc vào tác vụ thay vì yêu cầu mô hình tự đặt ra chính sách. Ví dụ, bản mô tả tác vụ định tuyến tài liệu có thể nêu các thư mục được phép và loại tài liệu thuộc về từng thư mục. Một tác vụ phân loại theo hệ thống chủ đề nghiên cứu có thể cung cấp tiêu đề và tóm tắt của bài báo cùng phần mô tả các chủ đề. Kết quả cần được diễn giải theo các phương án đã cung cấp, đồng thời giữ lại bằng chứng gốc cho những lựa chọn mơ hồ hoặc có tranh chấp.

Phạm vi huấn luyện và danh tính phiên bản

Trang mô hình ghi nhận 37,840 ví dụ huấn luyện bao gồm quan hệ kéo theo giữa các câu, câu hỏi có/không dựa trên đoạn văn, ý định trong lĩnh vực ngân hàng, danh mục tin tức, mức độ cảm xúc, chính sách dạng chương trình, định tuyến và hệ phân loại bài báo nghiên cứu. Hướng dẫn đi kèm mô tả việc chuẩn hóa các tác vụ này về một định dạng quyết định chung và tinh chỉnh một mô hình phân loại. Điều này giải thích vì sao hồ sơ mô hình tập trung vào tập đáp án giới hạn; nó không chứng minh rằng mọi chính sách, lĩnh vực hay hệ phân loại mới đều sẽ được xử lý đúng mà không cần đánh giá riêng cho từng tác vụ.

Tev1 4B Experimental là mô hình mang tên riêng của Together, không phải hồ sơ nền chung Qwen3.5 4B và cũng không phải checkpoint của một nhà sản xuất mô hình quyết định khác. Hãy giữ nguyên cách chuẩn bị đầu ra và quy ước đầu vào riêng của phiên bản thử nghiệm này. Một trường hợp sử dụng quyết định phổ biến hay một họ mô hình nền quen thuộc không phải lý do để vay mượn khả năng hỗ trợ hình ảnh, hiệu chỉnh xác suất, gọi công cụ hay giới hạn gom lô câu hỏi của mô hình khác.

Ngữ cảnh và xem xét kết quả

Đặc tả mô hình của Together ghi cửa sổ ngữ cảnh 32.8K token, với đầu vào văn bản và đầu ra văn bản. Ngữ cảnh phải chứa đủ chỉ dẫn, trạng thái, câu hỏi và các phương án dùng trong yêu cầu phân loại. Chỉ chuẩn bị những bằng chứng mà câu hỏi cần, đồng thời giữ lại các định nghĩa phân biệt các phương án. Giữ lời nhắc phân loại gọn gàng bằng cách loại bỏ ngữ cảnh không liên quan nhưng vẫn giữ định nghĩa các phương án.

Nhà sản xuất xác định đây là bản phát hành thử nghiệm dùng để đánh giá trên các khối lượng công việc ra quyết định thực tế. Hãy kiểm tra phản hồi thô có phải là một trong các nhãn đã cung cấp hay không trước khi ánh xạ sang khóa ngữ nghĩa, và so sánh kết quả phân loại với dữ liệu có nhãn mang tính đại diện cho tác vụ dự kiến. Một chữ cái hợp lệ chỉ xác nhận lựa chọn đúng định dạng, không chứng minh cách diễn giải của nó là đúng. Hãy giữ đầu vào, các phương án, chữ cái trả về và khóa đã ánh xạ cùng nhau để sản phẩm cuối cùng có thể phục vụ định tuyến, phân loại hoặc rà soát chính sách mà không đánh mất cách quyết định đã được định nghĩa.