Mistral Small 3 Instruct 2501 là bản phát hành được tinh chỉnh theo chỉ dẫn với 24 tỷ tham số của Mistral Small 3. Mô hình được tinh chỉnh từ Small 24B Base 2501 có tên riêng. Nhà sản xuất định vị nó cho hỗ trợ hội thoại phản hồi nhanh, gọi hàm và thích ứng chuyên chủ đề, với văn bản vừa là đầu vào vừa là kết quả được tạo.
Tính năng cốt lõi và khác biệt huấn luyện
Thẻ mô hình mô tả hỗ trợ đa ngôn ngữ, khả năng hội thoại và suy luận, gọi hàm gốc, đầu ra JSON và tuân thủ lời nhắc hệ thống. Cửa sổ ngữ cảnh là 32k và mô hình dùng bộ tách token Tekken với bộ từ vựng gắn nhãn 131k. Nhãn ngữ cảnh liên quan đến văn bản được giữ cho tác vụ, còn nhãn bộ từ vựng mô tả tách token; đây là các đặc tả khác nhau.
Nhà sản xuất liệt kê các ngôn ngữ gồm tiếng Anh, Pháp, Đức, Tây Ban Nha, Ý, Trung, Nhật, Hàn, Bồ Đào Nha, Hà Lan và Ba Lan, với tiếng Nga cũng có trong siêu dữ liệu ngôn ngữ của thẻ phát hành. Xác định ngôn ngữ cuối cùng và thuật ngữ cần giữ nguyên. Giải thích được dịch có thể giữ mã định danh, tên và đơn vị trong khi điều chỉnh văn xuôi xung quanh cho người đọc.
Thông báo phát hành nêu Small 3 không được huấn luyện bằng học tăng cường hoặc dữ liệu tổng hợp và phân biệt bản trọng số tiền huấn luyện với bản được tinh chỉnh theo chỉ dẫn. Thông báo mô tả mô hình là nền tảng có thể tùy biến thêm, thay vì bản trọng số lai có điều khiển suy luận Small 4 về sau. Mục này là phiên bản Instruct 2501 để làm theo tác vụ hội thoại.
Tác vụ hội thoại và có cấu trúc
Với trợ lý kiểu hỗ trợ, hãy cung cấp câu hỏi người dùng, tài liệu tham chiếu liên quan và quy tắc trả lời. Yêu cầu hành động trả lời câu hỏi và điều kiện để áp dụng. Đầu ra thực tế có thể tách câu trả lời súc tích khỏi các trường trích xuất mà ứng dụng cần cho bước tiếp theo, thay vì trộn chúng trong giải thích không có cấu trúc.
Với phân loại, hãy cung cấp nhãn được phép và khác biệt giữa chúng. Với trích xuất, hãy nêu trường, kiểu dữ liệu mong đợi và cách biểu diễn thông tin thiếu. Bản ghi có thể chứa loại vấn đề, mã định danh sao từ thông điệp và tóm tắt ngắn hành động yêu cầu. JSON sắp xếp kết quả, còn thiết kế trường và quy tắc diễn giải vẫn thuộc tác vụ được cung cấp.
Với giải thích mã, hãy kèm hàm, khai báo liên quan và đầu vào cụ thể. Hỏi đường đi nào trong mã quyết định kết quả. Với giải thích toán học, hãy xác định biến và giả định, đồng thời nêu biểu thức hoặc khẳng định cần xác lập. Các tác vụ văn bản này có thể trả phương pháp, giải thích và sản phẩm cuối cùng mà không giả định mô hình tự chạy mã hoặc phép tính bên ngoài.
Chỉ dẫn hệ thống và thiết lập khuyến nghị
Thẻ khuyến nghị lời nhắc hệ thống phù hợp với trợ lý dự định và temperature tương đối thấp, như 0.15. Dùng chỉ dẫn hệ thống để xác định vai trò, phong cách và quy tắc trả lời, còn thông điệp người dùng mang vấn đề thực tế hoặc tài liệu nguồn. Giữ chỉ dẫn được trích bên trong tài liệu tách khỏi chỉ dẫn của ứng dụng về cách xử lý tài liệu đó.
Với trợ lý hằng ngày, hãy chỉ rõ kết quả cần là câu trả lời ngắn, bản ghi có cấu trúc hay giải thích dài hơn. Nếu phản hồi sẽ được phân tích cú pháp, hãy yêu cầu bản ghi tách khỏi văn xuôi tùy chọn. Trong quy trình tài liệu lặp lại, giữ mã định danh nguồn bên cạnh mỗi kết quả để ứng dụng có thể trả đúng tài liệu cho người dùng.
Gọi hàm và chuyên biệt hóa
Mô hình có thể chọn hàm được mô tả và tạo đối số. Ứng dụng thực thi thao tác và trả kết quả cùng lời gọi công cụ tương ứng, sau đó câu trả lời tiếp theo có thể dùng thông tin đó. Ví dụ trong thẻ thể hiện hội thoại có dùng công cụ trước đó, tiếp theo là câu hỏi mới. Điều này cho trợ lý cách yêu cầu thông tin từ công cụ kết nối mà không coi lời gọi đề xuất là tra cứu đã hoàn tất.
Mô tả rõ mục đích từng hàm và các giá trị bắt buộc. Tác vụ tra cứu có thể nêu thông tin cần và trả kết quả công cụ thực tế vào hội thoại; hàm xử lý văn bản có thể cung cấp đoạn đã biến đổi cho phản hồi tiếp theo. Giữ bộ công cụ liên quan tới quá trình hiện tại và giữ liên kết giữa thao tác đề xuất với kết quả.
Nhà sản xuất cũng mô tả tinh chỉnh để chuyên biệt hóa theo chủ đề. Quá trình đó thay đổi mô hình cho một lĩnh vực xác định; cung cấp tài liệu trong một hội thoại thay vào đó là định điều kiện bằng nguồn cho tác vụ ấy. Cung cấp tài liệu lĩnh vực và yêu cầu trả lời cần cho trợ lý cụ thể thay vì giả định việc tùy biến đã được thực hiện.
Ngữ cảnh và giới hạn thực chất
Small 3 2501 là mô hình chỉ có văn bản với ngữ cảnh 32k. Khả năng thị giác và ngữ cảnh 128k được đưa vào Small 3.1 thuộc bản phát hành về sau, và tương tự không nên chuyển các chế độ lai của Small 4 sang đây. Ảnh, bản ghi âm hoặc video phải có nội dung liên quan được chuẩn bị qua thành phần khác trước tác vụ văn bản này.
Các thiết lập tạo 256 và 512 token trong thẻ là ví dụ sử dụng, không phải dung lượng đầu ra tối đa riêng. Giữ rõ định danh Instruct 2501 chính xác, bộ tách token và kết quả được yêu cầu. Sản phẩm cuối cùng hữu ích là câu trả lời, bản ghi JSON hoặc mã đề xuất có ý nghĩa và định dạng khớp tác vụ bằng chữ ban đầu.
", "aboutText": "Mistral Small 3 Instruct 2501 là bản phát hành được tinh chỉnh theo chỉ dẫn với 24 tỷ tham số của Mistral Small 3. Mô hình được tinh chỉnh từ Small 24B Base 2501 có tên riêng. Nhà sản xuất định vị nó cho hỗ trợ hội thoại phản hồi nhanh, gọi hàm và thích ứng chuyên chủ đề, với văn bản vừa là đầu vào vừa là kết quả được tạo.\n\nTính năng cốt lõi và khác biệt huấn luyện\n\nThẻ mô hình mô tả hỗ trợ đa ngôn ngữ, khả năng hội thoại và suy luận, gọi hàm gốc, đầu ra JSON và tuân thủ lời nhắc hệ thống. Cửa sổ ngữ cảnh là 32k và mô hình dùng bộ tách token Tekken với bộ từ vựng gắn nhãn 131k. Nhãn ngữ cảnh liên quan đến văn bản được giữ cho tác vụ, còn nhãn bộ từ vựng mô tả tách token; đây là các đặc tả khác nhau.\n\nNhà sản xuất liệt kê các ngôn ngữ gồm tiếng Anh, Pháp, Đức, Tây Ban Nha, Ý, Trung, Nhật, Hàn, Bồ Đào Nha, Hà Lan và Ba Lan, với tiếng Nga cũng có trong siêu dữ liệu ngôn ngữ của thẻ phát hành. Xác định ngôn ngữ cuối cùng và thuật ngữ cần giữ nguyên. Giải thích được dịch có thể giữ mã định danh, tên và đơn vị trong khi điều chỉnh văn xuôi xung quanh cho người đọc.\n\nThông báo phát hành nêu Small 3 không được huấn luyện bằng học tăng cường hoặc dữ liệu tổng hợp và phân biệt bản trọng số tiền huấn luyện với bản được tinh chỉnh theo chỉ dẫn. Thông báo mô tả mô hình là nền tảng có thể tùy biến thêm, thay vì bản trọng số lai có điều khiển suy luận Small 4 về sau. Mục này là phiên bản Instruct 2501 để làm theo tác vụ hội thoại.\n\nTác vụ hội thoại và có cấu trúc\n\nVới trợ lý kiểu hỗ trợ, hãy cung cấp câu hỏi người dùng, tài liệu tham chiếu liên quan và quy tắc trả lời. Yêu cầu hành động trả lời câu hỏi và điều kiện để áp dụng. Đầu ra thực tế có thể tách câu trả lời súc tích khỏi các trường trích xuất mà ứng dụng cần cho bước tiếp theo, thay vì trộn chúng trong giải thích không có cấu trúc.\n\nVới phân loại, hãy cung cấp nhãn được phép và khác biệt giữa chúng. Với trích xuất, hãy nêu trường, kiểu dữ liệu mong đợi và cách biểu diễn thông tin thiếu. Bản ghi có thể chứa loại vấn đề, mã định danh sao từ thông điệp và tóm tắt ngắn hành động yêu cầu. JSON sắp xếp kết quả, còn thiết kế trường và quy tắc diễn giải vẫn thuộc tác vụ được cung cấp.\n\nVới giải thích mã, hãy kèm hàm, khai báo liên quan và đầu vào cụ thể. Hỏi đường đi nào trong mã quyết định kết quả. Với giải thích toán học, hãy xác định biến và giả định, đồng thời nêu biểu thức hoặc khẳng định cần xác lập. Các tác vụ văn bản này có thể trả phương pháp, giải thích và sản phẩm cuối cùng mà không giả định mô hình tự chạy mã hoặc phép tính bên ngoài.\n\nChỉ dẫn hệ thống và thiết lập khuyến nghị\n\nThẻ khuyến nghị lời nhắc hệ thống phù hợp với trợ lý dự định và temperature tương đối thấp, như 0.15. Dùng chỉ dẫn hệ thống để xác định vai trò, phong cách và quy tắc trả lời, còn thông điệp người dùng mang vấn đề thực tế hoặc tài liệu nguồn. Giữ chỉ dẫn được trích bên trong tài liệu tách khỏi chỉ dẫn của ứng dụng về cách xử lý tài liệu đó.\n\nVới trợ lý hằng ngày, hãy chỉ rõ kết quả cần là câu trả lời ngắn, bản ghi có cấu trúc hay giải thích dài hơn. Nếu phản hồi sẽ được phân tích cú pháp, hãy yêu cầu bản ghi tách khỏi văn xuôi tùy chọn. Trong quy trình tài liệu lặp lại, giữ mã định danh nguồn bên cạnh mỗi kết quả để ứng dụng có thể trả đúng tài liệu cho người dùng.\n\nGọi hàm và chuyên biệt hóa\n\nMô hình có thể chọn hàm được mô tả và tạo đối số. Ứng dụng thực thi thao tác và trả kết quả cùng lời gọi công cụ tương ứng, sau đó câu trả lời tiếp theo có thể dùng thông tin đó. Ví dụ trong thẻ thể hiện hội thoại có dùng công cụ trước đó, tiếp theo là câu hỏi mới. Điều này cho trợ lý cách yêu cầu thông tin từ công cụ kết nối mà không coi lời gọi đề xuất là tra cứu đã hoàn tất.\n\nMô tả rõ mục đích từng hàm và các giá trị bắt buộc. Tác vụ tra cứu có thể nêu thông tin cần và trả kết quả công cụ thực tế vào hội thoại; hàm xử lý văn bản có thể cung cấp đoạn đã biến đổi cho phản hồi tiếp theo. Giữ bộ công cụ liên quan tới quá trình hiện tại và giữ liên kết giữa thao tác đề xuất với kết quả.\n\nNhà sản xuất cũng mô tả tinh chỉnh để chuyên biệt hóa theo chủ đề. Quá trình đó thay đổi mô hình cho một lĩnh vực xác định; cung cấp tài liệu trong một hội thoại thay vào đó là định điều kiện bằng nguồn cho tác vụ ấy. Cung cấp tài liệu lĩnh vực và yêu cầu trả lời cần cho trợ lý cụ thể thay vì giả định việc tùy biến đã được thực hiện.\n\nNgữ cảnh và giới hạn thực chất\n\nSmall 3 2501 là mô hình chỉ có văn bản với ngữ cảnh 32k. Khả năng thị giác và ngữ cảnh 128k được đưa vào Small 3.1 thuộc bản phát hành về sau, và tương tự không nên chuyển các chế độ lai của Small 4 sang đây. Ảnh, bản ghi âm hoặc video phải có nội dung liên quan được chuẩn bị qua thành phần khác trước tác vụ văn bản này.\n\nCác thiết lập tạo 256 và 512 token trong thẻ là ví dụ sử dụng, không phải dung lượng đầu ra tối đa riêng. Giữ rõ định danh Instruct 2501 chính xác, bộ tách token và kết quả được yêu cầu. Sản phẩm cuối cùng hữu ích là câu trả lời, bản ghi JSON hoặc mã đề xuất có ý nghĩa và định dạng khớp tác vụ bằng chữ ban đầu.", "editorialOverlay": { "copy_fields": { "practical_html": "Ví dụ kỹ thuật bằng tiếng Anh
Prepare a reference-grounded support answer\n\nAnswer this customer question using only the reference: 'Can I change the pickup location after the parcel is handed to the carrier?' Reference: 'Before handover, support may change the pickup location. After handover, the recipient must request a change from the carrier; availability depends on its route.' Return a concise reply and the condition supporting it.A short customer reply plus the reference condition that determines the next contact.The reply directs the handed-over parcel's request to the carrier and does not promise that a change is available.mistralai/mistral-small-24b-instruct-2501Mistral Small 3 Instruct 2501 là mô hình văn bản 24 tỷ tham số dành cho chỉ dẫn hội thoại, trích xuất có cấu trúc và ứng dụng có công cụ hỗ trợ. Mô hình cung cấp ngữ cảnh 32k do nhà sản xuất công bố, phản hồi đa ngôn ngữ, hỗ trợ lời nhắc hệ thống, JSON và gọi hàm gốc trong một bản phát hành chỉ có văn bản riêng.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Mistral Small 3 Instruct 2501 là bản phát hành được tinh chỉnh theo chỉ dẫn với 24 tỷ tham số của Mistral Small 3. Mô hình được tinh chỉnh từ Small 24B Base 2501 có tên riêng. Nhà sản xuất định vị nó cho hỗ trợ hội thoại phản hồi nhanh, gọi hàm và thích ứng chuyên chủ đề, với văn bản vừa là đầu vào vừa là kết quả được tạo.
Tính năng cốt lõi và khác biệt huấn luyện
Thẻ mô hình mô tả hỗ trợ đa ngôn ngữ, khả năng hội thoại và suy luận, gọi hàm gốc, đầu ra JSON và tuân thủ lời nhắc hệ thống. Cửa sổ ngữ cảnh là 32k và mô hình dùng bộ tách token Tekken với bộ từ vựng gắn nhãn 131k. Nhãn ngữ cảnh liên quan đến văn bản được giữ cho tác vụ, còn nhãn bộ từ vựng mô tả tách token; đây là các đặc tả khác nhau.
Nhà sản xuất liệt kê các ngôn ngữ gồm tiếng Anh, Pháp, Đức, Tây Ban Nha, Ý, Trung, Nhật, Hàn, Bồ Đào Nha, Hà Lan và Ba Lan, với tiếng Nga cũng có trong siêu dữ liệu ngôn ngữ của thẻ phát hành. Xác định ngôn ngữ cuối cùng và thuật ngữ cần giữ nguyên. Giải thích được dịch có thể giữ mã định danh, tên và đơn vị trong khi điều chỉnh văn xuôi xung quanh cho người đọc.
Thông báo phát hành nêu Small 3 không được huấn luyện bằng học tăng cường hoặc dữ liệu tổng hợp và phân biệt bản trọng số tiền huấn luyện với bản được tinh chỉnh theo chỉ dẫn. Thông báo mô tả mô hình là nền tảng có thể tùy biến thêm, thay vì bản trọng số lai có điều khiển suy luận Small 4 về sau. Mục này là phiên bản Instruct 2501 để làm theo tác vụ hội thoại.
Tác vụ hội thoại và có cấu trúc
Với trợ lý kiểu hỗ trợ, hãy cung cấp câu hỏi người dùng, tài liệu tham chiếu liên quan và quy tắc trả lời. Yêu cầu hành động trả lời câu hỏi và điều kiện để áp dụng. Đầu ra thực tế có thể tách câu trả lời súc tích khỏi các trường trích xuất mà ứng dụng cần cho bước tiếp theo, thay vì trộn chúng trong giải thích không có cấu trúc.
Với phân loại, hãy cung cấp nhãn được phép và khác biệt giữa chúng. Với trích xuất, hãy nêu trường, kiểu dữ liệu mong đợi và cách biểu diễn thông tin thiếu. Bản ghi có thể chứa loại vấn đề, mã định danh sao từ thông điệp và tóm tắt ngắn hành động yêu cầu. JSON sắp xếp kết quả, còn thiết kế trường và quy tắc diễn giải vẫn thuộc tác vụ được cung cấp.
Với giải thích mã, hãy kèm hàm, khai báo liên quan và đầu vào cụ thể. Hỏi đường đi nào trong mã quyết định kết quả. Với giải thích toán học, hãy xác định biến và giả định, đồng thời nêu biểu thức hoặc khẳng định cần xác lập. Các tác vụ văn bản này có thể trả phương pháp, giải thích và sản phẩm cuối cùng mà không giả định mô hình tự chạy mã hoặc phép tính bên ngoài.
Chỉ dẫn hệ thống và thiết lập khuyến nghị
Thẻ khuyến nghị lời nhắc hệ thống phù hợp với trợ lý dự định và temperature tương đối thấp, như 0.15. Dùng chỉ dẫn hệ thống để xác định vai trò, phong cách và quy tắc trả lời, còn thông điệp người dùng mang vấn đề thực tế hoặc tài liệu nguồn. Giữ chỉ dẫn được trích bên trong tài liệu tách khỏi chỉ dẫn của ứng dụng về cách xử lý tài liệu đó.
Với trợ lý hằng ngày, hãy chỉ rõ kết quả cần là câu trả lời ngắn, bản ghi có cấu trúc hay giải thích dài hơn. Nếu phản hồi sẽ được phân tích cú pháp, hãy yêu cầu bản ghi tách khỏi văn xuôi tùy chọn. Trong quy trình tài liệu lặp lại, giữ mã định danh nguồn bên cạnh mỗi kết quả để ứng dụng có thể trả đúng tài liệu cho người dùng.
Gọi hàm và chuyên biệt hóa
Mô hình có thể chọn hàm được mô tả và tạo đối số. Ứng dụng thực thi thao tác và trả kết quả cùng lời gọi công cụ tương ứng, sau đó câu trả lời tiếp theo có thể dùng thông tin đó. Ví dụ trong thẻ thể hiện hội thoại có dùng công cụ trước đó, tiếp theo là câu hỏi mới. Điều này cho trợ lý cách yêu cầu thông tin từ công cụ kết nối mà không coi lời gọi đề xuất là tra cứu đã hoàn tất.
Mô tả rõ mục đích từng hàm và các giá trị bắt buộc. Tác vụ tra cứu có thể nêu thông tin cần và trả kết quả công cụ thực tế vào hội thoại; hàm xử lý văn bản có thể cung cấp đoạn đã biến đổi cho phản hồi tiếp theo. Giữ bộ công cụ liên quan tới quá trình hiện tại và giữ liên kết giữa thao tác đề xuất với kết quả.
Nhà sản xuất cũng mô tả tinh chỉnh để chuyên biệt hóa theo chủ đề. Quá trình đó thay đổi mô hình cho một lĩnh vực xác định; cung cấp tài liệu trong một hội thoại thay vào đó là định điều kiện bằng nguồn cho tác vụ ấy. Cung cấp tài liệu lĩnh vực và yêu cầu trả lời cần cho trợ lý cụ thể thay vì giả định việc tùy biến đã được thực hiện.
Ngữ cảnh và giới hạn thực chất
Small 3 2501 là mô hình chỉ có văn bản với ngữ cảnh 32k. Khả năng thị giác và ngữ cảnh 128k được đưa vào Small 3.1 thuộc bản phát hành về sau, và tương tự không nên chuyển các chế độ lai của Small 4 sang đây. Ảnh, bản ghi âm hoặc video phải có nội dung liên quan được chuẩn bị qua thành phần khác trước tác vụ văn bản này.
Các thiết lập tạo 256 và 512 token trong thẻ là ví dụ sử dụng, không phải dung lượng đầu ra tối đa riêng. Giữ rõ định danh Instruct 2501 chính xác, bộ tách token và kết quả được yêu cầu. Sản phẩm cuối cùng hữu ích là câu trả lời, bản ghi JSON hoặc mã đề xuất có ý nghĩa và định dạng khớp tác vụ bằng chữ ban đầu.
POST /v1/chat/completionstexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn mistralai/mistral-small-24b-instruct-2501 | Mặc định— |
Trườngmessages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 | Mặc định— |
Trườngmessages[].role | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn Ví dụ: system, user, assistant, tool, function Điều kiện: Các vai trò này được biểu diễn rõ trong các kiểu tương thích của mã nguồn; tập vai trò chính xác vẫn tùy từng mô hình. Tùy thuộc vào mô hình | Mặc định— |
Trườngmessages[].content | Loạistring|content_part[]|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].tool_calls | Loạitool_call[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].tool_call_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Áp dụng khi: role=tool; dùng ID thực tế được trả về | Mặc định— |
Trườngmessages[].name | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].reasoning_content | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Áp dụng khi: Gửi lại dữ liệu suy luận thực tế đã được trả về khi mô hình này sử dụng dữ liệu đó | Mặc định— |
Trườngmessages[].reasoning_details | Loạiobject|array | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tùy thuộc vào mô hình | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tùy thuộc vào mô hình | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc địnhfalse |
Trườngstream_options.include_usage | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngstop | Loạistring|string[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtools | Loạifunction_tool[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtools[].type | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn function Tùy thuộc vào mô hình | Mặc định— |
Trườngtools[].function.name | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn Áp dụng khi: Có cung cấp công cụ hàm | Mặc định— |
Trườngtools[].function.description | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtools[].function.parameters | LoạiJSON_schema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtool_choice | Loạistring|object | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngparallel_tool_calls | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngresponse_format | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngreasoning_effort | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngreasoning | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngservice_tier | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườnginstructions | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Trường tương thích | Mặc định— |
Trườngfunctions | Loạifunction[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngfunction_call | Loạistring|object | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngprompt_cache_options | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngmodalities | Loạistring[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn text | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối trên tuyến văn bản Ultra này | Mặc định— |
Trườngcache_control.ttl | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: 1h bị từ chối tại các vị trí lưu đệm prompt thực tế | Mặc định— |
Văn bản · Văn bản UTF8
messages[].content
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốmessages | Hợp đồngMảng thông điệp có cấu trúc role/content |
Tham sốfile_material | Hợp đồngTài liệu UTF-8 thực tế được chèn nguyên dạng văn bản; không suy ra ID tệp |
Tham sốoptional_controls | Hợp đồngstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Tham sốcontrol_scope | Hợp đồngTùy từng mô hình; công cụ hàm của người dùng khác với công cụ do dịch vụ cung cấp |
Tham sốoutput_modalities | Hợp đồngtext |
Tham sốhosted_operations | Hợp đồngfalse |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous_or_streamed
Gửi ID mô hình chính xác cùng messages.
Độ dài ngữ cảnh không phải giới hạn đầu ra.
Tệp văn bản có thể cung cấp nguyên văn nội dung; đầu vào hình ảnh, âm thanh hoặc đối tượng tệp cần có liên kết chính xác.
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0001 / 1K token Đầu ra · Token đầu ra $0.00016 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0001 / 1K token Đầu ra · Token đầu ra $0.00016 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-small-24b-instruct-2501", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-small-24b-instruct-2501',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-small-24b-instruct-2501',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson hoặc SSE
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ mọi phương án trả lời cùng nội dung, lệnh gọi công cụ và dữ liệu suy luận của phương án đó. Với SSE, ghép các phần thay đổi theo chỉ số phương án và công cụ, giữ lý do kết thúc cuối cùng cùng dữ liệu sử dụng.
Giữ ID và header của yêu cầu, phản hồi. Không cung cấp URL chung để truy xuất tác vụ văn bản.
| Trường | Loại |
|---|---|
Trườngchoices[].index | Loạiinteger |
Trườngchoices[].message.content | Loạistring|null |
Trườngchoices[].message.tool_calls | Loạitool_call[] |
Trườngchoices[].message.reasoning_content | Loạistring |
Trườngchoices[].message.reasoning_details | Loạiobject|array |
Trườngchoices[].finish_reason | Loạistring|null |
Trườngusage | Loạiobject |
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Ailoot Ultra mistralai/mistral-small-24b-instruct-2501
Dùng các đường dẫn phương thức hiển thị ở trên.
mistralai/mistral-small-24b-instruct-2501Mistral Small 3 Instruct 2501 là mô hình văn bản 24 tỷ tham số dành cho chỉ dẫn hội thoại, trích xuất có cấu trúc và ứng dụng có công cụ hỗ trợ. Mô hình cung cấp ngữ cảnh 32k do nhà sản xuất công bố, phản hồi đa ngôn ngữ, hỗ trợ lời nhắc hệ thống, JSON và gọi hàm gốc trong một bản phát hành chỉ có văn bản riêng.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Mistral Small 3 Instruct 2501 là bản phát hành được tinh chỉnh theo chỉ dẫn với 24 tỷ tham số của Mistral Small 3. Mô hình được tinh chỉnh từ Small 24B Base 2501 có tên riêng. Nhà sản xuất định vị nó cho hỗ trợ hội thoại phản hồi nhanh, gọi hàm và thích ứng chuyên chủ đề, với văn bản vừa là đầu vào vừa là kết quả được tạo.
Tính năng cốt lõi và khác biệt huấn luyện
Thẻ mô hình mô tả hỗ trợ đa ngôn ngữ, khả năng hội thoại và suy luận, gọi hàm gốc, đầu ra JSON và tuân thủ lời nhắc hệ thống. Cửa sổ ngữ cảnh là 32k và mô hình dùng bộ tách token Tekken với bộ từ vựng gắn nhãn 131k. Nhãn ngữ cảnh liên quan đến văn bản được giữ cho tác vụ, còn nhãn bộ từ vựng mô tả tách token; đây là các đặc tả khác nhau.
Nhà sản xuất liệt kê các ngôn ngữ gồm tiếng Anh, Pháp, Đức, Tây Ban Nha, Ý, Trung, Nhật, Hàn, Bồ Đào Nha, Hà Lan và Ba Lan, với tiếng Nga cũng có trong siêu dữ liệu ngôn ngữ của thẻ phát hành. Xác định ngôn ngữ cuối cùng và thuật ngữ cần giữ nguyên. Giải thích được dịch có thể giữ mã định danh, tên và đơn vị trong khi điều chỉnh văn xuôi xung quanh cho người đọc.
Thông báo phát hành nêu Small 3 không được huấn luyện bằng học tăng cường hoặc dữ liệu tổng hợp và phân biệt bản trọng số tiền huấn luyện với bản được tinh chỉnh theo chỉ dẫn. Thông báo mô tả mô hình là nền tảng có thể tùy biến thêm, thay vì bản trọng số lai có điều khiển suy luận Small 4 về sau. Mục này là phiên bản Instruct 2501 để làm theo tác vụ hội thoại.
Tác vụ hội thoại và có cấu trúc
Với trợ lý kiểu hỗ trợ, hãy cung cấp câu hỏi người dùng, tài liệu tham chiếu liên quan và quy tắc trả lời. Yêu cầu hành động trả lời câu hỏi và điều kiện để áp dụng. Đầu ra thực tế có thể tách câu trả lời súc tích khỏi các trường trích xuất mà ứng dụng cần cho bước tiếp theo, thay vì trộn chúng trong giải thích không có cấu trúc.
Với phân loại, hãy cung cấp nhãn được phép và khác biệt giữa chúng. Với trích xuất, hãy nêu trường, kiểu dữ liệu mong đợi và cách biểu diễn thông tin thiếu. Bản ghi có thể chứa loại vấn đề, mã định danh sao từ thông điệp và tóm tắt ngắn hành động yêu cầu. JSON sắp xếp kết quả, còn thiết kế trường và quy tắc diễn giải vẫn thuộc tác vụ được cung cấp.
Với giải thích mã, hãy kèm hàm, khai báo liên quan và đầu vào cụ thể. Hỏi đường đi nào trong mã quyết định kết quả. Với giải thích toán học, hãy xác định biến và giả định, đồng thời nêu biểu thức hoặc khẳng định cần xác lập. Các tác vụ văn bản này có thể trả phương pháp, giải thích và sản phẩm cuối cùng mà không giả định mô hình tự chạy mã hoặc phép tính bên ngoài.
Chỉ dẫn hệ thống và thiết lập khuyến nghị
Thẻ khuyến nghị lời nhắc hệ thống phù hợp với trợ lý dự định và temperature tương đối thấp, như 0.15. Dùng chỉ dẫn hệ thống để xác định vai trò, phong cách và quy tắc trả lời, còn thông điệp người dùng mang vấn đề thực tế hoặc tài liệu nguồn. Giữ chỉ dẫn được trích bên trong tài liệu tách khỏi chỉ dẫn của ứng dụng về cách xử lý tài liệu đó.
Với trợ lý hằng ngày, hãy chỉ rõ kết quả cần là câu trả lời ngắn, bản ghi có cấu trúc hay giải thích dài hơn. Nếu phản hồi sẽ được phân tích cú pháp, hãy yêu cầu bản ghi tách khỏi văn xuôi tùy chọn. Trong quy trình tài liệu lặp lại, giữ mã định danh nguồn bên cạnh mỗi kết quả để ứng dụng có thể trả đúng tài liệu cho người dùng.
Gọi hàm và chuyên biệt hóa
Mô hình có thể chọn hàm được mô tả và tạo đối số. Ứng dụng thực thi thao tác và trả kết quả cùng lời gọi công cụ tương ứng, sau đó câu trả lời tiếp theo có thể dùng thông tin đó. Ví dụ trong thẻ thể hiện hội thoại có dùng công cụ trước đó, tiếp theo là câu hỏi mới. Điều này cho trợ lý cách yêu cầu thông tin từ công cụ kết nối mà không coi lời gọi đề xuất là tra cứu đã hoàn tất.
Mô tả rõ mục đích từng hàm và các giá trị bắt buộc. Tác vụ tra cứu có thể nêu thông tin cần và trả kết quả công cụ thực tế vào hội thoại; hàm xử lý văn bản có thể cung cấp đoạn đã biến đổi cho phản hồi tiếp theo. Giữ bộ công cụ liên quan tới quá trình hiện tại và giữ liên kết giữa thao tác đề xuất với kết quả.
Nhà sản xuất cũng mô tả tinh chỉnh để chuyên biệt hóa theo chủ đề. Quá trình đó thay đổi mô hình cho một lĩnh vực xác định; cung cấp tài liệu trong một hội thoại thay vào đó là định điều kiện bằng nguồn cho tác vụ ấy. Cung cấp tài liệu lĩnh vực và yêu cầu trả lời cần cho trợ lý cụ thể thay vì giả định việc tùy biến đã được thực hiện.
Ngữ cảnh và giới hạn thực chất
Small 3 2501 là mô hình chỉ có văn bản với ngữ cảnh 32k. Khả năng thị giác và ngữ cảnh 128k được đưa vào Small 3.1 thuộc bản phát hành về sau, và tương tự không nên chuyển các chế độ lai của Small 4 sang đây. Ảnh, bản ghi âm hoặc video phải có nội dung liên quan được chuẩn bị qua thành phần khác trước tác vụ văn bản này.
Các thiết lập tạo 256 và 512 token trong thẻ là ví dụ sử dụng, không phải dung lượng đầu ra tối đa riêng. Giữ rõ định danh Instruct 2501 chính xác, bộ tách token và kết quả được yêu cầu. Sản phẩm cuối cùng hữu ích là câu trả lời, bản ghi JSON hoặc mã đề xuất có ý nghĩa và định dạng khớp tác vụ bằng chữ ban đầu.
POST /v1/messagestextjson, sse| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn mistralai/mistral-small-24b-instruct-2501 | Mặc định— |
Trườngmessages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].role | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn user, assistant | Mặc định— |
Trườngmessages[].content | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmax_tokens | Loạiinteger | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc địnhfalse |
Văn bản · Văn bản UTF-8
Chuỗi messages[].content
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages, max_tokens |
Tham sốoptional_controls | Hợp đồngstream |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốtext_file_material | Hợp đồngĐọc tài liệu UTF-8 thực tế và đặt nội dung văn bản vào chuỗi đầu vào hoặc nội dung thông điệp được chỉ định. |
Vòng đời: synchronous_or_streamed
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0001 / 1K token Đầu ra · Token đầu ra $0.00016 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0001 / 1K token Đầu ra · Token đầu ra $0.00016 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
{\n "model": "mistralai/mistral-small-24b-instruct-2501",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-small-24b-instruct-2501', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-small-24b-instruct-2501', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON hoặc SSE
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ mọi khối nội dung, chữ ký suy nghĩ và ID sử dụng công cụ thực tế. Ghép tất cả các phần thay đổi của khối SSE; khối văn bản đầu tiên không phải toàn bộ đầu ra.
Giữ ID và header của yêu cầu, phản hồi. Không cung cấp URL chung để truy xuất tác vụ văn bản.
| Trường | Loại |
|---|---|
Trườngid | Loạistring |
Trườngmodel | Loạistring |
Trườngcontent[] | Loạitext|thinking|tool_use|other content block |
Trườngstop_reason | Loạistring|null |
Trườngusage | Loạiobject |
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Ailoot Ultra mistralai/mistral-small-24b-instruct-2501
Dùng các đường dẫn phương thức hiển thị ở trên.
Ví dụ kỹ thuật bằng tiếng Anh
Prepare a reference-grounded support answer\n\nAnswer this customer question using only the reference: 'Can I change the pickup location after the parcel is handed to the carrier?' Reference: 'Before handover, support may change the pickup location. After handover, the recipient must request a change from the carrier; availability depends on its route.' Return a concise reply and the condition supporting it.A short customer reply plus the reference condition that determines the next contact.The reply directs the handed-over parcel's request to the carrier and does not promise that a change is available.