North Mini Code 1.0 là mô hình của Cohere dành cho kỹ thuật phần mềm bằng tác tử, tác vụ terminal và tạo mã. Mô hình nhận văn bản và tạo văn bản, bao gồm mã, lời giải thích và yêu cầu gọi công cụ. Nhà phát triển phát hành trọng số theo Apache 2.0 và xác định đây là mô hình đầu tiên trong dòng tác tử lập trình North. Đây là cấu hình chuyên lập trình, không phải mô hình hiểu hình ảnh hay bộ chấm điểm quyết định đa dụng.
Mô hình có tổng cộng 30 tỷ tham số, trong đó khoảng 3 tỷ hoạt động. Transformer chỉ có bộ giải mã sử dụng kiến trúc Mixture of Experts thưa với 128 chuyên gia, kích hoạt tám chuyên gia cho mỗi token, cùng một lớp đặc (dense) trước các lớp thưa. Attention cửa sổ trượt với biểu diễn vị trí dạng xoay được xen kẽ với attention toàn cục không có embedding vị trí theo tỷ lệ 3:1. Số tham số hoạt động mô tả lượng tính toán dùng cho một token, không phải toàn bộ trọng số cần lưu trữ.
Quá trình hậu huấn luyện của Cohere dùng hai giai đoạn tinh chỉnh có giám sát, sau đó là học tăng cường với phần thưởng có thể kiểm chứng, tập trung vào kỹ thuật phần mềm và công việc terminal. Nhà phát triển mô tả việc huấn luyện trên nhiều môi trường vận hành tác tử thay vì một bộ khung cố định. Điều đó hỗ trợ chuẩn bị tác vụ theo hành vi cần đạt và công cụ có sẵn, trong khi môi trường vận hành xung quanh vẫn chịu trách nhiệm lấy tệp, thực thi lệnh và trả về quan sát.
Cung cấp mã và hành vi hiện tại, thay đổi được yêu cầu, ranh giới tệp hoặc giao diện liên quan và bằng chứng xác lập việc hoàn tất. Với lỗi, đưa vào thông báo lỗi quan sát được hoặc đầu vào gây lỗi và kết quả mong đợi. Với tính năng, nêu hành vi cần có và các ràng buộc tương thích. Sản phẩm cuối hữu ích là thay đổi mã được đề xuất kèm lời giải thích và kết quả của những kiểm tra đã thực sự chạy.
Một yêu cầu minh họa có thể đề nghị cập nhật bộ phân tích cú pháp để hỗ trợ thêm đầu vào trong khi giữ các định dạng hiện có. Xác định đầu vào tiêu biểu và phần kho mã quy định hành vi của bộ phân tích. Mô hình có thể dùng mã và quan sát từ công cụ để xây dựng thay đổi; bản vá được tạo ra hoặc lời nói rằng một lệnh cần chạy không phải bằng chứng lệnh đã thành công.
Thẻ mô hình gốc mô tả huấn luyện dùng công cụ và khuyến nghị mô tả công cụ bằng JSON schema qua mẫu chat của mô hình. Mô tả rõ mục đích và đối số của công cụ. Công cụ thực thi lệnh có thể trả về đầu ra và trạng thái thực tế, còn công cụ đọc tệp có thể trả về dữ liệu cần cho bước tiếp theo. Giữ từng kết quả công cụ gắn với mã lần gọi để phân tích sau đó sử dụng đúng quan sát.
Ví dụ của nhà phát triển giữ lời gọi công cụ và suy luận của trợ lý trong lịch sử, thực thi công cụ rồi thêm kết quả trước khi sinh tiếp. Ví dụ mẫu gốc dùng một dictionary có cấu trúc cho kết quả công cụ. Giữ cách biểu diễn đó theo tích hợp được mô tả, thay vì giả định mọi API không liên quan đều tuần tự hóa kết quả công cụ giống nhau. JSON schema mô tả đối số của công cụ khác với tuyên bố hỗ trợ đầu ra cuối tùy ý bị ràng buộc bởi schema.
North Mini Code hỗ trợ suy nghĩ xen kẽ, được nhà phát triển khuyến nghị bật cho công việc tác tử. Chuyển tiếp nội dung suy nghĩ và lời gọi công cụ do mô hình tạo ra sang những bước tác tử và lượt hội thoại tiếp theo. Ví dụ gốc giữ trường reasoning trong thông điệp của trợ lý rồi trả về quan sát công cụ tương ứng sau đó. Cách này giữ lại thông tin mô hình đã dùng khi quyết định cần kiểm tra hoặc thay đổi gì tiếp theo.
Giữ mục tiêu hiện tại, dữ liệu nguồn và các quan sát thực tế trong lịch sử tác vụ. Với tác vụ kho mã dài hơn, tóm tắt kết quả cuối theo hành vi đã thay đổi và sản phẩm hữu ích, đồng thời giữ bằng chứng cần thiết để rà soát. Suy luận xen kẽ không có nghĩa câu trả lời ngắn hiển thị ra không cần phân tích, cũng không xác lập rằng hành động được mô hình mô tả đã diễn ra.
Nhà phát triển còn nêu lập trình khoa học và suy luận thuật toán ngoài vòng lặp tác tử. Cung cấp định nghĩa bài toán, định dạng đầu vào và đầu ra, ràng buộc, các giả định số học liên quan và hành vi mong đợi ở trường hợp biên. Yêu cầu hàm hoặc chương trình hoàn chỉnh khi đó là sản phẩm cần có, cùng lời giải thích ở mức phù hợp với người đọc.
Để giải thích mã, cung cấp phần triển khai và hành vi hoặc phụ thuộc cụ thể cần làm rõ. Với mã trực quan hóa dữ liệu, xác định các trường được cung cấp và phép so sánh mong muốn, thay vì để mục đích biểu đồ chỉ được ngầm hiểu. Các ví dụ phát triển của nhà sản xuất gồm giải thích mã, chỉnh sửa, trực quan hóa và triển khai từ đặc tả. Đây là các mẫu tác vụ tạo hoặc sửa mã, không phải lời bảo đảm kết quả đúng cho mọi kho mã hay framework.
Thẻ mô hình và trang API của nhà phát triển công bố cửa sổ ngữ cảnh 256K token và đầu ra tối đa 64K token. Chuẩn bị lượng tài liệu kho mã lớn theo hai hạn mức riêng đó và kích thước sản phẩm cuối. Giữ nguyên ranh giới nguồn và mã định danh, đồng thời loại bỏ nội dung không liên quan, thay vì giả định cửa sổ lớn khiến không cần bản yêu cầu tập trung.
Thẻ mô hình gốc khuyến nghị temperature 1.0 và top_p 0.95 khi sinh, đồng thời dùng mẫu chat của mô hình, có cả lời nhắc sinh, cho quy trình văn bản và công cụ. Các giới hạn đầu ra trong ví dụ là thiết lập của những ví dụ đó, không thay thế mức tối đa được công bố của mô hình. Cohere công bố trọng số BF16 và một bộ trọng số FP8 có tên riêng. Chọn bộ trọng số phù hợp khi chuẩn bị triển khai.
Kết quả North Mini Code hữu ích là sản phẩm mã hoặc lời giải thích kỹ thuật có thể kiểm tra, gắn với các yêu cầu được cung cấp. So sánh kết quả với hành vi gốc và đầu ra công cụ thực tế, kiểm tra những giả định ảnh hưởng đến mã và giữ nguồn cùng quan sát cần cho việc rà soát. Mô hình lập trình chỉ xử lý văn bản cung cấp suy luận và nội dung được tạo; ứng dụng xung quanh thực hiện các thao tác biến những đề xuất đó thành tác vụ phần mềm đã hoàn tất.
", "aboutText": "North Mini Code 1.0 là mô hình của Cohere dành cho kỹ thuật phần mềm bằng tác tử, tác vụ terminal và tạo mã. Mô hình nhận văn bản và tạo văn bản, bao gồm mã, lời giải thích và yêu cầu gọi công cụ. Nhà phát triển phát hành trọng số theo Apache 2.0 và xác định đây là mô hình đầu tiên trong dòng tác tử lập trình North. Đây là cấu hình chuyên lập trình, không phải mô hình hiểu hình ảnh hay bộ chấm điểm quyết định đa dụng.\n\n### Kiến trúc thưa và chuẩn bị cho tác vụ lập trình\n\nMô hình có tổng cộng 30 tỷ tham số, trong đó khoảng 3 tỷ hoạt động. Transformer chỉ có bộ giải mã sử dụng kiến trúc Mixture of Experts thưa với 128 chuyên gia, kích hoạt tám chuyên gia cho mỗi token, cùng một lớp đặc (dense) trước các lớp thưa. Attention cửa sổ trượt với biểu diễn vị trí dạng xoay được xen kẽ với attention toàn cục không có embedding vị trí theo tỷ lệ 3:1. Số tham số hoạt động mô tả lượng tính toán dùng cho một token, không phải toàn bộ trọng số cần lưu trữ.\n\nQuá trình hậu huấn luyện của Cohere dùng hai giai đoạn tinh chỉnh có giám sát, sau đó là học tăng cường với phần thưởng có thể kiểm chứng, tập trung vào kỹ thuật phần mềm và công việc terminal. Nhà phát triển mô tả việc huấn luyện trên nhiều môi trường vận hành tác tử thay vì một bộ khung cố định. Điều đó hỗ trợ chuẩn bị tác vụ theo hành vi cần đạt và công cụ có sẵn, trong khi môi trường vận hành xung quanh vẫn chịu trách nhiệm lấy tệp, thực thi lệnh và trả về quan sát.\n\n### Chuẩn bị thay đổi ở cấp kho mã\n\nCung cấp mã và hành vi hiện tại, thay đổi được yêu cầu, ranh giới tệp hoặc giao diện liên quan và bằng chứng xác lập việc hoàn tất. Với lỗi, đưa vào thông báo lỗi quan sát được hoặc đầu vào gây lỗi và kết quả mong đợi. Với tính năng, nêu hành vi cần có và các ràng buộc tương thích. Sản phẩm cuối hữu ích là thay đổi mã được đề xuất kèm lời giải thích và kết quả của những kiểm tra đã thực sự chạy.\n\nMột yêu cầu minh họa có thể đề nghị cập nhật bộ phân tích cú pháp để hỗ trợ thêm đầu vào trong khi giữ các định dạng hiện có. Xác định đầu vào tiêu biểu và phần kho mã quy định hành vi của bộ phân tích. Mô hình có thể dùng mã và quan sát từ công cụ để xây dựng thay đổi; bản vá được tạo ra hoặc lời nói rằng một lệnh cần chạy không phải bằng chứng lệnh đã thành công.\n\n### Công cụ terminal và quan sát có cấu trúc\n\nThẻ mô hình gốc mô tả huấn luyện dùng công cụ và khuyến nghị mô tả công cụ bằng JSON schema qua mẫu chat của mô hình. Mô tả rõ mục đích và đối số của công cụ. Công cụ thực thi lệnh có thể trả về đầu ra và trạng thái thực tế, còn công cụ đọc tệp có thể trả về dữ liệu cần cho bước tiếp theo. Giữ từng kết quả công cụ gắn với mã lần gọi để phân tích sau đó sử dụng đúng quan sát.\n\nVí dụ của nhà phát triển giữ lời gọi công cụ và suy luận của trợ lý trong lịch sử, thực thi công cụ rồi thêm kết quả trước khi sinh tiếp. Ví dụ mẫu gốc dùng một dictionary có cấu trúc cho kết quả công cụ. Giữ cách biểu diễn đó theo tích hợp được mô tả, thay vì giả định mọi API không liên quan đều tuần tự hóa kết quả công cụ giống nhau. JSON schema mô tả đối số của công cụ khác với tuyên bố hỗ trợ đầu ra cuối tùy ý bị ràng buộc bởi schema.\n\n### Suy nghĩ xen kẽ và lịch sử nhiều lượt\n\nNorth Mini Code hỗ trợ suy nghĩ xen kẽ, được nhà phát triển khuyến nghị bật cho công việc tác tử. Chuyển tiếp nội dung suy nghĩ và lời gọi công cụ do mô hình tạo ra sang những bước tác tử và lượt hội thoại tiếp theo. Ví dụ gốc giữ trường reasoning trong thông điệp của trợ lý rồi trả về quan sát công cụ tương ứng sau đó. Cách này giữ lại thông tin mô hình đã dùng khi quyết định cần kiểm tra hoặc thay đổi gì tiếp theo.\n\nGiữ mục tiêu hiện tại, dữ liệu nguồn và các quan sát thực tế trong lịch sử tác vụ. Với tác vụ kho mã dài hơn, tóm tắt kết quả cuối theo hành vi đã thay đổi và sản phẩm hữu ích, đồng thời giữ bằng chứng cần thiết để rà soát. Suy luận xen kẽ không có nghĩa câu trả lời ngắn hiển thị ra không cần phân tích, cũng không xác lập rằng hành động được mô hình mô tả đã diễn ra.\n\n### Tác vụ mã và giải thích độc lập\n\nNhà phát triển còn nêu lập trình khoa học và suy luận thuật toán ngoài vòng lặp tác tử. Cung cấp định nghĩa bài toán, định dạng đầu vào và đầu ra, ràng buộc, các giả định số học liên quan và hành vi mong đợi ở trường hợp biên. Yêu cầu hàm hoặc chương trình hoàn chỉnh khi đó là sản phẩm cần có, cùng lời giải thích ở mức phù hợp với người đọc.\n\nĐể giải thích mã, cung cấp phần triển khai và hành vi hoặc phụ thuộc cụ thể cần làm rõ. Với mã trực quan hóa dữ liệu, xác định các trường được cung cấp và phép so sánh mong muốn, thay vì để mục đích biểu đồ chỉ được ngầm hiểu. Các ví dụ phát triển của nhà sản xuất gồm giải thích mã, chỉnh sửa, trực quan hóa và triển khai từ đặc tả. Đây là các mẫu tác vụ tạo hoặc sửa mã, không phải lời bảo đảm kết quả đúng cho mọi kho mã hay framework.\n\n### Ngữ cảnh, đầu ra và thiết lập sinh\n\nThẻ mô hình và trang API của nhà phát triển công bố cửa sổ ngữ cảnh 256K token và đầu ra tối đa 64K token. Chuẩn bị lượng tài liệu kho mã lớn theo hai hạn mức riêng đó và kích thước sản phẩm cuối. Giữ nguyên ranh giới nguồn và mã định danh, đồng thời loại bỏ nội dung không liên quan, thay vì giả định cửa sổ lớn khiến không cần bản yêu cầu tập trung.\n\nThẻ mô hình gốc khuyến nghị temperature 1.0 và top_p 0.95 khi sinh, đồng thời dùng mẫu chat của mô hình, có cả lời nhắc sinh, cho quy trình văn bản và công cụ. Các giới hạn đầu ra trong ví dụ là thiết lập của những ví dụ đó, không thay thế mức tối đa được công bố của mô hình. Cohere công bố trọng số BF16 và một bộ trọng số FP8 có tên riêng. Chọn bộ trọng số phù hợp khi chuẩn bị triển khai.\n\nKết quả North Mini Code hữu ích là sản phẩm mã hoặc lời giải thích kỹ thuật có thể kiểm tra, gắn với các yêu cầu được cung cấp. So sánh kết quả với hành vi gốc và đầu ra công cụ thực tế, kiểm tra những giả định ảnh hưởng đến mã và giữ nguồn cùng quan sát cần cho việc rà soát. Mô hình lập trình chỉ xử lý văn bản cung cấp suy luận và nội dung được tạo; ứng dụng xung quanh thực hiện các thao tác biến những đề xuất đó thành tác vụ phần mềm đã hoàn tất.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "03a4abe9fa6cc1cd5bdffbe48847b6fe55669d63cc2645810ae4feb2d7f14b77", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "vi", "methods": [ { "html": "cohere/north-mini-code:freeNorth Mini Code 1.0 là mô hình chỉ xử lý văn bản của Cohere dành cho tạo mã, thay đổi kho mã và tác vụ tác tử qua terminal. Thiết kế thưa với 30B tham số tổng/3B tham số hoạt động hỗ trợ dùng công cụ và suy nghĩ xen kẽ, với ngữ cảnh 256K và hạn mức đầu ra 64K được công bố.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
North Mini Code 1.0 là mô hình của Cohere dành cho kỹ thuật phần mềm bằng tác tử, tác vụ terminal và tạo mã. Mô hình nhận văn bản và tạo văn bản, bao gồm mã, lời giải thích và yêu cầu gọi công cụ. Nhà phát triển phát hành trọng số theo Apache 2.0 và xác định đây là mô hình đầu tiên trong dòng tác tử lập trình North. Đây là cấu hình chuyên lập trình, không phải mô hình hiểu hình ảnh hay bộ chấm điểm quyết định đa dụng.
Mô hình có tổng cộng 30 tỷ tham số, trong đó khoảng 3 tỷ hoạt động. Transformer chỉ có bộ giải mã sử dụng kiến trúc Mixture of Experts thưa với 128 chuyên gia, kích hoạt tám chuyên gia cho mỗi token, cùng một lớp đặc (dense) trước các lớp thưa. Attention cửa sổ trượt với biểu diễn vị trí dạng xoay được xen kẽ với attention toàn cục không có embedding vị trí theo tỷ lệ 3:1. Số tham số hoạt động mô tả lượng tính toán dùng cho một token, không phải toàn bộ trọng số cần lưu trữ.
Quá trình hậu huấn luyện của Cohere dùng hai giai đoạn tinh chỉnh có giám sát, sau đó là học tăng cường với phần thưởng có thể kiểm chứng, tập trung vào kỹ thuật phần mềm và công việc terminal. Nhà phát triển mô tả việc huấn luyện trên nhiều môi trường vận hành tác tử thay vì một bộ khung cố định. Điều đó hỗ trợ chuẩn bị tác vụ theo hành vi cần đạt và công cụ có sẵn, trong khi môi trường vận hành xung quanh vẫn chịu trách nhiệm lấy tệp, thực thi lệnh và trả về quan sát.
Cung cấp mã và hành vi hiện tại, thay đổi được yêu cầu, ranh giới tệp hoặc giao diện liên quan và bằng chứng xác lập việc hoàn tất. Với lỗi, đưa vào thông báo lỗi quan sát được hoặc đầu vào gây lỗi và kết quả mong đợi. Với tính năng, nêu hành vi cần có và các ràng buộc tương thích. Sản phẩm cuối hữu ích là thay đổi mã được đề xuất kèm lời giải thích và kết quả của những kiểm tra đã thực sự chạy.
Một yêu cầu minh họa có thể đề nghị cập nhật bộ phân tích cú pháp để hỗ trợ thêm đầu vào trong khi giữ các định dạng hiện có. Xác định đầu vào tiêu biểu và phần kho mã quy định hành vi của bộ phân tích. Mô hình có thể dùng mã và quan sát từ công cụ để xây dựng thay đổi; bản vá được tạo ra hoặc lời nói rằng một lệnh cần chạy không phải bằng chứng lệnh đã thành công.
Thẻ mô hình gốc mô tả huấn luyện dùng công cụ và khuyến nghị mô tả công cụ bằng JSON schema qua mẫu chat của mô hình. Mô tả rõ mục đích và đối số của công cụ. Công cụ thực thi lệnh có thể trả về đầu ra và trạng thái thực tế, còn công cụ đọc tệp có thể trả về dữ liệu cần cho bước tiếp theo. Giữ từng kết quả công cụ gắn với mã lần gọi để phân tích sau đó sử dụng đúng quan sát.
Ví dụ của nhà phát triển giữ lời gọi công cụ và suy luận của trợ lý trong lịch sử, thực thi công cụ rồi thêm kết quả trước khi sinh tiếp. Ví dụ mẫu gốc dùng một dictionary có cấu trúc cho kết quả công cụ. Giữ cách biểu diễn đó theo tích hợp được mô tả, thay vì giả định mọi API không liên quan đều tuần tự hóa kết quả công cụ giống nhau. JSON schema mô tả đối số của công cụ khác với tuyên bố hỗ trợ đầu ra cuối tùy ý bị ràng buộc bởi schema.
North Mini Code hỗ trợ suy nghĩ xen kẽ, được nhà phát triển khuyến nghị bật cho công việc tác tử. Chuyển tiếp nội dung suy nghĩ và lời gọi công cụ do mô hình tạo ra sang những bước tác tử và lượt hội thoại tiếp theo. Ví dụ gốc giữ trường reasoning trong thông điệp của trợ lý rồi trả về quan sát công cụ tương ứng sau đó. Cách này giữ lại thông tin mô hình đã dùng khi quyết định cần kiểm tra hoặc thay đổi gì tiếp theo.
Giữ mục tiêu hiện tại, dữ liệu nguồn và các quan sát thực tế trong lịch sử tác vụ. Với tác vụ kho mã dài hơn, tóm tắt kết quả cuối theo hành vi đã thay đổi và sản phẩm hữu ích, đồng thời giữ bằng chứng cần thiết để rà soát. Suy luận xen kẽ không có nghĩa câu trả lời ngắn hiển thị ra không cần phân tích, cũng không xác lập rằng hành động được mô hình mô tả đã diễn ra.
Nhà phát triển còn nêu lập trình khoa học và suy luận thuật toán ngoài vòng lặp tác tử. Cung cấp định nghĩa bài toán, định dạng đầu vào và đầu ra, ràng buộc, các giả định số học liên quan và hành vi mong đợi ở trường hợp biên. Yêu cầu hàm hoặc chương trình hoàn chỉnh khi đó là sản phẩm cần có, cùng lời giải thích ở mức phù hợp với người đọc.
Để giải thích mã, cung cấp phần triển khai và hành vi hoặc phụ thuộc cụ thể cần làm rõ. Với mã trực quan hóa dữ liệu, xác định các trường được cung cấp và phép so sánh mong muốn, thay vì để mục đích biểu đồ chỉ được ngầm hiểu. Các ví dụ phát triển của nhà sản xuất gồm giải thích mã, chỉnh sửa, trực quan hóa và triển khai từ đặc tả. Đây là các mẫu tác vụ tạo hoặc sửa mã, không phải lời bảo đảm kết quả đúng cho mọi kho mã hay framework.
Thẻ mô hình và trang API của nhà phát triển công bố cửa sổ ngữ cảnh 256K token và đầu ra tối đa 64K token. Chuẩn bị lượng tài liệu kho mã lớn theo hai hạn mức riêng đó và kích thước sản phẩm cuối. Giữ nguyên ranh giới nguồn và mã định danh, đồng thời loại bỏ nội dung không liên quan, thay vì giả định cửa sổ lớn khiến không cần bản yêu cầu tập trung.
Thẻ mô hình gốc khuyến nghị temperature 1.0 và top_p 0.95 khi sinh, đồng thời dùng mẫu chat của mô hình, có cả lời nhắc sinh, cho quy trình văn bản và công cụ. Các giới hạn đầu ra trong ví dụ là thiết lập của những ví dụ đó, không thay thế mức tối đa được công bố của mô hình. Cohere công bố trọng số BF16 và một bộ trọng số FP8 có tên riêng. Chọn bộ trọng số phù hợp khi chuẩn bị triển khai.
Kết quả North Mini Code hữu ích là sản phẩm mã hoặc lời giải thích kỹ thuật có thể kiểm tra, gắn với các yêu cầu được cung cấp. So sánh kết quả với hành vi gốc và đầu ra công cụ thực tế, kiểm tra những giả định ảnh hưởng đến mã và giữ nguồn cùng quan sát cần cho việc rà soát. Mô hình lập trình chỉ xử lý văn bản cung cấp suy luận và nội dung được tạo; ứng dụng xung quanh thực hiện các thao tác biến những đề xuất đó thành tác vụ phần mềm đã hoàn tất.
POST /v1/chat/completionstexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn cohere/north-mini-code:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 64.000 | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 64.000 | Mặc định— |
Trườngn | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 128 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngseed | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop | Loại | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngfrequency_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngpresence_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốoptional | Hợp đồngstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 256000 bytes. |
Vòng đời: synchronous_json
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra cohere/north-mini-code:free
Dùng các đường dẫn phương thức hiển thị ở trên.
cohere/north-mini-code:freeNorth Mini Code 1.0 là mô hình chỉ xử lý văn bản của Cohere dành cho tạo mã, thay đổi kho mã và tác vụ tác tử qua terminal. Thiết kế thưa với 30B tham số tổng/3B tham số hoạt động hỗ trợ dùng công cụ và suy nghĩ xen kẽ, với ngữ cảnh 256K và hạn mức đầu ra 64K được công bố.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
North Mini Code 1.0 là mô hình của Cohere dành cho kỹ thuật phần mềm bằng tác tử, tác vụ terminal và tạo mã. Mô hình nhận văn bản và tạo văn bản, bao gồm mã, lời giải thích và yêu cầu gọi công cụ. Nhà phát triển phát hành trọng số theo Apache 2.0 và xác định đây là mô hình đầu tiên trong dòng tác tử lập trình North. Đây là cấu hình chuyên lập trình, không phải mô hình hiểu hình ảnh hay bộ chấm điểm quyết định đa dụng.
Mô hình có tổng cộng 30 tỷ tham số, trong đó khoảng 3 tỷ hoạt động. Transformer chỉ có bộ giải mã sử dụng kiến trúc Mixture of Experts thưa với 128 chuyên gia, kích hoạt tám chuyên gia cho mỗi token, cùng một lớp đặc (dense) trước các lớp thưa. Attention cửa sổ trượt với biểu diễn vị trí dạng xoay được xen kẽ với attention toàn cục không có embedding vị trí theo tỷ lệ 3:1. Số tham số hoạt động mô tả lượng tính toán dùng cho một token, không phải toàn bộ trọng số cần lưu trữ.
Quá trình hậu huấn luyện của Cohere dùng hai giai đoạn tinh chỉnh có giám sát, sau đó là học tăng cường với phần thưởng có thể kiểm chứng, tập trung vào kỹ thuật phần mềm và công việc terminal. Nhà phát triển mô tả việc huấn luyện trên nhiều môi trường vận hành tác tử thay vì một bộ khung cố định. Điều đó hỗ trợ chuẩn bị tác vụ theo hành vi cần đạt và công cụ có sẵn, trong khi môi trường vận hành xung quanh vẫn chịu trách nhiệm lấy tệp, thực thi lệnh và trả về quan sát.
Cung cấp mã và hành vi hiện tại, thay đổi được yêu cầu, ranh giới tệp hoặc giao diện liên quan và bằng chứng xác lập việc hoàn tất. Với lỗi, đưa vào thông báo lỗi quan sát được hoặc đầu vào gây lỗi và kết quả mong đợi. Với tính năng, nêu hành vi cần có và các ràng buộc tương thích. Sản phẩm cuối hữu ích là thay đổi mã được đề xuất kèm lời giải thích và kết quả của những kiểm tra đã thực sự chạy.
Một yêu cầu minh họa có thể đề nghị cập nhật bộ phân tích cú pháp để hỗ trợ thêm đầu vào trong khi giữ các định dạng hiện có. Xác định đầu vào tiêu biểu và phần kho mã quy định hành vi của bộ phân tích. Mô hình có thể dùng mã và quan sát từ công cụ để xây dựng thay đổi; bản vá được tạo ra hoặc lời nói rằng một lệnh cần chạy không phải bằng chứng lệnh đã thành công.
Thẻ mô hình gốc mô tả huấn luyện dùng công cụ và khuyến nghị mô tả công cụ bằng JSON schema qua mẫu chat của mô hình. Mô tả rõ mục đích và đối số của công cụ. Công cụ thực thi lệnh có thể trả về đầu ra và trạng thái thực tế, còn công cụ đọc tệp có thể trả về dữ liệu cần cho bước tiếp theo. Giữ từng kết quả công cụ gắn với mã lần gọi để phân tích sau đó sử dụng đúng quan sát.
Ví dụ của nhà phát triển giữ lời gọi công cụ và suy luận của trợ lý trong lịch sử, thực thi công cụ rồi thêm kết quả trước khi sinh tiếp. Ví dụ mẫu gốc dùng một dictionary có cấu trúc cho kết quả công cụ. Giữ cách biểu diễn đó theo tích hợp được mô tả, thay vì giả định mọi API không liên quan đều tuần tự hóa kết quả công cụ giống nhau. JSON schema mô tả đối số của công cụ khác với tuyên bố hỗ trợ đầu ra cuối tùy ý bị ràng buộc bởi schema.
North Mini Code hỗ trợ suy nghĩ xen kẽ, được nhà phát triển khuyến nghị bật cho công việc tác tử. Chuyển tiếp nội dung suy nghĩ và lời gọi công cụ do mô hình tạo ra sang những bước tác tử và lượt hội thoại tiếp theo. Ví dụ gốc giữ trường reasoning trong thông điệp của trợ lý rồi trả về quan sát công cụ tương ứng sau đó. Cách này giữ lại thông tin mô hình đã dùng khi quyết định cần kiểm tra hoặc thay đổi gì tiếp theo.
Giữ mục tiêu hiện tại, dữ liệu nguồn và các quan sát thực tế trong lịch sử tác vụ. Với tác vụ kho mã dài hơn, tóm tắt kết quả cuối theo hành vi đã thay đổi và sản phẩm hữu ích, đồng thời giữ bằng chứng cần thiết để rà soát. Suy luận xen kẽ không có nghĩa câu trả lời ngắn hiển thị ra không cần phân tích, cũng không xác lập rằng hành động được mô hình mô tả đã diễn ra.
Nhà phát triển còn nêu lập trình khoa học và suy luận thuật toán ngoài vòng lặp tác tử. Cung cấp định nghĩa bài toán, định dạng đầu vào và đầu ra, ràng buộc, các giả định số học liên quan và hành vi mong đợi ở trường hợp biên. Yêu cầu hàm hoặc chương trình hoàn chỉnh khi đó là sản phẩm cần có, cùng lời giải thích ở mức phù hợp với người đọc.
Để giải thích mã, cung cấp phần triển khai và hành vi hoặc phụ thuộc cụ thể cần làm rõ. Với mã trực quan hóa dữ liệu, xác định các trường được cung cấp và phép so sánh mong muốn, thay vì để mục đích biểu đồ chỉ được ngầm hiểu. Các ví dụ phát triển của nhà sản xuất gồm giải thích mã, chỉnh sửa, trực quan hóa và triển khai từ đặc tả. Đây là các mẫu tác vụ tạo hoặc sửa mã, không phải lời bảo đảm kết quả đúng cho mọi kho mã hay framework.
Thẻ mô hình và trang API của nhà phát triển công bố cửa sổ ngữ cảnh 256K token và đầu ra tối đa 64K token. Chuẩn bị lượng tài liệu kho mã lớn theo hai hạn mức riêng đó và kích thước sản phẩm cuối. Giữ nguyên ranh giới nguồn và mã định danh, đồng thời loại bỏ nội dung không liên quan, thay vì giả định cửa sổ lớn khiến không cần bản yêu cầu tập trung.
Thẻ mô hình gốc khuyến nghị temperature 1.0 và top_p 0.95 khi sinh, đồng thời dùng mẫu chat của mô hình, có cả lời nhắc sinh, cho quy trình văn bản và công cụ. Các giới hạn đầu ra trong ví dụ là thiết lập của những ví dụ đó, không thay thế mức tối đa được công bố của mô hình. Cohere công bố trọng số BF16 và một bộ trọng số FP8 có tên riêng. Chọn bộ trọng số phù hợp khi chuẩn bị triển khai.
Kết quả North Mini Code hữu ích là sản phẩm mã hoặc lời giải thích kỹ thuật có thể kiểm tra, gắn với các yêu cầu được cung cấp. So sánh kết quả với hành vi gốc và đầu ra công cụ thực tế, kiểm tra những giả định ảnh hưởng đến mã và giữ nguồn cùng quan sát cần cho việc rà soát. Mô hình lập trình chỉ xử lý văn bản cung cấp suy luận và nội dung được tạo; ứng dụng xung quanh thực hiện các thao tác biến những đề xuất đó thành tác vụ phần mềm đã hoàn tất.
POST /v1/messagestexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn cohere/north-mini-code:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngsystem | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmax_tokens | Loạiinteger | Yêu cầuBắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 64.000 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_k | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop_sequences | Loạiarray | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmetadata | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages, max_tokens |
Tham sốoptional | Hợp đồngstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 256000 bytes. |
Vòng đời: synchronous_json
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra cohere/north-mini-code:free
Dùng các đường dẫn phương thức hiển thị ở trên.