Inkling là mô hình đa phương thức trọng số mở của Thinking Machines Lab cho suy luận, lập trình, hội thoại và ứng dụng agent. Mô hình nhận văn bản, ảnh, âm thanh và trả văn bản. Thiết kế Mixture-of-Experts có tổng 975 tỷ tham số và 41 tỷ hoạt động, là mô hình lớn hơn trong họ. Inkling-Small là mô hình riêng tổng 276 tỷ tham số với 12 tỷ hoạt động, không phải cài đặt đổi độ dài phản hồi của Inkling.
Với tác vụ mã lớn, cung cấp tài liệu kho mã liên quan, hành vi quan sát được và kết quả mong muốn. Yêu cầu lần theo luồng chịu trách nhiệm, đề xuất thay đổi và báo bằng chứng từ các kiểm tra thực sự chạy trong môi trường kết nối. Với so sánh tài liệu, gắn nhãn các phần nguồn, yêu cầu khác biệt liên quan, bằng chứng hỗ trợ và câu hỏi chưa trả lời. Ứng dụng dự kiến gồm trợ lý lập trình, chatbot, sinh tăng cường truy xuất và agent dùng công cụ, với kết quả cuối phù hợp ứng dụng nhận nó.
Inkling hỗ trợ tối đa một triệu token ngữ cảnh. Dùng không gian đó để giữ tài liệu nguồn lớn cùng dữ kiện hội thoại quan trọng, tổ chức quanh câu hỏi cụ thể. Phân biệt dữ kiện nguồn với giả định và dành chỗ cho sản phẩm viết đầy đủ. Ngữ cảnh lớn hỗ trợ làm việc trên bộ tài liệu rộng; không biến câu trả lời thành ảnh chụp trực tiếp của hệ thống chưa được cung cấp thông tin hiện tại.
Mức suy nghĩ là điều khiển liên tục từ 0.0, có tính cận dưới, đến dưới 1.0. Các mức khởi đầu của nhà sản xuất là none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 và xhigh 0.99, với high là mặc định của renderer. Mức suy nghĩ và ngân sách token sinh độc lập. Mức cao hơn có thể khuyến khích suy luận nhiều hơn, cần thêm chỗ trước câu trả lời cuối, còn none hướng đến không suy luận mà không ép hạn chế cứng. Chọn giá trị phù hợp nhiệm vụ, nêu rõ sản phẩm dự kiến và điều kiện hoàn thành.
Đầu vào thị giác hỗ trợ mô tả ảnh, hỏi nội dung nhìn thấy, biểu đồ, sơ đồ và suy luận toán từ hình ảnh. Để có hiệu suất tốt, dùng ảnh có kích thước từ 40 đến 4,096 pixel. Giữ nhãn liên quan và bối cảnh sơ đồ dễ đọc. Inkling có thể dùng công cụ Python đã cấu hình để phóng to, cắt hoặc kiểm tra ảnh bằng chương trình, nối quan sát thị giác với suy luận bằng mã. Câu trả lời biểu đồ hữu ích giữ giá trị quan sát được và cho thấy chúng hỗ trợ kết luận thế nào, không giả định thao tác cắt hay tính toán đã diễn ra chỉ vì được đề xuất.
Âm thanh đầu vào dùng WAV lấy mẫu 16 kHz, và nhà sản xuất khuyến nghị bản ghi trong 20 phút để có hiệu suất tối ưu. Đây là khuyến nghị chuẩn bị. Inkling có thể chép lời, làm theo chỉ dẫn nói, trả lời về bản ghi và suy luận trên âm thanh dài. Cung cấp bản ghi liên quan cùng câu hỏi viết và tài liệu tham chiếu cần để diễn giải. Sản phẩm về cuộc họp có thể tách dữ kiện được nói khỏi tóm tắt hoặc diễn giải sau. Mô hình tạo văn bản, nên hiểu âm thanh khác với tổng hợp câu trả lời bằng giọng nói.
Với nhiệm vụ dùng công cụ, mô tả thao tác sẵn có, đối số và giữ quan sát thực tế ứng dụng trả về. Kết quả tìm kiếm có thể cung cấp bằng chứng hiện tại; phép tính cung cấp xử lý số; thao tác tệp xác lập nội dung đang xem. Hành động đề xuất của mô hình và kết quả thực thi là các phần riêng của hội thoại. Giữ phản hồi cuối gắn với các quan sát ấy, nhất là khi đề xuất sửa mã hoặc bước tiếp của ứng dụng.
Inkling được huấn luyện về hiệu chỉnh độ tin cậy và tuân thủ chỉ dẫn, gồm thể hiện sự không chắc chắn khi câu trả lời chưa được xác lập. Với dự báo hoặc phân tích dựa trên bằng chứng, yêu cầu ghi giả định, bằng chứng và điều kiện chưa giải quyết trong kết quả viết. Với trích xuất, xác định cách biểu diễn giá trị thiếu thay vì bắt mọi trường chứa dữ kiện bịa. Những chỉ dẫn này giúp kết quả dễ đánh giá mà không coi tự tin hoặc suy luận dài là chứng minh đúng.
Trọng số mở hỗ trợ tinh chỉnh và tích hợp hạ nguồn. Mô hình chuyên biệt được phát triển từ ví dụ đại diện và hành vi mục tiêu, còn yêu cầu suy luận thông thường cung cấp ngữ cảnh cho tác vụ hiện tại. Nhà sản xuất minh họa tùy chỉnh là quy trình riêng; câu trả lời bình thường không âm thầm chuyển sang trọng số mới. Giữ bằng chứng gốc và ràng buộc yêu cầu cùng sản phẩm cuối để lượt sau sửa một dữ kiện, tinh chỉnh câu chữ hoặc kiểm tra luồng mã khác mà vẫn nhất quán nhiệm vụ.
", "aboutText": "Inkling là mô hình đa phương thức trọng số mở của Thinking Machines Lab cho suy luận, lập trình, hội thoại và ứng dụng agent. Mô hình nhận văn bản, ảnh, âm thanh và trả văn bản. Thiết kế Mixture-of-Experts có tổng 975 tỷ tham số và 41 tỷ hoạt động, là mô hình lớn hơn trong họ. Inkling-Small là mô hình riêng tổng 276 tỷ tham số với 12 tỷ hoạt động, không phải cài đặt đổi độ dài phản hồi của Inkling.\n\nVới tác vụ mã lớn, cung cấp tài liệu kho mã liên quan, hành vi quan sát được và kết quả mong muốn. Yêu cầu lần theo luồng chịu trách nhiệm, đề xuất thay đổi và báo bằng chứng từ các kiểm tra thực sự chạy trong môi trường kết nối. Với so sánh tài liệu, gắn nhãn các phần nguồn, yêu cầu khác biệt liên quan, bằng chứng hỗ trợ và câu hỏi chưa trả lời. Ứng dụng dự kiến gồm trợ lý lập trình, chatbot, sinh tăng cường truy xuất và agent dùng công cụ, với kết quả cuối phù hợp ứng dụng nhận nó.\n\nInkling hỗ trợ tối đa một triệu token ngữ cảnh. Dùng không gian đó để giữ tài liệu nguồn lớn cùng dữ kiện hội thoại quan trọng, tổ chức quanh câu hỏi cụ thể. Phân biệt dữ kiện nguồn với giả định và dành chỗ cho sản phẩm viết đầy đủ. Ngữ cảnh lớn hỗ trợ làm việc trên bộ tài liệu rộng; không biến câu trả lời thành ảnh chụp trực tiếp của hệ thống chưa được cung cấp thông tin hiện tại.\n\nMức suy nghĩ là điều khiển liên tục từ 0.0, có tính cận dưới, đến dưới 1.0. Các mức khởi đầu của nhà sản xuất là none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 và xhigh 0.99, với high là mặc định của renderer. Mức suy nghĩ và ngân sách token sinh độc lập. Mức cao hơn có thể khuyến khích suy luận nhiều hơn, cần thêm chỗ trước câu trả lời cuối, còn none hướng đến không suy luận mà không ép hạn chế cứng. Chọn giá trị phù hợp nhiệm vụ, nêu rõ sản phẩm dự kiến và điều kiện hoàn thành.\n\nĐầu vào thị giác hỗ trợ mô tả ảnh, hỏi nội dung nhìn thấy, biểu đồ, sơ đồ và suy luận toán từ hình ảnh. Để có hiệu suất tốt, dùng ảnh có kích thước từ 40 đến 4,096 pixel. Giữ nhãn liên quan và bối cảnh sơ đồ dễ đọc. Inkling có thể dùng công cụ Python đã cấu hình để phóng to, cắt hoặc kiểm tra ảnh bằng chương trình, nối quan sát thị giác với suy luận bằng mã. Câu trả lời biểu đồ hữu ích giữ giá trị quan sát được và cho thấy chúng hỗ trợ kết luận thế nào, không giả định thao tác cắt hay tính toán đã diễn ra chỉ vì được đề xuất.\n\nÂm thanh đầu vào dùng WAV lấy mẫu 16 kHz, và nhà sản xuất khuyến nghị bản ghi trong 20 phút để có hiệu suất tối ưu. Đây là khuyến nghị chuẩn bị. Inkling có thể chép lời, làm theo chỉ dẫn nói, trả lời về bản ghi và suy luận trên âm thanh dài. Cung cấp bản ghi liên quan cùng câu hỏi viết và tài liệu tham chiếu cần để diễn giải. Sản phẩm về cuộc họp có thể tách dữ kiện được nói khỏi tóm tắt hoặc diễn giải sau. Mô hình tạo văn bản, nên hiểu âm thanh khác với tổng hợp câu trả lời bằng giọng nói.\n\nVới nhiệm vụ dùng công cụ, mô tả thao tác sẵn có, đối số và giữ quan sát thực tế ứng dụng trả về. Kết quả tìm kiếm có thể cung cấp bằng chứng hiện tại; phép tính cung cấp xử lý số; thao tác tệp xác lập nội dung đang xem. Hành động đề xuất của mô hình và kết quả thực thi là các phần riêng của hội thoại. Giữ phản hồi cuối gắn với các quan sát ấy, nhất là khi đề xuất sửa mã hoặc bước tiếp của ứng dụng.\n\nInkling được huấn luyện về hiệu chỉnh độ tin cậy và tuân thủ chỉ dẫn, gồm thể hiện sự không chắc chắn khi câu trả lời chưa được xác lập. Với dự báo hoặc phân tích dựa trên bằng chứng, yêu cầu ghi giả định, bằng chứng và điều kiện chưa giải quyết trong kết quả viết. Với trích xuất, xác định cách biểu diễn giá trị thiếu thay vì bắt mọi trường chứa dữ kiện bịa. Những chỉ dẫn này giúp kết quả dễ đánh giá mà không coi tự tin hoặc suy luận dài là chứng minh đúng.\n\nTrọng số mở hỗ trợ tinh chỉnh và tích hợp hạ nguồn. Mô hình chuyên biệt được phát triển từ ví dụ đại diện và hành vi mục tiêu, còn yêu cầu suy luận thông thường cung cấp ngữ cảnh cho tác vụ hiện tại. Nhà sản xuất minh họa tùy chỉnh là quy trình riêng; câu trả lời bình thường không âm thầm chuyển sang trọng số mới. Giữ bằng chứng gốc và ràng buộc yêu cầu cùng sản phẩm cuối để lượt sau sửa một dữ kiện, tinh chỉnh câu chữ hoặc kiểm tra luồng mã khác mà vẫn nhất quán nhiệm vụ.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "95a677a13d8ab6a3e5bd8563dd3b9565955e39296e4dba0d5d134a64728eef03", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "vi", "methods": [ { "html": "thinkingmachines/inkling:freeInkling là mô hình đa phương thức trọng số mở cho suy luận tổng quát, lập trình và dùng công cụ bằng agent. Mô hình kết hợp văn bản, ảnh và âm thanh trong ngữ cảnh lớn, có mức suy nghĩ điều chỉnh được và đầu ra viết cho phân tích nguồn, mã và ứng dụng hội thoại.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Inkling là mô hình đa phương thức trọng số mở của Thinking Machines Lab cho suy luận, lập trình, hội thoại và ứng dụng agent. Mô hình nhận văn bản, ảnh, âm thanh và trả văn bản. Thiết kế Mixture-of-Experts có tổng 975 tỷ tham số và 41 tỷ hoạt động, là mô hình lớn hơn trong họ. Inkling-Small là mô hình riêng tổng 276 tỷ tham số với 12 tỷ hoạt động, không phải cài đặt đổi độ dài phản hồi của Inkling.
Với tác vụ mã lớn, cung cấp tài liệu kho mã liên quan, hành vi quan sát được và kết quả mong muốn. Yêu cầu lần theo luồng chịu trách nhiệm, đề xuất thay đổi và báo bằng chứng từ các kiểm tra thực sự chạy trong môi trường kết nối. Với so sánh tài liệu, gắn nhãn các phần nguồn, yêu cầu khác biệt liên quan, bằng chứng hỗ trợ và câu hỏi chưa trả lời. Ứng dụng dự kiến gồm trợ lý lập trình, chatbot, sinh tăng cường truy xuất và agent dùng công cụ, với kết quả cuối phù hợp ứng dụng nhận nó.
Inkling hỗ trợ tối đa một triệu token ngữ cảnh. Dùng không gian đó để giữ tài liệu nguồn lớn cùng dữ kiện hội thoại quan trọng, tổ chức quanh câu hỏi cụ thể. Phân biệt dữ kiện nguồn với giả định và dành chỗ cho sản phẩm viết đầy đủ. Ngữ cảnh lớn hỗ trợ làm việc trên bộ tài liệu rộng; không biến câu trả lời thành ảnh chụp trực tiếp của hệ thống chưa được cung cấp thông tin hiện tại.
Mức suy nghĩ là điều khiển liên tục từ 0.0, có tính cận dưới, đến dưới 1.0. Các mức khởi đầu của nhà sản xuất là none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 và xhigh 0.99, với high là mặc định của renderer. Mức suy nghĩ và ngân sách token sinh độc lập. Mức cao hơn có thể khuyến khích suy luận nhiều hơn, cần thêm chỗ trước câu trả lời cuối, còn none hướng đến không suy luận mà không ép hạn chế cứng. Chọn giá trị phù hợp nhiệm vụ, nêu rõ sản phẩm dự kiến và điều kiện hoàn thành.
Đầu vào thị giác hỗ trợ mô tả ảnh, hỏi nội dung nhìn thấy, biểu đồ, sơ đồ và suy luận toán từ hình ảnh. Để có hiệu suất tốt, dùng ảnh có kích thước từ 40 đến 4,096 pixel. Giữ nhãn liên quan và bối cảnh sơ đồ dễ đọc. Inkling có thể dùng công cụ Python đã cấu hình để phóng to, cắt hoặc kiểm tra ảnh bằng chương trình, nối quan sát thị giác với suy luận bằng mã. Câu trả lời biểu đồ hữu ích giữ giá trị quan sát được và cho thấy chúng hỗ trợ kết luận thế nào, không giả định thao tác cắt hay tính toán đã diễn ra chỉ vì được đề xuất.
Âm thanh đầu vào dùng WAV lấy mẫu 16 kHz, và nhà sản xuất khuyến nghị bản ghi trong 20 phút để có hiệu suất tối ưu. Đây là khuyến nghị chuẩn bị. Inkling có thể chép lời, làm theo chỉ dẫn nói, trả lời về bản ghi và suy luận trên âm thanh dài. Cung cấp bản ghi liên quan cùng câu hỏi viết và tài liệu tham chiếu cần để diễn giải. Sản phẩm về cuộc họp có thể tách dữ kiện được nói khỏi tóm tắt hoặc diễn giải sau. Mô hình tạo văn bản, nên hiểu âm thanh khác với tổng hợp câu trả lời bằng giọng nói.
Với nhiệm vụ dùng công cụ, mô tả thao tác sẵn có, đối số và giữ quan sát thực tế ứng dụng trả về. Kết quả tìm kiếm có thể cung cấp bằng chứng hiện tại; phép tính cung cấp xử lý số; thao tác tệp xác lập nội dung đang xem. Hành động đề xuất của mô hình và kết quả thực thi là các phần riêng của hội thoại. Giữ phản hồi cuối gắn với các quan sát ấy, nhất là khi đề xuất sửa mã hoặc bước tiếp của ứng dụng.
Inkling được huấn luyện về hiệu chỉnh độ tin cậy và tuân thủ chỉ dẫn, gồm thể hiện sự không chắc chắn khi câu trả lời chưa được xác lập. Với dự báo hoặc phân tích dựa trên bằng chứng, yêu cầu ghi giả định, bằng chứng và điều kiện chưa giải quyết trong kết quả viết. Với trích xuất, xác định cách biểu diễn giá trị thiếu thay vì bắt mọi trường chứa dữ kiện bịa. Những chỉ dẫn này giúp kết quả dễ đánh giá mà không coi tự tin hoặc suy luận dài là chứng minh đúng.
Trọng số mở hỗ trợ tinh chỉnh và tích hợp hạ nguồn. Mô hình chuyên biệt được phát triển từ ví dụ đại diện và hành vi mục tiêu, còn yêu cầu suy luận thông thường cung cấp ngữ cảnh cho tác vụ hiện tại. Nhà sản xuất minh họa tùy chỉnh là quy trình riêng; câu trả lời bình thường không âm thầm chuyển sang trọng số mới. Giữ bằng chứng gốc và ràng buộc yêu cầu cùng sản phẩm cuối để lượt sau sửa một dữ kiện, tinh chỉnh câu chữ hoặc kiểm tra luồng mã khác mà vẫn nhất quán nhiệm vụ.
POST /v1/chat/completionstexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn thinkingmachines/inkling:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 262.144 | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 262.144 | Mặc định— |
Trườngn | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 128 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngseed | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop | Loại | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngfrequency_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngpresence_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốoptional | Hợp đồngstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Vòng đời: synchronous_json
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling:free
Dùng các đường dẫn phương thức hiển thị ở trên.
thinkingmachines/inkling:freeInkling là mô hình đa phương thức trọng số mở cho suy luận tổng quát, lập trình và dùng công cụ bằng agent. Mô hình kết hợp văn bản, ảnh và âm thanh trong ngữ cảnh lớn, có mức suy nghĩ điều chỉnh được và đầu ra viết cho phân tích nguồn, mã và ứng dụng hội thoại.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Inkling là mô hình đa phương thức trọng số mở của Thinking Machines Lab cho suy luận, lập trình, hội thoại và ứng dụng agent. Mô hình nhận văn bản, ảnh, âm thanh và trả văn bản. Thiết kế Mixture-of-Experts có tổng 975 tỷ tham số và 41 tỷ hoạt động, là mô hình lớn hơn trong họ. Inkling-Small là mô hình riêng tổng 276 tỷ tham số với 12 tỷ hoạt động, không phải cài đặt đổi độ dài phản hồi của Inkling.
Với tác vụ mã lớn, cung cấp tài liệu kho mã liên quan, hành vi quan sát được và kết quả mong muốn. Yêu cầu lần theo luồng chịu trách nhiệm, đề xuất thay đổi và báo bằng chứng từ các kiểm tra thực sự chạy trong môi trường kết nối. Với so sánh tài liệu, gắn nhãn các phần nguồn, yêu cầu khác biệt liên quan, bằng chứng hỗ trợ và câu hỏi chưa trả lời. Ứng dụng dự kiến gồm trợ lý lập trình, chatbot, sinh tăng cường truy xuất và agent dùng công cụ, với kết quả cuối phù hợp ứng dụng nhận nó.
Inkling hỗ trợ tối đa một triệu token ngữ cảnh. Dùng không gian đó để giữ tài liệu nguồn lớn cùng dữ kiện hội thoại quan trọng, tổ chức quanh câu hỏi cụ thể. Phân biệt dữ kiện nguồn với giả định và dành chỗ cho sản phẩm viết đầy đủ. Ngữ cảnh lớn hỗ trợ làm việc trên bộ tài liệu rộng; không biến câu trả lời thành ảnh chụp trực tiếp của hệ thống chưa được cung cấp thông tin hiện tại.
Mức suy nghĩ là điều khiển liên tục từ 0.0, có tính cận dưới, đến dưới 1.0. Các mức khởi đầu của nhà sản xuất là none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 và xhigh 0.99, với high là mặc định của renderer. Mức suy nghĩ và ngân sách token sinh độc lập. Mức cao hơn có thể khuyến khích suy luận nhiều hơn, cần thêm chỗ trước câu trả lời cuối, còn none hướng đến không suy luận mà không ép hạn chế cứng. Chọn giá trị phù hợp nhiệm vụ, nêu rõ sản phẩm dự kiến và điều kiện hoàn thành.
Đầu vào thị giác hỗ trợ mô tả ảnh, hỏi nội dung nhìn thấy, biểu đồ, sơ đồ và suy luận toán từ hình ảnh. Để có hiệu suất tốt, dùng ảnh có kích thước từ 40 đến 4,096 pixel. Giữ nhãn liên quan và bối cảnh sơ đồ dễ đọc. Inkling có thể dùng công cụ Python đã cấu hình để phóng to, cắt hoặc kiểm tra ảnh bằng chương trình, nối quan sát thị giác với suy luận bằng mã. Câu trả lời biểu đồ hữu ích giữ giá trị quan sát được và cho thấy chúng hỗ trợ kết luận thế nào, không giả định thao tác cắt hay tính toán đã diễn ra chỉ vì được đề xuất.
Âm thanh đầu vào dùng WAV lấy mẫu 16 kHz, và nhà sản xuất khuyến nghị bản ghi trong 20 phút để có hiệu suất tối ưu. Đây là khuyến nghị chuẩn bị. Inkling có thể chép lời, làm theo chỉ dẫn nói, trả lời về bản ghi và suy luận trên âm thanh dài. Cung cấp bản ghi liên quan cùng câu hỏi viết và tài liệu tham chiếu cần để diễn giải. Sản phẩm về cuộc họp có thể tách dữ kiện được nói khỏi tóm tắt hoặc diễn giải sau. Mô hình tạo văn bản, nên hiểu âm thanh khác với tổng hợp câu trả lời bằng giọng nói.
Với nhiệm vụ dùng công cụ, mô tả thao tác sẵn có, đối số và giữ quan sát thực tế ứng dụng trả về. Kết quả tìm kiếm có thể cung cấp bằng chứng hiện tại; phép tính cung cấp xử lý số; thao tác tệp xác lập nội dung đang xem. Hành động đề xuất của mô hình và kết quả thực thi là các phần riêng của hội thoại. Giữ phản hồi cuối gắn với các quan sát ấy, nhất là khi đề xuất sửa mã hoặc bước tiếp của ứng dụng.
Inkling được huấn luyện về hiệu chỉnh độ tin cậy và tuân thủ chỉ dẫn, gồm thể hiện sự không chắc chắn khi câu trả lời chưa được xác lập. Với dự báo hoặc phân tích dựa trên bằng chứng, yêu cầu ghi giả định, bằng chứng và điều kiện chưa giải quyết trong kết quả viết. Với trích xuất, xác định cách biểu diễn giá trị thiếu thay vì bắt mọi trường chứa dữ kiện bịa. Những chỉ dẫn này giúp kết quả dễ đánh giá mà không coi tự tin hoặc suy luận dài là chứng minh đúng.
Trọng số mở hỗ trợ tinh chỉnh và tích hợp hạ nguồn. Mô hình chuyên biệt được phát triển từ ví dụ đại diện và hành vi mục tiêu, còn yêu cầu suy luận thông thường cung cấp ngữ cảnh cho tác vụ hiện tại. Nhà sản xuất minh họa tùy chỉnh là quy trình riêng; câu trả lời bình thường không âm thầm chuyển sang trọng số mới. Giữ bằng chứng gốc và ràng buộc yêu cầu cùng sản phẩm cuối để lượt sau sửa một dữ kiện, tinh chỉnh câu chữ hoặc kiểm tra luồng mã khác mà vẫn nhất quán nhiệm vụ.
POST /v1/messagestexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn thinkingmachines/inkling:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngsystem | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmax_tokens | Loạiinteger | Yêu cầuBắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 262.144 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_k | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop_sequences | Loạiarray | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmetadata | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages, max_tokens |
Tham sốoptional | Hợp đồngstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Vòng đời: synchronous_json
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling:free
Dùng các đường dẫn phương thức hiển thị ở trên.