inclusionAI: Ling 3.0 Flash
Ling 3.0 Flash là mô hình văn bản của inclusionAI cho hội thoại, tác vụ tài liệu và quy trình tác tử do ứng dụng điều khiển. Mô hình nhận văn bản qua Chat Completions, hỗ trợ khai báo lệnh gọi hàm và định dạng đầu ra JSON, đồng thời có cửa sổ ngữ cảnh được công bố là 262.144 token. Dùng ID chính xác inclusionai/ling-3.0-flash khi chọn phiên bản này.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Ling 3.0 Flash là mô hình từ văn bản sang văn bản của inclusionAI. Kiến trúc được công bố là hỗn hợp chuyên gia với tổng cộng 124 tỷ tham số và khoảng 5,1 tỷ tham số hoạt động trên mỗi token. Chọn inclusionai/ling-3.0-flash qua POST /v1/chat/completions kèm model và mảng messages. Chỉ dẫn, tài liệu nguồn và những lượt hội thoại trước được đặt trong văn bản tin nhắn.
Dùng lời nhắc tập trung để chuyển tài liệu được cung cấp thành sản phẩm đầu ra cụ thể. Với phản hồi khách hàng, hãy cung cấp câu hỏi của khách hàng và văn bản sản phẩm hoặc chính sách mà câu trả lời phải sử dụng, rồi chỉ rõ giọng điệu và bước tiếp theo. Với bản tóm tắt tài liệu, hãy nêu các phần bạn cần, như quyết định, câu hỏi chưa được giải quyết và hành động. Khi trích xuất, xác định các trường được yêu cầu và cách biểu diễn dữ kiện không có trong nguồn. Với tác vụ mã, đưa vào hàm hoặc trích đoạn tệp liên quan và yêu cầu giải thích, đề xuất thay đổi hoặc đánh giá theo yêu cầu tường minh.
Cửa sổ ngữ cảnh được công bố là 262.144 token, với tối đa 32.768 token đầu ra được liệt kê cho mô hình. Tính chung ngân sách cho văn bản nguồn, chỉ dẫn, lịch sử hội thoại và phần đầu ra được yêu cầu. Dùng max_tokens để đặt mức đầu ra được yêu cầu. Cần cung cấp tài liệu dưới dạng văn bản thực tế khi bạn muốn câu trả lời dựa vào nội dung tài liệu; viện dẫn rõ các phần liên quan khi yêu cầu kết hợp nhiều đoạn.
Danh sách tham số được hỗ trợ gồm tools và tool_choice để gọi hàm. Xác định các hàm khả dụng và mô tả đối số của chúng trong yêu cầu. Ứng dụng của bạn kiểm tra lệnh gọi được trả về, thực thi hàm đã chọn và cung cấp kết quả của nó cho hội thoại trước khi yêu cầu câu trả lời tiếp theo. Ví dụ, quy trình hỗ trợ có thể cung cấp một chức năng tra cứu đơn hàng được giới hạn rõ và dùng các dữ kiện trả về khi soạn phản hồi. Gắn kết quả công cụ vào đúng lượt hội thoại để mô hình phân biệt chúng với yêu cầu ban đầu của người dùng.
Mô hình hỗ trợ response_format cho đầu ra JSON, không áp đặt lược đồ JSON. Nêu các trường dự định và kiểm tra đối tượng trả về trong ứng dụng trước khi dùng. Các tùy chọn đã công bố khác gồm temperature, top_p, top_k, min_p, stop, seed cùng các hệ số phạt lặp lại, tần suất và hiện diện được liệt kê. Danh sách tham số cũng gồm reasoning và include_reasoning; chọn biểu diễn được hỗ trợ của chúng từ đặc tả yêu cầu thay vì giả định giá trị từ phiên bản khác.
Chat Completions có thể trả về phản hồi đầy đủ hoặc văn bản truyền luồng. Với câu trả lời hoàn chỉnh, đọc nội dung tin nhắn được trả về và giữ choices cùng usage của phản hồi. Khi truyền luồng, ghép các phần thay đổi trước khi coi câu trả lời là hoàn tất và giữ mọi lệnh gọi công cụ được trả về cùng đối số. Kết quả là văn bản hoặc yêu cầu gọi hàm cho bước ứng dụng tiếp theo; ứng dụng tích hợp mô hình chịu trách nhiệm thực thi và sử dụng câu trả lời hoàn tất.
Ailoot Ultra · Chat Completions POST /v1/chat/completions inclusionai/ling-3.0-flash
inclusionai/ling-3.0-flashBắt đầu
Ling 3.0 Flash là mô hình văn bản của inclusionAI cho hội thoại, tác vụ tài liệu và quy trình tác tử do ứng dụng điều khiển. Mô hình nhận văn bản qua Chat Completions, hỗ trợ khai báo lệnh gọi hàm và định dạng đầu ra JSON, đồng thời có cửa sổ ngữ cảnh được công bố là 262.144 token. Dùng ID chính xác inclusionai/ling-3.0-flash khi chọn phiên bản này.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Văn bản
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Chat Completions POST /v1/chat/completions
- Đầu vào
text- Đầu ra
text- Ngữ cảnh
- 262.144 tokens
- Định dạng đầu ra
- JSON or supported SSE
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn inclusionai/ling-3.0-flash | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc địnhfalse |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngn | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngseed | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop | Loại | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngfrequency_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngpresence_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốoptional | Hợp đồngstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồng |
Vòng đời: synchronous_json_or_sse
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.00012 / 1K token Đầu ra · Token đầu ra $0.00036 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.000024 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Chat Completions
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "inclusionai/ling-3.0-flash", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Nhận và lưu kết quả
Ailoot Ultra · Chat Completions
JSON or supported SSE
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Nếu cần kiểm tra phản hồi gốc
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Bí danh
Bí danh mô hình
Ailoot Ultra inclusionai/ling-3.0-flash
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · inclusionAI: Ling 3.0 Flash
- Có những đầu vào và kết quả nào?
POST /v1/chat/completions·inclusionai/ling-3.0-flash:text→text- Yêu cầu sử dụng những trường nào?
POST /v1/chat/completions·inclusionai/ling-3.0-flash:model,messages,stream,max_tokens,max_completion_tokens,n,temperature,top_p,seed,stop,frequency_penalty,presence_penalty,user- Áp dụng những giới hạn nào?
POST /v1/chat/completions·inclusionai/ling-3.0-flash:ctx:262144;max_tokens.minimum:1;max_completion_tokens.minimum:1;n.minimum:1