Z.ai: GLM 5.3 (batch)
Z.ai GLM 5.3 là mô hình suy luận văn bản dành cho kỹ nghệ phần mềm phức tạp, công việc terminal và tác tử có tiến trình dài. Mô hình hỗ trợ ngữ cảnh 1M token được hãng tài liệu hóa, tối đa 128K token đầu ra, gọi hàm và mức nỗ lực suy luận low/high/max, với suy luận luôn bật.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Z.ai GLM 5.3 là mô hình suy luận văn bản quy mô lớn được thiết kế cho kỹ nghệ phần mềm phức tạp và công việc tác tử có tiến trình dài. Hãng nêu mô hình dùng cùng mô hình nền với GLM 5.2, các cải thiện mới đến từ hậu huấn luyện. Bản phát hành tập trung vào lập trình mạnh hơn, thao tác terminal và nhiệm vụ rộng hơn có nhiều bước phụ thuộc. Mô hình nhận và tạo văn bản, gồm mã, lời giải thích, kế hoạch và yêu cầu gọi công cụ trong ứng dụng kết nối công cụ.
Chế độ suy luận được tài liệu hóa luôn bật. GLM 5.3 có ba mức nỗ lực: low, high và max, mặc định là max. Hãng khuyên dùng max cho lập trình phức tạp; low là lựa chọn suy luận nhẹ hơn cho bước đơn giản. Dùng mức đã chọn cùng sản phẩm cuối và tiêu chí hoàn thành rõ ràng. Ví dụ: “Kiểm tra các tệp và kết quả thất bại này, truy nguyên nhân qua các mô-đun bị ảnh hưởng, đề xuất sửa chữa giữ nguyên giao diện công khai và giải thích những kiểm tra nào xác lập lỗi hồi quy đã được giải quyết.”
Hãng quy định cửa sổ ngữ cảnh 1M token và đầu ra dài tối đa 128K token. Tổ chức tư liệu dài quanh mối quan hệ mô hình cần khảo sát. Giữ tên tệp, định nghĩa liên quan, nhãn nguồn và thứ tự quan sát, chừa chỗ cho suy luận và câu trả lời cuối trong ngữ cảnh làm việc áp dụng. Cửa sổ lớn hữu ích cho phụ thuộc giữa mô-đun hoặc chuỗi quan sát tác tử dài; nó không biến kho tư liệu không liên quan, không định hướng thành nhiệm vụ rõ ràng.
Với kho mã, cung cấp hành vi mong muốn, văn bản nguồn liên quan, phiên bản phụ thuộc và đầu ra lỗi thực tế. Yêu cầu mô hình xác định hành vi bị ảnh hưởng trước khi đề xuất bản vá. Với tái cấu trúc, nêu giao diện và bất biến phải giữ. Phản hồi hữu ích chứa mã đã sửa, lý do thay đổi xử lý vấn đề quan sát được và các trường hợp cần để kiểm tra kết quả. Đưa kết quả thực tế trở lại quy trình kết nối công cụ để bước sau dựa trên trạng thái đã đổi thay vì đề xuất trước.
Với hiệu năng, cung cấp tải công việc, mốc cơ sở và số đo như thời gian, hồ sơ hiệu năng hoặc bản ghi cấp phát. Z.ai mô tả nhiệm vụ huấn luyện về chẩn đoán nút thắt, tối ưu, thử nghiệm và kết quả bảo toàn tính đúng. Yêu cầu thực tiễn là: “Dùng hồ sơ này để xác định nút thắt có tác động lớn nhất, đề xuất một thay đổi đo được và giải thích kết quả nào sẽ chứng minh nên giữ thay đổi.” Phân biệt giả thuyết hiệu năng với cải thiện đã ghi nhận. Giữ cùng tải và điều kiện liên quan khi xem xét kết quả.
Bản phát hành cũng phát triển năng lực phân tích lỗ hổng. Với rà soát nguồn để phòng vệ, cung cấp mã liên quan, ranh giới tin cậy dự kiến và điều kiện chạy. Yêu cầu phát hiện liên kết vấn đề nghi ngờ với đầu vào, hành vi bị ảnh hưởng và cách khắc phục tập trung. Tách điểm yếu tiềm tàng khỏi lỗi đã tái hiện, lưu quan sát dùng để xác thực. Báo cáo hữu ích hơn khi ưu tiên bằng chứng cụ thể và sửa chữa đề xuất thay vì coi mọi mẫu đáng ngờ là lỗ hổng đã xác nhận.
Gọi hàm cho phép ứng dụng xung quanh cung cấp thao tác bên ngoài cho mô hình. Xác định mục đích, đối số, kết quả mong đợi của mỗi công cụ, rồi trả lại quan sát công cụ thực tế cho bước sau. Mô hình có thể suy luận về kết quả và quyết định nó thay đổi nhiệm vụ thế nào. Giữ hành động đề xuất, thao tác đã thực thi và kiểm tra chưa giải quyết phân biệt được. Hãng cũng tài liệu hóa phản hồi truyền theo luồng, trả riêng các mảnh suy luận và câu trả lời; ghép câu trả lời hoàn chỉnh trước khi coi là báo cáo cuối hoặc lời giải thích mã.
Thẻ mô hình cục bộ cung cấp chi tiết thiết lập lịch sử cụ thể: mẫu trò chuyện mặc định giữ suy nghĩ, trong khi hãng khuyên chỉ định rõ việc xóa nội dung suy nghĩ cũ cho các tình huống trò chuyện thông thường. Áp dụng cấu trúc hội thoại phù hợp tình huống, giữ câu trả lời hoàn chỉnh thực tế và kết quả công cụ cần để tiếp tục. Tránh coi thiết lập điều khiển suy luận của GLM 5.2 hay các phiên bản GLM 5.3 Flash riêng là hoán đổi được với điều khiển low/high/max của mô hình này.
Với kết quả có cấu trúc, nêu trường, kiểu và quy tắc nguồn mong đợi. Sản phẩm hữu ích có thể là bảng lỗi, kế hoạch thay đổi hoặc đối tượng JSON tóm tắt quan sát. Kiểm tra cả cấu trúc và giá trị trước khi ứng dụng dùng. Kết quả cuối cần xác định câu trả lời hoặc sản phẩm đã sửa, bằng chứng hỗ trợ và giả định còn lại. Nỗ lực suy luận cao hơn không xác lập công cụ đã chạy, bản vá đề xuất đã vượt kiểm tra hay nhận định có cơ sở ngoài tư liệu được cung cấp.
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches z-ai/glm-5.3:batch
z-ai/glm-5.3:batchBắt đầu
Z.ai GLM 5.3 là mô hình suy luận văn bản dành cho kỹ nghệ phần mềm phức tạp, công việc terminal và tác tử có tiến trình dài. Mô hình hỗ trợ ngữ cảnh 1M token được hãng tài liệu hóa, tối đa 128K token đầu ra, gọi hàm và mức nỗ lực suy luận low/high/max, với suy luận luôn bật.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Văn bản
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches
- Đầu vào
text- Đầu ra
text- Định dạng đầu ra
- JSON nội tuyến tại results[].response.body
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngendpoint | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn /v1/chat/completions | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn z-ai/glm-5.3:batch | Mặc định— |
Trườngrequests | Loạibatch_item[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 | Mặc định— |
Trườngrequests[].custom_id | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.messages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngcompletion_window | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn 24h | Mặc định— |
Trườngprovider | Loạiobject|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.model | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn z-ai/glm-5.3:batch, z-ai/glm-5.3 | Mặc định— |
Trườngprovider.only | Loạistring[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn deepinfra/fp4 | Mặc định— |
Trườngprovider.allow_fallbacks | Loạiboolean|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false, null | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngendpoint, model, requests |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrepresentation | Hợp đồngrequests[] nội tuyến; mỗi phần tử có custom_id và body |
Tham sốrequest_endpoint_profile | Hợp đồng/v1/chat/completions |
Tham sốfile_material | Hợp đồngBên gọi có thể đọc dữ liệu JSONL UTF-8 thực tế trên máy cục bộ vào requests[]. Không sử dụng mục đích tải lên, input_file_id hay tham chiếu tệp. Nếu thiếu tài liệu của khách hàng hoặc tài liệu rỗng, dừng khâu chuẩn bị trước POST. |
Tham sốserialization_order | Hợp đồngendpoint, model, provider (nếu được cung cấp), completion_window (nếu được cung cấp), requests ở cuối |
Tham sốoptional_controls | Hợp đồngprovider.only, provider.allow_fallbacks, completion_window |
Tham sốschema_scope | Hợp đồngPhần thân yêu cầu Chat Completions dạng văn bản trong cấu trúc Batch nội tuyến được mô tả trong tài liệu. |
Vòng đời: asynchronous
GET /v1/batches/{operation_id} · response.id thực tế từ phản hồi tạo gốc; cùng người dùng/khóa/nhóm
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
- Giá lưu đệm tường minh
- Chưa bật Khi yêu cầu lưu đệm tường minh
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0009 / 1K token Đầu ra · Token đầu ra $0.004 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.0002 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0009 / 1K token Đầu ra · Token đầu ra $0.004 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.0002 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xử lý hàng loạt
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"z-ai/glm-5.3:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['z-ai/glm-5.3:batch', 'z-ai/glm-5.3']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"z-ai/glm-5.3:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Nhận và lưu kết quả
Ailoot Ultra · Xử lý hàng loạt
JSON nội tuyến tại results[].response.body
GET /v1/batches/{operation_id}
Kiểm tra trạng thái tác vụ
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại toàn bộ JSON trạng thái gốc, mọi kết quả/custom_id và toàn bộ phần thân phản hồi hoặc lỗi. Lưu results[] đã hoàn tất dưới dạng JSONL mà không lọc.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên ID thao tác gốc. Phản hồi 503 result_pending_check có X-Should-Retry:false; tuyệt đối không gửi lại lô gốc có trạng thái chưa xác định.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngresults[].custom_id | Loạistring |
Trườngresults[].response.body.choices[].message.content | Loạistring|null |
Trườngresults[].error | Loạiobject|null |
Trườngusage | Loạiobject|null |
Trườngid | Loạistring |
Trườngmodel | Loạistring |
Trườngendpoint | Loạistring |
Trườngstatus | Loạistring |
Trườngrequest_counts | Loạiobject |
Trườngresults[].id | Loạistring |
Trườngresults[].response.status_code | Loạiinteger |
Trườngresults[].response.request_id | Loạistring |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnCấu trúc nội tuyến không đúng tài liệu, có khóa trùng, định danh phần tử không hợp lệ hoặc xung đột với khả năng đã cấu hình của mô hình. | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi bất kỳ yêu cầu mới nào. |
Phản hồi401 · authentication_error | Điều kiệnKhóa API không hợp lệ. | Bước tiếp theoSử dụng khóa Ailoot đã được cấp quyền. |
Phản hồi403 · permission_error | Điều kiệnNhóm xử lý hàng loạt không khả dụng. | Bước tiếp theoKiểm tra quyền sử dụng của khóa/nhóm. |
Phản hồi422 · invalid_request_error | Điều kiệnXử lý hàng loạt tính phí từ số dư; yêu cầu tạo qua gói thuê bao bị từ chối. | Bước tiếp theoSử dụng nhóm đã được cấp quyền và tính phí từ số dư. |
Phản hồi422 · price_unavailable | Điều kiệnKhông thể báo giá cho dữ liệu đầu vào của lô. | Bước tiếp theoGiữ lại phản hồi; sử dụng dữ liệu đầu vào của họ API được mô tả trong tài liệu. |
Phản hồi402 · billing_error | Điều kiệnKhoản dự trữ cho xử lý hàng loạt không khả dụng. | Bước tiếp theoKhắc phục vấn đề về điều kiện tiếp nhận trước khi gửi yêu cầu mới. |
Phản hồi503 · price_unavailable | Điều kiệnGiá phương thức xử lý hàng loạt/đơn giá gốc không khả dụng. | Bước tiếp theoGiữ lại phản hồi; không thay thế đơn giá. |
Phản hồi503 · api_error | Điều kiệnTuyến cụ thể tới nhà cung cấp không khả dụng. | Bước tiếp theoGiữ lại phản hồi để sửa tuyến. |
Phản hồi503 · result_pending_check | Điều kiệnKết quả gốc cần được kiểm tra; X-Should-Retry:false. | Bước tiếp theoGiữ lại operation_id/id gốc và truy xuất trạng thái của thao tác đó; tuyệt đối không lặp lại POST gốc. |
Phản hồi404 · not_found | Điều kiệnKhông tìm thấy thao tác kiểm tra trạng thái lô hoặc thao tác thuộc một danh tính khác. | Bước tiếp theoSử dụng đúng id gốc và cùng người dùng/khóa/nhóm. |
Bí danh
Bí danh mô hình
Ailoot Ultra z-ai/glm-5.3:batch
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Z.ai: GLM 5.3 (batch)
- Có những đầu vào và kết quả nào?
POST /v1/batches·z-ai/glm-5.3:batch:text→text- Yêu cầu sử dụng những trường nào?
POST /v1/batches·z-ai/glm-5.3:batch:endpoint,model,requests,completion_window,provider- Áp dụng những giới hạn nào?
POST /v1/batches·z-ai/glm-5.3:batch:requests.min_items:1