OpenAI: GPT-4o-mini (batch)
GPT-4o Mini xử lý các nhiệm vụ văn bản và ảnh có trọng tâm, gồm trích xuất tài liệu, trả lời ngắn và gọi công cụ ứng dụng. Ngữ cảnh 128,000 token và Structured Outputs hỗ trợ quy trình lặp lại với kết quả được xác định rõ.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
GPT-4o Mini là mô hình nhỏ của OpenAI trong họ GPT-4o dành cho công việc có trọng tâm. Mô hình nhận văn bản cùng ảnh và tạo văn bản đầu ra, bao gồm Structured Outputs. Vai trò này hữu ích khi ứng dụng cần phản hồi ngắn cho yêu cầu được chỉ định rõ: trích xuất trường, phát triển câu trả lời từ tài liệu tham chiếu được cung cấp hoặc thực hiện bước có giới hạn trong quy trình lớn hơn.
Với phản hồi hỗ trợ, hãy cung cấp thông điệp đến, các đoạn quy định liên quan và dữ kiện đã được xác lập trong hội thoại. Hãy yêu cầu phản hồi ngắn được đề xuất và chỉ rõ thông tin còn cần từ người gửi. Khi trích xuất tài liệu, hãy xác định trường, giải thích cách xử lý giá trị thiếu và giữ nhãn kết nối từng kết quả với nguồn. Cách làm này cũng có thể tạo phân loại, đoạn đã chỉnh sửa hoặc giải thích thay đổi mã nhỏ mà không coi mô hình là thứ thay thế logic ứng dụng xung quanh.
Nhà sản xuất liệt kê cửa sổ ngữ cảnh 128,000 token, đầu ra tối đa 16,384 token và mốc kiến thức ngày 1 tháng Mười năm 2023. Tài liệu nguồn, hội thoại và đầu ra được tạo cùng chiếm ngữ cảnh đó. Hãy giữ dữ kiện quan trọng trước đó luôn hiện rõ và nêu sản phẩm cuối cần có. GPT-4o Mini là mô hình nhỏ riêng biệt, không phải chế độ độ dài đầu ra của GPT-4o đầy đủ; danh tính và khả năng riêng cần định hướng nhiệm vụ, kể cả khi hai mô hình có chung một số thông số.
Ảnh có thể cung cấp ảnh chụp màn hình, trang tài liệu, ảnh chụp hoặc sơ đồ. Quy trình hình ảnh của OpenAI nhận PNG, JPEG, WebP và GIF không động, với mức chi tiết low, high hoặc auto cho họ mô hình này. Mức chi tiết cao hơn theo cách nhà sản xuất chia ảnh thành các ô để xử lý. Hãy giữ nhãn quan trọng dễ đọc, đúng chiều và giải thích phần ảnh cần làm cơ sở cho câu trả lời. Quan hệ không gian tinh vi, số vật thể chính xác, phép chiếu ảnh bất thường và một số chữ viết không phải Latinh là các khó khăn được tài liệu hóa. Câu hỏi có trọng tâm giúp dễ đối chiếu phản hồi về ảnh với bằng chứng gốc. Trong quy trình hình ảnh được OpenAI tài liệu hóa, tổng dung lượng dữ liệu của yêu cầu giới hạn ở 512 MB và một yêu cầu có thể chứa tối đa 1,500 ảnh; ảnh và văn bản cũng phải nằm trong ngữ cảnh của mô hình.
Quy trình tệp của nhà sản xuất chuyển văn bản được trích xuất và ảnh từng trang PDF tới mô hình có khả năng hiểu ảnh. Các tệp văn phòng và văn bản khác cung cấp văn bản được trích xuất, vì vậy ảnh cùng biểu đồ nhúng cần biểu diễn PDF khi những hình ảnh đó quan trọng. Bảng tính được bổ sung dữ liệu từ tối đa 1,000 hàng đầu mỗi trang tính. Mỗi tệp phải dưới 50 MB, với tổng hạn mức 50 MB cho yêu cầu. Chat Completions nhận phần tệp PDF; quy trình Responses được tài liệu hóa nhận tập hợp định dạng tệp rộng hơn. Hãy giữ mã định danh trang, hàng hoặc phần trong nội dung dùng để trích xuất.
Truyền phát trả về văn bản tăng dần. Structured Outputs ràng buộc phản hồi hoàn chỉnh theo tập con được hỗ trợ của JSON Schema, còn yêu cầu chế độ JSON chỉ bảo đảm JSON hợp lệ. Hãy nêu các trường bắt buộc và giá trị được phép, gồm cách biểu diễn rõ khi không có bằng chứng. Ứng dụng cần xử lý riêng từ chối và phản hồi chưa hoàn chỉnh. Schema có thể làm sản phẩm phù hợp cho giai đoạn tiếp theo, nhưng giá trị vẫn phải phản ánh nguồn thực tế, thay vì tự đặt nội dung để điền vào trường trống.
GPT-4o Mini hỗ trợ gọi hàm và các quy trình dùng công cụ của nhà sản xuất với tìm kiếm web, tìm kiếm tệp, trình thông dịch mã và kết nối MCP. Hãy mô tả hàm khả dụng, để ứng dụng thực hiện thao tác được yêu cầu và trả về quan sát trước khi mô hình phát triển câu trả lời tiếp theo. OpenAI cũng hỗ trợ công cụ tạo ảnh riêng trong quy trình Responses được cấu hình. Ảnh do công cụ tạo ra là sản phẩm riêng; đầu ra gốc được tài liệu hóa của mô hình vẫn là văn bản. Tìm kiếm và dùng công cụ là hoạt động được cấu hình, không phải bằng chứng mọi phản hồi đã tham khảo thông tin hiện tại.
Predicted Outputs hỗ trợ tạo lại tài liệu hoặc tệp mã phần lớn đã biết với thay đổi nhỏ. Hãy cung cấp nội dung trước đó cùng chỉnh sửa chính xác, rồi đối chiếu sản phẩm tạo ra với yêu cầu. Quy trình dự đoán chỉ hỗ trợ văn bản và không kết hợp với gọi hàm; logprobs, max_completion_tokens cùng một số tùy chọn khác cũng bị loại trừ. Yêu cầu dùng công cụ thông thường là quy trình khác khi phản hồi phụ thuộc vào tra cứu hoặc phép tính mới.
OpenAI tài liệu hóa tinh chỉnh mô hình cho bản này và mô tả dùng đầu ra của mô hình lớn hơn để dạy mô hình GPT-4o Mini nhỏ hơn một nhiệm vụ chuyên biệt. Quy trình chưng cất này tạo mô hình tùy biến; nó không thay đổi danh tính của phản hồi Mini thông thường. Với yêu cầu thông thường, hãy xác lập nhiệm vụ và định dạng đầu ra bằng ví dụ rõ ràng, rồi dùng yêu cầu tiếp theo có trọng tâm để chỉnh sửa cùng kết quả. Sản phẩm cuối hữu ích vẫn kết nối với dữ kiện nguồn, người đọc dự kiến và bước ứng dụng tiếp nhận nó.
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches openai/gpt-4o-mini:batch
openai/gpt-4o-mini:batchBắt đầu
GPT-4o Mini xử lý các nhiệm vụ văn bản và ảnh có trọng tâm, gồm trích xuất tài liệu, trả lời ngắn và gọi công cụ ứng dụng. Ngữ cảnh 128,000 token và Structured Outputs hỗ trợ quy trình lặp lại với kết quả được xác định rõ.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Văn bản
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches
- Đầu vào
text- Đầu ra
text- Định dạng đầu ra
- JSON nội tuyến tại results[].response.body
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngendpoint | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn /v1/chat/completions | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn openai/gpt-4o-mini:batch | Mặc định— |
Trườngrequests | Loạibatch_item[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 | Mặc định— |
Trườngrequests[].custom_id | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.messages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngcompletion_window | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn 24h | Mặc định— |
Trườngprovider | Loạiobject|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.model | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn openai/gpt-4o-mini:batch, openai/gpt-4o-mini | Mặc định— |
Trườngprovider.only | Loạistring[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn openai | Mặc định— |
Trườngprovider.allow_fallbacks | Loạiboolean|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false, null | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngendpoint, model, requests |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrepresentation | Hợp đồngrequests[] nội tuyến; mỗi phần tử có custom_id và body |
Tham sốrequest_endpoint_profile | Hợp đồng/v1/chat/completions |
Tham sốfile_material | Hợp đồngBên gọi có thể đọc dữ liệu JSONL UTF-8 thực tế trên máy cục bộ vào requests[]. Không sử dụng mục đích tải lên, input_file_id hay tham chiếu tệp. Nếu thiếu tài liệu của khách hàng hoặc tài liệu rỗng, dừng khâu chuẩn bị trước POST. |
Tham sốserialization_order | Hợp đồngendpoint, model, provider (nếu được cung cấp), completion_window (nếu được cung cấp), requests ở cuối |
Tham sốoptional_controls | Hợp đồngprovider.only, provider.allow_fallbacks, completion_window |
Tham sốschema_scope | Hợp đồngPhần thân yêu cầu Chat Completions dạng văn bản trong cấu trúc Batch nội tuyến được mô tả trong tài liệu. |
Vòng đời: asynchronous
GET /v1/batches/{operation_id} · response.id thực tế từ phản hồi tạo gốc; cùng người dùng/khóa/nhóm
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
- Giá lưu đệm tường minh
- Chưa bật Khi yêu cầu lưu đệm tường minh
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.00015 / 1K token Đầu ra · Token đầu ra $0.0006 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.000075 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.00015 / 1K token Đầu ra · Token đầu ra $0.0006 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.000075 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xử lý hàng loạt
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-4o-mini:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['openai/gpt-4o-mini:batch', 'openai/gpt-4o-mini']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-4o-mini:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Nhận và lưu kết quả
Ailoot Ultra · Xử lý hàng loạt
JSON nội tuyến tại results[].response.body
GET /v1/batches/{operation_id}
Kiểm tra trạng thái tác vụ
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại toàn bộ JSON trạng thái gốc, mọi kết quả/custom_id và toàn bộ phần thân phản hồi hoặc lỗi. Lưu results[] đã hoàn tất dưới dạng JSONL mà không lọc.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên ID thao tác gốc. Phản hồi 503 result_pending_check có X-Should-Retry:false; tuyệt đối không gửi lại lô gốc có trạng thái chưa xác định.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngresults[].custom_id | Loạistring |
Trườngresults[].response.body.choices[].message.content | Loạistring|null |
Trườngresults[].error | Loạiobject|null |
Trườngusage | Loạiobject|null |
Trườngid | Loạistring |
Trườngmodel | Loạistring |
Trườngendpoint | Loạistring |
Trườngstatus | Loạistring |
Trườngrequest_counts | Loạiobject |
Trườngresults[].id | Loạistring |
Trườngresults[].response.status_code | Loạiinteger |
Trườngresults[].response.request_id | Loạistring |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnCấu trúc nội tuyến không đúng tài liệu, có khóa trùng, định danh phần tử không hợp lệ hoặc xung đột với khả năng đã cấu hình của mô hình. | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi bất kỳ yêu cầu mới nào. |
Phản hồi401 · authentication_error | Điều kiệnKhóa API không hợp lệ. | Bước tiếp theoSử dụng khóa Ailoot đã được cấp quyền. |
Phản hồi403 · permission_error | Điều kiệnNhóm xử lý hàng loạt không khả dụng. | Bước tiếp theoKiểm tra quyền sử dụng của khóa/nhóm. |
Phản hồi422 · invalid_request_error | Điều kiệnXử lý hàng loạt tính phí từ số dư; yêu cầu tạo qua gói thuê bao bị từ chối. | Bước tiếp theoSử dụng nhóm đã được cấp quyền và tính phí từ số dư. |
Phản hồi422 · price_unavailable | Điều kiệnKhông thể báo giá cho dữ liệu đầu vào của lô. | Bước tiếp theoGiữ lại phản hồi; sử dụng dữ liệu đầu vào của họ API được mô tả trong tài liệu. |
Phản hồi402 · billing_error | Điều kiệnKhoản dự trữ cho xử lý hàng loạt không khả dụng. | Bước tiếp theoKhắc phục vấn đề về điều kiện tiếp nhận trước khi gửi yêu cầu mới. |
Phản hồi503 · price_unavailable | Điều kiệnGiá phương thức xử lý hàng loạt/đơn giá gốc không khả dụng. | Bước tiếp theoGiữ lại phản hồi; không thay thế đơn giá. |
Phản hồi503 · api_error | Điều kiệnTuyến cụ thể tới nhà cung cấp không khả dụng. | Bước tiếp theoGiữ lại phản hồi để sửa tuyến. |
Phản hồi503 · result_pending_check | Điều kiệnKết quả gốc cần được kiểm tra; X-Should-Retry:false. | Bước tiếp theoGiữ lại operation_id/id gốc và truy xuất trạng thái của thao tác đó; tuyệt đối không lặp lại POST gốc. |
Phản hồi404 · not_found | Điều kiệnKhông tìm thấy thao tác kiểm tra trạng thái lô hoặc thao tác thuộc một danh tính khác. | Bước tiếp theoSử dụng đúng id gốc và cùng người dùng/khóa/nhóm. |
Bí danh
Bí danh mô hình
Ailoot Ultra openai/gpt-4o-mini:batch
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · OpenAI: GPT-4o-mini (batch)
- Có những đầu vào và kết quả nào?
POST /v1/batches·openai/gpt-4o-mini:batch:text→text- Yêu cầu sử dụng những trường nào?
POST /v1/batches·openai/gpt-4o-mini:batch:endpoint,model,requests,completion_window,provider- Áp dụng những giới hạn nào?
POST /v1/batches·openai/gpt-4o-mini:batch:requests.min_items:1