Google: Gemini 3.5 Flash (batch)
Gemini 3.5 Flash kết hợp hiểu đa phương thức với suy luận cho lập trình và tác vụ tác tử nhiều bước. Mô hình nhận văn bản, hình ảnh, video, âm thanh và PDF, tạo văn bản, với đầu ra có cấu trúc, công cụ và giới hạn đầu vào 1,048,576 token trong cấu hình được ghi trong tài liệu.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Gemini 3.5 Flash là cấu hình mô hình Flash đa phương thức của Google dành cho công việc lập trình và tác tử kéo dài. Đầu vào được ghi trong tài liệu là văn bản, hình ảnh, video, âm thanh và PDF, với đầu ra văn bản. Trọng tâm tác vụ gồm lập trình theo vòng lặp, khám phá giải pháp thay thế và chuỗi chỉ dẫn cùng sử dụng công cụ dài hơn. Phiên bản 3.5 cung cấp các tùy chọn suy luận, đầu vào đa phương thức và quy trình công cụ được ghi trong tài liệu.
Tác vụ lập trình có thể kết hợp yêu cầu viết, tệp nguồn liên quan và ảnh chụp kết quả dự kiến. Cung cấp hành vi quan sát được, hành vi kỳ vọng và ràng buộc phải giữ nguyên. Đề bài minh họa là: “So sánh ảnh chụp màn hình với văn bản thành phần, xác định điểm không khớp trong quy trình biểu mẫu và đề xuất một chỉnh sửa tập trung. Giải thích chi tiết nguồn nào làm căn cứ cho thay đổi.” Với tác vụ tài liệu, cung cấp trang liên quan và yêu cầu so sánh với yêu cầu tường minh, kèm tham chiếu nguồn cho mỗi phát hiện.
Phiên bản ghi nhận các mức suy luận minimal, low, medium và high. Medium là mặc định, thay cho mặc định high của Gemini 3 Flash Preview. Minimal phù hợp câu trả lời đơn giản và quyết định công cụ trực tiếp nhưng không bảo đảm tắt hoàn toàn suy luận; low hướng đến tác vụ cần ít bước hơn; high cung cấp suy luận sâu hơn cho toán khó, lập trình và vấn đề tác tử. Google khuyến nghị dùng thinking_level để điều khiển nỗ lực và giữ thiết lập lấy mẫu mặc định thay vì cố ép suy luận bằng thay đổi temperature, top-p hoặc top-k.
Hành vi đặc trưng là giữ ngữ cảnh suy luận xuyên suốt tác vụ nhiều lượt. Quy trình Interactions của Google tự động mang theo ngữ cảnh đó; quy trình GenerateContent yêu cầu toàn bộ lịch sử hội thoại không sửa đổi, bao gồm chữ ký suy luận. Điều này hỗ trợ nhiệm vụ gỡ lỗi hoặc tái cấu trúc tiếp diễn, trong đó suy luận trước giúp định hướng bước sau. Giữ cấu trúc hội thoại thực tế thay vì biến mỗi yêu cầu tiếp nối thành câu lệnh không liên quan, đồng thời giữ sản phẩm cuối yêu cầu rõ ràng khi công việc tiến triển.
Bộ công cụ được ghi trong tài liệu gồm Google Search, sử dụng thông tin Google Maps làm căn cứ, File Search, Code Execution, URL Context và Function Calling tiêu chuẩn, với sử dụng công cụ kết hợp và Computer Use được đánh dấu là khả năng xem trước. Structured Outputs có thể cung cấp bản ghi dữ liệu được định nghĩa. Giao mục đích và định nghĩa tham số rõ cho hàm: mô hình chọn hàm, còn ứng dụng kết nối thực hiện thao tác và trả kết quả. Google yêu cầu kết quả hàm khớp lời gọi trước theo định danh, tên và số lượng; kết quả đa phương thức thuộc bên trong phản hồi hàm.
Bảng mô hình API cụ thể ghi đầu vào tối đa 1,048,576 token và đầu ra tối đa 65,536 token. Lịch sử hội thoại và phương tiện được cung cấp góp vào ngân sách đầu vào. Bộ nhớ đệm và xử lý theo lô được ghi trong tài liệu cho cấu hình này, với các lựa chọn xử lý Flex và Priority bổ sung trong bảng Google. Những giới hạn và khả năng này mô tả phiên bản của nhà sản xuất; chúng không yêu cầu câu trả lời lấp đầy toàn bộ cửa sổ đầu ra hoặc khiến mọi công cụ đều cần thiết cho tác vụ.
Cấu hình này tạo văn bản thay vì hình ảnh hoặc âm thanh và không dùng Live API. Hướng dẫn nhà phát triển còn loại trừ phân đoạn hình ảnh. Với câu hỏi thị giác, yêu cầu mô tả, trích xuất hoặc diễn giải tài liệu được cung cấp; với bản ghi lời nói, yêu cầu kết quả văn bản. Khi câu trả lời phụ thuộc thông tin mới hơn, quy trình sử dụng kết quả tìm kiếm làm căn cứ được ghi trong tài liệu có thể bổ sung nguồn ngoài kiến thức huấn luyện. Nêu có cần thông tin bên ngoài không và câu trả lời cuối phải giữ bằng chứng gì.
Với nhiệm vụ dài hơn có ích, xác định kết quả cuối và tiêu chí hoàn thành trước bước đầu. Tác vụ phân tích hỗ trợ có thể yêu cầu bảng vấn đề quan sát được, đoạn trích làm căn cứ và phản hồi đề xuất; tác vụ lập trình có thể yêu cầu thay đổi tập trung và kết quả xác thực liên quan. Đính kèm ngữ cảnh nguồn quan trọng, quy định hành động công cụ được phép và yêu cầu câu trả lời cuối tường minh, tách công việc đã hoàn thành khỏi câu hỏi còn cần thông tin. Nhờ vậy, quy trình kéo dài của mô hình trở thành sản phẩm văn bản, mã hoặc cấu trúc cụ thể.
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches google/gemini-3.5-flash:batch
google/gemini-3.5-flash:batchBắt đầu
Gemini 3.5 Flash kết hợp hiểu đa phương thức với suy luận cho lập trình và tác vụ tác tử nhiều bước. Mô hình nhận văn bản, hình ảnh, video, âm thanh và PDF, tạo văn bản, với đầu ra có cấu trúc, công cụ và giới hạn đầu vào 1,048,576 token trong cấu hình được ghi trong tài liệu.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Văn bản
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches
- Đầu vào
text- Đầu ra
text- Định dạng đầu ra
- JSON nội tuyến tại results[].response.body
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngendpoint | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn /v1/chat/completions | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn google/gemini-3.5-flash:batch | Mặc định— |
Trườngrequests | Loạibatch_item[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 | Mặc định— |
Trườngrequests[].custom_id | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.messages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngcompletion_window | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn 24h | Mặc định— |
Trườngprovider | Loạiobject|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.model | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn google/gemini-3.5-flash:batch, google/gemini-3.5-flash | Mặc định— |
Trườngprovider.only | Loạistring[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn google-vertex/global | Mặc định— |
Trườngprovider.allow_fallbacks | Loạiboolean|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false, null | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngendpoint, model, requests |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrepresentation | Hợp đồngrequests[] nội tuyến; mỗi phần tử có custom_id và body |
Tham sốrequest_endpoint_profile | Hợp đồng/v1/chat/completions |
Tham sốfile_material | Hợp đồngBên gọi có thể đọc dữ liệu JSONL UTF-8 thực tế trên máy cục bộ vào requests[]. Không sử dụng mục đích tải lên, input_file_id hay tham chiếu tệp. Nếu thiếu tài liệu của khách hàng hoặc tài liệu rỗng, dừng khâu chuẩn bị trước POST. |
Tham sốserialization_order | Hợp đồngendpoint, model, provider (nếu được cung cấp), completion_window (nếu được cung cấp), requests ở cuối |
Tham sốoptional_controls | Hợp đồngprovider.only, provider.allow_fallbacks, completion_window |
Tham sốschema_scope | Hợp đồngPhần thân yêu cầu Chat Completions dạng văn bản trong cấu trúc Batch nội tuyến được mô tả trong tài liệu. |
Vòng đời: asynchronous
GET /v1/batches/{operation_id} · response.id thực tế từ phản hồi tạo gốc; cùng người dùng/khóa/nhóm
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
- Giá lưu đệm tường minh
- Chưa bật Khi yêu cầu lưu đệm tường minh
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0015 / 1K token Đầu ra · Token đầu ra $0.009 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.00015 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.0015 / 1K token Đầu ra · Token đầu ra $0.009 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.00015 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xử lý hàng loạt
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"google/gemini-3.5-flash:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['google/gemini-3.5-flash:batch', 'google/gemini-3.5-flash']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"google/gemini-3.5-flash:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Nhận và lưu kết quả
Ailoot Ultra · Xử lý hàng loạt
JSON nội tuyến tại results[].response.body
GET /v1/batches/{operation_id}
Kiểm tra trạng thái tác vụ
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại toàn bộ JSON trạng thái gốc, mọi kết quả/custom_id và toàn bộ phần thân phản hồi hoặc lỗi. Lưu results[] đã hoàn tất dưới dạng JSONL mà không lọc.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên ID thao tác gốc. Phản hồi 503 result_pending_check có X-Should-Retry:false; tuyệt đối không gửi lại lô gốc có trạng thái chưa xác định.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngresults[].custom_id | Loạistring |
Trườngresults[].response.body.choices[].message.content | Loạistring|null |
Trườngresults[].error | Loạiobject|null |
Trườngusage | Loạiobject|null |
Trườngid | Loạistring |
Trườngmodel | Loạistring |
Trườngendpoint | Loạistring |
Trườngstatus | Loạistring |
Trườngrequest_counts | Loạiobject |
Trườngresults[].id | Loạistring |
Trườngresults[].response.status_code | Loạiinteger |
Trườngresults[].response.request_id | Loạistring |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnCấu trúc nội tuyến không đúng tài liệu, có khóa trùng, định danh phần tử không hợp lệ hoặc xung đột với khả năng đã cấu hình của mô hình. | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi bất kỳ yêu cầu mới nào. |
Phản hồi401 · authentication_error | Điều kiệnKhóa API không hợp lệ. | Bước tiếp theoSử dụng khóa Ailoot đã được cấp quyền. |
Phản hồi403 · permission_error | Điều kiệnNhóm xử lý hàng loạt không khả dụng. | Bước tiếp theoKiểm tra quyền sử dụng của khóa/nhóm. |
Phản hồi422 · invalid_request_error | Điều kiệnXử lý hàng loạt tính phí từ số dư; yêu cầu tạo qua gói thuê bao bị từ chối. | Bước tiếp theoSử dụng nhóm đã được cấp quyền và tính phí từ số dư. |
Phản hồi422 · price_unavailable | Điều kiệnKhông thể báo giá cho dữ liệu đầu vào của lô. | Bước tiếp theoGiữ lại phản hồi; sử dụng dữ liệu đầu vào của họ API được mô tả trong tài liệu. |
Phản hồi402 · billing_error | Điều kiệnKhoản dự trữ cho xử lý hàng loạt không khả dụng. | Bước tiếp theoKhắc phục vấn đề về điều kiện tiếp nhận trước khi gửi yêu cầu mới. |
Phản hồi503 · price_unavailable | Điều kiệnGiá phương thức xử lý hàng loạt/đơn giá gốc không khả dụng. | Bước tiếp theoGiữ lại phản hồi; không thay thế đơn giá. |
Phản hồi503 · api_error | Điều kiệnTuyến cụ thể tới nhà cung cấp không khả dụng. | Bước tiếp theoGiữ lại phản hồi để sửa tuyến. |
Phản hồi503 · result_pending_check | Điều kiệnKết quả gốc cần được kiểm tra; X-Should-Retry:false. | Bước tiếp theoGiữ lại operation_id/id gốc và truy xuất trạng thái của thao tác đó; tuyệt đối không lặp lại POST gốc. |
Phản hồi404 · not_found | Điều kiệnKhông tìm thấy thao tác kiểm tra trạng thái lô hoặc thao tác thuộc một danh tính khác. | Bước tiếp theoSử dụng đúng id gốc và cùng người dùng/khóa/nhóm. |
Bí danh
Bí danh mô hình
Ailoot Ultra google/gemini-3.5-flash:batch
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Google: Gemini 3.5 Flash (batch)
- Có những đầu vào và kết quả nào?
POST /v1/batches·google/gemini-3.5-flash:batch:text→text- Yêu cầu sử dụng những trường nào?
POST /v1/batches·google/gemini-3.5-flash:batch:endpoint,model,requests,completion_window,provider- Áp dụng những giới hạn nào?
POST /v1/batches·google/gemini-3.5-flash:batch:requests.min_items:1