Google: Gemini 3.1 Flash Lite (batch)
Gemini 3.1 Flash-Lite là mô hình đa phương thức bản ổn định của Google dành cho dịch thuật, chép lời, phân loại và trích xuất đơn giản ở quy mô lớn. Mô hình nhận văn bản, hình ảnh, âm thanh, video và PDF rồi trả về văn bản, với khả năng suy nghĩ, công cụ và đầu ra có cấu trúc. Giới hạn đầu vào/đầu ra chính xác là 1,048,576/65,536 token.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Gemini 3.1 Flash-Lite là mô hình văn bản đa phương thức nhẹ, bản ổn định của Google dành cho các tác vụ thường xuyên và được xác định rõ. Mô hình được xây dựng trên Gemini 3 Pro. Dịch thuật và phân loại là những khối lượng công việc chủ đạo; các tác vụ hữu ích khác gồm chép lời, tóm tắt tài liệu, trích xuất thực thể và phân loại để lựa chọn mô hình. Văn bản, hình ảnh, âm thanh, video và PDF có thể làm tài liệu nguồn, còn kết quả là văn bản. Một yêu cầu hữu ích chỉ định một thao tác và một dạng kết quả cuối cùng, chẳng hạn tin nhắn đã dịch hoặc bản ghi các trường được tìm thấy trong tài liệu.
Đối với dịch thuật, cung cấp văn bản nguồn, ngôn ngữ đích, đối tượng đọc và thuật ngữ cần giữ nguyên. Ví dụ của Google sử dụng chỉ dẫn chỉ trả về bản dịch. Khi dịch tin nhắn hỗ trợ, giữ nguyên tên sản phẩm và mã tham chiếu đơn hàng trong khi dịch tự nhiên phần còn lại. Quy định cách xử lý nội dung mơ hồ để kết quả không thêm ngày, lời hứa hoặc chi tiết không có trong nguồn. Giữ hình thức yêu cầu phù hợp với nơi sử dụng, chẳng hạn câu trả lời ngắn hoặc bản ghi bản dịch có nhãn.
Đối với chép lời, cung cấp bản ghi và xác định câu trả lời cần là lời nói nguyên văn, bản chép lời đã biên tập dễ đọc hay bản tóm tắt. Đây là các loại đầu ra khác nhau. Xác định khoảng thời gian liên quan khi bản ghi dài chỉ có một đoạn cần cho tác vụ. Ví dụ dành cho nhà phát triển của nhà sản xuất truyền trực tiếp âm thanh và yêu cầu bản chép lời dạng văn bản. Đối chiếu tên riêng, con số và đoạn không rõ với bản ghi, giữ lại nguồn gốc để xem xét. Cấu hình văn bản đa phương thức tổng quát này tự nó không hàm ý đầu ra âm thanh hoặc kết quả phân tách người nói chuyên dụng.
Đối với phân loại hoặc trích xuất, định nghĩa danh mục, lược đồ và quy tắc cho giá trị thiếu. Hướng dẫn dành cho nhà phát triển minh họa JSON có cấu trúc để phân tích đánh giá của khách hàng, với trích dẫn hỗ trợ và các trường được định nghĩa. Một bản ghi có cấu trúc có thể chứa sản phẩm được nhắc đến, loại vấn đề và câu giải thích cơ sở của lựa chọn. Đưa vào một trường hợp điển hình cần giữ là chưa biết thay vì bị ép vào một danh mục. Bản ghi hợp lệ về cú pháp vẫn cần được đối chiếu với văn bản nguồn thực tế.
Xử lý tài liệu có thể chuyển PDF thành bản tóm tắt ngắn gọn hoặc bản ghi các trường. Nêu câu hỏi và giữ tham chiếu trang hoặc mục khi phát hiện cần được kiểm tra. Khi xem xét bảng, chỉ định các cột và quy tắc quan trọng; với tác vụ hình ảnh, xác định nhãn hoặc vùng cần cho câu trả lời. Định tuyến mô hình là một ứng dụng khác đã được tài liệu hóa: mô hình phân loại độ phức tạp của yêu cầu và trả về một lựa chọn được phép. Ứng dụng kết nối, thay vì chính văn bản phân loại, quyết định bước chạy tiếp theo.
Mô hình hỗ trợ khả năng suy nghĩ, và nhà sản xuất minh họa mức nỗ lực cao hơn cho các tác vụ hưởng lợi từ việc phân tích sâu hơn. Trang dành riêng cho bản ổn định cũng liệt kê gọi hàm, thực thi mã, tìm kiếm tệp, grounding bằng tìm kiếm, grounding bằng Maps, ngữ cảnh URL và đầu ra có cấu trúc. Computer Use không được hỗ trợ trong cấu hình 3.1 ổn định này; cấu hình 3.5 Flash-Lite ra sau có bảng khả năng khác. Định nghĩa rõ mục đích và tham số của công cụ, rồi tiếp tục dựa trên kết quả thực tế được trả về. Đề xuất gọi hàm không xác nhận rằng thao tác đã diễn ra.
Thẻ mô hình gốc liệt kê ngữ cảnh tối đa 1M và đầu ra văn bản 64K; bảng API bản ổn định quy định 1,048,576 token đầu vào và 65,536 token đầu ra. Tính cả chỉ dẫn, hội thoại và phương tiện nguồn khi chuẩn bị đầu vào, đồng thời yêu cầu độ dài đầu ra phù hợp với sản phẩm cần tạo. Bộ nhớ đệm, xử lý hàng loạt, Flex và Priority được ghi nhận cho cấu hình này của nhà sản xuất. Với các mục độc lập được xử lý lặp lại, đưa mã định danh đầu vào vào kết quả và giữ lược đồ nhất quán để phát hiện câu trả lời bị thiếu.
Mã mô hình bản ổn định này khác với Gemini 3.1 Flash-Lite Preview và các phiên bản Flash-Lite ra sau. Giữ đúng phiên bản khi chuẩn bị xử lý lặp lại, thay vì xem tên dòng quen thuộc là sự bảo đảm về một bản sửa đổi cố định. Kiểm tra bản dịch về ý nghĩa và thuật ngữ được giữ lại, đối chiếu bản chép lời với âm thanh và các trường trích xuất với tài liệu. Vai trò thực tế của cấu hình này là xử lý văn bản đa phương thức tập trung với kết quả rõ ràng, để việc suy luận của tác vụ rộng hơn hoặc các hành động bên ngoài cho bước tiếp theo phù hợp.
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches google/gemini-3.1-flash-lite:batch
google/gemini-3.1-flash-lite:batch
google/gemini-3.1-flash-lite:batchBắt đầu
Gemini 3.1 Flash-Lite là mô hình đa phương thức bản ổn định của Google dành cho dịch thuật, chép lời, phân loại và trích xuất đơn giản ở quy mô lớn. Mô hình nhận văn bản, hình ảnh, âm thanh, video và PDF rồi trả về văn bản, với khả năng suy nghĩ, công cụ và đầu ra có cấu trúc. Giới hạn đầu vào/đầu ra chính xác là 1,048,576/65,536 token.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Văn bản
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Xử lý hàng loạt POST /v1/batches
- Đầu vào
text- Đầu ra
text- Định dạng đầu ra
- JSON nội tuyến tại results[].response.body
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngendpoint | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn /v1/chat/completions | Mặc định— |
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn google/gemini-3.1-flash-lite:batch | Mặc định— |
Trườngrequests | Loạibatch_item[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 | Mặc định— |
Trườngrequests[].custom_id | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.messages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngcompletion_window | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn 24h | Mặc định— |
Trườngprovider | Loạiobject|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngrequests[].body.model | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn google/gemini-3.1-flash-lite:batch, google/gemini-3.1-flash-lite | Mặc định— |
Trườngprovider.only | Loạistring[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn google-vertex/global | Mặc định— |
Trườngprovider.allow_fallbacks | Loạiboolean|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false, null | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngendpoint, model, requests |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrepresentation | Hợp đồngrequests[] nội tuyến; mỗi phần tử có custom_id và body |
Tham sốrequest_endpoint_profile | Hợp đồng/v1/chat/completions |
Tham sốfile_material | Hợp đồngBên gọi có thể đọc dữ liệu JSONL UTF-8 thực tế trên máy cục bộ vào requests[]. Không sử dụng mục đích tải lên, input_file_id hay tham chiếu tệp. Nếu thiếu tài liệu của khách hàng hoặc tài liệu rỗng, dừng khâu chuẩn bị trước POST. |
Tham sốserialization_order | Hợp đồngendpoint, model, provider (nếu được cung cấp), completion_window (nếu được cung cấp), requests ở cuối |
Tham sốoptional_controls | Hợp đồngprovider.only, provider.allow_fallbacks, completion_window |
Tham sốschema_scope | Hợp đồngPhần thân yêu cầu Chat Completions dạng văn bản trong cấu trúc Batch nội tuyến được mô tả trong tài liệu. |
Vòng đời: asynchronous
GET /v1/batches/{operation_id} · response.id thực tế từ phản hồi tạo gốc; cùng người dùng/khóa/nhóm
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
- Giá lưu đệm tường minh
- Chưa bật Khi yêu cầu lưu đệm tường minh
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.00025 / 1K token Đầu ra · Token đầu ra $0.0015 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.000025 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.00025 / 1K token Đầu ra · Token đầu ra $0.0015 / 1K token Đầu vào · Đọc bộ nhớ đệm $0.000025 / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Xử lý hàng loạt
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json
from pathlib import Path
body=json.loads('{"endpoint":"/v1/chat/completions","model":"google/gemini-3.1-flash-lite:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')
Path("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json
import json, os
from pathlib import Path
from urllib.request import Request, urlopen
def prepare_requests(customer_path):
path = Path(customer_path)
if not path.is_file(): raise ValueError("Customer JSONL file is missing")
items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]
if not items: raise ValueError("Customer JSONL contains no requests")
ids = set()
for item in items:
if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")
cid = item["custom_id"]
if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")
ids.add(cid)
if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")
supplied_model = item["body"].get("model")
if supplied_model is not None and supplied_model not in ['google/gemini-3.1-flash-lite:batch', 'google/gemini-3.1-flash-lite']: raise ValueError("body.model must be an exact documented caller or wire ID")
return {"endpoint":"/v1/chat/completions", "model":"google/gemini-3.1-flash-lite:batch", "requests":items}
if __name__ == "__main__":
material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")
if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")
body = prepare_requests(material)
key = os.environ.get("AILOOT_API_KEY", "")
if not key: raise SystemExit("Set AILOOT_API_KEY")
request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")
with urlopen(request) as response:
raw = response.read()
Path("batch-create-response.json").write_bytes(raw)
print(raw.decode("utf-8"))
import json
from pathlib import Path
raw = Path("batch-status-response.json").read_bytes()
response = json.loads(raw)
if response.get("status") != "completed":
raise SystemExit("Keep the original operation; read its status without resubmitting")
results = response.get("results")
if not isinstance(results, list) or not results:
raise SystemExit("Preserve the original response; completed results are missing")
Path("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\n" for item in results), encoding="utf-8")
# Preserve batch-status-response.json with aggregate usage and every result/error.
Nhận và lưu kết quả
Ailoot Ultra · Xử lý hàng loạt
JSON nội tuyến tại results[].response.body
GET /v1/batches/{operation_id}
Kiểm tra trạng thái tác vụ
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
BATCH_OPERATION_ID="$(python3 - <<'PY_ID'
import json
from pathlib import Path
from urllib.parse import quote
response = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))
operation = response.get("id")
if not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")
print(quote(operation, safe=""))
PY_ID
)"
curl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \
-H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại toàn bộ JSON trạng thái gốc, mọi kết quả/custom_id và toàn bộ phần thân phản hồi hoặc lỗi. Lưu results[] đã hoàn tất dưới dạng JSONL mà không lọc.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên ID thao tác gốc. Phản hồi 503 result_pending_check có X-Should-Retry:false; tuyệt đối không gửi lại lô gốc có trạng thái chưa xác định.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngresults[].custom_id | Loạistring |
Trườngresults[].response.body.choices[].message.content | Loạistring|null |
Trườngresults[].error | Loạiobject|null |
Trườngusage | Loạiobject|null |
Trườngid | Loạistring |
Trườngmodel | Loạistring |
Trườngendpoint | Loạistring |
Trườngstatus | Loạistring |
Trườngrequest_counts | Loạiobject |
Trườngresults[].id | Loạistring |
Trườngresults[].response.status_code | Loạiinteger |
Trườngresults[].response.request_id | Loạistring |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnCấu trúc nội tuyến không đúng tài liệu, có khóa trùng, định danh phần tử không hợp lệ hoặc xung đột với khả năng đã cấu hình của mô hình. | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi bất kỳ yêu cầu mới nào. |
Phản hồi401 · authentication_error | Điều kiệnKhóa API không hợp lệ. | Bước tiếp theoSử dụng khóa Ailoot đã được cấp quyền. |
Phản hồi403 · permission_error | Điều kiệnNhóm xử lý hàng loạt không khả dụng. | Bước tiếp theoKiểm tra quyền sử dụng của khóa/nhóm. |
Phản hồi422 · invalid_request_error | Điều kiệnXử lý hàng loạt tính phí từ số dư; yêu cầu tạo qua gói thuê bao bị từ chối. | Bước tiếp theoSử dụng nhóm đã được cấp quyền và tính phí từ số dư. |
Phản hồi422 · price_unavailable | Điều kiệnKhông thể báo giá cho dữ liệu đầu vào của lô. | Bước tiếp theoGiữ lại phản hồi; sử dụng dữ liệu đầu vào của họ API được mô tả trong tài liệu. |
Phản hồi402 · billing_error | Điều kiệnKhoản dự trữ cho xử lý hàng loạt không khả dụng. | Bước tiếp theoKhắc phục vấn đề về điều kiện tiếp nhận trước khi gửi yêu cầu mới. |
Phản hồi503 · price_unavailable | Điều kiệnGiá phương thức xử lý hàng loạt/đơn giá gốc không khả dụng. | Bước tiếp theoGiữ lại phản hồi; không thay thế đơn giá. |
Phản hồi503 · api_error | Điều kiệnTuyến cụ thể tới nhà cung cấp không khả dụng. | Bước tiếp theoGiữ lại phản hồi để sửa tuyến. |
Phản hồi503 · result_pending_check | Điều kiệnKết quả gốc cần được kiểm tra; X-Should-Retry:false. | Bước tiếp theoGiữ lại operation_id/id gốc và truy xuất trạng thái của thao tác đó; tuyệt đối không lặp lại POST gốc. |
Phản hồi404 · not_found | Điều kiệnKhông tìm thấy thao tác kiểm tra trạng thái lô hoặc thao tác thuộc một danh tính khác. | Bước tiếp theoSử dụng đúng id gốc và cùng người dùng/khóa/nhóm. |
Bí danh
Bí danh mô hình
Ailoot Ultra google/gemini-3.1-flash-lite:batch
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Google: Gemini 3.1 Flash Lite (batch)
- Có những đầu vào và kết quả nào?
POST /v1/batches·google/gemini-3.1-flash-lite:batch:text→text- Yêu cầu sử dụng những trường nào?
POST /v1/batches·google/gemini-3.1-flash-lite:batch:endpoint,model,requests,completion_window,provider- Áp dụng những giới hạn nào?
POST /v1/batches·google/gemini-3.1-flash-lite:batch:requests.min_items:1