# Những cách mới để cân bằng chi phí và độ tin cậy trong Gemini API

> API Gemini của Google cung cấp các tầng suy luận Flex và Priority để cân bằng chi phí và độ tin cậy cho nhiều loại khối lượng công việc.

Source: https://ailoot.ai/blog/vi/gemini-api-flex-priority-inference/
Canonical: https://ailoot.ai/blog/vi/gemini-api-flex-priority-inference/
Language: vi
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100077
Revision: sha256-1b24db981ac2af783e2b6b652a97ef118c30a9f6bc3f065c463d428c0cbc9d53


Google đã giới thiệu hai tầng dịch vụ cho Gemini API: Flex và Priority. Các tầng này cho phép nhà phát triển chọn tầng phù hợp với nhu cầu về chi phí, độ trễ và độ tin cậy của khối lượng công việc.

## Suy luận Flex

Flex là tầng được tối ưu hóa về chi phí dành cho những khối lượng công việc có thể chấp nhận độ trễ và độ tin cậy thấp hơn. Google cho biết tầng này có chi phí thấp hơn 50% so với API Standard. Tầng này sử dụng các yêu cầu đồng bộ, vì vậy nhà phát triển có thể dùng các endpoint quen thuộc mà không cần quản lý tệp đầu vào và đầu ra hoặc thăm dò trạng thái hoàn tất của tác vụ.

Các trường hợp sử dụng tiềm năng bao gồm cập nhật CRM chạy nền, mô phỏng nghiên cứu và quy trình tác vụ của agent có thể duyệt web hoặc suy nghĩ trong nền. Đặt tham số `service_tier` thành `flex` để sử dụng tầng này:

```
# Using the Flex tier for background summarization
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Summarize this massive transcript...",
    config={"service_tier": "flex"},
)

# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
```

Flex dành cho các tầng trả phí với những yêu cầu qua GenerateContent và Interactions API.

## Suy luận Priority

Priority là tầng cao cấp dành cho lưu lượng quan trọng. Google cho biết tầng này cung cấp mức đảm bảo cao nhất, bao gồm độ tin cậy cao hơn trong thời gian sử dụng cao điểm. Khi lưu lượng vượt quá giới hạn của Priority, các yêu cầu vượt mức sẽ được phục vụ ở tầng Standard thay vì thất bại. Phản hồi cho biết tầng nào đã xử lý yêu cầu, giúp bạn theo dõi hiệu suất và thanh toán.

Các trường hợp sử dụng tiềm năng bao gồm hỗ trợ khách hàng theo thời gian thực, kiểm duyệt nội dung trực tiếp và các yêu cầu nhạy cảm về thời gian khác. Đặt `service_tier` thành `priority`:

```
# Using the Priority tier for a critical alert
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Triage this incoming security alert immediately.",
    config={"service_tier": "priority"},
)
```

Priority dành cho người dùng có dự án trả phí Tier 2 hoặc Tier 3 trên cả API \`GenerateContent\` và Interactions API.

Xem [tài liệu Gemini API](https://ai.google.dev/gemini-api/docs/pricing) để biết chi tiết giá. Nguồn cũng dẫn đến cookbook để xem các ví dụ mã có thể chạy.

## Áp dụng hướng dẫn này với Ailoot

Kết nối các mô hình AI với ứng dụng, agent và quy trình tự động hóa của bạn thông qua một API Ailoot duy nhất. Chọn mô hình phù hợp với tác vụ và làm theo [tài liệu Ailoot](https://ailoot.ai/docs/) để bắt đầu.


## Ailoot · Công ty và danh mục dự án của công ty

Ailoot dựa trên kinh nghiệm vận hành tích lũy, cơ sở khách hàng lớn, dịch vụ ổn định và việc kiểm soát KPI liên tục.

Công ty và danh mục dự án của công ty: hàng triệu khách hàng; doanh số hàng tỷ mỗi tháng.

Ailoot áp dụng kinh nghiệm vận hành này để cung cấp quyền truy cập API vào các tính năng AI trong sản phẩm của khách hàng, tác tử, ứng dụng và quy trình tự động hóa.
