Новые способы сбалансировать стоимость и надёжность в Gemini API
MarkdownAPI Gemini от Google предлагает уровни обработки запросов Flex и Priority, позволяя сбалансировать стоимость и надёжность для разных рабочих нагрузок.
Google представила два уровня обслуживания для Gemini API: Flex и Priority. Они позволяют разработчикам выбирать уровень с учётом стоимости, задержки и требований к надёжности рабочей нагрузки.
Обработка запросов Flex
Flex — это уровень с оптимизированной стоимостью для рабочих нагрузок, где допустимы задержки и снижение надёжности. По данным Google, он стоит на 50% меньше, чем Standard API. Он использует синхронные запросы, поэтому разработчики могут пользоваться привычными конечными точками, не управляя входными и выходными файлами и не проверяя, завершена ли обработка задания.
Возможные сценарии использования — фоновые обновления CRM, исследовательские симуляции и рабочие процессы агентов, которые просматривают данные или обдумывают задачу в фоновом режиме. Чтобы использовать этот уровень, задайте параметр service_tier со значением flex:
# Using the Flex tier for background summarization
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Summarize this massive transcript...",
config={"service_tier": "flex"},
)
# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
Flex доступен на платных тарифах для запросов к API GenerateContent и Interactions.
Обработка запросов Priority
Priority — это премиальный уровень для критически важного трафика. По данным Google, он обеспечивает максимальный уровень гарантий, в том числе более высокую надёжность в периоды пиковой нагрузки. Когда трафик превышает лимиты Priority, избыточные запросы обрабатываются на уровне Standard, а не завершаются ошибкой. В ответе указывается, какой уровень обработал запрос, что позволяет отслеживать производительность и выставление счетов.
Возможные сценарии использования — поддержка клиентов в реальном времени, модерация контента в прямом эфире и другие запросы, чувствительные ко времени. Задайте для service_tier значение priority:
# Using the Priority tier for a critical alert
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Triage this incoming security alert immediately.",
config={"service_tier": "priority"},
)
Priority доступен пользователям платных проектов уровня Tier 2 или Tier 3 для API `GenerateContent` и Interactions.
Подробности о ценах см. в документации Gemini API. В источнике также предлагается обратиться к cookbook, где приведены готовые к запуску примеры кода.
Примените это руководство с Ailoot
Подключайте модели ИИ к приложениям, агентам и автоматизациям через единый API Ailoot. Выберите модель для своей задачи и начните работу, следуя документации Ailoot.