ブログ

Gemini API でコストと信頼性のバランスを取る新しい方法

Markdown

Google の Gemini API では、さまざまなワークロードのコストと信頼性のバランスを取るために、Flex と Priority の推論ティアを利用できます。

Google は Gemini API に Flex と Priority の 2 つのサービスティアを導入しました。開発者はワークロードのコスト、レイテンシ、信頼性の要件に応じてティアを選べます。

Flex 推論

Flex は、レイテンシの増加や信頼性の低下を許容できるワークロード向けにコストを最適化したティアです。Google によると、Standard API より 50% 低コストです。同期リクエストを使用するため、開発者は入力ファイルや出力ファイルを管理したり、ジョブの完了をポーリングしたりせずに、使い慣れたエンドポイントを利用できます。

利用例として、バックグラウンドでの CRM 更新、研究シミュレーション、バックグラウンドで閲覧や思考を行うエージェントのワークフローなどがあります。利用するには、service_tier パラメーターを flex に設定します。

# Using the Flex tier for background summarization
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Summarize this massive transcript...",
    config={"service_tier": "flex"},
)

# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))

Flex は、有料ティアでの GenerateContent および Interactions API リクエストに利用できます。

Priority 推論

Priority は、重要なトラフィック向けのプレミアムティアです。Google によると、ピーク時の利用における信頼性の向上など、最高水準の保証を提供します。トラフィックが Priority の上限を超えた場合、超過したリクエストは失敗せず、Standard ティアで処理されます。レスポンスにはリクエストを処理したティアが示されるため、パフォーマンスと請求内容を把握できます。

利用例として、リアルタイムのカスタマーサポート、ライブコンテンツのモデレーション、その他の時間制約のあるリクエストなどがあります。service_tier を priority に設定します。

# Using the Priority tier for a critical alert
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Triage this incoming security alert immediately.",
    config={"service_tier": "priority"},
)

Priority は、Tier 2 または Tier 3 の有料プロジェクトを利用するユーザーが、`GenerateContent` API および Interactions API で利用できます。

料金の詳細は、Gemini API のドキュメントをご覧ください。出典では、実行可能なコード例を掲載したクックブックも案内しています。

このガイドを Ailoot で活用する

1 つの Ailoot API を通じて、AI モデルをアプリケーション、エージェント、自動化に接続できます。タスクに合ったモデルを選び、Ailoot のドキュメントに従って利用を開始してください。