블로그

Gemini API에서 비용과 안정성의 균형을 맞추는 새로운 방법

Markdown

Google의 Gemini API는 다양한 워크로드에서 비용과 안정성의 균형을 맞출 수 있도록 Flex 및 Priority 추론 등급을 제공합니다.

Google은 Gemini API에 Flex와 Priority라는 두 가지 서비스 등급을 도입했습니다. 개발자는 워크로드의 비용, 지연 시간, 안정성 요구 사항에 따라 등급을 선택할 수 있습니다.

Flex 추론

Flex는 지연 시간과 낮은 안정성을 감수할 수 있는 워크로드를 위한 비용 최적화 등급입니다. Google에 따르면 Standard API보다 비용이 50% 저렴합니다. 동기식 요청을 사용하므로 개발자는 입력 및 출력 파일을 관리하거나 작업 완료 여부를 확인하지 않고도 익숙한 엔드포인트를 사용할 수 있습니다.

사용 사례로는 백그라운드 CRM 업데이트, 연구 시뮬레이션, 백그라운드에서 탐색하거나 추론하는 에이전트 워크플로가 있습니다. 사용하려면 service_tier 매개변수를 flex로 설정하세요.

# Using the Flex tier for background summarization
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Summarize this massive transcript...",
    config={"service_tier": "flex"},
)

# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))

Flex는 유료 등급에서 GenerateContent 및 Interactions API 요청에 사용할 수 있습니다.

Priority 추론

Priority는 중요한 트래픽을 위한 프리미엄 등급입니다. Google에 따르면 사용량이 급증할 때 더 높은 안정성을 제공하는 등 최고 수준의 보장을 제공합니다. 트래픽이 Priority 한도를 초과하면 초과 요청은 실패하는 대신 Standard 등급에서 처리됩니다. 응답에는 요청을 처리한 등급이 표시되어 성능과 요금을 확인할 수 있습니다.

사용 사례로는 실시간 고객 지원, 실시간 콘텐츠 검토, 기타 시간에 민감한 요청이 있습니다. service_tier를 priority로 설정하세요.

# Using the Priority tier for a critical alert
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Triage this incoming security alert immediately.",
    config={"service_tier": "priority"},
)

Priority는 Tier 2 또는 Tier 3 유료 프로젝트를 사용하는 고객이 `GenerateContent` API와 Interactions API에서 이용할 수 있습니다.

요금에 관한 자세한 내용은 Gemini API 문서를 참조하세요. 출처에서는 실행 가능한 코드 예제를 제공하는 쿡북도 안내합니다.

Ailoot으로 이 가이드를 활용해 보세요

하나의 Ailoot API를 통해 AI 모델을 애플리케이션, 에이전트, 자동화에 연결하세요. 작업에 적합한 모델을 선택하고 Ailoot 문서를 따라 시작하세요.