Nieuwe manieren om kosten en betrouwbaarheid in de Gemini API in balans te brengen
MarkdownDe Gemini API van Google biedt de inferentieniveaus Flex en Priority om kosten en betrouwbaarheid voor verschillende workloads in balans te brengen.
Google heeft twee serviceniveaus voor de Gemini API geïntroduceerd: Flex en Priority. Hiermee kunnen ontwikkelaars een niveau kiezen op basis van de kosten, latentie en betrouwbaarheidsvereisten van een workload.
Flex-inferentie
Flex is een kostengeoptimaliseerd niveau voor workloads waarbij latentie en verminderde betrouwbaarheid acceptabel zijn. Volgens Google kost het 50% minder dan de Standard API. Het maakt gebruik van synchrone verzoeken, zodat ontwikkelaars vertrouwde endpoints kunnen gebruiken zonder invoer- en uitvoerbestanden te beheren of de voltooiing van taken te controleren.
Mogelijke toepassingen zijn updates van CRM-systemen op de achtergrond, onderzoekssimulaties en agent-workflows die op de achtergrond browsen of nadenken. Stel de parameter service_tier in op flex om deze optie te gebruiken:
# Using the Flex tier for background summarization
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Summarize this massive transcript...",
config={"service_tier": "flex"},
)
# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
Flex is beschikbaar voor betaalde niveaus bij verzoeken aan de GenerateContent- en Interactions-API.
Priority-inferentie
Priority is een premiumniveau voor cruciaal verkeer. Volgens Google biedt het de hoogste mate van zekerheid, waaronder een hogere betrouwbaarheid tijdens piekgebruik. Wanneer het verkeer de limieten van Priority overschrijdt, worden overtollige verzoeken op het Standard-niveau verwerkt in plaats van te mislukken. In het antwoord staat welk niveau het verzoek heeft verwerkt, zodat prestaties en facturering inzichtelijk zijn.
Mogelijke toepassingen zijn realtime klantenondersteuning, live inhoudsmoderatie en andere tijdgevoelige verzoeken. Stel service_tier in op priority:
# Using the Priority tier for a critical alert
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Triage this incoming security alert immediately.",
config={"service_tier": "priority"},
)
Priority is beschikbaar voor gebruikers met betaalde Tier 2- of Tier 3-projecten voor de `GenerateContent`-API en de Interactions-API.
Bekijk de documentatie van de Gemini API voor informatie over prijzen. De bron verwijst ook naar de cookbook met uitvoerbare codevoorbeelden.
Ga met Ailoot aan de slag met deze gids
Verbind AI-modellen met je applicaties, agents en automatiseringen via één Ailoot-API. Kies het model dat bij je taak past en volg de documentatie van Ailoot om aan de slag te gaan.