Novi načini za uravnoteženje stroškov in zanesljivosti v Gemini API
MarkdownGemini API podjetja Google ponuja ravni sklepanja Flex in Priority za uravnoteženje stroškov in zanesljivosti pri različnih delovnih obremenitvah.
Google je za Gemini API uvedel dve ravni storitve: Flex in Priority. Razvijalcem omogočata, da izberejo raven glede na potrebe delovne obremenitve po stroških, zakasnitvi in zanesljivosti.
Sklepanje Flex
Flex je stroškovno optimizirana raven za delovne obremenitve, ki prenesejo zakasnitve in manjšo zanesljivost. Google navaja, da stane 50 % manj kot standardni API. Uporablja sinhrone zahteve, zato lahko razvijalci uporabljajo znane končne točke, ne da bi morali upravljati vhodne in izhodne datoteke ali preverjati, kdaj je opravilo končano.
Med možnimi načini uporabe so posodobitve CRM v ozadju, raziskovalne simulacije in delovni tokovi agentov, ki brskajo ali razmišljajo v ozadju. Če ga želite uporabiti, nastavite parameter service_tier na flex:
# Using the Flex tier for background summarization
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Summarize this massive transcript...",
config={"service_tier": "flex"},
)
# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
Flex je na voljo v plačljivih ravneh za zahteve GenerateContent in Interactions API.
Sklepanje Priority
Priority je premijska raven, namenjena kritičnemu prometu. Google navaja, da zagotavlja najvišjo stopnjo jamstva, vključno z večjo zanesljivostjo ob največji obremenitvi. Ko promet preseže omejitve Priority, se presežne zahteve obravnavajo na standardni ravni, namesto da bi bile zavrnjene. Odziv pokaže, katera raven je obravnavala zahtevo, zato sta zmogljivost in obračunavanje preglednejša.
Med možnimi načini uporabe so podpora strankam v realnem času, moderiranje vsebine v živo in druge časovno občutljive zahteve. Nastavite service_tier na priority:
# Using the Priority tier for a critical alert
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Triage this incoming security alert immediately.",
config={"service_tier": "priority"},
)
Priority je na voljo uporabnikom plačljivih projektov Tier 2 ali Tier 3 prek API-ja `GenerateContent` in API-ja Interactions.
Za podrobnosti o cenah glejte dokumentacijo Gemini API. Vir napotuje tudi na kuharsko knjigo z izvedljivimi primeri kode.
Uporabite ta vodnik z Ailoot
Povežite modele umetne inteligence s svojimi aplikacijami, agenti in avtomatizacijami prek enega API-ja Ailoot. Izberite model, ki ustreza vaši nalogi, in za začetek upoštevajte dokumentacijo Ailoot.