Tinklaraštis

Nauji būdai suderinti kainą ir patikimumą Gemini API

Markdown

Google Gemini API siūlo „Flex“ ir „Priority“ išvadų lygius, kad būtų galima derinti skirtingų darbo krūvių kainą ir patikimumą.

Google pristatė du Gemini API paslaugų lygius: „Flex“ ir „Priority“. Jie leidžia kūrėjams pasirinkti lygį pagal darbo krūvio kainos, delsos ir patikimumo poreikius.

„Flex“ išvadų lygis

„Flex“ yra kainai optimizuotas lygis, skirtas darbo krūviams, kuriems priimtina delsa ir mažesnis patikimumas. Google teigia, kad jis kainuoja 50 % mažiau nei standartinė API. Jis naudoja sinchronines užklausas, todėl kūrėjai gali naudoti įprastus galinius taškus ir nevaldyti įvesties bei išvesties failų ar periodiškai netikrinti, ar darbas baigtas.

Galimi panaudojimo atvejai: foniniai CRM atnaujinimai, tyrimų simuliacijos ir agentų darbo eigos, kurios fone naršo arba mąsto. Norėdami jį naudoti, nustatykite parametrą service_tier į flex:

# Using the Flex tier for background summarization
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Summarize this massive transcript...",
    config={"service_tier": "flex"},
)

# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))

„Flex“ pasiekiamas mokamuose planuose, kai naudojamos GenerateContent ir Interactions API užklausos.

„Priority“ išvadų lygis

„Priority“ yra aukščiausios klasės lygis, skirtas kritiniam srautui. Google teigia, kad jis užtikrina aukščiausią garantijų lygį, įskaitant didesnį patikimumą esant didžiausiam naudojimo intensyvumui. Kai srautas viršija „Priority“ ribas, perteklinės užklausos aptarnaujamos standartiniu lygiu, o ne atmetamos. Atsakyme nurodoma, kuris lygis apdorojo užklausą, todėl galima stebėti našumą ir atsiskaitymą.

Galimi panaudojimo atvejai: klientų aptarnavimas realiuoju laiku, tiesioginė turinio moderacija ir kitos laiko atžvilgiu jautrios užklausos. Nustatykite service_tier į priority:

# Using the Priority tier for a critical alert
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Triage this incoming security alert immediately.",
    config={"service_tier": "priority"},
)

„Priority“ pasiekiamas naudotojams, turintiems 2 arba 3 lygio mokamus projektus, naudojant `GenerateContent` API ir Interactions API.

Kainos informacija pateikiama Gemini API dokumentacijoje. Šaltinyje taip pat nurodoma, kad vykdomojo kodo pavyzdžių rasite receptų rinkinyje.

Pritaikykite šį vadovą su Ailoot

Prijunkite AI modelius prie savo programų, agentų ir automatizacijų naudodami vieną Ailoot API. Pasirinkite jūsų užduočiai tinkamą modelį ir pradėkite nuo Ailoot dokumentacijos.