Gemini API-де баға мен сенімділікті теңестірудің жаңа тәсілдері
MarkdownGoogle Gemini API әртүрлі жұмыс жүктемелерінде баға мен сенімділікті теңестіруге арналған Flex және Priority қорытындылау деңгейлерін ұсынады.
Google Gemini API үшін Flex және Priority атты екі қызмет деңгейін ұсынды. Олар әзірлеушілерге жұмыс жүктемесінің құнына, кідірісіне және сенімділігіне қойылатын талаптарға қарай деңгейді таңдауға мүмкіндік береді.
Flex қорытындылау деңгейі
Flex — кідіріс пен сенімділіктің төмендеуіне төзе алатын жұмыс жүктемелеріне арналған, шығынды оңтайландыратын деңгей. Google оның стандартты API-ден 50% арзан екенін айтады. Ол синхронды сұрауларды пайдаланады, сондықтан әзірлеушілер кіріс және шығыс файлдарын басқармай немесе тапсырманың аяқталуын қайта-қайта тексермей-ақ үйреншікті соңғы нүктелерді қолдана алады.
Ықтимал қолдану жағдайларына CRM деректерін фондық режимде жаңарту, зерттеу симуляциялары және фондық режимде шолу жасайтын немесе ойланатын агент жұмыс процестері жатады. Оны пайдалану үшін service_tier параметрін flex мәніне орнатыңыз:
# Using the Flex tier for background summarization
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Summarize this massive transcript...",
config={"service_tier": "flex"},
)
# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
Flex ақылы деңгейлерде GenerateContent және Interactions API сұраулары үшін қолжетімді.
Priority қорытындылау деңгейі
Priority — маңызды трафикке арналған премиум деңгей. Google оның сенімділіктің ең жоғары деңгейін, соның ішінде жүктеме шегіне жеткен кезде жоғары сенімділікті қамтамасыз ететінін айтады. Трафик Priority шектерінен асқан кезде, артық сұраулар сәтсіз аяқталмай, Standard деңгейінде өңделеді. Жауапта сұрауды қай деңгей өңдегені көрсетіледі, бұл өнімділік пен төлем туралы ақпаратты көруге мүмкіндік береді.
Ықтимал қолдану жағдайларына нақты уақыттағы тұтынушыларды қолдау, тікелей эфирдегі контент модерациясы және уақытқа сезімтал басқа сұраулар жатады. service_tier параметрін priority мәніне орнатыңыз:
# Using the Priority tier for a critical alert
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Triage this incoming security alert immediately.",
config={"service_tier": "priority"},
)
Priority `GenerateContent` API және Interactions API арқылы жұмыс істейтін 2-деңгейлі немесе 3-деңгейлі ақылы жобалары бар пайдаланушыларға қолжетімді.
Баға туралы мәліметтерді Gemini API құжаттамасынан қараңыз. Дереккөзде орындалатын код мысалдары бар cookbook-қа да сілтеме берілген.
Осы нұсқаулықты Ailoot көмегімен іске қолданыңыз
Бір Ailoot API арқылы AI модельдерін қолданбаларыңызға, агенттеріңізге және автоматтандыру жүйелеріңізге қосыңыз. Тапсырмаңызға сай модельді таңдап, жұмысты бастау үшін Ailoot құжаттамасын қараңыз.