דרכים חדשות לאיזון בין עלות לאמינות ב-Gemini API
MarkdownAPI Gemini של Google מציעה את שכבות ההסקה Flex ו-Priority לאיזון בין עלות לאמינות בעומסי עבודה שונים.
Google הציגה שתי שכבות שירות ל-Gemini API: Flex ו-Priority. הן מאפשרות למפתחים לבחור שכבה בהתאם לצורכי העלות, ההשהיה והאמינות של עומס העבודה.
הסקה ב-Flex
Flex היא שכבה מותאמת לעלות עבור עומסי עבודה שיכולים לסבול השהיה ואמינות מופחתת. לפי Google, היא עולה 50% פחות מ-Standard API. היא משתמשת בבקשות סינכרוניות, כך שמפתחים יכולים להשתמש בנקודות קצה מוכרות בלי לנהל קובצי קלט ופלט או לבדוק שוב ושוב אם המשימה הושלמה.
שימושים אפשריים כוללים עדכוני CRM ברקע, סימולציות מחקר ותהליכי עבודה של סוכנים הגולשים או חושבים ברקע. כדי להשתמש בה, יש להגדיר את הפרמטר service_tier לערך flex:
# Using the Flex tier for background summarization
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Summarize this massive transcript...",
config={"service_tier": "flex"},
)
# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
Flex זמינה בשכבות בתשלום עבור בקשות GenerateContent ו-Interactions API.
הסקה ב-Priority
Priority היא שכבת פרימיום המיועדת לתעבורה קריטית. לפי Google, היא מספקת את רמת ההבטחה הגבוהה ביותר, ובכלל זה אמינות גבוהה יותר בזמן שיא השימוש. כאשר התעבורה חורגת מהמגבלות של Priority, בקשות עודפות מטופלות בשכבת Standard במקום להיכשל. התגובה מציינת איזו שכבה טיפלה בבקשה, וכך מספקת מידע על הביצועים והחיוב.
שימושים אפשריים כוללים תמיכת לקוחות בזמן אמת, ניטור תוכן חי ובקשות אחרות הרגישות לזמן. יש להגדיר את service_tier לערך priority:
# Using the Priority tier for a critical alert
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Triage this incoming security alert immediately.",
config={"service_tier": "priority"},
)
Priority זמינה למשתמשים עם פרויקטים בתשלום Tier 2 או Tier 3 עבור `GenerateContent` API ו-Interactions API.
לפרטים על התמחור, ראו את התיעוד של Gemini API. המקור מפנה גם ל-cookbook ובו דוגמאות קוד שניתן להריץ.
יישום המדריך הזה עם Ailoot
חברו מודלי AI ליישומים, לסוכנים ולאוטומציות שלכם באמצעות Ailoot API אחד. בחרו את המודל המתאים למשימה שלכם ופעלו לפי התיעוד של Ailoot כדי להתחיל.