De nouvelles façons d’équilibrer coût et fiabilité dans l’API Gemini
MarkdownL’API Gemini de Google propose les niveaux d’inférence Flex et Priority pour équilibrer le coût et la fiabilité selon les différentes charges de travail.
Google a lancé deux niveaux de service pour l’API Gemini : Flex et Priority. Ils permettent aux développeurs de choisir un niveau en fonction des besoins d’une charge de travail en matière de coût, de latence et de fiabilité.
Inférence Flex
Flex est un niveau optimisé pour réduire les coûts, destiné aux charges de travail qui peuvent tolérer une latence et une fiabilité réduite. Selon Google, il coûte 50 % moins cher que l’API Standard. Il utilise des requêtes synchrones : les développeurs peuvent donc utiliser des points de terminaison familiers sans gérer de fichiers d’entrée et de sortie ni interroger le système pour savoir si une tâche est terminée.
Parmi les utilisations possibles figurent les mises à jour CRM en arrière-plan, les simulations de recherche et les flux de travail d’agents qui naviguent ou réfléchissent en arrière-plan. Pour l’utiliser, définissez le paramètre service_tier sur flex :
# Using the Flex tier for background summarization
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Summarize this massive transcript...",
config={"service_tier": "flex"},
)
# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))
Flex est disponible pour les niveaux payants avec les requêtes adressées aux API GenerateContent et Interactions.
Inférence Priority
Priority est un niveau premium destiné au trafic critique. Selon Google, il offre le niveau d’assurance le plus élevé, notamment une fiabilité accrue lors des pics d’utilisation. Lorsque le trafic dépasse les limites de Priority, les requêtes excédentaires sont traitées au niveau Standard au lieu d’échouer. La réponse indique le niveau qui a traité la requête, ce qui permet de suivre les performances et la facturation.
Parmi les utilisations possibles figurent l’assistance client en temps réel, la modération de contenu en direct et d’autres requêtes urgentes. Définissez service_tier sur priority :
# Using the Priority tier for a critical alert
response = client.models.generate_content(
model="gemini-3-flash-preview",
contents="Triage this incoming security alert immediately.",
config={"service_tier": "priority"},
)
Priority est disponible pour les utilisateurs disposant de projets payants de niveau Tier 2 ou Tier 3, avec les API `GenerateContent` et Interactions.
Consultez la documentation de l’API Gemini pour connaître les tarifs. La source renvoie également au cookbook, qui propose des exemples de code exécutables.
Mettez ce guide en pratique avec Ailoot
Connectez des modèles d’IA à vos applications, agents et automatisations via une seule API Ailoot. Choisissez le modèle adapté à votre tâche et suivez la documentation Ailoot pour commencer.