Blog

Nuevas formas de equilibrar el coste y la fiabilidad en la API Gemini

Markdown

La API Gemini de Google ofrece niveles de inferencia Flex y Priority para equilibrar el coste y la fiabilidad en distintas cargas de trabajo.

Google presentó dos niveles de servicio para la API Gemini: Flex y Priority. Permiten a los desarrolladores elegir un nivel según las necesidades de coste, latencia y fiabilidad de una carga de trabajo.

Inferencia Flex

Flex es un nivel optimizado en costes para cargas de trabajo que pueden tolerar latencia y una fiabilidad reducida. Google afirma que cuesta un 50 % menos que la API Standard. Utiliza solicitudes síncronas, por lo que los desarrolladores pueden usar endpoints conocidos sin gestionar archivos de entrada y salida ni consultar periódicamente si los trabajos han terminado.

Entre sus posibles usos se incluyen las actualizaciones de CRM en segundo plano, las simulaciones de investigación y los flujos de trabajo de agentes que navegan o procesan información en segundo plano. Establece el parámetro service_tier en flex para usarlo:

# Using the Flex tier for background summarization
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Summarize this massive transcript...",
    config={"service_tier": "flex"},
)

# Check which tier actually served your request
print(response.sdk_http_response.headers.get("x-gemini-service-tier"))

Flex está disponible en los niveles de pago para las solicitudes a las API GenerateContent e Interactions.

Inferencia Priority

Priority es un nivel prémium pensado para el tráfico crítico. Google afirma que ofrece el máximo nivel de garantía, incluida una mayor fiabilidad durante los picos de uso. Cuando el tráfico supera los límites de Priority, las solicitudes que exceden esos límites se atienden en el nivel Standard en lugar de fallar. La respuesta indica qué nivel gestionó la solicitud, lo que permite conocer el rendimiento y la facturación.

Entre sus posibles usos se incluyen la atención al cliente en tiempo real, la moderación de contenido en directo y otras solicitudes urgentes. Establece service_tier en priority:

# Using the Priority tier for a critical alert
response = client.models.generate_content(
    model="gemini-3-flash-preview",
    contents="Triage this incoming security alert immediately.",
    config={"service_tier": "priority"},
)

Priority está disponible para usuarios con proyectos de pago de nivel 2 o nivel 3 en las API `GenerateContent` e Interactions.

Consulta la documentación de la API Gemini para ver los detalles de precios. La fuente también remite al cookbook para obtener ejemplos de código ejecutables.

Pon esta guía en práctica con Ailoot

Conecta modelos de IA a tus aplicaciones, agentes y automatizaciones mediante una sola API de Ailoot. Elige el modelo que mejor se adapte a tu tarea y sigue la documentación de Ailoot para empezar.