Google: Gemma 4 31B (free)

Gemma 4 31B IT es la edición densa ajustada para seguir instrucciones de la familia abierta Gemma 4 de Google DeepMind. Google presenta el modelo 31B en torno a la calidad del modelo y su adaptación a una tarea, mientras que la edición independiente 26B A4B utiliza una mezcla de expertos para mejorar la eficiencia de inferencia. Esta ficha se refiere a la edición 31B ajustada para seguir instrucciones que lleva ese nombre, no a sus pesos preentrenados ni a una variante cuantizada.

La tabla oficial de arquitectura densa indica 30.7 mil millones de parámetros, 60 capas, una ventana deslizante de 1024 tokens y un contexto de 256K tokens. La familia combina atención local de ventana deslizante con atención global, termina con una capa global y utiliza un codificador visual específico para este modelo. El perfil resultante está diseñado para entrada de texto e imagen con salida de texto. Son datos de la arquitectura del modelo; no determinan el tiempo de respuesta de una aplicación ni implican la compatibilidad con audio de otros tamaños de Gemma 4.

Su contexto de 256K tokens permite abordar una tarea que combine texto extenso con información visual. Las imágenes y el texto pueden intercalarse en un único prompt; el fabricante recomienda colocar el contenido de imagen antes del texto relacionado para obtener los mejores resultados. Las tareas visuales incluyen detección de objetos, interpretación de páginas de documentos, comprensión de pantallas e interfaces, gráficos, OCR multilingüe, escritura a mano y señalamiento. La salida es texto: contenido extraído, una explicación, código o una propuesta de acción con una herramienta.

El razonamiento configurable permite al modelo razonar antes de responder o dar una respuesta directa. Gemma 4 añade un rol system nativo junto con los roles user y assistant. El formato de prompt de Google activa el razonamiento con el token de control <|think|> en el prompt del sistema y separa el canal de pensamiento de la respuesta final; su procesador documentado puede gestionar esa plantilla. En una conversación de varios turnos, conserva las respuestas finales anteriores en el historial y excluye los pensamientos previos, salvo en los turnos con llamadas a herramientas, donde el fabricante indica que deben conservarse.

Native Function Calling permite el uso estructurado de herramientas, y la descripción de lanzamiento de Google también documenta la salida JSON estructurada. Define la tarea, la función disponible y el resultado esperado; la aplicación realiza la operación solicitada y devuelve su salida para el siguiente paso. Una tarea de programación puede solicitar generación, finalización o corrección, mientras que un asistente visual puede usar el texto devuelto para explicar un gráfico o una pantalla. Una instrucción de llamada a función es distinta de una acción conectada que se haya ejecutado realmente.

La resolución variable de las imágenes se controla mediante el presupuesto de tokens visuales. Las opciones documentadas son 70, 140, 280, 560 y 1120 tokens. Los presupuestos menores son adecuados para clasificación o descripciones; los mayores conservan más detalle para OCR, análisis de documentos y texto pequeño, con un costo computacional adicional. Decide si necesitas la escena general o las letras exactas antes de preparar la imagen. Un recorte nítido de una etiqueta puede ser más útil para una tarea de extracción que una petición sin concretar de examinar todos los detalles de una página completa.

Google recomienda temperature 1.0, top-p 0.95 y top-k 64 como configuración de muestreo de la familia. La ficha del modelo distingue entre entrenamiento en más de 140 idiomas y compatibilidad lista para usar con más de 35 idiomas. Indica el idioma de respuesta y especifica en la tarea los nombres de dominio, nombres de campo o fórmulas que deben conservarse. La cifra 256K es una especificación del contexto; la ficha del modelo citada no establece un máximo de salida universal independiente para esta edición.

Para una tarea con documentos y código, proporciona la imagen de la página pertinente, el requisito escrito y el fragmento de código fuente: «Lee las etiquetas, explica en qué se diferencia esta pantalla de la especificación y propone una corrección acotada al código proporcionado». Para un gráfico, pide que la respuesta separe los valores visibles de una tendencia inferida. La ficha de Gemma señala limitaciones relacionadas con el lenguaje ambiguo, las tareas muy complejas y las afirmaciones fácticas incorrectas o desactualizadas; por eso, adjunta los datos de fuentes autorizadas que debe utilizar el resultado solicitado en vez de esperar que los aporte el conocimiento adquirido durante el entrenamiento.

A través de Ailoot, selecciona el ID exacto de este modelo en /v1/chat/completions y proporciona la tarea en messages. Cada mensaje contiene un role y su content; mantén juntas las instrucciones pertinentes y el material de origen. Recopila la respuesta JSON completa o todos los segmentos SSE cuando stream esté activado y conserva usage junto con el resultado escrito.