Google: Gemma 4 31B (free)

Gemma 4 31B IT est l’édition dense de la famille ouverte Gemma 4 de Google DeepMind, ajustée pour suivre des instructions. Google positionne le modèle 31B sur la qualité du modèle et son adaptation à une tâche, tandis que l’édition distincte 26B A4B utilise un mélange d’experts pour améliorer l’efficacité de l’inférence. Cette fiche concerne l’édition 31B ajustée pour suivre des instructions, et non ses poids préentraînés ou un dérivé quantifié.

Le tableau officiel de l’architecture dense indique 30,7 milliards de paramètres, 60 couches, une fenêtre glissante de 1 024 tokens et un contexte de 256K tokens. La famille associe une attention locale à fenêtre glissante à une attention globale, se termine par une couche globale et utilise un encodeur visuel dédié pour ce modèle. Ce profil est conçu pour recevoir du texte et des images et produire du texte. Ces caractéristiques décrivent l’architecture du modèle ; elles ne fixent pas le temps de réponse d’une application et n’impliquent pas la prise en charge audio proposée par d’autres tailles de Gemma 4.

Son contexte de 256K tokens permet de traiter une tâche qui associe un volume de texte conséquent à des éléments visuels. Images et texte peuvent être alternés dans un même prompt ; pour obtenir les meilleurs résultats, le fabricant recommande de placer l’image avant le texte qui s’y rapporte. Les tâches visuelles comprennent la détection d’objets, l’interprétation de pages de documents, la compréhension d’écrans et d’interfaces, les graphiques, l’OCR multilingue, l’écriture manuscrite et le pointage. La sortie est du texte : contenu extrait, explication, code ou proposition d’action à effectuer avec un outil.

La réflexion configurable permet au modèle de raisonner avant de répondre ou de donner une réponse directe. Gemma 4 ajoute un rôle système natif aux rôles utilisateur et assistant. Le format de prompt de Google active la réflexion avec le token de contrôle <|think|> dans le prompt système et sépare le canal de réflexion de la réponse finale ; le processeur documenté sait gérer ce modèle de conversation. Pour une conversation à plusieurs tours, conservez les réponses finales précédentes dans l’historique et excluez les réflexions antérieures, sauf pour les tours d’appel d’outil, où le fabricant indique qu’elles doivent être conservées.

L’appel de fonctions natif prend en charge l’utilisation structurée d’outils, et la présentation de lancement de Google documente aussi les sorties JSON structurées. Définissez la tâche, la fonction disponible et le résultat attendu ; l’application réalise l’opération demandée et renvoie son résultat pour l’étape suivante. Une tâche de programmation peut porter sur la génération, la complétion ou la correction de code, tandis qu’un assistant visuel peut utiliser le texte renvoyé pour expliquer un graphique ou un écran. Une instruction d’appel de fonction est distincte d’une action connectée réellement exécutée.

La résolution variable des images est contrôlée par le budget de tokens visuels. Les options documentées sont 70, 140, 280, 560 et 1 120 tokens. Les budgets faibles conviennent à la classification ou aux légendes ; les budgets élevés préservent davantage de détails pour l’OCR, l’analyse de documents et les petits caractères, avec un coût de calcul supplémentaire. Déterminez si vous avez besoin de la scène dans son ensemble ou du texte exact avant de préparer l’image. Un recadrage net d’une étiquette peut être plus utile pour une extraction qu’une demande générale d’examiner chaque détail d’une page entière.

Google recommande temperature 1.0, top-p 0.95 et top-k 64 comme configuration d’échantillonnage de la famille. La fiche du modèle distingue un entraînement dans plus de 140 langues d’une prise en charge immédiate de plus de 35 langues. Précisez la langue de réponse et indiquez explicitement dans le brief les noms de domaine, noms de champs ou formules à conserver. La valeur 256K est une spécification de contexte ; la fiche citée ne définit pas de maximum de sortie universel distinct pour cette édition.

Pour une tâche associant document et code, fournissez l’image de la page pertinente, l’exigence écrite et le fragment de code source : « Lisez les libellés, expliquez en quoi cet écran diffère de la spécification et proposez une correction ciblée du code fourni. » Pour un graphique, demandez de distinguer les valeurs visibles d’une tendance déduite. La fiche de Gemma mentionne des limites liées au langage ambigu, aux tâches très complexes et aux affirmations factuelles inexactes ou dépassées ; joignez donc les faits de référence que le résultat doit utiliser, plutôt que de compter sur les connaissances acquises pendant l’entraînement.

Via Ailoot, sélectionnez cet identifiant de modèle exact dans /v1/chat/completions et indiquez la tâche dans messages. Chaque message comporte un role et son content ; gardez ensemble la consigne pertinente et les documents sources. Récupérez la réponse JSON complète ou tous les segments SSE lorsque stream est activé, et conservez usage avec le résultat écrit.