Google: Gemma 4 31B (free)

Gemma 4 31B IT est l’édition dense, ajustée pour suivre des instructions, de la famille ouverte Gemma 4 de Google DeepMind. Google met en avant la qualité du modèle 31B et son adaptation à une tâche, tandis que l’édition distincte 26B A4B utilise un mélange d’experts pour améliorer l’efficacité de l’inférence. Cette fiche concerne l’édition 31B nommée, ajustée pour suivre des instructions, et non ses poids préentraînés ou une version quantifiée dérivée.

Le tableau officiel de l’architecture dense indique 30,7 milliards de paramètres, 60 couches, une fenêtre glissante de 1 024 tokens et un contexte de 256K tokens. La famille combine une attention locale à fenêtre glissante et une attention globale, avec une couche globale en dernier, et utilise un encodeur visuel dédié pour ce modèle. Le profil obtenu reçoit du texte et des images et produit du texte. Ces données décrivent l’architecture du modèle ; elles ne déterminent pas le temps de réponse d’une application et n’impliquent pas la prise en charge audio d’autres tailles de Gemma 4.

Son contexte de 256K tokens permet de réunir un volume important de texte et des éléments visuels dans une tâche. Images et texte peuvent être entrelacés dans un même prompt ; le fabricant recommande de placer le contenu visuel avant le texte associé pour obtenir les meilleurs résultats. Les tâches visuelles comprennent la détection d’objets, l’interprétation de pages de documents, la compréhension d’écrans et d’interfaces, les graphiques, l’OCR multilingue, l’écriture manuscrite et le pointage. La sortie est textuelle : contenu extrait, explication, code ou action d’outil proposée.

Le raisonnement configurable permet au modèle de réfléchir avant de répondre ou de fournir une réponse directe. Gemma 4 ajoute un rôle système natif aux rôles utilisateur et assistant. Le format de prompt de Google active le raisonnement avec le token de contrôle <|think|> dans le prompt système et sépare le canal de réflexion de la réponse finale ; le processeur documenté peut gérer ce gabarit. Dans une conversation à plusieurs tours, conservez les réponses finales précédentes dans l’historique et excluez les réflexions antérieures, sauf dans les tours d’appel d’outil, où le fabricant indique qu’elles doivent être conservées.

Les appels de fonctions natifs permettent une utilisation structurée des outils ; la présentation de lancement de Google documente aussi les sorties JSON structurées. Définissez la tâche, la fonction disponible et le résultat attendu ; l’application exécute l’opération demandée et renvoie sa sortie pour l’étape suivante. Une tâche de code peut demander une génération, une complétion ou une correction, tandis qu’un assistant visuel peut utiliser le texte renvoyé pour expliquer un graphique ou un écran. Une instruction d’appel de fonction se distingue d’une action connectée effectivement exécutée.

La résolution variable des images est contrôlée par le budget de tokens visuels. Les options documentées sont 70, 140, 280, 560 et 1 120 tokens. Les budgets faibles conviennent à la classification ou aux légendes ; les budgets plus élevés préservent davantage de détails pour l’OCR, l’analyse de documents et les petits caractères, au prix de calculs supplémentaires. Déterminez si vous avez besoin de la scène d’ensemble ou du lettrage exact avant de préparer l’image. Un recadrage net d’une étiquette peut être plus utile à une extraction qu’une demande générale d’examiner chaque détail d’une page entière.

Google recommande temperature 1.0, top-p 0.95 et top-k 64 comme configuration d’échantillonnage de la famille. La fiche du modèle distingue un entraînement dans plus de 140 langues d’une prise en charge immédiate de plus de 35 langues. Précisez la langue de réponse et les noms de domaine, noms de champs ou formules à conserver explicitement dans les consignes. Le chiffre 256K décrit le contexte ; la fiche citée n’établit pas de plafond universel distinct pour la sortie de cette édition.

Pour une tâche mêlant document et code, fournissez l’image de la page concernée, l’exigence écrite et l’extrait source : « Lisez les libellés, expliquez en quoi cet écran diffère de la spécification et proposez une correction ciblée du code fourni. » Pour un graphique, demandez de séparer les valeurs visibles de la tendance déduite. La fiche de Gemma signale des limites concernant le langage ambigu, les tâches très complexes et les affirmations factuelles inexactes ou dépassées ; joignez donc les faits faisant autorité que le résultat doit utiliser, sans compter sur les connaissances d’entraînement pour les fournir.

Avec Ailoot, sélectionnez cet identifiant exact de modèle dans /v1/chat/completions et fournissez la tâche dans messages. Chaque message contient un rôle et son contenu ; regroupez l’instruction pertinente et les sources. Recueillez la réponse JSON complète ou tous les segments SSE lorsque stream est activé, et conservez usage avec le résultat écrit.