Google: Gemma 4 31B (free)

Gemma 4 31B IT è l’edizione densa di Google DeepMind, ottimizzata per seguire le istruzioni, della famiglia aperta Gemma 4. Google presenta il modello 31B con particolare attenzione alla qualità del modello e all’adattamento a un’attività, mentre l’edizione separata 26B A4B usa una miscela di esperti per l’efficienza dell’inferenza. Questa scheda riguarda l’edizione 31B indicata, ottimizzata per seguire le istruzioni, e non i suoi pesi preaddestrati o una derivata quantizzata.

La tabella ufficiale dell’architettura densa riporta 30.7 miliardi di parametri, 60 livelli, una finestra scorrevole di 1,024 token e un contesto di 256K token. La famiglia combina attenzione locale a finestra scorrevole e attenzione globale, terminando con un livello globale, e per questo modello usa un encoder visivo dedicato. Il profilo risultante è progettato per input testuali e immagini, con output testuale. Questi sono dati dell’architettura del modello: non determinano il tempo di risposta di un’applicazione e non implicano il supporto audio previsto per altre dimensioni di Gemma 4.

Il contesto di 256K token consente di affrontare attività che combinano testi estesi e prove visive. Immagini e testo possono essere alternati nello stesso prompt; per ottenere i risultati migliori, il produttore raccomanda di collocare le immagini prima del testo a cui si riferiscono. Le attività visive comprendono rilevamento di oggetti, interpretazione di pagine di documenti, comprensione di schermate e interfacce, grafici, OCR multilingue, scrittura a mano e indicazione di punti nell’immagine. L’output è testo: contenuto estratto, una spiegazione, codice o una proposta di azione tramite strumenti.

Il ragionamento configurabile permette al modello di ragionare prima di rispondere oppure di fornire una risposta diretta. Gemma 4 aggiunge un ruolo system nativo ai ruoli user e assistant. Il formato dei prompt di Google abilita il ragionamento tramite il token di controllo <|think|> nel prompt di sistema e separa il canale dei pensieri dalla risposta finale; il processore documentato è in grado di gestire questo modello di prompt. In una conversazione con più turni, conserva nella cronologia le precedenti risposte finali ed escludi i pensieri precedenti, tranne nei turni con chiamate a strumenti, per i quali il produttore indica di conservarli.

Native Function Calling supporta l’uso strutturato degli strumenti; anche la descrizione del lancio di Google documenta un output JSON strutturato. Definisci l’attività, la funzione disponibile e il risultato atteso; l’applicazione esegue l’operazione richiesta e restituisce il suo output per il passaggio successivo. Un’attività di programmazione può richiedere la generazione, il completamento o la correzione di codice, mentre un assistente visivo può usare il testo restituito per spiegare un grafico o una schermata. Un’istruzione di chiamata di funzione è distinta da un’azione collegata che sia stata effettivamente eseguita.

La risoluzione variabile delle immagini è controllata dal budget di token visivi. Le opzioni documentate sono 70, 140, 280, 560 e 1,120 token. I budget più bassi sono adatti alla classificazione o alle didascalie; quelli più alti conservano maggiori dettagli per OCR, analisi dei documenti e testi piccoli, richiedendo calcoli aggiuntivi. Decidi se serve la scena nel suo insieme oppure il testo esatto prima di preparare l’immagine. Un ritaglio nitido di un’etichetta può essere più utile per un’attività di estrazione rispetto a una richiesta generica di esaminare ogni dettaglio di una pagina intera.

Google raccomanda temperature 1.0, top-p 0.95 e top-k 64 come configurazione di campionamento della famiglia. La scheda del modello distingue l’addestramento in più di 140 lingue dal supporto immediato in più di 35 lingue. Indica la lingua della risposta e specifica nel brief i nomi di dominio, i nomi dei campi o le formule da mantenere. Il valore 256K specifica il contesto; la scheda del modello citata non stabilisce per questa edizione un limite massimo universale distinto per l’output.

Per un’attività che unisce documenti e codice, fornisci l’immagine della pagina pertinente, il requisito scritto e il frammento di codice: «Leggi le etichette, spiega in che cosa questa schermata differisce dalla specifica e proponi una correzione mirata al codice fornito». Per un grafico, chiedi di distinguere nella risposta i valori visibili dalla tendenza dedotta. La scheda di Gemma segnala limiti relativi a linguaggio ambiguo, attività molto complesse e affermazioni fattuali errate o obsolete: allega quindi i fatti autorevoli su cui deve basarsi il risultato richiesto, invece di aspettarti che vengano forniti dalle conoscenze apprese durante l’addestramento.

Tramite Ailoot, seleziona questo esatto ID del modello in /v1/chat/completions e fornisci l’attività in messages. Ogni messaggio contiene un role e il relativo content; mantieni insieme l’istruzione pertinente e il materiale di partenza. Raccogli la risposta JSON completa oppure tutti i segmenti SSE quando stream è abilitato e conserva usage insieme al risultato scritto.