Google: Gemma 4 26B A4B (free)

Gemma 4 26B A4B IT is de op instructies afgestemde mixture-of-experts-editie van Google DeepMind binnen de open Gemma 4-familie. De officiële architectuurtabel vermeldt in totaal 25.2 miljard parameters en 3.8 miljard actieve parameters; A4B duidt de afgeronde schaal van het aantal actieve parameters aan. Het model is bedoeld voor redeneren, programmeren, agentworkflows en multimodaal begrip. Het staat los van de vooraf getrainde editie en van het dichte 31B-model.

De mixture-of-experts-opzet activeert bij elke inferentiestap een deel van de parameters: volgens de gepubliceerde architectuurtabel acht actieve experts uit 128, plus één gedeelde expert. Google richt deze editie op efficiëntere inferentie ten opzichte van het dichte model. Het combineert een architectuur met 30 lagen en een sliding window van 1,024 tokens met globale attention, een context van 256K en een visuele encoder. Deze architectuurgetallen beschrijven het model van de maker en vormen geen garantie voor latency of een hardwareconfiguratie van een specifieke applicatie.

De context van 256K tokens ondersteunt taken waarin veel tekst wordt gecombineerd met visueel bewijsmateriaal. Afbeeldingen en tekst kunnen afwisselend in één prompt staan; voor de beste resultaten raadt de fabrikant aan de afbeelding vóór de bijbehorende tekst te plaatsen. Visuele taken omvatten objectdetectie, interpretatie van documentpagina’s, begrip van schermen en interfaces, grafieken, meertalige OCR, handschrift en het aanwijzen van locaties. De uitvoer is tekst: geëxtraheerde inhoud, een uitleg, code of een voorgestelde toolactie.

Met instelbaar redeneren kan het model eerst nadenken of direct antwoorden. Gemma 4 voegt een native system-rol toe naast de user- en assistant-rollen. Het promptformaat van Google schakelt redeneren in met het besturingstoken <|think|> in de systeemprompt en scheidt het denkkanaal van het uiteindelijke antwoord; de gedocumenteerde processor kan deze template verwerken. Bewaar bij gesprekken met meerdere beurten eerdere definitieve antwoorden in de geschiedenis en laat eerdere gedachten weg, behalve bij beurten met toolaanroepen: volgens de fabrikant moeten die gedachten behouden blijven.

Native Function Calling ondersteunt gestructureerd toolgebruik, en Googles introductiebeschrijving vermeldt ook gestructureerde JSON-uitvoer. Definieer de taak, de beschikbare functie en het verwachte resultaat; de applicatie voert de gevraagde handeling uit en geeft de uitvoer terug voor de volgende stap. Een programmeertaak kan vragen om het genereren, aanvullen of corrigeren van code, terwijl een visuele assistent de teruggegeven tekst kan gebruiken om een grafiek of scherm uit te leggen. Een instructie voor een functieaanroep is iets anders dan een gekoppelde actie die daadwerkelijk is uitgevoerd.

De variabele afbeeldingsresolutie wordt bepaald door het budget voor visuele tokens. De gedocumenteerde opties zijn 70, 140, 280, 560 en 1,120 tokens. Lagere budgetten zijn geschikt voor classificatie of bijschriften; hogere budgetten behouden meer detail voor OCR, documentverwerking en kleine tekst, maar vergen meer rekenwerk. Bepaal vóór het voorbereiden van de afbeelding of u de hele scène of de exacte tekst nodig hebt. Een duidelijke uitsnede van een label kan voor extractie nuttiger zijn dan een ongerichte opdracht om elk detail van een volledige pagina te bekijken.

Google raadt temperature 1.0, top-p 0.95 en top-k 64 aan als samplingconfiguratie voor de familie. De modelkaart maakt onderscheid tussen training in meer dan 140 talen en directe ondersteuning voor meer dan 35 talen. Vermeld de antwoordtaal en geef in de opdracht expliciet aan welke domeinnamen, veldnamen of formules behouden moeten blijven. Het getal 256K beschrijft de context; de aangehaalde modelkaart stelt voor deze editie geen afzonderlijke, algemeen geldende maximale uitvoerlengte vast.

Lever voor een opdracht met documenten en code de relevante pagina-afbeelding, de schriftelijke eis en het broncodefragment aan: “Lees de labels, leg uit hoe dit scherm afwijkt van de specificatie en stel een gerichte correctie voor de meegeleverde code voor.” Vraag bij een grafiek om onderscheid tussen zichtbare waarden en een afgeleide trend. De modelkaart van Gemma noemt beperkingen bij dubbelzinnige taal, zeer complexe taken en onjuiste of verouderde feitelijke uitspraken. Voeg daarom de gezaghebbende feiten toe die het gevraagde resultaat moet gebruiken, in plaats van te verwachten dat de trainingskennis die levert.

Selecteer via Ailoot deze exacte model-ID in /v1/chat/completions en geef de taak mee in messages. Elk bericht bevat een role en de bijbehorende content; houd de relevante instructie en het bronmateriaal bij elkaar. Verzamel de volledige JSON-response of alle SSE-segmenten wanneer stream is ingeschakeld en bewaar usage bij het geschreven resultaat.