Google: Gemma 4 26B A4B (free)

Gemma 4 26B A4B IT ist Google DeepMinds instruktionsabgestimmte Mixture-of-Experts-Edition der offenen Gemma-4-Familie. Die offizielle Architekturtabelle nennt insgesamt 25.2 Milliarden Parameter und 3.8 Milliarden aktive Parameter; A4B bezeichnet die gerundete Grössenordnung der aktiven Parameter. Das Modell ist für Schlussfolgern, Programmierung, Agentenabläufe und multimodales Verständnis vorgesehen. Es unterscheidet sich von der vortrainierten Edition und vom dichten 31B-Modell.

Das Mixture-of-Experts-Design aktiviert bei jedem Inferenzschritt einen Teil der Parameter: Laut veröffentlichter Architekturtabelle sind acht von 128 Experten aktiv, ergänzt durch einen gemeinsam genutzten Experten. Google positioniert diese Edition als inferenzeffizientere Alternative zum dichten Modell. Sie verbindet 30 Schichten und ein gleitendes Fenster von 1,024 Tokens mit globaler Attention, einem 256K-Kontext und einem visuellen Encoder. Diese Architekturwerte beschreiben das Herstellermodell, keine garantierte Latenz oder Hardwarekonfiguration einer bestimmten Anwendung.

Der Kontext von 256K Tokens eignet sich für Aufgaben, die umfangreichen Text mit visuellen Belegen verbinden. Bilder und Text können in einem Prompt abwechselnd angeordnet werden; für die besten Ergebnisse empfiehlt der Hersteller, Bildinhalte vor dem zugehörigen Text zu platzieren. Zu den visuellen Aufgaben gehören Objekterkennung, die Auswertung von Dokumentseiten, das Verständnis von Bildschirminhalten und Benutzeroberflächen, Diagramme, mehrsprachige OCR, Handschrift und das Zeigen auf Bildbereiche. Die Ausgabe ist Text: extrahierte Inhalte, eine Erklärung, Code oder eine vorgeschlagene Werkzeugaktion.

Konfigurierbares Denken erlaubt dem Modell, vor der Antwort nachzudenken oder direkt zu antworten. Gemma 4 ergänzt die Rollen user und assistant um eine native system-Rolle. Googles Prompt-Format aktiviert das Denken mit dem Steuertoken <|think|> im System-Prompt und trennt den Denkkanal von der endgültigen Antwort; der dokumentierte Prozessor kann diese Vorlage verarbeiten. Behalten Sie bei Gesprächen über mehrere Runden die bisherigen endgültigen Antworten im Verlauf und lassen Sie frühere Gedankengänge weg. Eine Ausnahme sind Runden mit Werkzeugaufrufen: Laut Hersteller sollen die Gedankengänge dort erhalten bleiben.

Native Function Calling unterstützt den strukturierten Werkzeugeinsatz; Googles Einführung beschreibt zudem strukturierte JSON-Ausgaben. Definieren Sie die Aufgabe, die verfügbare Funktion und das erwartete Ergebnis; die Anwendung führt den angeforderten Vorgang aus und gibt dessen Ausgabe für den nächsten Schritt zurück. Eine Programmieraufgabe kann die Erstellung, Ergänzung oder Korrektur von Code verlangen, während ein visueller Assistent mit dem zurückgegebenen Text ein Diagramm oder einen Bildschirm erklären kann. Eine Anweisung für einen Funktionsaufruf ist von einer angebundenen Aktion zu unterscheiden, die tatsächlich ausgeführt wurde.

Die variable Bildauflösung wird über das visuelle Token-Budget gesteuert. Dokumentiert sind 70, 140, 280, 560 und 1,120 Tokens. Niedrigere Budgets eignen sich für Klassifikation oder Bildbeschreibungen; höhere Budgets erhalten mehr Details für OCR, das Parsen von Dokumenten und kleine Schrift, benötigen aber mehr Rechenleistung. Entscheiden Sie vor der Bildaufbereitung, ob Sie die Gesamtszene oder den genauen Wortlaut benötigen. Ein klarer Ausschnitt eines Etiketts kann für eine Extraktionsaufgabe hilfreicher sein als die pauschale Aufforderung, jedes Detail einer ganzen Seite zu prüfen.

Google empfiehlt temperature 1.0, top-p 0.95 und top-k 64 als Sampling-Konfiguration der Modellfamilie. Die Modellkarte unterscheidet zwischen dem Training in mehr als 140 Sprachen und der direkten Unterstützung von mehr als 35 Sprachen. Nennen Sie die gewünschte Antwortsprache und geben Sie im Briefing ausdrücklich an, welche Domänennamen, Feldnamen oder Formeln erhalten bleiben müssen. Die Angabe 256K bezeichnet den Kontext; die zitierte Modellkarte legt für diese Edition keine separate, allgemeingültige maximale Ausgabelänge fest.

Stellen Sie für eine Aufgabe zu Dokumenten und Code das relevante Seitenbild, die schriftliche Anforderung und den Quellcodeausschnitt bereit: «Lesen Sie die Beschriftungen, erklären Sie die Abweichungen dieses Bildschirms von der Spezifikation und schlagen Sie eine gezielte Korrektur am bereitgestellten Code vor.» Bitten Sie bei einem Diagramm darum, sichtbare Werte von einem abgeleiteten Trend zu trennen. Gemmas Modellkarte nennt Grenzen bei mehrdeutiger Sprache, sehr komplexen Aufgaben sowie falschen oder veralteten Tatsachenangaben. Fügen Sie deshalb die massgeblichen Fakten bei, auf denen das gewünschte Ergebnis beruhen muss, statt sich dafür auf das Trainingswissen zu verlassen.

Wählen Sie über Ailoot diese genaue Modell-ID in /v1/chat/completions und übermitteln Sie die Aufgabe in messages. Jede Nachricht enthält eine role und ihren content; halten Sie die relevante Anweisung und das Ausgangsmaterial zusammen. Erfassen Sie die vollständige JSON-Antwort oder bei aktiviertem stream sämtliche SSE-Segmente und bewahren Sie usage zusammen mit dem schriftlichen Ergebnis auf.