Google: Gemma 4 26B A4B (free)

Gemma 4 26B A4B IT är Google DeepMinds instruktionsfinjusterade utgåva med expertblandning i den öppna Gemma 4-familjen. Den officiella arkitekturtabellen anger totalt 25.2 miljarder parametrar och 3.8 miljarder aktiva parametrar; A4B betecknar den avrundade storleken på antalet aktiva parametrar. Användningsområdena omfattar resonemang, programmering, agentarbetsflöden och multimodal förståelse. Den är skild från den förtränade utgåvan och från den täta 31B-modellen.

Arkitekturen med expertblandning aktiverar en delmängd av parametrarna vid varje inferenssteg: enligt den publicerade arkitekturtabellen åtta aktiva experter av 128, plus en gemensam expert. Google inriktar denna utgåva på effektiv inferens i jämförelse med den täta modellen. Den kombinerar en arkitektur med 30 lager och ett glidande fönster på 1,024 token med global uppmärksamhet, en kontext på 256K och en visuell kodare. Dessa arkitektursiffror beskriver tillverkarens modell, inte en garanterad latens eller hårdvarukonfiguration för en viss applikation.

Kontexten på 256K token lämpar sig för uppgifter som kombinerar omfattande text med visuellt underlag. Bilder och text kan varvas i samma prompt; tillverkaren rekommenderar att bildinnehållet placeras före den tillhörande texten för bästa resultat. De visuella uppgifterna omfattar objektdetektering, tolkning av dokumentsidor, förståelse av skärmar och gränssnitt, diagram, flerspråkig OCR, handskrift och utpekning av positioner. Utdata är text: extraherat innehåll, en förklaring, kod eller en föreslagen verktygsåtgärd.

Konfigurerbart tänkande gör att modellen kan resonera innan den svarar eller ge ett direkt svar. Gemma 4 lägger till en inbyggd systemroll vid sidan av rollerna user och assistant. Googles promptformat aktiverar tänkande med kontrolltoken <|think|> i systemprompten och skiljer tankekanalen från det slutliga svaret; den dokumenterade processorn kan hantera denna mall. I en konversation med flera turer ska tidigare slutliga svar finnas kvar i historiken, medan tidigare tankar utelämnas, utom i turer med verktygsanrop, där tillverkaren anger att de ska bevaras.

Inbyggda funktionsanrop stöder strukturerad verktygsanvändning, och Googles lanseringsbeskrivning dokumenterar även strukturerade JSON-utdata. Definiera uppgiften, den tillgängliga funktionen och det förväntade resultatet; applikationen utför den begärda operationen och skickar tillbaka resultatet för nästa steg. En programmeringsuppgift kan gälla generering, komplettering eller korrigering, medan en visuell assistent kan använda den returnerade texten för att förklara ett diagram eller en skärmbild. En instruktion om funktionsanrop är skild från en ansluten åtgärd som faktiskt har utförts.

Variabel bildupplösning styrs av budgeten för visuella token. De dokumenterade alternativen är 70, 140, 280, 560 och 1,120 token. Lägre budgetar passar klassificering eller bildtexter; högre budgetar bevarar fler detaljer för OCR, dokumenttolkning och liten text, men kräver mer beräkning. Avgör om du behöver helhetsbilden eller exakt text innan du förbereder bilden. Ett tydligt utsnitt av en etikett kan vara mer användbart vid extraktion än en ospecificerad begäran om att granska varje detalj på en hel sida.

Google rekommenderar temperature 1.0, top-p 0.95 och top-k 64 som familjens samplingsinställningar. Modellkortet skiljer mellan träning på fler än 140 språk och stöd direkt vid användning för fler än 35 språk. Ange svarsspråket och skriv uttryckligen i uppgiftsbeskrivningen vilka domännamn, fältnamn eller formler som ska bevaras. Siffran 256K avser kontexten; det citerade modellkortet fastställer inget separat universellt maximalt antal utdatatoken för denna utgåva.

För en uppgift som kombinerar dokument och kod ska du skicka den relevanta sidbilden, det skriftliga kravet och källkodsutdraget: ”Läs etiketterna, förklara hur denna skärm skiljer sig från specifikationen och föreslå en avgränsad korrigering av den bifogade koden.” För ett diagram kan du be svaret skilja synliga värden från en härledd trend. Gemmas modellkort beskriver begränsningar vid tvetydigt språk, mycket komplexa uppgifter och felaktiga eller inaktuella faktapåståenden. Bifoga därför de auktoritativa fakta som resultatet måste utgå från, i stället för att förvänta dig att träningskunskapen ska tillhandahålla dem.

Via Ailoot väljer du exakt detta modell-ID i /v1/chat/completions och anger uppgiften i messages. Varje meddelande innehåller en roll och sitt innehåll; håll den relevanta instruktionen och källmaterialet samlade. Samla in hela JSON-svaret eller alla SSE-segment när stream är aktiverat, och spara usage tillsammans med det skriftliga resultatet.