Google: Gemma 4 31B (free)

Gemma 4 31B IT er Google DeepMinds instruktionstilpassede, tætte udgave af den åbne Gemma 4-familie. Google fremhæver modelkvalitet og opgavetilpasning for 31B-modellen, mens den særskilte 26B A4B-udgave bruger en blanding af eksperter til effektiv inferens. Dette kort omhandler den navngivne, instruktionstilpassede 31B-udgave frem for dens fortrænede vægte eller en kvantiseret afledning.

Den officielle arkitekturtabel for den tætte model angiver 30.7 milliarder parametre, 60 lag, et glidende vindue på 1,024 tokens og en kontekst på 256K tokens. Familien kombinerer lokal attention med glidende vindue og global attention, slutter med et globalt lag og bruger en dedikeret visuel encoder til denne model. Den resulterende profil er beregnet til tekst- og billedinput med tekstoutput. Dette er fakta om modelarkitekturen; de fastlægger ikke en applikations svartid og indebærer ikke lydunderstøttelsen fra andre Gemma 4-størrelser.

Dens kontekst på 256K tokens understøtter opgaver, der kombinerer omfattende tekst med visuelt belæg. Billeder og tekst kan flettes ind i samme prompt; producenten anbefaler at placere billedindhold før den tilhørende tekst for at få de bedste resultater. Visuelle opgaver omfatter objektdetektion, fortolkning af dokumentsider, forståelse af skærme og brugergrænseflader, diagrammer, flersproget OCR, håndskrift og udpegning. Resultatet er tekst: udtrukket indhold, en forklaring, kode eller en foreslået værktøjshandling.

Konfigurerbar tænkning lader modellen ræsonnere før svaret eller svare direkte. Gemma 4 tilføjer en indbygget system-rolle ved siden af user- og assistant-rollerne. Googles promptformat aktiverer tænkning med kontroltokenet <|think|> i systemprompten og adskiller tankekanalen fra det endelige svar; den dokumenterede processor kan håndtere denne skabelon. I en samtale med flere ture gemmer du tidligere endelige svar i historikken og udelader tidligere tanker, undtagen i ture med værktøjskald, hvor producenten siger, at de skal bevares.

Native Function Calling understøtter struktureret brug af værktøjer, og Googles lanceringsbeskrivelse dokumenterer også struktureret JSON-output. Definer opgaven, den tilgængelige funktion og det forventede resultat; applikationen udfører den ønskede operation og returnerer dens resultat til næste trin. En kodeopgave kan bede om generering, færdiggørelse eller rettelse, mens en visuel assistent kan bruge den returnerede tekst til at forklare et diagram eller en skærm. En instruktion om et funktionskald er forskellig fra en tilkoblet handling, der faktisk er udført.

Variabel billedopløsning styres af budgettet for visuelle tokens. De dokumenterede muligheder er 70, 140, 280, 560 og 1,120 tokens. Lavere budgetter passer til klassifikation eller billedtekster; højere budgetter bevarer flere detaljer til OCR, dokumentanalyse og lille tekst, men kræver mere beregning. Afgør, om du har brug for hele scenen eller præcis bogstavgenkendelse, før du forbereder billedet. Et tydeligt udsnit af en etiket kan være mere nyttigt til udtræk end en uspecificeret anmodning om at undersøge alle detaljer på en hel side.

Google anbefaler temperature 1.0, top-p 0.95 og top-k 64 som familiens samplingskonfiguration. Modelkortet skelner mellem træning på mere end 140 sprog og umiddelbar understøttelse af mere end 35 sprog. Angiv svarsprog, og bed udtrykkeligt om at bevare domænenavne, feltnavne eller formler i opgavebeskrivelsen. Tallet 256K er en kontekstspecifikation; det citerede modelkort fastlægger ikke en særskilt universel maksimal outputstørrelse for denne udgave.

Til en opgave med dokumenter og kode angiver du det relevante sidebillede, det skriftlige krav og kodeudsnittet: “Læs etiketterne, forklar, hvordan denne skærm afviger fra specifikationen, og foreslå en afgrænset rettelse af den medfølgende kode.” Til et diagram beder du svaret skelne mellem synlige værdier og en udledt tendens. Gemmas modelkort nævner begrænsninger ved tvetydigt sprog, meget komplekse opgaver og forkerte eller forældede faktuelle udsagn. Vedlæg derfor de autoritative fakta, resultatet skal bygge på, frem for at forvente, at træningsviden leverer dem.

Via Ailoot vælger du dette nøjagtige model-ID i /v1/chat/completions og angiver opgaven i messages. Hver besked indeholder en role og sit content; hold den relevante instruktion og kildematerialet samlet. Hent hele JSON-svaret eller alle SSE-segmenter, når stream er aktiveret, og gem usage sammen med det skriftlige resultat.