Google: Gemma 4 26B A4B (free)

Gemma 4 26B A4B IT je edícia otvorenej rodiny Gemma 4 od Google DeepMind so zmesou expertov, doladená na pokyny. Oficiálna tabuľka architektúry uvádza celkovo 25.2 miliardy parametrov a 3.8 miliardy aktívnych parametrov; A4B označuje zaokrúhlenú veľkosť aktívnych parametrov. Jej účel zahŕňa uvažovanie, programovanie, pracovné postupy agentov a multimodálne porozumenie. Je oddelená od predtrénovanej edície aj od hustého modelu 31B.

Návrh so zmesou expertov pri každom kroku inferencie aktivuje podmnožinu parametrov: podľa zverejnenej tabuľky architektúry osem aktívnych expertov zo 128 a jedného zdieľaného experta. Google pri tejto edícii zdôrazňuje efektívnosť inferencie oproti hustému modelu. Spája architektúru s 30 vrstvami a posuvným oknom s dĺžkou 1,024 tokenov s globálnou pozornosťou, kontextom 256K a vizuálnym enkóderom. Tieto architektonické hodnoty opisujú model výrobcu, nie zaručenú latenciu alebo hardvérovú konfiguráciu konkrétnej aplikácie.

Kontext s dĺžkou 256K tokenov podporuje úlohu, ktorá spája rozsiahly text s vizuálnymi podkladmi. Obrázky a text sa môžu v jednom prompte striedať; výrobca pre najlepšie výsledky odporúča umiestniť obrazový obsah pred súvisiaci text. Vizuálne úlohy zahŕňajú detekciu objektov, interpretáciu strán dokumentov, porozumenie obrazovkám a rozhraniam, grafy, viacjazyčné OCR, rukopis a ukazovanie na miesta v obrázku. Výstupom je text: extrahovaný obsah, vysvetlenie, kód alebo navrhnutá akcia nástroja.

Nastaviteľné premýšľanie umožňuje modelu uvažovať pred odpoveďou alebo odpovedať priamo. Gemma 4 pridáva natívnu rolu system popri rolách user a assistant. Formát promptu od Googlu zapína premýšľanie pomocou riadiaceho tokenu <|think|> v systémovom prompte a oddeľuje kanál uvažovania od konečnej odpovede; dokumentovaný procesor túto šablónu dokáže spracovať. Pri viacťahovej konverzácii ponechajte v histórii predchádzajúce konečné odpovede a vynechajte predchádzajúce úvahy okrem ťahov s volaním nástrojov, pri ktorých ich výrobca odporúča zachovať.

Natívne Function Calling podporuje štruktúrované používanie nástrojov a opis uvedenia modelu od Googlu dokumentuje aj štruktúrovaný výstup JSON. Definujte úlohu, dostupnú funkciu a očakávaný výsledok; aplikácia vykoná požadovanú operáciu a vráti jej výstup pre ďalší krok. Programátorská úloha môže vyžadovať generovanie, doplnenie alebo opravu kódu, zatiaľ čo vizuálny asistent môže vráteným textom vysvetliť graf alebo obrazovku. Pokyn na volanie funkcie sa líši od pripojenej akcie, ktorá sa už skutočne vykonala.

Premenlivé rozlíšenie obrázka sa riadi rozpočtom vizuálnych tokenov. Dokumentované možnosti sú 70, 140, 280, 560 a 1,120 tokenov. Nižšie rozpočty sa hodia na klasifikáciu alebo popisy obrázkov; vyššie rozpočty zachovávajú viac detailov pre OCR, spracovanie dokumentov a drobný text, ale vyžadujú viac výpočtov. Pred prípravou obrázka rozhodnite, či potrebujete celkovú scénu alebo presné znenie textu. Jasný výrez štítku môže byť pre extrakciu užitočnejší než neurčitá požiadavka preskúmať každý detail celej strany.

Google ako nastavenie vzorkovania pre túto rodinu odporúča temperature 1.0, top-p 0.95 a top-k 64. Karta modelu rozlišuje medzi trénovaním vo viac než 140 jazykoch a podporou viac než 35 jazykov bez ďalších úprav. Uveďte jazyk odpovede a v zadaní výslovne zachovajte názvy domén, názvy polí alebo vzorce. Hodnota 256K je špecifikáciou kontextu; citovaná karta modelu neurčuje pre túto edíciu samostatnú univerzálnu maximálnu dĺžku výstupu.

Pri úlohe spájajúcej dokument a kód dodajte príslušný obrázok strany, písomnú požiadavku a úryvok zdrojového kódu: „Prečítaj štítky, vysvetli, ako sa táto obrazovka líši od špecifikácie, a navrhni cielenú opravu poskytnutého kódu.“ Pri grafe žiadajte, aby odpoveď odlíšila viditeľné hodnoty od odhadovaného trendu. Karta modelu Gemma uvádza obmedzenia pri nejednoznačnom jazyku, veľmi zložitých úlohách a nesprávnych alebo zastaraných faktických tvrdeniach, preto priložte autoritatívne fakty, ktoré má požadovaný výsledok použiť, namiesto očakávania, že ich dodajú znalosti z trénovania.

Prostredníctvom Ailoot vyberte toto presné ID modelu v /v1/chat/completions a zadajte úlohu v messages. Každá správa obsahuje rolu a svoj obsah; príslušný pokyn a zdrojové materiály ponechajte spolu. Uložte úplnú odpoveď JSON alebo všetky segmenty SSE, ak je zapnutý stream, a s písomným výsledkom uchovajte usage.