Google: Gemma 4 31B (free)

Gemma 4 31B IT je hustá edícia otvorenej rodiny Gemma 4 od Google DeepMind, doladená na pokyny. Google pri modeli 31B zdôrazňuje kvalitu modelu a prispôsobenie úlohe, zatiaľ čo samostatná edícia 26B A4B používa zmes expertov na efektívnejšiu inferenciu. Táto karta sa týka uvedenej edície 31B doladenej na pokyny, nie jej predtrénovaných váh ani kvantizovaného odvodeného modelu.

Oficiálna tabuľka hustej architektúry uvádza 30.7 miliardy parametrov, 60 vrstiev, posuvné okno s dĺžkou 1,024 tokenov a kontext s dĺžkou 256K tokenov. Rodina kombinuje lokálnu pozornosť v posuvnom okne s globálnou pozornosťou, končí globálnou vrstvou a pre tento model používa samostatný vizuálny enkóder. Výsledný profil je určený na textový a obrazový vstup s textovým výstupom. Ide o fakty o architektúre modelu; neurčujú čas odozvy aplikácie ani neznamenajú podporu zvuku, ktorú majú iné veľkosti Gemma 4.

Kontext s dĺžkou 256K tokenov podporuje úlohu, ktorá spája rozsiahly text s vizuálnymi podkladmi. Obrázky a text sa môžu v jednom prompte striedať; výrobca pre najlepšie výsledky odporúča umiestniť obrazový obsah pred súvisiaci text. Vizuálne úlohy zahŕňajú detekciu objektov, interpretáciu strán dokumentov, porozumenie obrazovkám a rozhraniam, grafy, viacjazyčné OCR, rukopis a ukazovanie na miesta v obrázku. Výstupom je text: extrahovaný obsah, vysvetlenie, kód alebo navrhnutá akcia nástroja.

Nastaviteľné premýšľanie umožňuje modelu uvažovať pred odpoveďou alebo odpovedať priamo. Gemma 4 pridáva natívnu rolu system popri rolách user a assistant. Formát promptu od Googlu zapína premýšľanie pomocou riadiaceho tokenu <|think|> v systémovom prompte a oddeľuje kanál uvažovania od konečnej odpovede; dokumentovaný procesor túto šablónu dokáže spracovať. Pri viacťahovej konverzácii ponechajte v histórii predchádzajúce konečné odpovede a vynechajte predchádzajúce úvahy okrem ťahov s volaním nástrojov, pri ktorých ich výrobca odporúča zachovať.

Natívne Function Calling podporuje štruktúrované používanie nástrojov a opis uvedenia modelu od Googlu dokumentuje aj štruktúrovaný výstup JSON. Definujte úlohu, dostupnú funkciu a očakávaný výsledok; aplikácia vykoná požadovanú operáciu a vráti jej výstup pre ďalší krok. Programátorská úloha môže vyžadovať generovanie, doplnenie alebo opravu kódu, zatiaľ čo vizuálny asistent môže vráteným textom vysvetliť graf alebo obrazovku. Pokyn na volanie funkcie sa líši od pripojenej akcie, ktorá sa už skutočne vykonala.

Premenlivé rozlíšenie obrázka sa riadi rozpočtom vizuálnych tokenov. Dokumentované možnosti sú 70, 140, 280, 560 a 1,120 tokenov. Nižšie rozpočty sa hodia na klasifikáciu alebo popisy obrázkov; vyššie rozpočty zachovávajú viac detailov pre OCR, spracovanie dokumentov a drobný text, ale vyžadujú viac výpočtov. Pred prípravou obrázka rozhodnite, či potrebujete celkovú scénu alebo presné znenie textu. Jasný výrez štítku môže byť pre extrakciu užitočnejší než neurčitá požiadavka preskúmať každý detail celej strany.

Google ako nastavenie vzorkovania pre túto rodinu odporúča temperature 1.0, top-p 0.95 a top-k 64. Karta modelu rozlišuje medzi trénovaním vo viac než 140 jazykoch a podporou viac než 35 jazykov bez ďalších úprav. Uveďte jazyk odpovede a v zadaní výslovne zachovajte názvy domén, názvy polí alebo vzorce. Hodnota 256K je špecifikáciou kontextu; citovaná karta modelu neurčuje pre túto edíciu samostatnú univerzálnu maximálnu dĺžku výstupu.

Pri úlohe spájajúcej dokument a kód dodajte príslušný obrázok strany, písomnú požiadavku a úryvok zdrojového kódu: „Prečítaj štítky, vysvetli, ako sa táto obrazovka líši od špecifikácie, a navrhni cielenú opravu poskytnutého kódu.“ Pri grafe žiadajte, aby odpoveď odlíšila viditeľné hodnoty od odhadovaného trendu. Karta modelu Gemma uvádza obmedzenia pri nejednoznačnom jazyku, veľmi zložitých úlohách a nesprávnych alebo zastaraných faktických tvrdeniach, preto priložte autoritatívne fakty, ktoré má požadovaný výsledok použiť, namiesto očakávania, že ich dodajú znalosti z trénovania.

Prostredníctvom Ailoot vyberte toto presné ID modelu v /v1/chat/completions a zadajte úlohu v messages. Každá správa obsahuje rolu a svoj obsah; príslušný pokyn a zdrojové materiály ponechajte spolu. Uložte úplnú odpoveď JSON alebo všetky segmenty SSE, ak je zapnutý stream, a s písomným výsledkom uchovajte usage.