Google: Gemma 4 31B (free)

Gemma 4 31B IT je hustá edice otevřené rodiny Gemma 4 od Google DeepMind doladěná pro instrukce. Google model 31B zaměřuje na kvalitu a přizpůsobení konkrétní úloze, zatímco samostatná edice 26B A4B používá směs expertů pro efektivní inferenci. Tato karta se týká uvedené instrukčně doladěné edice 31B, nikoli jejích předtrénovaných vah nebo kvantizovaného derivátu.

Oficiální tabulka husté architektury uvádí 30,7 miliardy parametrů, 60 vrstev, posuvné okno o velikosti 1 024 tokenů a kontext o velikosti 256K tokenů. Rodina kombinuje lokální pozornost v posuvném okně s globální pozorností, končí globální vrstvou a pro tento model používá vyhrazený vizuální enkodér. Výsledná konfigurace je určena pro textový a obrazový vstup s textovým výstupem. Jde o fakta o architektuře modelu; neurčují dobu odezvy aplikace ani neznamenají podporu audia, kterou mají jiné velikosti Gemma 4.

Kontext o velikosti 256K tokenů umožňuje úlohy, které spojují rozsáhlý text s obrazovými podklady. Obrázky a text lze v jednom promptu prokládat; pro nejlepší výsledky výrobce doporučuje umístit obrazový obsah před související text. Mezi vizuální úlohy patří detekce objektů, interpretace stránek dokumentů, porozumění obrazovkám a rozhraním, grafům, vícejazyčné OCR, rukopis a označování polohy. Výstupem je text: získaný obsah, vysvětlení, kód nebo návrh akce nástroje.

Nastavitelné přemýšlení umožňuje modelu před odpovědí uvažovat nebo odpovědět přímo. Gemma 4 přidává vedle rolí user a assistant nativní roli system. Formát promptů Googlu zapíná přemýšlení řídicím tokenem <|think|> v systémovém promptu a odděluje kanál uvažování od konečné odpovědi; zdokumentovaný procesor tuto šablonu umí zpracovat. U vícekolové konverzace ponechte v historii předchozí konečné odpovědi a vynechte předchozí úvahy, s výjimkou kol s voláním nástrojů, kde je podle výrobce třeba úvahy zachovat.

Native Function Calling podporuje strukturované používání nástrojů a popis uvedení modelu od Googlu dokumentuje také strukturovaný výstup JSON. Definujte úlohu, dostupnou funkci a očekávaný výsledek; aplikace provede požadovanou operaci a vrátí její výstup pro další krok. Při programování lze žádat o generování, doplnění nebo opravu kódu, zatímco vizuální asistent může vráceným textem vysvětlit graf nebo obrazovku. Instrukce k volání funkce se liší od připojené akce, která se skutečně vykonala.

Proměnlivé rozlišení obrázku řídí rozpočet vizuálních tokenů. Zdokumentované možnosti jsou 70, 140, 280, 560 a 1 120 tokenů. Nižší rozpočty se hodí pro klasifikaci nebo popisky; vyšší zachovávají více detailů pro OCR, zpracování dokumentů a drobný text za cenu dalších výpočtů. Před přípravou obrázku rozhodněte, zda potřebujete celkovou scénu, nebo přesné znění nápisů. Jasný výřez štítku může být pro získání textu užitečnější než neurčitý požadavek na prozkoumání každého detailu celé stránky.

Google pro tuto rodinu doporučuje konfiguraci vzorkování temperature 1.0, top-p 0.95 a top-k 64. Karta modelu rozlišuje trénování ve více než 140 jazycích a podporu více než 35 jazyků bez dalších úprav. V zadání výslovně uveďte jazyk odpovědi a názvy domén, polí nebo vzorce, které je třeba zachovat. Údaj 256K je specifikací kontextu; citovaná karta modelu pro tuto edici nestanovuje samostatný univerzální limit délky výstupu.

Pro úlohu propojující dokument a kód poskytněte obrázek příslušné stránky, písemný požadavek a úryvek zdrojového kódu: „Přečti popisky, vysvětli, v čem se tato obrazovka liší od specifikace, a navrhni cílenou opravu dodaného kódu.“ U grafu žádejte, aby odpověď odlišovala viditelné hodnoty od odvozeného trendu. Karta Gemma upozorňuje na omezení u nejednoznačného jazyka, velmi složitých úloh a nesprávných či zastaralých faktických tvrzení. Přiložte proto autoritativní fakta, z nichž má požadovaný výsledek vycházet, místo očekávání, že je doplní znalosti získané při trénování.

Prostřednictvím Ailoot vyberte toto přesné ID modelu v /v1/chat/completions a zadejte úlohu v messages. Každá zpráva obsahuje role a svůj content; související instrukce a zdrojové podklady ponechte pohromadě. Shromážděte celou odpověď JSON nebo všechny segmenty SSE, pokud je zapnutý stream, a spolu s písemným výsledkem uchovejte usage.