Google: Gemma 4 26B A4B (free)

A Gemma 4 26B A4B IT a Google DeepMind nyílt Gemma 4 családjának utasításkövetésre finomhangolt, szakértőkeverékes kiadása. A hivatalos architektúratáblázat 25.2 milliárd összes és 3.8 milliárd aktív paramétert sorol fel; az A4B név az aktív paraméterek kerekített nagyságrendjére utal. Felhasználási területe a következtetés, a programozás, az ügynöki munkafolyamatok és a multimodális megértés. Különbözik az előtanított kiadástól és a sűrű 31B modelltől.

A szakértőkeverékes felépítés minden következtetési lépéshez a paraméterek egy részhalmazát aktiválja: a közzétett architektúratáblázat szerint 128 szakértőből nyolc aktívat, valamint egy közös szakértőt. A Google ezt a kiadást a sűrű modellhez képest hatékonyabb következtetésre pozicionálja. A 30 rétegű architektúrát és az 1,024 tokenes csúszóablakot globális figyelemmel, 256K kontextussal és vizuális kódolóval ötvözi. Ezek az architektúraértékek a gyártó modelljét írják le, nem egy adott alkalmazás garantált késleltetését vagy hardverkonfigurációját.

A 256K tokenes kontextus olyan feladatokat támogat, amelyek jelentős mennyiségű szöveget kapcsolnak össze vizuális bizonyítékokkal. A képek és a szöveg váltakozva is szerepelhetnek egyetlen promptban; a gyártó a legjobb eredmény érdekében azt javasolja, hogy a képtartalom a hozzá kapcsolódó szöveg előtt álljon. A vizuális feladatok közé tartozik az objektumfelismerés, a dokumentumoldalak értelmezése, a képernyők és felületek megértése, a diagramok elemzése, a többnyelvű OCR, a kézírás értelmezése és a rámutatás. A kimenet szöveg: kinyert tartalom, magyarázat, kód vagy javasolt eszközművelet.

A beállítható gondolkodás lehetővé teszi, hogy a modell válaszadás előtt következtessen, vagy közvetlen választ adjon. A Gemma 4 a user és assistant szerepek mellé natív system szerepet is hozzáad. A Google promptformátuma a rendszerpromptban elhelyezett <|think|> vezérlőtokennel kapcsolja be a gondolkodást, és elkülöníti a gondolatmenet csatornáját a végső választól; a dokumentált feldolgozó kezeli ezt a sablont. Többfordulós beszélgetésben tartsd meg a korábbi végső válaszokat az előzményekben, a korábbi gondolatmeneteket viszont hagyd ki, kivéve az eszközhívást tartalmazó fordulókat, ahol a gyártó szerint meg kell őrizni őket.

A natív Function Calling strukturált eszközhasználatot támogat, és a Google bevezető ismertetője strukturált JSON-kimenetet is dokumentál. Határozd meg a feladatot, az elérhető függvényt és az elvárt eredményt; az alkalmazás végrehajtja a kért műveletet, majd visszaadja annak kimenetét a következő lépéshez. Programozási feladatban kérhető kódgenerálás, kiegészítés vagy javítás, egy vizuális asszisztens pedig a visszaadott szöveggel magyarázhat el egy diagramot vagy képernyőt. A függvényhívásra vonatkozó utasítás különbözik egy ténylegesen végrehajtott, összekapcsolt művelettől.

A változó képfelbontást a vizuális tokenkeret szabályozza. A dokumentált lehetőségek 70, 140, 280, 560 és 1,120 token. Az alacsonyabb keretek osztályozáshoz vagy képaláírásokhoz megfelelőek; a magasabb keretek több részletet őriznek meg OCR-hez, dokumentumfeldolgozáshoz és apró szövegekhez, nagyobb számításigény mellett. A kép előkészítése előtt döntsd el, hogy az egész jelenetre vagy a pontos feliratokra van-e szükség. Egy címke jól olvasható kivágása hasznosabb lehet egy adatkinyerési feladatban, mint egy teljes oldal minden részletének vizsgálatára adott, pontosítás nélküli kérés.

A Google a család mintavételezési beállításaként temperature 1.0, top-p 0.95 és top-k 64 értékeket javasol. A modellkártya megkülönbözteti a több mint 140 nyelven végzett tanítást a több mint 35 nyelven biztosított, közvetlenül használható támogatástól. A feladatleírásban nevezd meg a válasz nyelvét, és kifejezetten jelezd a megőrzendő domainneveket, mezőneveket vagy képleteket. A 256K érték a kontextus specifikációja; a hivatkozott modellkártya ehhez a kiadáshoz nem határoz meg külön, általánosan érvényes maximális kimeneti méretet.

Dokumentumot és kódot érintő feladathoz add meg a kapcsolódó oldal képét, az írásos követelményt és a forráskódrészletet: „Olvasd el a feliratokat, magyarázd el, miben tér el ez a képernyő a specifikációtól, és javasolj célzott javítást a megadott kódban.” Diagram esetén kérd a látható értékek és a kikövetkeztetett trend elkülönítését. A Gemma modellkártyája korlátokat említ a kétértelmű nyelv, a nagyon összetett feladatok, valamint a téves vagy elavult tényszerű állítások kapcsán, ezért mellékeld azokat a hiteles tényeket, amelyekre a kért eredménynek épülnie kell, ahelyett, hogy ezeket a tanításból származó ismeretektől várnád.

Az Ailoot használatakor válaszd ezt a pontos modellazonosítót a /v1/chat/completions végponton, és add meg a feladatot a messages mezőben. Minden üzenet tartalmaz egy szerepet és annak tartalmát; a kapcsolódó utasítást és forrásanyagot tartsd együtt. Gyűjtsd össze a teljes JSON-választ, illetve bekapcsolt stream esetén az összes SSE-szegmenst, és őrizd meg a usage adatokat az írásos eredménnyel együtt.