Google: Gemma 4 31B (free)

Gemma 4 31B IT — Google DeepMind әзірлеген ашық Gemma 4 тобының нұсқауларға бейімделген тығыз нұсқасы. Google 31B моделінде модель сапасы мен нақты тапсырмаға бейімдеуге басымдық береді, ал бөлек 26B A4B нұсқасы есептеу тиімділігі үшін сарапшылар қоспасын қолданады. Бұл карточка алдын ала оқытылған салмақтарға немесе квантталған туындыға емес, аталған нұсқауларға бейімделген 31B нұсқасына қатысты.

Ресми тығыз архитектура кестесінде 30.7 миллиард параметр, 60 қабат, 1,024 токендік жылжымалы терезе және 256K токендік контекст көрсетілген. Бұл топ жергілікті жылжымалы терезелі attention механизмін ғаламдық attention механизмімен біріктіріп, ғаламдық қабатпен аяқталады және осы модельде арнайы көрнекі кодтағышты қолданады. Осы сипаттама мәтін мен суретті кіріс ретінде қабылдап, мәтінді шығыс ретінде беруге арналған. Бұлар — модель архитектурасының деректері; олар қолданбаның жауап уақытын белгілемейді және басқа Gemma 4 өлшемдеріндегі аудио қолдауын білдірмейді.

Оның 256K токендік контексті көлемді мәтінді көрнекі дәлелдермен біріктіретін тапсырманы қолдайды. Бір сұрауда суреттер мен мәтінді кезектестіріп беруге болады; жақсы нәтиже үшін өндіруші сурет мазмұнын оған қатысты мәтіннен бұрын орналастыруды ұсынады. Көрнекі тапсырмаларға нысандарды анықтау, құжат беттерін түсіндіру, экран мен интерфейсті ұғыну, диаграммалар, көптілді OCR, қолжазба және суреттегі орынды көрсету жатады. Нәтиже мәтін түрінде беріледі: алынған мазмұн, түсіндірме, код немесе ұсынылған құрал әрекеті.

Бапталатын ойлау модельге жауап бермес бұрын пайымдауға немесе бірден жауап беруге мүмкіндік береді. Gemma 4 user және assistant рөлдеріне қоса кіріктірілген system рөлін қосады. Google сұрау пішімі жүйелік сұраудағы <|think|> басқару токені арқылы ойлауды қосып, ойлау арнасын соңғы жауаптан бөледі; құжатталған өңдегіші осы үлгіні өңдей алады. Бірнеше кезекті әңгімеде алдыңғы соңғы жауаптарды тарихта сақтап, алдыңғы ойлау жазбаларын алып тастаңыз; өндіруші оларды сақтауды ұсынатын құрал шақыру кезектері бұған кірмейді.

Кіріктірілген Function Calling құралдарды құрылымды пайдалануды қолдайды, ал Google таныстырылым сипаттамасында құрылымды JSON шығысы да құжатталған. Тапсырманы, қолжетімді функцияны және күтілетін нәтижені анықтаңыз; қолданба сұралған операцияны орындап, келесі қадам үшін оның нәтижесін қайтарады. Бағдарламалау тапсырмасында код жасау, толықтыру немесе түзету сұралуы мүмкін, ал көрнекі көмекші қайтарылған мәтінді диаграмманы не экранды түсіндіруге пайдалана алады. Функцияны шақыру нұсқауы мен жалғанған жүйеде іс жүзінде орындалған әрекет — екі бөлек нәрсе.

Суреттің айнымалы ажыратымдылығы көрнекі токендер бюджетімен басқарылады. Құжатталған нұсқалар: 70, 140, 280, 560 және 1,120 токен. Аз бюджет жіктеуге немесе сурет сипаттамасына жарайды; үлкен бюджет OCR, құжаттарды талдау және ұсақ мәтін үшін көбірек бөлшекті сақтап, қосымша есептеуді қажет етеді. Суретті дайындамас бұрын жалпы көрініс керек пе, әлде әріптерді дәл оқу керек пе, соны шешіңіз. Бүкіл беттің әр бөлшегін қарауды талап еткеннен гөрі, жапсырманың анық қиындысы мәтін алу тапсырмасына пайдалырақ болуы мүмкін.

Google осы модельдер тобы үшін temperature 1.0, top-p 0.95 және top-k 64 іріктеу баптауларын ұсынады. Модель карточкасы 140-тан астам тілде оқытылуды және қосымша баптаусыз 35-тен астам тілді қолдауды бөлек көрсетеді. Жауап тілін атаңыз және домен атауларын, өріс атауларын не формулаларды сақтау талабын тапсырмада анық жазыңыз. 256K — контекст сипаттамасы; сілтеме жасалған модель карточкасы осы нұсқа үшін бөлек әмбебап ең үлкен шығыс көлемін белгілемейді.

Құжат пен кодты бірге қамтитын тапсырма үшін тиісті бет суретін, жазбаша талапты және бастапқы код үзіндісін беріңіз: «Жазуларды оқы, осы экранның спецификациядан қалай ерекшеленетінін түсіндір және берілген кодқа нақты түзету ұсын». Диаграмма үшін жауапта көрініп тұрған мәндер мен жорамалданған үрдісті ажыратуды сұраңыз. Gemma модель карточкасы екіұшты тілге, өте күрделі тапсырмаларға және қате не ескірген фактілерге қатысты шектеулерді атайды, сондықтан қажетті деректі оқыту білімінен күтпей, нәтиже сүйенуі тиіс беделді фактілерді қоса беріңіз.

Ailoot арқылы /v1/chat/completions ішінде дәл осы модель ID-ін таңдап, тапсырманы messages өрісінде беріңіз. Әр хабарламада role және оның мазмұны болады; тиісті нұсқау мен бастапқы материалды бірге ұстаңыз. Толық JSON жауабын немесе stream қосылғанда барлық SSE бөліктерін жинап, usage деректерін жазбаша нәтижемен бірге сақтаңыз.