Google: Gemma 4 31B (free)

Gemma 4 31B IT — дообученная на инструкциях плотная версия открытого семейства Gemma 4 от Google DeepMind. Google позиционирует модель 31B с акцентом на качество и адаптацию к задаче, а отдельная версия 26B A4B использует смесь экспертов для эффективности вывода. Эта карточка относится к названной дообученной на инструкциях версии 31B, а не к её предобученным весам или квантованной производной.

Официальная таблица плотной архитектуры указывает 30,7 млрд параметров, 60 слоёв, скользящее окно в 1 024 токена и контекст в 256K токенов. Семейство объединяет локальное внимание в скользящем окне с глобальным вниманием, заканчивается глобальным слоем и использует отдельный визуальный энкодер для этой модели. Такая конфигурация предназначена для текстового ввода и изображений с текстовым выводом. Это характеристики архитектуры модели; они не определяют время ответа приложения и не подразумевают поддержку аудио, имеющуюся у других размеров Gemma 4.

Контекст в 256K токенов позволяет объединить в задаче большой объём текста с визуальными материалами. Изображения и текст можно чередовать в одном промпте; для лучших результатов разработчик рекомендует размещать изображение перед относящимся к нему текстом. Визуальные задачи включают обнаружение объектов, интерпретацию страниц документов, понимание экранов и интерфейсов, графики, многоязычное OCR, рукописный текст и указание на объекты. Вывод остаётся текстовым: извлечённое содержимое, объяснение, код или предлагаемое действие инструмента.

Настраиваемое рассуждение позволяет модели обдумать ответ либо ответить напрямую. Gemma 4 добавляет встроенную роль system к ролям user и assistant. Формат промптов Google включает рассуждение с помощью управляющего токена <|think|> в системном промпте и отделяет канал рассуждений от окончательного ответа; документированный процессор поддерживает этот шаблон. В многошаговом диалоге сохраняйте в истории предыдущие окончательные ответы и исключайте прошлые рассуждения, кроме ходов с вызовом инструментов: для них разработчик рекомендует сохранять рассуждения.

Встроенный вызов функций поддерживает структурированную работу с инструментами, а описание выпуска Google также документирует структурированный JSON-вывод. Определите задачу, доступную функцию и ожидаемый результат; приложение выполняет запрошенную операцию и возвращает её вывод для следующего шага. Задание по коду может требовать генерации, дополнения или исправления, а визуальный помощник может объяснить график или экран с помощью полученного текста. Инструкция вызова функции отличается от подключённого действия, которое уже выполнено.

Переменное разрешение изображения регулируется бюджетом визуальных токенов. Документированные варианты: 70, 140, 280, 560 и 1 120 токенов. Меньшие бюджеты подходят для классификации или подписей; большие сохраняют больше деталей для OCR, разбора документов и мелкого текста, требуя дополнительных вычислений. До подготовки изображения решите, нужна ли вам общая сцена или точные надписи. Чёткий фрагмент с этикеткой может быть полезнее для извлечения данных, чем неконкретная просьба изучить все детали полной страницы.

Google рекомендует для семейства параметры сэмплирования temperature 1,0, top-p 0,95 и top-k 64. Карточка модели различает обучение на более чем 140 языках и поддержку более чем 35 языков без дополнительной настройки. Укажите язык ответа и явно перечислите в задании доменные имена, названия полей или формулы, которые нужно сохранить. Число 256K относится к контексту; цитируемая карточка модели не устанавливает отдельный универсальный максимум выходных токенов для этой версии.

Для задания с документом и кодом передайте нужное изображение страницы, письменное требование и исходный фрагмент: «Прочитай подписи, объясни, чем этот экран отличается от спецификации, и предложи локальное исправление переданного кода». Для графика попросите отделить видимые значения от предполагаемой тенденции. В карточке Gemma отмечены ограничения, связанные с неоднозначным языком, очень сложными задачами и неверными или устаревшими фактическими утверждениями, поэтому прикладывайте авторитетные сведения, на которые должен опираться результат, вместо ожидания, что модель возьмёт их из знаний, полученных при обучении.

В Ailoot выберите этот точный ID модели в /v1/chat/completions и передайте задание в messages. Каждое сообщение содержит role и content; храните нужную инструкцию вместе с исходными материалами. Соберите полный JSON-ответ или все сегменты SSE при включённом stream и сохраните usage вместе с письменным результатом.