Google: Gemma 4 31B (free)

Gemma 4 31B IT to dostrojona do wykonywania instrukcji, gęsta edycja otwartej rodziny Gemma 4 od Google DeepMind. Google pozycjonuje model 31B pod kątem jakości modelu i dostosowania do zadania, podczas gdy osobna edycja 26B A4B wykorzystuje architekturę mixture of experts dla wydajniejszego wnioskowania. Ta karta dotyczy wskazanej edycji 31B dostrojonej do instrukcji, a nie jej wstępnie wytrenowanych wag ani skwantyzowanej pochodnej.

Oficjalna tabela architektury gęstej wymienia 30.7 miliarda parametrów, 60 warstw, przesuwne okno o długości 1 024 tokenów i kontekst 256K tokenów. Rodzina łączy lokalny mechanizm uwagi w przesuwnym oknie z uwagą globalną, kończy się warstwą globalną i korzysta w tym modelu z dedykowanego enkodera wizualnego. Taki profil służy do przyjmowania tekstu i obrazów oraz zwracania tekstu. Są to fakty o architekturze modelu; nie określają czasu odpowiedzi aplikacji ani nie oznaczają obsługi dźwięku dostępnej w innych rozmiarach Gemma 4.

Kontekst o długości 256K tokenów pozwala łączyć obszerny tekst z materiałem wizualnym w jednym zadaniu. Obrazy i tekst można przeplatać w jednym prompcie; producent zaleca umieszczanie obrazu przed powiązanym tekstem, aby uzyskać najlepsze wyniki. Zadania wizualne obejmują wykrywanie obiektów, interpretację stron dokumentów, rozumienie ekranów i interfejsów, wykresy, wielojęzyczny OCR, pismo odręczne i wskazywanie elementów. Wynikiem jest tekst: wyodrębniona treść, wyjaśnienie, kod lub proponowana czynność narzędzia.

Konfigurowalne rozumowanie pozwala modelowi rozumować przed odpowiedzią albo udzielić odpowiedzi bezpośredniej. Gemma 4 dodaje natywną rolę system obok ról user i assistant. Format promptów Google włącza rozumowanie za pomocą tokenu sterującego <|think|> w prompcie systemowym i oddziela kanał rozumowania od końcowej odpowiedzi; udokumentowany procesor potrafi obsłużyć ten szablon. W rozmowie wieloturowej zachowuj w historii wcześniejsze końcowe odpowiedzi i pomijaj wcześniejsze rozumowanie, z wyjątkiem tur wywołań narzędzi, dla których producent zaleca jego zachowanie.

Natywne wywoływanie funkcji, Native Function Calling, obsługuje uporządkowane korzystanie z narzędzi, a opis premiery Google dokumentuje również ustrukturyzowane odpowiedzi JSON. Określ zadanie, dostępną funkcję i oczekiwany wynik; aplikacja wykonuje żądaną operację i zwraca jej wynik do następnego kroku. Zadanie programistyczne może dotyczyć generowania, uzupełniania lub poprawiania kodu, a asystent wizualny może wykorzystać zwrócony tekst do wyjaśnienia wykresu lub ekranu. Instrukcja wywołania funkcji jest czymś innym niż podłączona czynność, która rzeczywiście została wykonana.

Zmienną rozdzielczość obrazu kontroluje budżet tokenów wizualnych. Udokumentowane opcje to 70, 140, 280, 560 i 1 120 tokenów. Niższe budżety sprawdzają się przy klasyfikacji lub podpisach; wyższe zachowują więcej szczegółów do OCR, analizowania dokumentów i drobnego tekstu, kosztem dodatkowych obliczeń. Przed przygotowaniem obrazu zdecyduj, czy potrzebujesz ogólnego obrazu sceny, czy dokładnych napisów. Wyraźny wycinek etykiety może być bardziej użyteczny przy wyodrębnianiu treści niż nieprecyzyjne polecenie sprawdzenia każdego szczegółu całej strony.

Google zaleca dla rodziny konfigurację próbkowania temperature 1.0, top-p 0.95 i top-k 64. Karta modelu odróżnia trenowanie w ponad 140 językach od gotowej obsługi ponad 35 języków. Określ język odpowiedzi i wyraźnie wskaż w opisie zadania nazwy domen, nazwy pól lub wzory, które mają zostać zachowane. Wartość 256K jest specyfikacją kontekstu; cytowana karta modelu nie określa osobnego, uniwersalnego maksimum długości wyjścia dla tej edycji.

W zadaniu łączącym dokument i kod dostarcz obraz odpowiedniej strony, pisemne wymaganie i fragment źródła: „Odczytaj etykiety, wyjaśnij, czym ten ekran różni się od specyfikacji, i zaproponuj konkretną poprawkę do podanego kodu”. Przy wykresie poproś o oddzielenie widocznych wartości od wnioskowanego trendu. Karta Gemma wskazuje ograniczenia związane z niejednoznacznym językiem, bardzo złożonymi zadaniami oraz błędnymi lub nieaktualnymi twierdzeniami faktycznymi, dlatego dołącz wiążące fakty, z których ma korzystać wynik, zamiast oczekiwać, że dostarczy ich wiedza z treningu.

W Ailoot wybierz ten dokładny identyfikator modelu w /v1/chat/completions i podaj zadanie w messages. Każda wiadomość zawiera rolę i treść; powiązaną instrukcję i materiał źródłowy trzymaj razem. Odbierz pełną odpowiedź JSON albo wszystkie segmenty SSE, gdy włączone jest stream, i zachowaj usage wraz z wynikiem tekstowym.