Google: Gemma 4 31B (free)

Το Gemma 4 31B IT είναι η πυκνή έκδοση της ανοικτής οικογένειας Gemma 4 της Google DeepMind, προσαρμοσμένη σε οδηγίες. Η Google τοποθετεί το μοντέλο 31B με γνώμονα την ποιότητα και την προσαρμογή σε συγκεκριμένη εργασία, ενώ η ξεχωριστή έκδοση 26B A4B χρησιμοποιεί μείγμα ειδικών για αποδοτικότερη εξαγωγή συμπερασμάτων. Αυτή η κάρτα αφορά τη συγκεκριμένη έκδοση 31B με προσαρμογή σε οδηγίες, όχι τα προεκπαιδευμένα βάρη της ή κάποιο κβαντισμένο παράγωγο.

Ο επίσημος πίνακας πυκνής αρχιτεκτονικής αναφέρει 30.7 δισεκατομμύρια παραμέτρους, 60 στρώματα, ολισθαίνον παράθυρο 1,024 token και πλαίσιο 256K token. Η οικογένεια συνδυάζει τοπική προσοχή ολισθαίνοντος παραθύρου με καθολική προσοχή, καταλήγοντας σε καθολικό στρώμα, και χρησιμοποιεί ειδικό οπτικό κωδικοποιητή σε αυτό το μοντέλο. Το προφίλ που προκύπτει έχει σχεδιαστεί για είσοδο κειμένου και εικόνων και έξοδο κειμένου. Αυτά είναι στοιχεία αρχιτεκτονικής· δεν καθορίζουν τον χρόνο απόκρισης εφαρμογής ούτε συνεπάγονται την υποστήριξη ήχου άλλων μεγεθών Gemma 4.

Το πλαίσιο συμφραζομένων των 256K token υποστηρίζει εργασίες που συνδυάζουν εκτενές κείμενο με οπτικά τεκμήρια. Εικόνες και κείμενο μπορούν να εναλλάσσονται στην ίδια προτροπή· ο κατασκευαστής συνιστά να προηγείται η εικόνα του σχετικού κειμένου για καλύτερα αποτελέσματα. Οι οπτικές εργασίες περιλαμβάνουν ανίχνευση αντικειμένων, ερμηνεία σελίδων εγγράφων, κατανόηση οθονών και διεπαφών, γραφήματα, πολυγλωσσικό OCR, χειρόγραφα και υπόδειξη σημείων. Η έξοδος είναι κείμενο: εξαγόμενο περιεχόμενο, εξήγηση, κώδικας ή προτεινόμενη ενέργεια εργαλείου.

Η ρυθμιζόμενη συλλογιστική επιτρέπει στο μοντέλο να συλλογιστεί πριν απαντήσει ή να δώσει άμεση απάντηση. Το Gemma 4 προσθέτει εγγενή ρόλο system στους ρόλους user και assistant. Η μορφή προτροπών της Google ενεργοποιεί τη συλλογιστική με το token ελέγχου <|think|> στην προτροπή συστήματος και διαχωρίζει το κανάλι σκέψης από την τελική απάντηση· ο τεκμηριωμένος επεξεργαστής της χειρίζεται αυτό το πρότυπο. Σε συνομιλία πολλών γύρων, διατηρήστε τις προηγούμενες τελικές απαντήσεις στο ιστορικό και παραλείψτε τις προηγούμενες σκέψεις, εκτός από γύρους κλήσης εργαλείων, όπου ο κατασκευαστής υποδεικνύει να διατηρούνται.

Το Native Function Calling υποστηρίζει δομημένη χρήση εργαλείων, ενώ η ανακοίνωση κυκλοφορίας της Google τεκμηριώνει και δομημένη έξοδο JSON. Ορίστε την εργασία, τη διαθέσιμη συνάρτηση και το αναμενόμενο αποτέλεσμα· η εφαρμογή εκτελεί τη ζητούμενη λειτουργία και επιστρέφει την έξοδό της για το επόμενο βήμα. Μια εργασία προγραμματισμού μπορεί να ζητά παραγωγή, συμπλήρωση ή διόρθωση κώδικα, ενώ ένας οπτικός βοηθός μπορεί να χρησιμοποιεί το επιστρεφόμενο κείμενο για να εξηγήσει γράφημα ή οθόνη. Η οδηγία κλήσης συνάρτησης διαφέρει από μια συνδεδεμένη ενέργεια που έχει πράγματι εκτελεστεί.

Η μεταβλητή ανάλυση εικόνας ελέγχεται από το όριο οπτικών token. Οι τεκμηριωμένες επιλογές είναι 70, 140, 280, 560 και 1,120 token. Τα χαμηλότερα όρια εξυπηρετούν ταξινόμηση ή λεζάντες· τα υψηλότερα διατηρούν περισσότερες λεπτομέρειες για OCR, ανάλυση εγγράφων και μικρό κείμενο, με επιπλέον υπολογιστικό κόστος. Αποφασίστε αν χρειάζεστε τη συνολική σκηνή ή την ακριβή γραφή πριν ετοιμάσετε την εικόνα. Ένα καθαρό απόκομμα ετικέτας μπορεί να βοηθά περισσότερο στην εξαγωγή από ένα αόριστο αίτημα εξέτασης κάθε λεπτομέρειας ολόκληρης σελίδας.

Η Google συνιστά temperature 1.0, top-p 0.95 και top-k 64 ως ρυθμίσεις δειγματοληψίας της οικογένειας. Η κάρτα μοντέλου διακρίνει την εκπαίδευση σε περισσότερες από 140 γλώσσες από την άμεση υποστήριξη περισσότερων από 35 γλωσσών. Δηλώστε τη γλώσσα απάντησης και προσδιορίστε ρητά στις οδηγίες τα ονόματα τομέων, τα ονόματα πεδίων ή τους τύπους που πρέπει να διατηρηθούν. Το 256K είναι προδιαγραφή πλαισίου συμφραζομένων· η αναφερόμενη κάρτα δεν τεκμηριώνει ξεχωριστό καθολικό μέγιστο εξόδου για αυτή την έκδοση.

Για εργασία εγγράφου και κώδικα, δώστε τη σχετική εικόνα σελίδας, τη γραπτή απαίτηση και το απόσπασμα πηγαίου κώδικα: «Διάβασε τις ετικέτες, εξήγησε πώς διαφέρει αυτή η οθόνη από την προδιαγραφή και πρότεινε στοχευμένη διόρθωση στον δοσμένο κώδικα». Για γράφημα, ζητήστε να διαχωρίζονται οι ορατές τιμές από μια συναγόμενη τάση. Η κάρτα του Gemma επισημαίνει περιορισμούς σε αμφίσημη γλώσσα, πολύ σύνθετες εργασίες και λανθασμένες ή παρωχημένες πραγματολογικές δηλώσεις· επισυνάψτε λοιπόν τα έγκυρα στοιχεία που πρέπει να χρησιμοποιηθούν, αντί να περιμένετε να τα παρέχει η γνώση εκπαίδευσης.

Μέσω του Ailoot, επιλέξτε αυτό ακριβώς το αναγνωριστικό μοντέλου στο /v1/chat/completions και δώστε την εργασία στο messages. Κάθε μήνυμα περιλαμβάνει role και content· κρατήστε μαζί τις σχετικές οδηγίες και το πηγαίο υλικό. Συλλέξτε ολόκληρη την απόκριση JSON ή όλα τα τμήματα SSE όταν είναι ενεργό το stream και αποθηκεύστε το usage μαζί με το γραπτό αποτέλεσμα.