Google: Gemma 4 26B A4B (free)

Το Gemma 4 26B A4B IT είναι η έκδοση μείγματος ειδικών της ανοικτής οικογένειας Gemma 4 της Google DeepMind, προσαρμοσμένη σε οδηγίες. Ο επίσημος πίνακας αρχιτεκτονικής αναφέρει 25.2 δισεκατομμύρια συνολικές και 3.8 δισεκατομμύρια ενεργές παραμέτρους· το A4B δηλώνει τη στρογγυλοποιημένη κλίμακα ενεργών παραμέτρων. Προορίζεται για συλλογιστική, προγραμματισμό, ροές εργασίας πρακτόρων και πολυτροπική κατανόηση. Διαφέρει από την προεκπαιδευμένη έκδοση και από το πυκνό μοντέλο 31B.

Ο σχεδιασμός μείγματος ειδικών ενεργοποιεί υποσύνολο παραμέτρων σε κάθε βήμα εξαγωγής συμπερασμάτων: ο δημοσιευμένος πίνακας αναφέρει οκτώ ενεργούς ειδικούς από 128, μαζί με έναν κοινό ειδικό. Η Google τοποθετεί αυτή την έκδοση με γνώμονα την αποδοτικότητα εξαγωγής συμπερασμάτων σε σχέση με το πυκνό μοντέλο. Συνδυάζει αρχιτεκτονική 30 στρωμάτων και ολισθαίνον παράθυρο 1,024 token με καθολική προσοχή, πλαίσιο 256K και οπτικό κωδικοποιητή. Τα μεγέθη αυτά περιγράφουν το μοντέλο του κατασκευαστή, όχι εγγυημένη καθυστέρηση ή διαμόρφωση υλικού για συγκεκριμένη εφαρμογή.

Το πλαίσιο συμφραζομένων των 256K token υποστηρίζει εργασίες που συνδυάζουν εκτενές κείμενο με οπτικά τεκμήρια. Εικόνες και κείμενο μπορούν να εναλλάσσονται στην ίδια προτροπή· ο κατασκευαστής συνιστά να προηγείται η εικόνα του σχετικού κειμένου για καλύτερα αποτελέσματα. Οι οπτικές εργασίες περιλαμβάνουν ανίχνευση αντικειμένων, ερμηνεία σελίδων εγγράφων, κατανόηση οθονών και διεπαφών, γραφήματα, πολυγλωσσικό OCR, χειρόγραφα και υπόδειξη σημείων. Η έξοδος είναι κείμενο: εξαγόμενο περιεχόμενο, εξήγηση, κώδικας ή προτεινόμενη ενέργεια εργαλείου.

Η ρυθμιζόμενη συλλογιστική επιτρέπει στο μοντέλο να συλλογιστεί πριν απαντήσει ή να δώσει άμεση απάντηση. Το Gemma 4 προσθέτει εγγενή ρόλο system στους ρόλους user και assistant. Η μορφή προτροπών της Google ενεργοποιεί τη συλλογιστική με το token ελέγχου <|think|> στην προτροπή συστήματος και διαχωρίζει το κανάλι σκέψης από την τελική απάντηση· ο τεκμηριωμένος επεξεργαστής της χειρίζεται αυτό το πρότυπο. Σε συνομιλία πολλών γύρων, διατηρήστε τις προηγούμενες τελικές απαντήσεις στο ιστορικό και παραλείψτε τις προηγούμενες σκέψεις, εκτός από γύρους κλήσης εργαλείων, όπου ο κατασκευαστής υποδεικνύει να διατηρούνται.

Το Native Function Calling υποστηρίζει δομημένη χρήση εργαλείων, ενώ η ανακοίνωση κυκλοφορίας της Google τεκμηριώνει και δομημένη έξοδο JSON. Ορίστε την εργασία, τη διαθέσιμη συνάρτηση και το αναμενόμενο αποτέλεσμα· η εφαρμογή εκτελεί τη ζητούμενη λειτουργία και επιστρέφει την έξοδό της για το επόμενο βήμα. Μια εργασία προγραμματισμού μπορεί να ζητά παραγωγή, συμπλήρωση ή διόρθωση κώδικα, ενώ ένας οπτικός βοηθός μπορεί να χρησιμοποιεί το επιστρεφόμενο κείμενο για να εξηγήσει γράφημα ή οθόνη. Η οδηγία κλήσης συνάρτησης διαφέρει από μια συνδεδεμένη ενέργεια που έχει πράγματι εκτελεστεί.

Η μεταβλητή ανάλυση εικόνας ελέγχεται από το όριο οπτικών token. Οι τεκμηριωμένες επιλογές είναι 70, 140, 280, 560 και 1,120 token. Τα χαμηλότερα όρια εξυπηρετούν ταξινόμηση ή λεζάντες· τα υψηλότερα διατηρούν περισσότερες λεπτομέρειες για OCR, ανάλυση εγγράφων και μικρό κείμενο, με επιπλέον υπολογιστικό κόστος. Αποφασίστε αν χρειάζεστε τη συνολική σκηνή ή την ακριβή γραφή πριν ετοιμάσετε την εικόνα. Ένα καθαρό απόκομμα ετικέτας μπορεί να βοηθά περισσότερο στην εξαγωγή από ένα αόριστο αίτημα εξέτασης κάθε λεπτομέρειας ολόκληρης σελίδας.

Η Google συνιστά temperature 1.0, top-p 0.95 και top-k 64 ως ρυθμίσεις δειγματοληψίας της οικογένειας. Η κάρτα μοντέλου διακρίνει την εκπαίδευση σε περισσότερες από 140 γλώσσες από την άμεση υποστήριξη περισσότερων από 35 γλωσσών. Δηλώστε τη γλώσσα απάντησης και προσδιορίστε ρητά στις οδηγίες τα ονόματα τομέων, τα ονόματα πεδίων ή τους τύπους που πρέπει να διατηρηθούν. Το 256K είναι προδιαγραφή πλαισίου συμφραζομένων· η αναφερόμενη κάρτα δεν τεκμηριώνει ξεχωριστό καθολικό μέγιστο εξόδου για αυτή την έκδοση.

Για εργασία εγγράφου και κώδικα, δώστε τη σχετική εικόνα σελίδας, τη γραπτή απαίτηση και το απόσπασμα πηγαίου κώδικα: «Διάβασε τις ετικέτες, εξήγησε πώς διαφέρει αυτή η οθόνη από την προδιαγραφή και πρότεινε στοχευμένη διόρθωση στον δοσμένο κώδικα». Για γράφημα, ζητήστε να διαχωρίζονται οι ορατές τιμές από μια συναγόμενη τάση. Η κάρτα του Gemma επισημαίνει περιορισμούς σε αμφίσημη γλώσσα, πολύ σύνθετες εργασίες και λανθασμένες ή παρωχημένες πραγματολογικές δηλώσεις· επισυνάψτε λοιπόν τα έγκυρα στοιχεία που πρέπει να χρησιμοποιηθούν, αντί να περιμένετε να τα παρέχει η γνώση εκπαίδευσης.

Μέσω του Ailoot, επιλέξτε αυτό ακριβώς το αναγνωριστικό μοντέλου στο /v1/chat/completions και δώστε την εργασία στο messages. Κάθε μήνυμα περιλαμβάνει role και content· κρατήστε μαζί τις σχετικές οδηγίες και το πηγαίο υλικό. Συλλέξτε ολόκληρη την απόκριση JSON ή όλα τα τμήματα SSE όταν είναι ενεργό το stream και αποθηκεύστε το usage μαζί με το γραπτό αποτέλεσμα.