Perplexity: Decider V1.1 27B

Το Decider V1.1 27B είναι το ενημερωμένο checkpoint αποφάσεων της Perplexity. Αξιολογεί παρεχόμενο περιεχόμενο ως προς ένα καθορισμένο ερώτημα και παράγει πιθανότητες για τις έγκυρες απαντήσεις. Το εγγενές τεχνούργημά του έχει μονάδα εξαγωγής απόφασης αντί για κεφαλή παραγωγής γλώσσας πλήρους λεξιλογίου. Το χρήσιμο αποτέλεσμα είναι μια κατανομή αποφάσεων εντός καθορισμένων ορίων και η ερμηνευμένη απάντησή της, όχι μια εξήγηση ανοικτού τύπου ή μια γενική απόκριση συνομιλίας.

Τι αλλάζει στην έκδοση V1.1

Η Perplexity προσδιορίζει αυτό το μοντέλο ως ενημέρωση του Decider V1 27B που διατηρεί την ίδια βασική αρχιτεκτονική, με αλλαγές στη ρύθμιση προσοχής και περισσότερα δεδομένα εκπαίδευσης. Η βασική αρχιτεκτονική του είναι το Qwen3.8-27B. Η έκδοση V1.1 πρέπει να διατηρεί το δικό της όνομα και διαμόρφωση αντί να περιγράφεται ως εναλλάξιμο αντίγραφο του προηγούμενου checkpoint.

Κατάσταση, ερώτημα και έγκυρες απαντήσεις

Το δημοσιευμένο παράδειγμα δίνει μια γραμμή που περιέχει μια κατάσταση και ένα ερώτημα τύπου choice. Το ερώτημα περιλαμβάνει οδηγίες και κριτήρια των οποίων τα κλειδιά είναι οι σημασιολογικές απαντήσεις και οι περιγραφές ορίζουν πότε ισχύει καθεμία. Το μοντέλο προβλέπει πιθανότητες και στη συνέχεια η βοηθητική συνάρτηση απάντησης του παραγωγού ερμηνεύει αυτές τις πιθανότητες για το ερώτημα. Το παράδειγμα εξαγωγής συμπερασμάτων μπορεί να επεξεργαστεί λίστα γραμμών, με μία απόφαση συνδεδεμένη με τα στοιχεία και το ερώτημα κάθε γραμμής.

Για δρομολόγηση αιτημάτων, δώστε το πραγματικό μήνυμα και το σχετικό πλαίσιο και έπειτα ορίστε τα διαθέσιμα τμήματα ή κατηγορίες. Μια ενδεικτική εργασία μπορεί να διακρίνει αποτυχία ενσωμάτωσης, πρόβλημα πρόσβασης και αίτημα πληροφοριών προϊόντος. Κάντε κάθε περιγραφή αρκετά ακριβή ώστε να επιλύει μια οριακή περίπτωση και κρατήστε τους ορισμούς επιλογών μαζί με το αποτέλεσμα. Μια κατανομή κατηγοριών μπορεί τότε να υποστηρίζει απόφαση δρομολόγησης ή βήμα ελέγχου όταν οι εναλλακτικές παραμένουν κοντά. Το επιλεγμένο αποτέλεσμα του μοντέλου δεν εκτελεί από μόνο του την ενέργεια της ροής εργασίας.

Στοιχεία κειμένου και εικόνας

Η εγγενής υλοποίηση δέχεται εικόνες μαζί με την κατάσταση και το ερώτημα, χρησιμοποιώντας εισόδους αρχείων εικόνας, εικόνες στη μνήμη ή κωδικοποιημένα δεδομένα εικόνας. Για μια εικόνα εγγράφου ή ένα στιγμιότυπο οθόνης, δώστε τα οπτικά στοιχεία και κάντε ένα κλειστό ερώτημα του οποίου οι επιλογές περιγράφουν τα σχετικά αποτελέσματα. Προσδιορίστε το ορατό χαρακτηριστικό που έχει σημασία και δώστε το κειμενικό πλαίσιο που χρειάζεται για την ερμηνεία του. Για παράδειγμα, ταξινομήστε αν ένα εικονιζόμενο αντικείμενο ανήκει σε μία από τις παρεχόμενες κατηγορίες προϊόντων αντί να ζητάτε από το μοντέλο αποφάσεων να γράψει πλήρη περιγραφή προϊόντος.

Ο επεξεργαστής διατηρεί την αναλογία διαστάσεων κατά την αλλαγή μεγέθους και στρογγυλοποιεί τις πλευρές εικόνων σε πολλαπλάσια των 32 pixel. Το τεκμηριωμένο επεξεργασμένο εμβαδόν ξεκινά από 65.536 pixel και περιορίζεται από ένα διαμορφώσιμο μέγιστο· η προεπιλογή του είναι 4.194.304 pixel, ή 2048 επί 2048. Κάθε τμήμα 32 επί 32 συνεισφέρει ένα οπτικό token, επομένως αυτή η προεπιλογή επιτρέπει έως 4.096 οπτικά tokens για μία εικόνα. Αυτά τα μεγέθη περιγράφουν την εγγενή προετοιμασία εικόνων του παραγωγού, όχι μια γενική σύμβαση μεταφόρτωσης εφαρμογής.

Συνδυασμένα όρια εισόδου και εύρος ανάλυσης

Το τεκμηριωμένο βήμα prepare απαιτεί το κείμενο και όλες οι εικόνες μιας απόφασης να χωρούν σε 8.192 tokens. Η υπερμεγέθης είσοδος απορρίπτεται αντί να περικόπτεται σιωπηρά. Πολλές εικόνες μοιράζονται αυτό το όριο με τη γραπτή κατάσταση και το ερώτημα. Μειώστε το άσχετο κείμενο προέλευσης ή το ανώτατο μέγεθος εικόνας όταν προετοιμάζετε μια συνδυασμένη απόφαση, διατηρώντας τη λεπτομέρεια που καθορίζει την απάντηση.

Η ρύθμιση εκπαίδευσης και αναφερόμενης αξιολόγησης περιόριζε τις εικόνες σε 512 επί 512, που αντιστοιχούν σε 262.144 pixel και έως 256 οπτικά tokens. Το διαμορφώσιμο όριο κατά την εξαγωγή συμπερασμάτων μπορεί να διατηρεί περισσότερη λεπτομέρεια, αλλά η κάρτα προειδοποιεί ότι η υψηλότερη ανάλυση βρίσκεται εκτός αυτής της κατανομής εκπαίδευσης και χρησιμοποιεί περισσότερη μνήμη και χρόνο επεξεργασίας. Μια ρύθμιση μεγαλύτερης εικόνας δεν εγγυάται επομένως καλύτερη απόφαση. Κρατήστε την προετοιμασία εισόδου συνεπή με το ερώτημα και εξετάστε αν το απαιτούμενο οπτικό χαρακτηριστικό αναπαρίσταται καθαρά.

Προσοχή, εξαγωγή απόφασης και βαθμονόμηση πιθανοτήτων

Οι στρώσεις πλήρους προσοχής του εγγενούς checkpoint χρησιμοποιούν αποθηκευμένη μη αιτιακή λειτουργία προσοχής, ενώ οι στρώσεις γραμμικής προσοχής διατηρούν τη δική τους συμπεριφορά. Ο κατασκευαστής δηλώνει ότι η προεπιλεγμένη αιτιακή εξαγωγή συμπερασμάτων δεν αναπαράγει την αξιολογημένη ρύθμιση. Η υλοποίηση πρόβλεψής του εφαρμόζει την αποθηκευμένη θερμοκρασία βαθμονόμησης· αν χρησιμοποιηθούν απευθείας logits, αυτή η θερμοκρασία εφαρμόζεται μία φορά και οι πιθανότητες κανονικοποιούνται μεταξύ των τρεχόντων έγκυρων υποψηφίων. Αυτές οι λεπτομέρειες ανήκουν στο ακριβές προφίλ αποφάσεων και πρέπει να διατηρούνται κατά την ερμηνεία των αριθμητικών εξόδων του.

Η χωριστή μονάδα εξαγωγής απόφασης διακρίνει επίσης αυτό το τεχνούργημα από μια εξαγωγή για παραγωγή κειμένου. Μια μετατροπή σε διεπαφή παραγωγής βάσει λεξιλογίου χρειάζεται ρητή αντιστοίχιση και πρέπει να διατηρεί τη συμπεριφορά προσοχής. Προετοιμάστε κλειστά ερωτήματα για το εγγενές προφίλ αποφάσεων· χρησιμοποιήστε κατάλληλο μοντέλο παραγωγής όταν η εργασία χρειάζεται συνομιλία, κώδικα, εξηγήσεις ή αιτήματα εργαλείων.

Ένα χρήσιμο τελικό παραδοτέο διατηρεί συσχετισμένα την κατάσταση, το ερώτημα, τις επιτρεπόμενες απαντήσεις και την κατανομή που προέκυψε. Ορίστε το ερώτημα γύρω από στοιχεία που είναι πράγματι παρόντα, ελέγξτε τις αμφίσημες περιπτώσεις ως προς αυτά τα στοιχεία και χρησιμοποιήστε παραδείγματα με ετικέτες από την προβλεπόμενη εργασία για να αποφασίσετε πώς οι αριθμητικές έξοδοι πρέπει να επηρεάζουν τη δρομολόγηση ή την ταξινόμηση. Το μοντέλο παρέχει πιθανότητες απόφασης· τα κριτήρια και η εφαρμογή που το περιβάλλει καθορίζουν πώς αυτές οι πιθανότητες γίνονται χρήσιμη ενέργεια ή καταγεγραμμένη ετικέτα.