Thinking Machines: Inkling Small (free)

Το Inkling-Small είναι το μικρότερο πολυτροπικό μοντέλο ανοιχτών βαρών της Thinking Machines Lab για συλλογισμό, προγραμματισμό, συνομιλία και εφαρμογές με εργαλεία. Δέχεται κείμενο, εικόνες και ήχο και παράγει κείμενο. Ο σχεδιασμός Mixture-of-Experts έχει 276 δισεκατομμύρια συνολικές παραμέτρους με 12 δισεκατομμύρια ενεργές, έναντι 975 δισεκατομμυρίων συνολικών και 41 δισεκατομμυρίων ενεργών του Inkling. Το Small είναι χωριστό κυκλοφορημένο μοντέλο με διαφορετική ισορροπία αποδοτικότητας και δυνατοτήτων, όχι λειτουργία συντομότερης εξόδου του Inkling.

Για διερεύνηση κώδικα, δώστε τα επηρεαζόμενα αρχεία, την παρατηρημένη συμπεριφορά και την αναγκαία αλλαγή και ζητήστε την υπεύθυνη διαδρομή και στοχευμένη διόρθωση. Ένα χρήσιμο τελικό παραδοτέο περιλαμβάνει την προτεινόμενη τροποποίηση και τα τεκμήρια ελέγχων που εκτέλεσε πραγματικά η συνδεδεμένη εφαρμογή. Για βοηθό υποστήριξης, δώστε τη σχετική πολιτική και τα γεγονότα συνομιλίας και ζητήστε την επόμενη απάντηση ή την ερώτηση που λείπει. Οι επιδιωκόμενες χρήσεις περιλαμβάνουν βοηθούς προγραμματισμού, chatbot, απαντήσεις ενισχυμένες με ανάκτηση και συστήματα πρακτόρων με εργαλεία εφαρμογής.

Το παράθυρο συμφραζομένων φτάνει το ένα εκατομμύριο token. Οργανώστε μακρύ αποθετήριο ή συλλογή εγγράφων με ονόματα αρχείων, ετικέτες ενοτήτων και σαφή ερώτηση, διατηρώντας τα στοιχεία που θα χρειαστεί επόμενο στάδιο. Ένα μεγάλο παράθυρο χρησιμεύει στη σύγκριση απομακρυσμένων πληροφοριών, αλλά το ζητούμενο αποτέλεσμα πρέπει να παραμένει συγκεκριμένο: αλλαγή κώδικα, εξήγηση βάσει πηγών ή εξαγόμενα πεδία. Νέες ή ιδιωτικές πληροφορίες πρέπει να παρέχονται στα τεκμήρια ή στα επιστρεφόμενα αποτελέσματα ανάκτησης αντί να θεωρούνται μέρος της μαθημένης γνώσης.

Η προσπάθεια σκέψης ελέγχεται. Ο οδηγός της οικογένειας χρησιμοποιεί συνεχές εύρος τιμών από 0.0 έως τιμές μικρότερες του 1.0, με αρχικές προεπιλογές none, minimal, low, medium, high και xhigh που αντιστοιχούν σε 0.0, 0.1, 0.2, 0.7, 0.9 και 0.99. Ο renderer του παραγωγού έχει προεπιλογή high. Μεγαλύτερη προσπάθεια μπορεί να ενθαρρύνει περισσότερο συλλογισμό και να χρειάζεται μεγαλύτερο προϋπολογισμό παραγωγής, αλλά δεν εγγυάται μακρύτερη ή ακριβέστερη απάντηση. Το μηδέν προσανατολίζει το μοντέλο σε απουσία συλλογισμού αντί να επιβάλλει απόλυτη απαγόρευσή του. Επιλέξτε προσπάθεια για την εργασία και κρατήστε σαφή την απαίτηση τελικής εξόδου.

Οι εικόνες υποστηρίζουν οπτικές ερωτήσεις, ερμηνεία γραφημάτων ή διαγραμμάτων και μαθηματικό συλλογισμό από ορατές πληροφορίες. Για καλή απόδοση, χρησιμοποιήστε εικόνες με διαστάσεις από 40 έως 4.096 pixel. Διατηρήστε ευανάγνωστες ετικέτες και εξηγήστε τη σημαντική λεπτομέρεια. Με διαμορφωμένο εργαλείο Python, το μοντέλο μπορεί να συνδυάζει οπτικό συλλογισμό με περικοπή, μεγέθυνση και προγραμματιστική εξέταση εγγράφου ή γραφήματος. Αυτές οι ενέργειες απαιτούν εκτέλεση από το συνδεδεμένο περιβάλλον εργαλείων· η γραπτή απάντηση πρέπει να χρησιμοποιεί τις επιστρεφόμενες παρατηρήσεις του.

Η είσοδος ήχου είναι WAV με δειγματοληψία 16 kHz, με εγγραφές ιδανικά κάτω των δύο λεπτών για βέλτιστη απόδοση. Είναι σύσταση προετοιμασίας, όχι εγγυημένο απόλυτο όριο διάρκειας. Χρησιμοποιήστε σχετική προφορική ερώτηση ή σύντομο κλιπ και δηλώστε αν το γραπτό αποτέλεσμα πρέπει να μεταγράφει ομιλία, να απαντά ερώτηση για την εγγραφή ή να συσχετίζει το περιεχόμενο με άλλο παρεχόμενο υλικό. Η εγγενής απόκριση είναι κείμενο και όχι παραγόμενη ομιλία. Η χωριστή σύσταση του Inkling για μεγαλύτερο ήχο δεν πρέπει να μεταφέρεται στην έκδοση Small.

Οι ροές με εργαλεία χρειάζονται ουσιαστικές περιγραφές εργαλείων, ορισμούς ορισμάτων και αποτελέσματα ενεργειών που εκτελεί η εφαρμογή. Διακρίνετε αποτέλεσμα αναζήτησης, υπολογισμό ή παρατήρηση αρχείου από την προτεινόμενη ενέργεια του μοντέλου. Για απόκλιση γραφήματος, προσδιορίστε τις σχετικές ετικέτες, εξετάστε τις παρεχόμενες τιμές μέσω εργαλείου υπολογισμού και ζητήστε εξήγηση που τις παραθέτει. Το μοντέλο εκπαιδεύτηκε για ποικίλα περιβάλλοντα προγραμματισμού και πρακτόρων, επομένως η περιβάλλουσα εργασία και τα εργαλεία πρέπει να περιγράφονται αντί να υπονοούνται.

Τα ανοιχτά βάρη υποστηρίζουν έρευνα μοντέλων, fine-tuning και ενσωμάτωση σε επόμενα προϊόντα. Η κυκλοφορία Inkling-Small ακολουθεί προηγούμενο checkpoint preview και περιλαμβάνει πρόσθετη εκπαίδευση για προγραμματισμό με πράκτορες· το τελικό μοντέλο και το preview πρέπει να διατηρούν χωριστές ταυτότητες. Για εξειδικευμένη εξαγωγή ή ύφος απόκρισης, η προσαρμογή χρησιμοποιεί αντιπροσωπευτικά παραδείγματα και ρητή επιθυμητή συμπεριφορά. Ένα συνηθισμένο prompt δίνει συμφραζόμενα για το τρέχον αίτημα· δεν δημιουργεί ούτε επιλέγει νεοεκπαιδευμένο μοντέλο.

Ένα χρήσιμο βήμα ελέγχου εξετάζει αν η προτεινόμενη αλλαγή κώδικα, μεταγραφή, εξαγόμενα στοιχεία ή γραπτή απάντηση ταιριάζουν στα παρεχόμενα τεκμήρια. Ορίστε πώς πρέπει να εμφανίζονται η αβεβαιότητα και οι ελλείπουσες πληροφορίες, ιδιαίτερα σε πρόβλεψη ή πραγματολογική απάντηση με ελλιπή πηγή. Ο κατασκευαστής εκπαίδευσε το Inkling-Small για βαθμονόμηση προβλέψεων με ενισχυτική μάθηση βάσει ορθών κανόνων βαθμολόγησης σε πραγματικές ερωτήσεις, με στόχο βεβαιότητα ανάλογη των διαθέσιμων τεκμηρίων. Διατηρήστε το υλικό και τις παρατηρήσεις εργαλείων μαζί με το παραδοτέο, ώστε επόμενο αίτημα να αναθεωρεί ένα ζήτημα χωρίς να χάνει την αρχική εργασία. Οι γενικές πολύγλωσσες και πολυτροπικές δυνατότητες του Inkling-Small διαφέρουν από ειδική γεννήτρια ομιλίας ή υπηρεσία εγγυημένης εξωτερικής ενέργειας.