Thinking Machines: Inkling (free)

Το Inkling είναι το πολυτροπικό μοντέλο ανοιχτών βαρών της Thinking Machines Lab για συλλογισμό, προγραμματισμό, συνομιλία και εφαρμογές πρακτόρων. Δέχεται κείμενο, εικόνες και ήχο και επιστρέφει κείμενο. Ο σχεδιασμός Mixture-of-Experts έχει 975 δισεκατομμύρια συνολικές παραμέτρους και 41 δισεκατομμύρια ενεργές, καθιστώντας το το μεγαλύτερο μοντέλο της οικογένειας. Το Inkling-Small είναι χωριστό μοντέλο 276 δισεκατομμυρίων παραμέτρων με 12 δισεκατομμύρια ενεργές και όχι ρύθμιση που αλλάζει το μήκος απόκρισης του Inkling.

Για ουσιαστική εργασία κώδικα, δώστε το σχετικό υλικό αποθετηρίου, την παρατηρημένη συμπεριφορά και το επιθυμητό αποτέλεσμα. Ζητήστε να εντοπίσει την υπεύθυνη διαδρομή, να προτείνει αλλαγή και να αναφέρει τα τεκμήρια ελέγχων που εκτελέστηκαν πραγματικά στο συνδεδεμένο περιβάλλον. Για σύγκριση εγγράφων, βάλτε ετικέτες στις ενότητες πηγών και ζητήστε τις σχετικές διαφορές, τα υποστηρικτικά στοιχεία τους και κάθε αναπάντητη ερώτηση. Οι επιδιωκόμενες εφαρμογές περιλαμβάνουν βοηθούς προγραμματισμού, chatbot, παραγωγή ενισχυμένη με ανάκτηση και πράκτορες που χρησιμοποιούν εργαλεία, με τελικό αποτέλεσμα διαμορφωμένο για την εφαρμογή που το καταναλώνει.

Το Inkling υποστηρίζει έως ένα εκατομμύριο token συμφραζομένων. Χρησιμοποιήστε αυτόν τον χώρο για να κρατάτε μαζί εκτενές αρχικό υλικό και σημαντικά γεγονότα συνομιλίας, οργανωμένα γύρω από συγκεκριμένη ερώτηση. Διακρίνετε τα γεγονότα των πηγών από παραδοχές και αφήστε χώρο για το πλήρες γραπτό παραδοτέο. Το μεγαλύτερο παράθυρο υποστηρίζει εργασία σε εκτενή συλλογή· δεν μετατρέπει την απάντηση σε ζωντανή εικόνα συστήματος του οποίου οι τρέχουσες πληροφορίες δεν έχουν δοθεί.

Η προσπάθεια σκέψης ρυθμίζεται σε συνεχές εύρος τιμών από 0.0 έως τιμές μικρότερες του 1.0. Οι αρχικές προεπιλογές του παραγωγού είναι none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 και xhigh 0.99, με high ως προεπιλογή του renderer. Η προσπάθεια και ο προϋπολογισμός token παραγωγής είναι ανεξάρτητα. Μεγαλύτερη προσπάθεια μπορεί να ενθαρρύνει περισσότερο συλλογισμό και να απαιτεί περισσότερο χώρο πριν από την τελική απάντηση, ενώ το none προσανατολίζει σε απουσία συλλογισμού χωρίς να επιβάλλει απόλυτο περιορισμό. Επιλέξτε τιμή κατάλληλη για την ανάθεση και καταστήστε σαφή το αναμενόμενο παραδοτέο και τη συνθήκη ολοκλήρωσης.

Η είσοδος όρασης υποστηρίζει περιγραφή εικόνας, ερωτήσεις ορατού περιεχομένου, γραφήματα, διαγράμματα και μαθηματικό οπτικό συλλογισμό. Για καλή απόδοση, χρησιμοποιήστε εικόνες με διαστάσεις από 40 έως 4.096 pixel. Διατηρήστε ευανάγνωστες τις σχετικές ετικέτες και τα συμφραζόμενα του διαγράμματος. Το Inkling μπορεί να χρησιμοποιεί διαμορφωμένο εργαλείο Python για μεγέθυνση, περικοπή ή προγραμματιστική εξέταση εικόνας, συνδέοντας οπτικές παρατηρήσεις με συλλογισμό μέσω κώδικα. Μια χρήσιμη απάντηση γραφήματος διατηρεί τις παρατηρημένες τιμές και δείχνει πώς στηρίζουν το συμπέρασμα, αντί να υποθέτει ότι μια περικοπή ή υπολογισμός έγινε απλώς επειδή προτάθηκε.

Η είσοδος ήχου χρησιμοποιεί WAV με δειγματοληψία 16 kHz και ο κατασκευαστής συνιστά εγγραφές έως 20 λεπτών για βέλτιστη απόδοση. Είναι σύσταση προετοιμασίας. Το Inkling μπορεί να μεταγράφει ομιλία, να ακολουθεί προφορικές οδηγίες, να απαντά ερωτήσεις για εγγραφές και να συλλογίζεται πάνω σε εκτενέστερο ήχο. Δώστε τη σχετική εγγραφή μαζί με τη γραπτή ερώτηση και όποιο υλικό αναφοράς χρειάζεται για ερμηνεία. Ένα παραδοτέο συνάντησης μπορεί να διαχωρίζει όσα ειπώθηκαν από μεταγενέστερη περίληψη ή ερμηνεία. Το μοντέλο παράγει κείμενο, οπότε η κατανόηση ήχου διαφέρει από τη σύνθεση προφορικής απάντησης.

Για ανάθεση με εργαλεία, περιγράψτε τις διαθέσιμες ενέργειες και τα ορίσματά τους και διατηρήστε τις πραγματικές παρατηρήσεις της εφαρμογής. Ένα αποτέλεσμα αναζήτησης μπορεί να παρέχει τρέχοντα τεκμήρια· ένας υπολογισμός αριθμητική εργασία· μια ενέργεια αρχείου μπορεί να τεκμηριώνει το εξεταζόμενο περιεχόμενο. Η προτεινόμενη ενέργεια του μοντέλου και το εκτελεσμένο αποτέλεσμα είναι χωριστά μέρη της συνομιλίας. Συνδέστε την τελική απάντηση με αυτές τις παρατηρήσεις, ιδιαίτερα όταν προτείνει αλλαγή κώδικα ή επόμενο βήμα εφαρμογής.

Το Inkling εκπαιδεύτηκε για βαθμονόμηση και τήρηση οδηγιών, περιλαμβάνοντας έκφραση αβεβαιότητας όταν η απάντηση δεν τεκμηριώνεται. Για πρόβλεψη ή ανάλυση βάσει στοιχείων, ζητήστε τις παραδοχές, τα τεκμήρια και τις ανεπίλυτες συνθήκες στο γραπτό αποτέλεσμα. Για εξαγωγή, ορίστε πώς πρέπει να αναπαρίσταται μια απούσα τιμή αντί να απαιτείτε επινοημένο γεγονός σε κάθε πεδίο. Αυτές οι οδηγίες κάνουν το αποτέλεσμα χρήσιμο για έλεγχο χωρίς να αντιμετωπίζουν τη βεβαιότητα ή τον μακρύ συλλογισμό ως απόδειξη ορθότητας.

Τα ανοιχτά βάρη υποστηρίζουν fine-tuning και ενσωμάτωση σε επόμενα προϊόντα. Ένα εξειδικευμένο μοντέλο αναπτύσσεται από αντιπροσωπευτικά παραδείγματα και επιθυμητή συμπεριφορά, ενώ ένα συνηθισμένο αίτημα inference παρέχει συμφραζόμενα για την παρούσα εργασία. Ο παραγωγός επιδεικνύει την προσαρμογή ως χωριστή ροή· μια κανονική απάντηση δεν μεταβαίνει σιωπηρά σε νέα βάρη. Διατηρήστε τα αρχικά τεκμήρια και τους ζητούμενους περιορισμούς με το τελικό παραδοτέο, ώστε επόμενο αίτημα να αναθεωρεί ένα γεγονός, να βελτιώνει τη διατύπωση ή να εξετάζει άλλη διαδρομή κώδικα, κρατώντας συνεκτική την ίδια ανάθεση.