LiquidAI: LFM2.5-2.6B (free)

Το Liquid AI LFM2.5-2.6B είναι το μετεκπαιδευμένο μοντέλο κειμένου στη συμπαγή οικογένεια LFM2.5 της Liquid, σχεδιασμένο για πράκτορες που λειτουργούν στη συσκευή και πρακτικές ροές εργασίας. Η ακριβής κάρτα μοντέλου του αναφέρει 2,69 δισ. παραμέτρους και 30 στρώματα: 22 μπλοκ βραχείας συνέλιξης διπλής πύλης και οκτώ μπλοκ προσοχής ομαδοποιημένων ερωτημάτων. Ο υβριδικός σχεδιασμός στοχεύει στην αποδοτική επεξεργασία κειμένου. Το μοντέλο δέχεται κείμενο και επιστρέφει κείμενο, συμπεριλαμβανομένης μιας αιτιολογημένης απάντησης ή αιτήματος χρήσης μιας καθορισμένης συνάρτησης.

Ο κατασκευαστής το συνιστά για εργασίες πρακτόρων, χρήση εργαλείων, εξαγωγή δεδομένων, παραγωγή ενισχυμένη με ανάκτηση και ροές μεγάλου πλαισίου. Η διαδικασία εκπαίδευσης της έκδοσης συνδυάζει επιβλεπόμενη λεπτομερή προσαρμογή, εξειδικευμένα μοντέλα-δασκάλους, απόσταξη βάσει της τρέχουσας πολιτικής σε πολλούς τομείς και ενισχυτική μάθηση μέσα σε περιβάλλοντα πρακτόρων. Αυτό βοηθά να εξηγηθεί η έμφαση στην ακολούθηση οδηγιών εργασίας, τη χρήση παρατηρήσεων εργαλείων και την πρόοδο μέσα από πολλά βήματα. Δώστε του τα πραγματικά υλικά και ακριβή στόχο, αντί να βασίζεστε σε ευρείες μαθημένες γνώσεις για την κάλυψη κενών.

Για εξαγωγή, ορίστε τα πεδία και τους κανόνες πηγών πριν παρέχετε το υλικό. Ένα πρακτικό αίτημα είναι: «Διάβασε αυτές τις ενημερώσεις υπηρεσίας, εξήγαγε το αναγνωριστικό κάθε εγγραφής, τη δηλωμένη κατάστασή της και την επόμενη απαιτούμενη ενέργεια και διατήρησε την πρόταση που υποστηρίζει κάθε πεδίο. Επίστρεψε null όταν ένα πεδίο λείπει». Προσδιορίστε αν μια τιμή πρέπει να αντιγραφεί ακριβώς, να κανονικοποιηθεί ή να συναχθεί. Έτσι η έξοδος γίνεται ελέγξιμη και αποτρέπεται η σιωπηρή αντικατάσταση πληροφοριών που πράγματι υπάρχουν στην πηγή από μια εύλογη ερμηνεία.

Για RAG, παρέχετε σχετικά αποσπάσματα με σταθερές ετικέτες και ζητήστε απάντηση τεκμηριωμένη σε αυτά. Ένα παράδειγμα είναι: «Χρησιμοποιώντας μόνο αυτές τις οδηγίες εγκατάστασης, εξήγησε ποια βήματα ισχύουν για το δηλωμένο περιβάλλον και κατάγραψε τα προαπαιτούμενα που παραμένουν άγνωστα». Διατηρήστε τις εκδόσεις εγγράφων και τις συνθήκες μαζί με το κείμενο. Ζητήστε από το μοντέλο να εντοπίσει ένα ελλείπον ή αντικρουόμενο γεγονός αντί να επινοήσει πλήρη διαδικασία. Αυτό ταιριάζει καλύτερα στη σύσταση του κατασκευαστή για εργασίες βασισμένες σε πηγές από το να ζητάτε από το συμπαγές μοντέλο να λειτουργεί ως εξαντλητική αποθήκη εξειδικευμένης γνώσης.

Το LFM2.5-2.6B είναι αμιγές μοντέλο συλλογιστικής: το πρότυπο συνομιλίας του αρχίζει την απάντηση του βοηθού με δείκτη σκέψης και το μοντέλο συλλογίζεται πριν από την τελική απάντηση. Η κάρτα μοντέλου του κατασκευαστή συνιστά temperature 0.1, top-k 50 και ποινή επανάληψης 1.1 για την παραγωγή. Αυτές είναι ρυθμίσεις των οδηγιών για το συγκεκριμένο μοντέλο. Κρατήστε το τελικό παραδοτέο διακριτό από το κείμενο συλλογιστικής και αφήστε χώρο και για τα δύο σε ένα αίτημα εργασίας. Δεν πρέπει να θεωρούνται δεδομένες για αυτό το μοντέλο ρυθμίσεις ή λειτουργίες άμεσης απάντησης που ανήκουν σε άλλες εκδόσεις οδηγιών LFM.

Το μοντέλο χρησιμοποιεί μορφή συνομιλίας παρόμοια με ChatML, με ρόλους system, user, assistant και tool. Η τεκμηριωμένη ροή συναρτήσεών του έχει τέσσερα στάδια: ορισμός εργαλείων, αίτημα συνάρτησης από το μοντέλο, εκτέλεση της συνάρτησης στην περιβάλλουσα εφαρμογή και επιστροφή του πραγματικού αποτελέσματος ώστε το μοντέλο να απαντήσει. Οι εγγενείς κλήσεις είναι λίστες σε σύνταξη τύπου Python που περικλείονται από δείκτες κλήσης εργαλείου· ο κατασκευαστής περιγράφει επίσης αίτημα μορφής κλήσης JSON μέσω της οδηγίας συστήματος. Χρησιμοποιήστε τον κατάλληλο αναλυτή, ελέγξτε το όνομα συνάρτησης και τα ορίσματα ως προς τους παρεχόμενους ορισμούς και διατηρήστε το αποτέλεσμα μαζί με την κλήση που το παρήγαγε.

Για μια συμπαγή ροή πράκτορα, εκθέστε μόνο τις συναρτήσεις που σχετίζονται με την τρέχουσα εργασία, με συνοπτικές περιγραφές και ρητούς τύπους ορισμάτων. Οι ίδιοι οι ορισμοί εργαλείων καταλαμβάνουν πλαίσιο. Μια χρήσιμη ακολουθία μπορεί να αναζητά την κατάσταση μιας παρεχόμενης εγγραφής, να συγκρίνει την επιστρεφόμενη κατάσταση με έναν κανόνα και να εξηγεί αν απαιτείται συνέχεια. Παρέχετε το αναγνωριστικό εγγραφής ως τεκμήριο και ζητήστε τελική απάντηση συνδεδεμένη με την επιστρεφόμενη παρατήρηση. Το μοντέλο προτείνει και ερμηνεύει την ενέργεια· η εφαρμογή παρέχει την πραγματική εκτέλεση και το αποτέλεσμά της.

Η τρέχουσα κάρτα μοντέλου του κατασκευαστή ορίζει πλαίσιο μοντέλου 131.072 token και η έκδοση περιγράφει ειδικό στάδιο επέκτασης πλαισίου. Εργαστείτε εντός του παραθύρου της διαμόρφωσης που χρησιμοποιείται, διατηρώντας όρια πηγών, σχετικό ιστορικό και χώρο για τη συνέχεια. Για πολλά έγγραφα, ζητήστε συγκεκριμένη σύγκριση ή εξάρτηση προς ανίχνευση. Το εγγενές checkpoint και τα παραδοτέα GGUF, ONNX και MLX εξυπηρετούν διαφορετικές ανάγκες εγκατάστασης, ενώ ένα μοντέλο προτάσεων για speculative decoding είναι ξεχωριστό συνοδευτικό παραδοτέο. Μεγέθη πόρων ή ταχύτητας μιας διαμόρφωσης δεν περιγράφουν αυτόματα κάθε μορφή μοντέλου και παράθυρο εργασίας.

Η Liquid δηλώνει ρητά ότι δεν συνιστά το LFM2.5-2.6B για προγραμματισμό μέσω πρακτόρων ή εργασίες που απαιτούν εκτεταμένες γνώσεις. Κρατήστε το εστιασμένο σε συγκεκριμένες ροές με παρεχόμενα τεκμήρια, κανόνες εξαγωγής και παρατηρήσεις εργαλείων. Το προεκπαιδευμένο checkpoint Base είναι επίσης ξεχωριστό παραδοτέο που προορίζεται για προσαρμογή, ενώ αυτή η μετεκπαιδευμένη έκδοση είναι το μοντέλο πράκτορα. Για το τελικό αποτέλεσμα, επιθεωρήστε τις εξαγόμενες τιμές ως προς την πηγή τους, ελέγξτε ότι ένα παρατιθέμενο απόσπασμα υποστηρίζει την απάντηση και διακρίνετε μια ζητούμενη κλήση εργαλείου από μια ενέργεια με καταγεγραμμένο αποτέλεσμα. Διατηρήστε τις εκκρεμείς πληροφορίες όταν επηρεάζουν το συμπέρασμα, αντί να αφήνετε το καλογραμμένο κείμενο να τις αποκρύπτει.