Το Mistral Small 3 Instruct 2501 είναι η έκδοση 24 δισ. παραμέτρων του Mistral Small 3 που έχει προσαρμοστεί για οδηγίες. Προέρχεται από λεπτομερή προσαρμογή του ξεχωριστά ονομασμένου μοντέλου Small 24B Base 2501. Ο κατασκευαστής το προορίζει για άμεση βοήθεια μέσω συνομιλίας, κλήση συναρτήσεων και προσαρμογή σε συγκεκριμένο αντικείμενο, με κείμενο τόσο ως είσοδο όσο και ως παραγόμενο αποτέλεσμα.
Βασικά χαρακτηριστικά και διάκριση εκπαίδευσης
Η κάρτα του μοντέλου τεκμηριώνει πολυγλωσσική υποστήριξη, δυνατότητες συνομιλίας και συλλογιστικής, εγγενή κλήση συναρτήσεων, έξοδο JSON και τήρηση system prompt. Το παράθυρο συμφραζομένων είναι 32 χιλ. token και χρησιμοποιεί tokenizer Tekken με λεξιλόγιο που επισημαίνεται ως 131 χιλ. Η ένδειξη συμφραζομένων αφορά το κείμενο που διατηρείται για την εργασία, ενώ η ένδειξη λεξιλογίου περιγράφει την τμηματοποίηση σε token· είναι διαφορετικές προδιαγραφές.
Ο κατασκευαστής αναφέρει γλώσσες όπως αγγλικά, γαλλικά, γερμανικά, ισπανικά, ιταλικά, κινεζικά, ιαπωνικά, κορεατικά, πορτογαλικά, ολλανδικά και πολωνικά, με τα ρωσικά να υπάρχουν επίσης στα γλωσσικά μεταδεδομένα της δημοσιευμένης κάρτας. Ορίστε την τελική γλώσσα και τυχόν ορολογία που πρέπει να παραμείνει αμετάβλητη. Μια μεταφρασμένη εξήγηση μπορεί να διατηρεί αναγνωριστικά, ονόματα και μονάδες, προσαρμόζοντας το υπόλοιπο κείμενο στον αναγνώστη.
Η ανακοίνωση της έκδοσης δηλώνει ότι το Small 3 δεν εκπαιδεύεται με ενισχυτική μάθηση ή συνθετικά δεδομένα και διακρίνει τα προεκπαιδευμένα checkpoint από εκείνα που έχουν προσαρμοστεί για οδηγίες. Περιγράφει το μοντέλο ως βάση που μπορεί να προσαρμοστεί περαιτέρω και όχι ως υβριδικό checkpoint με τους μεταγενέστερους ελέγχους συλλογιστικής του Small 4. Η παρούσα καταχώριση αφορά την έκδοση Instruct 2501 για τήρηση μιας εργασίας συνομιλίας.
Εργασίες συνομιλίας και δομημένες εργασίες
Για βοηθό υποστήριξης, δώστε την ερώτηση του χρήστη, το σχετικό υλικό αναφοράς και τους κανόνες απάντησης. Ζητήστε την ενέργεια που απαντά στην ερώτηση και την προϋπόθεση υπό την οποία ισχύει. Μια πρακτική έξοδος μπορεί να διαχωρίζει μια συνοπτική απάντηση από εξαγόμενα πεδία που χρειάζεται η εφαρμογή για το επόμενο βήμα, αντί να τα αναμειγνύει σε αδόμητη εξήγηση.
Για ταξινόμηση, δώστε τις επιτρεπόμενες ετικέτες και τις διακρίσεις μεταξύ τους. Για εξαγωγή, κατονομάστε τα πεδία, τους αναμενόμενους τύπους και την αναπαράσταση πληροφοριών που λείπουν. Μια εγγραφή μπορεί να περιέχει την κατηγορία προβλήματος, ένα αναγνωριστικό αντιγραμμένο από το μήνυμα και σύντομη σύνοψη της ζητούμενης ενέργειας. Το JSON οργανώνει το αποτέλεσμα, ενώ ο σχεδιασμός πεδίων και οι κανόνες ερμηνείας παραμένουν μέρος της παρεχόμενης εργασίας.
Για εξήγηση κώδικα, συμπεριλάβετε τη συνάρτηση, τις σχετικές δηλώσεις και μια συγκεκριμένη είσοδο. Ρωτήστε ποια διαδρομή στον κώδικα καθορίζει το αποτέλεσμα. Για μαθηματική εξήγηση, ορίστε μεταβλητές και παραδοχές και προσδιορίστε την έκφραση ή τον ισχυρισμό που πρέπει να τεκμηριωθεί. Αυτές οι εργασίες κειμένου μπορούν να επιστρέφουν μέθοδο, εξήγηση και τελικό παραδοτέο, χωρίς να προϋποθέτουν ότι το ίδιο το μοντέλο εκτελεί τον κώδικα ή εξωτερικό υπολογισμό.
Οδηγίες συστήματος και προτεινόμενες ρυθμίσεις
Η κάρτα συνιστά system prompt προσαρμοσμένο στον επιδιωκόμενο βοηθό και σχετικά χαμηλή θερμοκρασία, όπως 0.15. Χρησιμοποιήστε την οδηγία συστήματος για να ορίσετε ρόλο, ύφος και κανόνες απάντησης, ενώ το μήνυμα χρήστη μεταφέρει το πραγματικό πρόβλημα ή το υλικό πηγής. Κρατήστε τις παρατιθέμενες οδηγίες μέσα σε έγγραφο χωριστές από την οδηγία της εφαρμογής για το τι πρέπει να γίνει με αυτό το έγγραφο.
Για καθημερινό βοηθό, προσδιορίστε αν το αποτέλεσμα πρέπει να είναι σύντομη απάντηση, δομημένη εγγραφή ή εκτενέστερη εξήγηση. Αν η απόκριση θα αναλυθεί από πρόγραμμα, ζητήστε την εγγραφή χωριστά από προαιρετικό πεζό κείμενο. Σε μια επαναλαμβανόμενη ροή εγγράφων, διατηρήστε το αναγνωριστικό πηγής δίπλα σε κάθε αποτέλεσμα, ώστε η εφαρμογή να μπορεί να επιστρέφει το σωστό υλικό στον χρήστη.
Κλήση συναρτήσεων και εξειδίκευση
Το μοντέλο μπορεί να επιλέγει μια περιγεγραμμένη συνάρτηση και να παράγει τα ορίσματά της. Η εφαρμογή εκτελεί τη λειτουργία και επιστρέφει το αποτέλεσμα με την αντίστοιχη κλήση εργαλείου, και κατόπιν η επόμενη απάντηση μπορεί να χρησιμοποιήσει αυτή την πληροφορία. Το παράδειγμα της κάρτας δείχνει συνομιλία με προηγούμενη χρήση εργαλείου και έπειτα νέα ερώτηση. Αυτό δίνει στον βοηθό τρόπο να ζητά πληροφορίες από συνδεδεμένα εργαλεία χωρίς να αντιμετωπίζει μια προτεινόμενη κλήση ως ολοκληρωμένη αναζήτηση.
Περιγράψτε σαφώς τον σκοπό και τις υποχρεωτικές τιμές κάθε συνάρτησης. Μια εργασία αναζήτησης μπορεί να κατονομάζει τις πληροφορίες που χρειάζονται και να επιστρέφει το πραγματικό αποτέλεσμα εργαλείου στη συνομιλία· μια συνάρτηση επεξεργασίας κειμένου μπορεί να παρέχει μετασχηματισμένο απόσπασμα για την επόμενη απάντηση. Κρατήστε το σύνολο εργαλείων σχετικό με την τρέχουσα διαδικασία και διατηρήστε τη σύνδεση μεταξύ προτεινόμενης λειτουργίας και αποτελέσματός της.
Ο κατασκευαστής περιγράφει επίσης λεπτομερή προσαρμογή για εξειδίκευση σε αντικείμενο. Αυτή η διαδικασία αλλάζει ένα μοντέλο για καθορισμένο πεδίο· η παροχή εγγράφου σε μία συνομιλία είναι αντίθετα προσαρμογή στα συμφραζόμενα πηγής για τη συγκεκριμένη εργασία. Δώστε το υλικό πεδίου και τις απαιτήσεις απάντησης που χρειάζεται ο συγκεκριμένος βοηθός, αντί να υποθέτετε ότι έχει ήδη γίνει προσαρμογή.
Συμφραζόμενα και ουσιαστικοί περιορισμοί
Το Small 3 2501 είναι μοντέλο μόνο κειμένου με πλαίσιο 32 χιλ. token. Η δυνατότητα όρασης και το πλαίσιο 128 χιλ. token που εισήχθησαν στο Small 3.1 ανήκουν στη μεταγενέστερη έκδοση, και οι υβριδικές λειτουργίες του Small 4 επίσης δεν πρέπει να μεταφέρονται εδώ. Μια εικόνα, ηχογράφηση ή βίντεο πρέπει να έχει το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού πριν από αυτή την εργασία κειμένου.
Οι ρυθμίσεις παραγωγής 256 και 512 token της κάρτας είναι παραδείγματα χρήσης και όχι ξεχωριστές μέγιστες χωρητικότητες εξόδου. Κρατήστε ρητά τη συγκεκριμένη ταυτότητα Instruct 2501, τον tokenizer και το ζητούμενο αποτέλεσμα. Το χρήσιμο τελικό παραδοτέο είναι η απάντηση, η εγγραφή JSON ή ο προτεινόμενος κώδικας των οποίων το νόημα και η μορφή ταιριάζουν με την αρχική γραπτή εργασία.
", "aboutText": "Το Mistral Small 3 Instruct 2501 είναι η έκδοση 24 δισ. παραμέτρων του Mistral Small 3 που έχει προσαρμοστεί για οδηγίες. Προέρχεται από λεπτομερή προσαρμογή του ξεχωριστά ονομασμένου μοντέλου Small 24B Base 2501. Ο κατασκευαστής το προορίζει για άμεση βοήθεια μέσω συνομιλίας, κλήση συναρτήσεων και προσαρμογή σε συγκεκριμένο αντικείμενο, με κείμενο τόσο ως είσοδο όσο και ως παραγόμενο αποτέλεσμα.\n\nΒασικά χαρακτηριστικά και διάκριση εκπαίδευσης\n\nΗ κάρτα του μοντέλου τεκμηριώνει πολυγλωσσική υποστήριξη, δυνατότητες συνομιλίας και συλλογιστικής, εγγενή κλήση συναρτήσεων, έξοδο JSON και τήρηση system prompt. Το παράθυρο συμφραζομένων είναι 32 χιλ. token και χρησιμοποιεί tokenizer Tekken με λεξιλόγιο που επισημαίνεται ως 131 χιλ. Η ένδειξη συμφραζομένων αφορά το κείμενο που διατηρείται για την εργασία, ενώ η ένδειξη λεξιλογίου περιγράφει την τμηματοποίηση σε token· είναι διαφορετικές προδιαγραφές.\n\nΟ κατασκευαστής αναφέρει γλώσσες όπως αγγλικά, γαλλικά, γερμανικά, ισπανικά, ιταλικά, κινεζικά, ιαπωνικά, κορεατικά, πορτογαλικά, ολλανδικά και πολωνικά, με τα ρωσικά να υπάρχουν επίσης στα γλωσσικά μεταδεδομένα της δημοσιευμένης κάρτας. Ορίστε την τελική γλώσσα και τυχόν ορολογία που πρέπει να παραμείνει αμετάβλητη. Μια μεταφρασμένη εξήγηση μπορεί να διατηρεί αναγνωριστικά, ονόματα και μονάδες, προσαρμόζοντας το υπόλοιπο κείμενο στον αναγνώστη.\n\nΗ ανακοίνωση της έκδοσης δηλώνει ότι το Small 3 δεν εκπαιδεύεται με ενισχυτική μάθηση ή συνθετικά δεδομένα και διακρίνει τα προεκπαιδευμένα checkpoint από εκείνα που έχουν προσαρμοστεί για οδηγίες. Περιγράφει το μοντέλο ως βάση που μπορεί να προσαρμοστεί περαιτέρω και όχι ως υβριδικό checkpoint με τους μεταγενέστερους ελέγχους συλλογιστικής του Small 4. Η παρούσα καταχώριση αφορά την έκδοση Instruct 2501 για τήρηση μιας εργασίας συνομιλίας.\n\nΕργασίες συνομιλίας και δομημένες εργασίες\n\nΓια βοηθό υποστήριξης, δώστε την ερώτηση του χρήστη, το σχετικό υλικό αναφοράς και τους κανόνες απάντησης. Ζητήστε την ενέργεια που απαντά στην ερώτηση και την προϋπόθεση υπό την οποία ισχύει. Μια πρακτική έξοδος μπορεί να διαχωρίζει μια συνοπτική απάντηση από εξαγόμενα πεδία που χρειάζεται η εφαρμογή για το επόμενο βήμα, αντί να τα αναμειγνύει σε αδόμητη εξήγηση.\n\nΓια ταξινόμηση, δώστε τις επιτρεπόμενες ετικέτες και τις διακρίσεις μεταξύ τους. Για εξαγωγή, κατονομάστε τα πεδία, τους αναμενόμενους τύπους και την αναπαράσταση πληροφοριών που λείπουν. Μια εγγραφή μπορεί να περιέχει την κατηγορία προβλήματος, ένα αναγνωριστικό αντιγραμμένο από το μήνυμα και σύντομη σύνοψη της ζητούμενης ενέργειας. Το JSON οργανώνει το αποτέλεσμα, ενώ ο σχεδιασμός πεδίων και οι κανόνες ερμηνείας παραμένουν μέρος της παρεχόμενης εργασίας.\n\nΓια εξήγηση κώδικα, συμπεριλάβετε τη συνάρτηση, τις σχετικές δηλώσεις και μια συγκεκριμένη είσοδο. Ρωτήστε ποια διαδρομή στον κώδικα καθορίζει το αποτέλεσμα. Για μαθηματική εξήγηση, ορίστε μεταβλητές και παραδοχές και προσδιορίστε την έκφραση ή τον ισχυρισμό που πρέπει να τεκμηριωθεί. Αυτές οι εργασίες κειμένου μπορούν να επιστρέφουν μέθοδο, εξήγηση και τελικό παραδοτέο, χωρίς να προϋποθέτουν ότι το ίδιο το μοντέλο εκτελεί τον κώδικα ή εξωτερικό υπολογισμό.\n\nΟδηγίες συστήματος και προτεινόμενες ρυθμίσεις\n\nΗ κάρτα συνιστά system prompt προσαρμοσμένο στον επιδιωκόμενο βοηθό και σχετικά χαμηλή θερμοκρασία, όπως 0.15. Χρησιμοποιήστε την οδηγία συστήματος για να ορίσετε ρόλο, ύφος και κανόνες απάντησης, ενώ το μήνυμα χρήστη μεταφέρει το πραγματικό πρόβλημα ή το υλικό πηγής. Κρατήστε τις παρατιθέμενες οδηγίες μέσα σε έγγραφο χωριστές από την οδηγία της εφαρμογής για το τι πρέπει να γίνει με αυτό το έγγραφο.\n\nΓια καθημερινό βοηθό, προσδιορίστε αν το αποτέλεσμα πρέπει να είναι σύντομη απάντηση, δομημένη εγγραφή ή εκτενέστερη εξήγηση. Αν η απόκριση θα αναλυθεί από πρόγραμμα, ζητήστε την εγγραφή χωριστά από προαιρετικό πεζό κείμενο. Σε μια επαναλαμβανόμενη ροή εγγράφων, διατηρήστε το αναγνωριστικό πηγής δίπλα σε κάθε αποτέλεσμα, ώστε η εφαρμογή να μπορεί να επιστρέφει το σωστό υλικό στον χρήστη.\n\nΚλήση συναρτήσεων και εξειδίκευση\n\nΤο μοντέλο μπορεί να επιλέγει μια περιγεγραμμένη συνάρτηση και να παράγει τα ορίσματά της. Η εφαρμογή εκτελεί τη λειτουργία και επιστρέφει το αποτέλεσμα με την αντίστοιχη κλήση εργαλείου, και κατόπιν η επόμενη απάντηση μπορεί να χρησιμοποιήσει αυτή την πληροφορία. Το παράδειγμα της κάρτας δείχνει συνομιλία με προηγούμενη χρήση εργαλείου και έπειτα νέα ερώτηση. Αυτό δίνει στον βοηθό τρόπο να ζητά πληροφορίες από συνδεδεμένα εργαλεία χωρίς να αντιμετωπίζει μια προτεινόμενη κλήση ως ολοκληρωμένη αναζήτηση.\n\nΠεριγράψτε σαφώς τον σκοπό και τις υποχρεωτικές τιμές κάθε συνάρτησης. Μια εργασία αναζήτησης μπορεί να κατονομάζει τις πληροφορίες που χρειάζονται και να επιστρέφει το πραγματικό αποτέλεσμα εργαλείου στη συνομιλία· μια συνάρτηση επεξεργασίας κειμένου μπορεί να παρέχει μετασχηματισμένο απόσπασμα για την επόμενη απάντηση. Κρατήστε το σύνολο εργαλείων σχετικό με την τρέχουσα διαδικασία και διατηρήστε τη σύνδεση μεταξύ προτεινόμενης λειτουργίας και αποτελέσματός της.\n\nΟ κατασκευαστής περιγράφει επίσης λεπτομερή προσαρμογή για εξειδίκευση σε αντικείμενο. Αυτή η διαδικασία αλλάζει ένα μοντέλο για καθορισμένο πεδίο· η παροχή εγγράφου σε μία συνομιλία είναι αντίθετα προσαρμογή στα συμφραζόμενα πηγής για τη συγκεκριμένη εργασία. Δώστε το υλικό πεδίου και τις απαιτήσεις απάντησης που χρειάζεται ο συγκεκριμένος βοηθός, αντί να υποθέτετε ότι έχει ήδη γίνει προσαρμογή.\n\nΣυμφραζόμενα και ουσιαστικοί περιορισμοί\n\nΤο Small 3 2501 είναι μοντέλο μόνο κειμένου με πλαίσιο 32 χιλ. token. Η δυνατότητα όρασης και το πλαίσιο 128 χιλ. token που εισήχθησαν στο Small 3.1 ανήκουν στη μεταγενέστερη έκδοση, και οι υβριδικές λειτουργίες του Small 4 επίσης δεν πρέπει να μεταφέρονται εδώ. Μια εικόνα, ηχογράφηση ή βίντεο πρέπει να έχει το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού πριν από αυτή την εργασία κειμένου.\n\nΟι ρυθμίσεις παραγωγής 256 και 512 token της κάρτας είναι παραδείγματα χρήσης και όχι ξεχωριστές μέγιστες χωρητικότητες εξόδου. Κρατήστε ρητά τη συγκεκριμένη ταυτότητα Instruct 2501, τον tokenizer και το ζητούμενο αποτέλεσμα. Το χρήσιμο τελικό παραδοτέο είναι η απάντηση, η εγγραφή JSON ή ο προτεινόμενος κώδικας των οποίων το νόημα και η μορφή ταιριάζουν με την αρχική γραπτή εργασία.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Prepare a reference-grounded support answer\n\nAnswer this customer question using only the reference: 'Can I change the pickup location after the parcel is handed to the carrier?' Reference: 'Before handover, support may change the pickup location. After handover, the recipient must request a change from the carrier; availability depends on its route.' Return a concise reply and the condition supporting it.A short customer reply plus the reference condition that determines the next contact.The reply directs the handed-over parcel's request to the carrier and does not promise that a change is available.mistralai/mistral-small-24b-instruct-2501Το Mistral Small 3 Instruct 2501 είναι μοντέλο κειμένου 24 δισ. παραμέτρων για οδηγίες συνομιλίας, δομημένη εξαγωγή και εφαρμογές με εργαλεία. Παρέχει πλαίσιο 32 χιλ. token σύμφωνα με τον κατασκευαστή, πολυγλωσσικές απαντήσεις, υποστήριξη system prompt, JSON και εγγενή κλήση συναρτήσεων σε μια διακριτή έκδοση αποκλειστικά κειμένου.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Mistral Small 3 Instruct 2501 είναι η έκδοση 24 δισ. παραμέτρων του Mistral Small 3 που έχει προσαρμοστεί για οδηγίες. Προέρχεται από λεπτομερή προσαρμογή του ξεχωριστά ονομασμένου μοντέλου Small 24B Base 2501. Ο κατασκευαστής το προορίζει για άμεση βοήθεια μέσω συνομιλίας, κλήση συναρτήσεων και προσαρμογή σε συγκεκριμένο αντικείμενο, με κείμενο τόσο ως είσοδο όσο και ως παραγόμενο αποτέλεσμα.
Βασικά χαρακτηριστικά και διάκριση εκπαίδευσης
Η κάρτα του μοντέλου τεκμηριώνει πολυγλωσσική υποστήριξη, δυνατότητες συνομιλίας και συλλογιστικής, εγγενή κλήση συναρτήσεων, έξοδο JSON και τήρηση system prompt. Το παράθυρο συμφραζομένων είναι 32 χιλ. token και χρησιμοποιεί tokenizer Tekken με λεξιλόγιο που επισημαίνεται ως 131 χιλ. Η ένδειξη συμφραζομένων αφορά το κείμενο που διατηρείται για την εργασία, ενώ η ένδειξη λεξιλογίου περιγράφει την τμηματοποίηση σε token· είναι διαφορετικές προδιαγραφές.
Ο κατασκευαστής αναφέρει γλώσσες όπως αγγλικά, γαλλικά, γερμανικά, ισπανικά, ιταλικά, κινεζικά, ιαπωνικά, κορεατικά, πορτογαλικά, ολλανδικά και πολωνικά, με τα ρωσικά να υπάρχουν επίσης στα γλωσσικά μεταδεδομένα της δημοσιευμένης κάρτας. Ορίστε την τελική γλώσσα και τυχόν ορολογία που πρέπει να παραμείνει αμετάβλητη. Μια μεταφρασμένη εξήγηση μπορεί να διατηρεί αναγνωριστικά, ονόματα και μονάδες, προσαρμόζοντας το υπόλοιπο κείμενο στον αναγνώστη.
Η ανακοίνωση της έκδοσης δηλώνει ότι το Small 3 δεν εκπαιδεύεται με ενισχυτική μάθηση ή συνθετικά δεδομένα και διακρίνει τα προεκπαιδευμένα checkpoint από εκείνα που έχουν προσαρμοστεί για οδηγίες. Περιγράφει το μοντέλο ως βάση που μπορεί να προσαρμοστεί περαιτέρω και όχι ως υβριδικό checkpoint με τους μεταγενέστερους ελέγχους συλλογιστικής του Small 4. Η παρούσα καταχώριση αφορά την έκδοση Instruct 2501 για τήρηση μιας εργασίας συνομιλίας.
Εργασίες συνομιλίας και δομημένες εργασίες
Για βοηθό υποστήριξης, δώστε την ερώτηση του χρήστη, το σχετικό υλικό αναφοράς και τους κανόνες απάντησης. Ζητήστε την ενέργεια που απαντά στην ερώτηση και την προϋπόθεση υπό την οποία ισχύει. Μια πρακτική έξοδος μπορεί να διαχωρίζει μια συνοπτική απάντηση από εξαγόμενα πεδία που χρειάζεται η εφαρμογή για το επόμενο βήμα, αντί να τα αναμειγνύει σε αδόμητη εξήγηση.
Για ταξινόμηση, δώστε τις επιτρεπόμενες ετικέτες και τις διακρίσεις μεταξύ τους. Για εξαγωγή, κατονομάστε τα πεδία, τους αναμενόμενους τύπους και την αναπαράσταση πληροφοριών που λείπουν. Μια εγγραφή μπορεί να περιέχει την κατηγορία προβλήματος, ένα αναγνωριστικό αντιγραμμένο από το μήνυμα και σύντομη σύνοψη της ζητούμενης ενέργειας. Το JSON οργανώνει το αποτέλεσμα, ενώ ο σχεδιασμός πεδίων και οι κανόνες ερμηνείας παραμένουν μέρος της παρεχόμενης εργασίας.
Για εξήγηση κώδικα, συμπεριλάβετε τη συνάρτηση, τις σχετικές δηλώσεις και μια συγκεκριμένη είσοδο. Ρωτήστε ποια διαδρομή στον κώδικα καθορίζει το αποτέλεσμα. Για μαθηματική εξήγηση, ορίστε μεταβλητές και παραδοχές και προσδιορίστε την έκφραση ή τον ισχυρισμό που πρέπει να τεκμηριωθεί. Αυτές οι εργασίες κειμένου μπορούν να επιστρέφουν μέθοδο, εξήγηση και τελικό παραδοτέο, χωρίς να προϋποθέτουν ότι το ίδιο το μοντέλο εκτελεί τον κώδικα ή εξωτερικό υπολογισμό.
Οδηγίες συστήματος και προτεινόμενες ρυθμίσεις
Η κάρτα συνιστά system prompt προσαρμοσμένο στον επιδιωκόμενο βοηθό και σχετικά χαμηλή θερμοκρασία, όπως 0.15. Χρησιμοποιήστε την οδηγία συστήματος για να ορίσετε ρόλο, ύφος και κανόνες απάντησης, ενώ το μήνυμα χρήστη μεταφέρει το πραγματικό πρόβλημα ή το υλικό πηγής. Κρατήστε τις παρατιθέμενες οδηγίες μέσα σε έγγραφο χωριστές από την οδηγία της εφαρμογής για το τι πρέπει να γίνει με αυτό το έγγραφο.
Για καθημερινό βοηθό, προσδιορίστε αν το αποτέλεσμα πρέπει να είναι σύντομη απάντηση, δομημένη εγγραφή ή εκτενέστερη εξήγηση. Αν η απόκριση θα αναλυθεί από πρόγραμμα, ζητήστε την εγγραφή χωριστά από προαιρετικό πεζό κείμενο. Σε μια επαναλαμβανόμενη ροή εγγράφων, διατηρήστε το αναγνωριστικό πηγής δίπλα σε κάθε αποτέλεσμα, ώστε η εφαρμογή να μπορεί να επιστρέφει το σωστό υλικό στον χρήστη.
Κλήση συναρτήσεων και εξειδίκευση
Το μοντέλο μπορεί να επιλέγει μια περιγεγραμμένη συνάρτηση και να παράγει τα ορίσματά της. Η εφαρμογή εκτελεί τη λειτουργία και επιστρέφει το αποτέλεσμα με την αντίστοιχη κλήση εργαλείου, και κατόπιν η επόμενη απάντηση μπορεί να χρησιμοποιήσει αυτή την πληροφορία. Το παράδειγμα της κάρτας δείχνει συνομιλία με προηγούμενη χρήση εργαλείου και έπειτα νέα ερώτηση. Αυτό δίνει στον βοηθό τρόπο να ζητά πληροφορίες από συνδεδεμένα εργαλεία χωρίς να αντιμετωπίζει μια προτεινόμενη κλήση ως ολοκληρωμένη αναζήτηση.
Περιγράψτε σαφώς τον σκοπό και τις υποχρεωτικές τιμές κάθε συνάρτησης. Μια εργασία αναζήτησης μπορεί να κατονομάζει τις πληροφορίες που χρειάζονται και να επιστρέφει το πραγματικό αποτέλεσμα εργαλείου στη συνομιλία· μια συνάρτηση επεξεργασίας κειμένου μπορεί να παρέχει μετασχηματισμένο απόσπασμα για την επόμενη απάντηση. Κρατήστε το σύνολο εργαλείων σχετικό με την τρέχουσα διαδικασία και διατηρήστε τη σύνδεση μεταξύ προτεινόμενης λειτουργίας και αποτελέσματός της.
Ο κατασκευαστής περιγράφει επίσης λεπτομερή προσαρμογή για εξειδίκευση σε αντικείμενο. Αυτή η διαδικασία αλλάζει ένα μοντέλο για καθορισμένο πεδίο· η παροχή εγγράφου σε μία συνομιλία είναι αντίθετα προσαρμογή στα συμφραζόμενα πηγής για τη συγκεκριμένη εργασία. Δώστε το υλικό πεδίου και τις απαιτήσεις απάντησης που χρειάζεται ο συγκεκριμένος βοηθός, αντί να υποθέτετε ότι έχει ήδη γίνει προσαρμογή.
Συμφραζόμενα και ουσιαστικοί περιορισμοί
Το Small 3 2501 είναι μοντέλο μόνο κειμένου με πλαίσιο 32 χιλ. token. Η δυνατότητα όρασης και το πλαίσιο 128 χιλ. token που εισήχθησαν στο Small 3.1 ανήκουν στη μεταγενέστερη έκδοση, και οι υβριδικές λειτουργίες του Small 4 επίσης δεν πρέπει να μεταφέρονται εδώ. Μια εικόνα, ηχογράφηση ή βίντεο πρέπει να έχει το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού πριν από αυτή την εργασία κειμένου.
Οι ρυθμίσεις παραγωγής 256 και 512 token της κάρτας είναι παραδείγματα χρήσης και όχι ξεχωριστές μέγιστες χωρητικότητες εξόδου. Κρατήστε ρητά τη συγκεκριμένη ταυτότητα Instruct 2501, τον tokenizer και το ζητούμενο αποτέλεσμα. Το χρήσιμο τελικό παραδοτέο είναι η απάντηση, η εγγραφή JSON ή ο προτεινόμενος κώδικας των οποίων το νόημα και η μορφή ταιριάζουν με την αρχική γραπτή εργασία.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια mistralai/mistral-small-24b-instruct-2501 | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00016 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00016 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-small-24b-instruct-2501", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-small-24b-instruct-2501',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-small-24b-instruct-2501',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra mistralai/mistral-small-24b-instruct-2501
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
mistralai/mistral-small-24b-instruct-2501Το Mistral Small 3 Instruct 2501 είναι μοντέλο κειμένου 24 δισ. παραμέτρων για οδηγίες συνομιλίας, δομημένη εξαγωγή και εφαρμογές με εργαλεία. Παρέχει πλαίσιο 32 χιλ. token σύμφωνα με τον κατασκευαστή, πολυγλωσσικές απαντήσεις, υποστήριξη system prompt, JSON και εγγενή κλήση συναρτήσεων σε μια διακριτή έκδοση αποκλειστικά κειμένου.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Mistral Small 3 Instruct 2501 είναι η έκδοση 24 δισ. παραμέτρων του Mistral Small 3 που έχει προσαρμοστεί για οδηγίες. Προέρχεται από λεπτομερή προσαρμογή του ξεχωριστά ονομασμένου μοντέλου Small 24B Base 2501. Ο κατασκευαστής το προορίζει για άμεση βοήθεια μέσω συνομιλίας, κλήση συναρτήσεων και προσαρμογή σε συγκεκριμένο αντικείμενο, με κείμενο τόσο ως είσοδο όσο και ως παραγόμενο αποτέλεσμα.
Βασικά χαρακτηριστικά και διάκριση εκπαίδευσης
Η κάρτα του μοντέλου τεκμηριώνει πολυγλωσσική υποστήριξη, δυνατότητες συνομιλίας και συλλογιστικής, εγγενή κλήση συναρτήσεων, έξοδο JSON και τήρηση system prompt. Το παράθυρο συμφραζομένων είναι 32 χιλ. token και χρησιμοποιεί tokenizer Tekken με λεξιλόγιο που επισημαίνεται ως 131 χιλ. Η ένδειξη συμφραζομένων αφορά το κείμενο που διατηρείται για την εργασία, ενώ η ένδειξη λεξιλογίου περιγράφει την τμηματοποίηση σε token· είναι διαφορετικές προδιαγραφές.
Ο κατασκευαστής αναφέρει γλώσσες όπως αγγλικά, γαλλικά, γερμανικά, ισπανικά, ιταλικά, κινεζικά, ιαπωνικά, κορεατικά, πορτογαλικά, ολλανδικά και πολωνικά, με τα ρωσικά να υπάρχουν επίσης στα γλωσσικά μεταδεδομένα της δημοσιευμένης κάρτας. Ορίστε την τελική γλώσσα και τυχόν ορολογία που πρέπει να παραμείνει αμετάβλητη. Μια μεταφρασμένη εξήγηση μπορεί να διατηρεί αναγνωριστικά, ονόματα και μονάδες, προσαρμόζοντας το υπόλοιπο κείμενο στον αναγνώστη.
Η ανακοίνωση της έκδοσης δηλώνει ότι το Small 3 δεν εκπαιδεύεται με ενισχυτική μάθηση ή συνθετικά δεδομένα και διακρίνει τα προεκπαιδευμένα checkpoint από εκείνα που έχουν προσαρμοστεί για οδηγίες. Περιγράφει το μοντέλο ως βάση που μπορεί να προσαρμοστεί περαιτέρω και όχι ως υβριδικό checkpoint με τους μεταγενέστερους ελέγχους συλλογιστικής του Small 4. Η παρούσα καταχώριση αφορά την έκδοση Instruct 2501 για τήρηση μιας εργασίας συνομιλίας.
Εργασίες συνομιλίας και δομημένες εργασίες
Για βοηθό υποστήριξης, δώστε την ερώτηση του χρήστη, το σχετικό υλικό αναφοράς και τους κανόνες απάντησης. Ζητήστε την ενέργεια που απαντά στην ερώτηση και την προϋπόθεση υπό την οποία ισχύει. Μια πρακτική έξοδος μπορεί να διαχωρίζει μια συνοπτική απάντηση από εξαγόμενα πεδία που χρειάζεται η εφαρμογή για το επόμενο βήμα, αντί να τα αναμειγνύει σε αδόμητη εξήγηση.
Για ταξινόμηση, δώστε τις επιτρεπόμενες ετικέτες και τις διακρίσεις μεταξύ τους. Για εξαγωγή, κατονομάστε τα πεδία, τους αναμενόμενους τύπους και την αναπαράσταση πληροφοριών που λείπουν. Μια εγγραφή μπορεί να περιέχει την κατηγορία προβλήματος, ένα αναγνωριστικό αντιγραμμένο από το μήνυμα και σύντομη σύνοψη της ζητούμενης ενέργειας. Το JSON οργανώνει το αποτέλεσμα, ενώ ο σχεδιασμός πεδίων και οι κανόνες ερμηνείας παραμένουν μέρος της παρεχόμενης εργασίας.
Για εξήγηση κώδικα, συμπεριλάβετε τη συνάρτηση, τις σχετικές δηλώσεις και μια συγκεκριμένη είσοδο. Ρωτήστε ποια διαδρομή στον κώδικα καθορίζει το αποτέλεσμα. Για μαθηματική εξήγηση, ορίστε μεταβλητές και παραδοχές και προσδιορίστε την έκφραση ή τον ισχυρισμό που πρέπει να τεκμηριωθεί. Αυτές οι εργασίες κειμένου μπορούν να επιστρέφουν μέθοδο, εξήγηση και τελικό παραδοτέο, χωρίς να προϋποθέτουν ότι το ίδιο το μοντέλο εκτελεί τον κώδικα ή εξωτερικό υπολογισμό.
Οδηγίες συστήματος και προτεινόμενες ρυθμίσεις
Η κάρτα συνιστά system prompt προσαρμοσμένο στον επιδιωκόμενο βοηθό και σχετικά χαμηλή θερμοκρασία, όπως 0.15. Χρησιμοποιήστε την οδηγία συστήματος για να ορίσετε ρόλο, ύφος και κανόνες απάντησης, ενώ το μήνυμα χρήστη μεταφέρει το πραγματικό πρόβλημα ή το υλικό πηγής. Κρατήστε τις παρατιθέμενες οδηγίες μέσα σε έγγραφο χωριστές από την οδηγία της εφαρμογής για το τι πρέπει να γίνει με αυτό το έγγραφο.
Για καθημερινό βοηθό, προσδιορίστε αν το αποτέλεσμα πρέπει να είναι σύντομη απάντηση, δομημένη εγγραφή ή εκτενέστερη εξήγηση. Αν η απόκριση θα αναλυθεί από πρόγραμμα, ζητήστε την εγγραφή χωριστά από προαιρετικό πεζό κείμενο. Σε μια επαναλαμβανόμενη ροή εγγράφων, διατηρήστε το αναγνωριστικό πηγής δίπλα σε κάθε αποτέλεσμα, ώστε η εφαρμογή να μπορεί να επιστρέφει το σωστό υλικό στον χρήστη.
Κλήση συναρτήσεων και εξειδίκευση
Το μοντέλο μπορεί να επιλέγει μια περιγεγραμμένη συνάρτηση και να παράγει τα ορίσματά της. Η εφαρμογή εκτελεί τη λειτουργία και επιστρέφει το αποτέλεσμα με την αντίστοιχη κλήση εργαλείου, και κατόπιν η επόμενη απάντηση μπορεί να χρησιμοποιήσει αυτή την πληροφορία. Το παράδειγμα της κάρτας δείχνει συνομιλία με προηγούμενη χρήση εργαλείου και έπειτα νέα ερώτηση. Αυτό δίνει στον βοηθό τρόπο να ζητά πληροφορίες από συνδεδεμένα εργαλεία χωρίς να αντιμετωπίζει μια προτεινόμενη κλήση ως ολοκληρωμένη αναζήτηση.
Περιγράψτε σαφώς τον σκοπό και τις υποχρεωτικές τιμές κάθε συνάρτησης. Μια εργασία αναζήτησης μπορεί να κατονομάζει τις πληροφορίες που χρειάζονται και να επιστρέφει το πραγματικό αποτέλεσμα εργαλείου στη συνομιλία· μια συνάρτηση επεξεργασίας κειμένου μπορεί να παρέχει μετασχηματισμένο απόσπασμα για την επόμενη απάντηση. Κρατήστε το σύνολο εργαλείων σχετικό με την τρέχουσα διαδικασία και διατηρήστε τη σύνδεση μεταξύ προτεινόμενης λειτουργίας και αποτελέσματός της.
Ο κατασκευαστής περιγράφει επίσης λεπτομερή προσαρμογή για εξειδίκευση σε αντικείμενο. Αυτή η διαδικασία αλλάζει ένα μοντέλο για καθορισμένο πεδίο· η παροχή εγγράφου σε μία συνομιλία είναι αντίθετα προσαρμογή στα συμφραζόμενα πηγής για τη συγκεκριμένη εργασία. Δώστε το υλικό πεδίου και τις απαιτήσεις απάντησης που χρειάζεται ο συγκεκριμένος βοηθός, αντί να υποθέτετε ότι έχει ήδη γίνει προσαρμογή.
Συμφραζόμενα και ουσιαστικοί περιορισμοί
Το Small 3 2501 είναι μοντέλο μόνο κειμένου με πλαίσιο 32 χιλ. token. Η δυνατότητα όρασης και το πλαίσιο 128 χιλ. token που εισήχθησαν στο Small 3.1 ανήκουν στη μεταγενέστερη έκδοση, και οι υβριδικές λειτουργίες του Small 4 επίσης δεν πρέπει να μεταφέρονται εδώ. Μια εικόνα, ηχογράφηση ή βίντεο πρέπει να έχει το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού πριν από αυτή την εργασία κειμένου.
Οι ρυθμίσεις παραγωγής 256 και 512 token της κάρτας είναι παραδείγματα χρήσης και όχι ξεχωριστές μέγιστες χωρητικότητες εξόδου. Κρατήστε ρητά τη συγκεκριμένη ταυτότητα Instruct 2501, τον tokenizer και το ζητούμενο αποτέλεσμα. Το χρήσιμο τελικό παραδοτέο είναι η απάντηση, η εγγραφή JSON ή ο προτεινόμενος κώδικας των οποίων το νόημα και η μορφή ταιριάζουν με την αρχική γραπτή εργασία.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια mistralai/mistral-small-24b-instruct-2501 | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00016 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00016 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "mistralai/mistral-small-24b-instruct-2501",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-small-24b-instruct-2501', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-small-24b-instruct-2501', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra mistralai/mistral-small-24b-instruct-2501
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Prepare a reference-grounded support answer\n\nAnswer this customer question using only the reference: 'Can I change the pickup location after the parcel is handed to the carrier?' Reference: 'Before handover, support may change the pickup location. After handover, the recipient must request a change from the carrier; availability depends on its route.' Return a concise reply and the condition supporting it.A short customer reply plus the reference condition that determines the next contact.The reply directs the handed-over parcel's request to the carrier and does not promise that a change is available.