Το Ministral 3 8B Instruct 2512 είναι το μεσαίου μεγέθους μοντέλο της οικογένειας Ministral 3 της Mistral AI που έχει προσαρμοστεί για οδηγίες. Το δημοσιευμένο checkpoint έχει υποστεί μεταγενέστερη εκπαίδευση για εργασίες συνομιλίας και οδηγιών σε ακρίβεια FP8. Συνδυάζει γλωσσικό τμήμα με οπτικό κωδικοποιητή, δέχεται κείμενο και εικόνες και επιστρέφει κείμενο αντί για παραδοτέο εικόνας ή ήχου.
Αρχιτεκτονική και βασικές δυνατότητες
Ο κατασκευαστής αναφέρει γλωσσικό μοντέλο 8,4 δισ. παραμέτρων και οπτικό κωδικοποιητή 0,4 δισ. παραμέτρων. Το παράθυρο συμφραζομένων περιγράφεται ως 256 χιλ. token, και οι δημοσιευμένες σημειώσεις χρήσης χρησιμοποιούν προεπιλεγμένο ρυθμισμένο μήκος 262.144. Αυτά περιγράφουν τη συγκεκριμένη έκδοση μεγέθους 8B· τα μικρότερα μέλη 3B και μεγαλύτερα μέλη 14B της οικογένειας διατηρούν τα δικά τους μεγέθη τμημάτων και τις δικές τους ρυθμίσεις.
Η όραση επεκτείνει την είσοδο του μοντέλου πέρα από μια γραπτή συνομιλία. Μια εικόνα εγγράφου μπορεί να συνοδεύεται από ερώτηση για επιλεγμένο πεδίο, παράγραφο ή ορατή σχέση. Ένα στιγμιότυπο οθόνης μπορεί να συνοδεύεται από τον στόχο χρήστη και αίτημα εντοπισμού του σχετικού χειριστηρίου. Ζητήστε την παρατήρηση που στηρίζει κάθε συμπέρασμα όταν η απάντηση εξαρτάται από οπτική λεπτομέρεια και διατηρήστε τις επικεφαλίδες, τις ετικέτες και τις μονάδες που χρειάζονται για την ερμηνεία μιας περικοπής.
Η κάρτα περιγράφει πολυγλωσσική εργασία σε δεκάδες γλώσσες, όπως αγγλικά, γαλλικά, ισπανικά, γερμανικά, ιταλικά, πορτογαλικά, ολλανδικά, κινεζικά, ιαπωνικά, κορεατικά και αραβικά. Αναφέρει επίσης τήρηση οδηγιών συστήματος, εγγενή κλήση συναρτήσεων και έξοδο JSON. Ορίστε ρητά την τελική γλώσσα, τον ρόλο και τις απαιτήσεις εξόδου, αντί να αφήνετε το μοντέλο να συμπεράνει το επιθυμητό παραδοτέο από μια μεγάλη είσοδο.
Εργασίες εγγράφων, συνομιλίας και πρακτόρων
Οι περιπτώσεις χρήσης του κατασκευαστή περιλαμβάνουν διεπαφές συνομιλίας, καθημερινούς βοηθούς, περιγραφή εικόνων και εγγράφων, μετάφραση, παραγωγή περιεχομένου και εξειδικευμένους πράκτορες. Για βοηθό εγγράφων, δώστε τη σελίδα και προσδιορίστε τις πληροφορίες που πρέπει να επιστραφούν. Ένα αίτημα εξαγωγής μπορεί να κατονομάζει ετικέτες πεδίων, αναμενόμενους τύπους και χειρισμό τιμών που λείπουν. Μια χρήσιμη απάντηση μπορεί να περιέχει το αναγνωριστικό εγγράφου, την εξαγόμενη τιμή και σύντομη εξήγηση συνδεδεμένη με την ορατή πηγή.
Για μια συνεχιζόμενη συνομιλία, κρατήστε τη σχετική προηγούμενη απάντηση και κάντε μια εστιασμένη συμπληρωματική ερώτηση. Ένας χρήστης μπορεί πρώτα να ζητήσει σύνοψη εγγράφου και κατόπιν να ρωτήσει ποια δήλωση στηρίζει ένα συμπέρασμα. Αυτό αλλάζει την απαιτούμενη έξοδο από γενική επισκόπηση σε εξήγηση συνδεδεμένη με πηγή, διατηρώντας το αρχικό υλικό και τον σκοπό του διαλόγου.
Για πολυγλωσσική επεξεργασία, δώστε το αρχικό απόσπασμα, τον επιδιωκόμενο αναγνώστη και κατάλογο ορολογίας. Ζητήστε αναθεωρημένη έκδοση που διατηρεί ονόματα, προϋποθέσεις και μονάδες, ακολουθούμενη από σύντομη εξήγηση των αλλαγών αν είναι χρήσιμη. Για παραγωγή περιεχομένου, προσδιορίστε το κοινό και τα γεγονότα που πρέπει να εμφανίζονται πριν ζητήσετε σύντομο προσχέδιο ή εναλλακτική διατύπωση.
Σε μια εργασία πράκτορα, η εφαρμογή παρέχει τα εργαλεία και τις παραμέτρους τους. Το μοντέλο μπορεί να επιλέγει συνάρτηση και να προετοιμάζει ορίσματα, ενώ η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα. Το παράδειγμα συνάρτησης της κάρτας συνδυάζει μια ερώτηση εικόνας με εργαλείο υπολογισμού. Κρατήστε το αποτέλεσμα του εργαλείου χωριστά από την προτεινόμενη κλήση, ώστε η επόμενη γραπτή απάντηση να χρησιμοποιεί τις πληροφορίες που επέστρεψε πραγματικά η λειτουργία.
Προτεινόμενη προετοιμασία και ρυθμίσεις
Ο κατασκευαστής συνιστά οδηγία συστήματος που περιγράφει το περιβάλλον, την περίπτωση χρήσης και τον τρόπο χρήσης εργαλείων. Κρατήστε το σύνολο εργαλείων καλά ορισμένο και περιορισμένο στο ελάχιστο που απαιτεί η εργασία. Μια μικρή ροή αναζήτησης μπορεί να προσφέρει τις συναρτήσεις που σχετίζονται με την τρέχουσα ερώτηση, με σαφώς ονομασμένα υποχρεωτικά ορίσματα, αντί να παρουσιάζει μεγάλη συλλογή άσχετων λειτουργιών.
Για καθημερινή χρήση και χρήση σε παραγωγή, η κάρτα συνιστά θερμοκρασία κάτω από 0.1, με υψηλότερες θερμοκρασίες διαθέσιμες για δημιουργική διερεύνηση. Αντιμετωπίστε το ως σύσταση για τη ροή οδηγιών και όχι ως ξεχωριστό έλεγχο λειτουργίας συλλογιστικής. Η οικογένεια διαθέτει διακριτά checkpoint Base, Instruct και Reasoning· η παρούσα καταχώριση είναι η έκδοση Instruct 2512 και όχι η ξεχωριστή έκδοση Reasoning του ίδιου μεγέθους.
Για εικόνες, ο κατασκευαστής συνιστά αναλογίες κοντά στο 1:1 και αποφυγή πολύ στενών ή πολύ πλατιών εισόδων. Περικόψτε όπου χρειάζεται, διατηρώντας τις ετικέτες και τα συμφραζόμενα που απαιτεί η ερώτηση. Αν μια σελίδα περιέχει πολλές άσχετες περιοχές, προσδιορίστε το τμήμα που πρέπει να εξεταστεί και το αποτέλεσμα που πρέπει να επιστραφεί. Μια ευανάγνωστη, εστιασμένη εικόνα είναι χρησιμότερη από το να ζητάτε από το μοντέλο να μαντέψει ποια μικρή λεπτομέρεια σε μια εκτεταμένη σελίδα έχει σημασία.
Όρια συμφραζομένων και έκδοσης
Σχεδιάστε το κείμενο, τις εικόνες, τη συνομιλία και την επιθυμητή απάντηση γύρω από το ρυθμισμένο πλαίσιο συμφραζομένων. Οι σημειώσεις χρήσης επιτρέπουν ρητά τη μείωση του ρυθμισμένου μήκους μοντέλου όταν χρειάζονται λιγότερα συμφραζόμενα, επομένως το πλήρες παράθυρο δεν είναι οδηγία να γεμίζετε κάθε αίτημα με όλο το διαθέσιμο υλικό. Το παράδειγμα παραγωγής 512 token της κάρτας είναι μόνο μια ενδεικτική ρύθμιση, και οι πηγές που εξετάστηκαν δεν τεκμηριώνουν ξεχωριστό αυστηρό μέγιστο μήκος απάντησης.
Το checkpoint FP8 Instruct, η προεκπαιδευμένη έκδοση Base και η έκδοση Reasoning είναι ξεχωριστές εκδόσεις. Ο κατασκευαστής περιγράφει επίσης εξειδίκευση και λεπτομερή προσαρμογή ως περιπτώσεις χρήσης. Διατηρήστε το ονομασμένο checkpoint και τον tokenizer του κατά την προετοιμασία της συνομιλίας και κρατήστε την παραγωγή κειμένου διακριτή από την πρόσβαση σε αποθετήριο, την εκτέλεση συναρτήσεων ή άλλες ενέργειες που παρέχει η περιβάλλουσα εφαρμογή.
", "aboutText": "Το Ministral 3 8B Instruct 2512 είναι το μεσαίου μεγέθους μοντέλο της οικογένειας Ministral 3 της Mistral AI που έχει προσαρμοστεί για οδηγίες. Το δημοσιευμένο checkpoint έχει υποστεί μεταγενέστερη εκπαίδευση για εργασίες συνομιλίας και οδηγιών σε ακρίβεια FP8. Συνδυάζει γλωσσικό τμήμα με οπτικό κωδικοποιητή, δέχεται κείμενο και εικόνες και επιστρέφει κείμενο αντί για παραδοτέο εικόνας ή ήχου.\n\nΑρχιτεκτονική και βασικές δυνατότητες\n\nΟ κατασκευαστής αναφέρει γλωσσικό μοντέλο 8,4 δισ. παραμέτρων και οπτικό κωδικοποιητή 0,4 δισ. παραμέτρων. Το παράθυρο συμφραζομένων περιγράφεται ως 256 χιλ. token, και οι δημοσιευμένες σημειώσεις χρήσης χρησιμοποιούν προεπιλεγμένο ρυθμισμένο μήκος 262.144. Αυτά περιγράφουν τη συγκεκριμένη έκδοση μεγέθους 8B· τα μικρότερα μέλη 3B και μεγαλύτερα μέλη 14B της οικογένειας διατηρούν τα δικά τους μεγέθη τμημάτων και τις δικές τους ρυθμίσεις.\n\nΗ όραση επεκτείνει την είσοδο του μοντέλου πέρα από μια γραπτή συνομιλία. Μια εικόνα εγγράφου μπορεί να συνοδεύεται από ερώτηση για επιλεγμένο πεδίο, παράγραφο ή ορατή σχέση. Ένα στιγμιότυπο οθόνης μπορεί να συνοδεύεται από τον στόχο χρήστη και αίτημα εντοπισμού του σχετικού χειριστηρίου. Ζητήστε την παρατήρηση που στηρίζει κάθε συμπέρασμα όταν η απάντηση εξαρτάται από οπτική λεπτομέρεια και διατηρήστε τις επικεφαλίδες, τις ετικέτες και τις μονάδες που χρειάζονται για την ερμηνεία μιας περικοπής.\n\nΗ κάρτα περιγράφει πολυγλωσσική εργασία σε δεκάδες γλώσσες, όπως αγγλικά, γαλλικά, ισπανικά, γερμανικά, ιταλικά, πορτογαλικά, ολλανδικά, κινεζικά, ιαπωνικά, κορεατικά και αραβικά. Αναφέρει επίσης τήρηση οδηγιών συστήματος, εγγενή κλήση συναρτήσεων και έξοδο JSON. Ορίστε ρητά την τελική γλώσσα, τον ρόλο και τις απαιτήσεις εξόδου, αντί να αφήνετε το μοντέλο να συμπεράνει το επιθυμητό παραδοτέο από μια μεγάλη είσοδο.\n\nΕργασίες εγγράφων, συνομιλίας και πρακτόρων\n\nΟι περιπτώσεις χρήσης του κατασκευαστή περιλαμβάνουν διεπαφές συνομιλίας, καθημερινούς βοηθούς, περιγραφή εικόνων και εγγράφων, μετάφραση, παραγωγή περιεχομένου και εξειδικευμένους πράκτορες. Για βοηθό εγγράφων, δώστε τη σελίδα και προσδιορίστε τις πληροφορίες που πρέπει να επιστραφούν. Ένα αίτημα εξαγωγής μπορεί να κατονομάζει ετικέτες πεδίων, αναμενόμενους τύπους και χειρισμό τιμών που λείπουν. Μια χρήσιμη απάντηση μπορεί να περιέχει το αναγνωριστικό εγγράφου, την εξαγόμενη τιμή και σύντομη εξήγηση συνδεδεμένη με την ορατή πηγή.\n\nΓια μια συνεχιζόμενη συνομιλία, κρατήστε τη σχετική προηγούμενη απάντηση και κάντε μια εστιασμένη συμπληρωματική ερώτηση. Ένας χρήστης μπορεί πρώτα να ζητήσει σύνοψη εγγράφου και κατόπιν να ρωτήσει ποια δήλωση στηρίζει ένα συμπέρασμα. Αυτό αλλάζει την απαιτούμενη έξοδο από γενική επισκόπηση σε εξήγηση συνδεδεμένη με πηγή, διατηρώντας το αρχικό υλικό και τον σκοπό του διαλόγου.\n\nΓια πολυγλωσσική επεξεργασία, δώστε το αρχικό απόσπασμα, τον επιδιωκόμενο αναγνώστη και κατάλογο ορολογίας. Ζητήστε αναθεωρημένη έκδοση που διατηρεί ονόματα, προϋποθέσεις και μονάδες, ακολουθούμενη από σύντομη εξήγηση των αλλαγών αν είναι χρήσιμη. Για παραγωγή περιεχομένου, προσδιορίστε το κοινό και τα γεγονότα που πρέπει να εμφανίζονται πριν ζητήσετε σύντομο προσχέδιο ή εναλλακτική διατύπωση.\n\nΣε μια εργασία πράκτορα, η εφαρμογή παρέχει τα εργαλεία και τις παραμέτρους τους. Το μοντέλο μπορεί να επιλέγει συνάρτηση και να προετοιμάζει ορίσματα, ενώ η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα. Το παράδειγμα συνάρτησης της κάρτας συνδυάζει μια ερώτηση εικόνας με εργαλείο υπολογισμού. Κρατήστε το αποτέλεσμα του εργαλείου χωριστά από την προτεινόμενη κλήση, ώστε η επόμενη γραπτή απάντηση να χρησιμοποιεί τις πληροφορίες που επέστρεψε πραγματικά η λειτουργία.\n\nΠροτεινόμενη προετοιμασία και ρυθμίσεις\n\nΟ κατασκευαστής συνιστά οδηγία συστήματος που περιγράφει το περιβάλλον, την περίπτωση χρήσης και τον τρόπο χρήσης εργαλείων. Κρατήστε το σύνολο εργαλείων καλά ορισμένο και περιορισμένο στο ελάχιστο που απαιτεί η εργασία. Μια μικρή ροή αναζήτησης μπορεί να προσφέρει τις συναρτήσεις που σχετίζονται με την τρέχουσα ερώτηση, με σαφώς ονομασμένα υποχρεωτικά ορίσματα, αντί να παρουσιάζει μεγάλη συλλογή άσχετων λειτουργιών.\n\nΓια καθημερινή χρήση και χρήση σε παραγωγή, η κάρτα συνιστά θερμοκρασία κάτω από 0.1, με υψηλότερες θερμοκρασίες διαθέσιμες για δημιουργική διερεύνηση. Αντιμετωπίστε το ως σύσταση για τη ροή οδηγιών και όχι ως ξεχωριστό έλεγχο λειτουργίας συλλογιστικής. Η οικογένεια διαθέτει διακριτά checkpoint Base, Instruct και Reasoning· η παρούσα καταχώριση είναι η έκδοση Instruct 2512 και όχι η ξεχωριστή έκδοση Reasoning του ίδιου μεγέθους.\n\nΓια εικόνες, ο κατασκευαστής συνιστά αναλογίες κοντά στο 1:1 και αποφυγή πολύ στενών ή πολύ πλατιών εισόδων. Περικόψτε όπου χρειάζεται, διατηρώντας τις ετικέτες και τα συμφραζόμενα που απαιτεί η ερώτηση. Αν μια σελίδα περιέχει πολλές άσχετες περιοχές, προσδιορίστε το τμήμα που πρέπει να εξεταστεί και το αποτέλεσμα που πρέπει να επιστραφεί. Μια ευανάγνωστη, εστιασμένη εικόνα είναι χρησιμότερη από το να ζητάτε από το μοντέλο να μαντέψει ποια μικρή λεπτομέρεια σε μια εκτεταμένη σελίδα έχει σημασία.\n\nΌρια συμφραζομένων και έκδοσης\n\nΣχεδιάστε το κείμενο, τις εικόνες, τη συνομιλία και την επιθυμητή απάντηση γύρω από το ρυθμισμένο πλαίσιο συμφραζομένων. Οι σημειώσεις χρήσης επιτρέπουν ρητά τη μείωση του ρυθμισμένου μήκους μοντέλου όταν χρειάζονται λιγότερα συμφραζόμενα, επομένως το πλήρες παράθυρο δεν είναι οδηγία να γεμίζετε κάθε αίτημα με όλο το διαθέσιμο υλικό. Το παράδειγμα παραγωγής 512 token της κάρτας είναι μόνο μια ενδεικτική ρύθμιση, και οι πηγές που εξετάστηκαν δεν τεκμηριώνουν ξεχωριστό αυστηρό μέγιστο μήκος απάντησης.\n\nΤο checkpoint FP8 Instruct, η προεκπαιδευμένη έκδοση Base και η έκδοση Reasoning είναι ξεχωριστές εκδόσεις. Ο κατασκευαστής περιγράφει επίσης εξειδίκευση και λεπτομερή προσαρμογή ως περιπτώσεις χρήσης. Διατηρήστε το ονομασμένο checkpoint και τον tokenizer του κατά την προετοιμασία της συνομιλίας και κρατήστε την παραγωγή κειμένου διακριτή από την πρόσβαση σε αποθετήριο, την εκτέλεση συναρτήσεων ή άλλες ενέργειες που παρέχει η περιβάλλουσα εφαρμογή.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Extract a compact invoice record\n\nExtract the invoice identifier, supplier, total and currency from this text: Invoice INV-731. Supplier: Cedar Works. Subtotal: 80 EUR. Tax: 16 EUR. Total: 96 EUR. Payment due: not stated. Return those fields plus payment_due; use null when absent and preserve the identifier exactly.A labelled record with invoice_id, supplier, total, currency and payment_due, using null for the unstated date.Check that the total is taken from the Total line rather than the subtotal and that EUR is retained.mistralai/ministral-8b-2512Το Ministral 3 8B Instruct 2512 είναι πολυγλωσσικό μοντέλο οδηγιών κειμένου και εικόνας με γλωσσικό τμήμα 8,4 δισ. παραμέτρων και οπτικό κωδικοποιητή 0,4 δισ. παραμέτρων. Υποστηρίζει πλαίσιο 256 χιλ. token σύμφωνα με τον κατασκευαστή, οδηγίες συστήματος, JSON και εγγενή κλήση συναρτήσεων για βοηθούς και ροές εγγράφων.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Ministral 3 8B Instruct 2512 είναι το μεσαίου μεγέθους μοντέλο της οικογένειας Ministral 3 της Mistral AI που έχει προσαρμοστεί για οδηγίες. Το δημοσιευμένο checkpoint έχει υποστεί μεταγενέστερη εκπαίδευση για εργασίες συνομιλίας και οδηγιών σε ακρίβεια FP8. Συνδυάζει γλωσσικό τμήμα με οπτικό κωδικοποιητή, δέχεται κείμενο και εικόνες και επιστρέφει κείμενο αντί για παραδοτέο εικόνας ή ήχου.
Αρχιτεκτονική και βασικές δυνατότητες
Ο κατασκευαστής αναφέρει γλωσσικό μοντέλο 8,4 δισ. παραμέτρων και οπτικό κωδικοποιητή 0,4 δισ. παραμέτρων. Το παράθυρο συμφραζομένων περιγράφεται ως 256 χιλ. token, και οι δημοσιευμένες σημειώσεις χρήσης χρησιμοποιούν προεπιλεγμένο ρυθμισμένο μήκος 262.144. Αυτά περιγράφουν τη συγκεκριμένη έκδοση μεγέθους 8B· τα μικρότερα μέλη 3B και μεγαλύτερα μέλη 14B της οικογένειας διατηρούν τα δικά τους μεγέθη τμημάτων και τις δικές τους ρυθμίσεις.
Η όραση επεκτείνει την είσοδο του μοντέλου πέρα από μια γραπτή συνομιλία. Μια εικόνα εγγράφου μπορεί να συνοδεύεται από ερώτηση για επιλεγμένο πεδίο, παράγραφο ή ορατή σχέση. Ένα στιγμιότυπο οθόνης μπορεί να συνοδεύεται από τον στόχο χρήστη και αίτημα εντοπισμού του σχετικού χειριστηρίου. Ζητήστε την παρατήρηση που στηρίζει κάθε συμπέρασμα όταν η απάντηση εξαρτάται από οπτική λεπτομέρεια και διατηρήστε τις επικεφαλίδες, τις ετικέτες και τις μονάδες που χρειάζονται για την ερμηνεία μιας περικοπής.
Η κάρτα περιγράφει πολυγλωσσική εργασία σε δεκάδες γλώσσες, όπως αγγλικά, γαλλικά, ισπανικά, γερμανικά, ιταλικά, πορτογαλικά, ολλανδικά, κινεζικά, ιαπωνικά, κορεατικά και αραβικά. Αναφέρει επίσης τήρηση οδηγιών συστήματος, εγγενή κλήση συναρτήσεων και έξοδο JSON. Ορίστε ρητά την τελική γλώσσα, τον ρόλο και τις απαιτήσεις εξόδου, αντί να αφήνετε το μοντέλο να συμπεράνει το επιθυμητό παραδοτέο από μια μεγάλη είσοδο.
Εργασίες εγγράφων, συνομιλίας και πρακτόρων
Οι περιπτώσεις χρήσης του κατασκευαστή περιλαμβάνουν διεπαφές συνομιλίας, καθημερινούς βοηθούς, περιγραφή εικόνων και εγγράφων, μετάφραση, παραγωγή περιεχομένου και εξειδικευμένους πράκτορες. Για βοηθό εγγράφων, δώστε τη σελίδα και προσδιορίστε τις πληροφορίες που πρέπει να επιστραφούν. Ένα αίτημα εξαγωγής μπορεί να κατονομάζει ετικέτες πεδίων, αναμενόμενους τύπους και χειρισμό τιμών που λείπουν. Μια χρήσιμη απάντηση μπορεί να περιέχει το αναγνωριστικό εγγράφου, την εξαγόμενη τιμή και σύντομη εξήγηση συνδεδεμένη με την ορατή πηγή.
Για μια συνεχιζόμενη συνομιλία, κρατήστε τη σχετική προηγούμενη απάντηση και κάντε μια εστιασμένη συμπληρωματική ερώτηση. Ένας χρήστης μπορεί πρώτα να ζητήσει σύνοψη εγγράφου και κατόπιν να ρωτήσει ποια δήλωση στηρίζει ένα συμπέρασμα. Αυτό αλλάζει την απαιτούμενη έξοδο από γενική επισκόπηση σε εξήγηση συνδεδεμένη με πηγή, διατηρώντας το αρχικό υλικό και τον σκοπό του διαλόγου.
Για πολυγλωσσική επεξεργασία, δώστε το αρχικό απόσπασμα, τον επιδιωκόμενο αναγνώστη και κατάλογο ορολογίας. Ζητήστε αναθεωρημένη έκδοση που διατηρεί ονόματα, προϋποθέσεις και μονάδες, ακολουθούμενη από σύντομη εξήγηση των αλλαγών αν είναι χρήσιμη. Για παραγωγή περιεχομένου, προσδιορίστε το κοινό και τα γεγονότα που πρέπει να εμφανίζονται πριν ζητήσετε σύντομο προσχέδιο ή εναλλακτική διατύπωση.
Σε μια εργασία πράκτορα, η εφαρμογή παρέχει τα εργαλεία και τις παραμέτρους τους. Το μοντέλο μπορεί να επιλέγει συνάρτηση και να προετοιμάζει ορίσματα, ενώ η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα. Το παράδειγμα συνάρτησης της κάρτας συνδυάζει μια ερώτηση εικόνας με εργαλείο υπολογισμού. Κρατήστε το αποτέλεσμα του εργαλείου χωριστά από την προτεινόμενη κλήση, ώστε η επόμενη γραπτή απάντηση να χρησιμοποιεί τις πληροφορίες που επέστρεψε πραγματικά η λειτουργία.
Προτεινόμενη προετοιμασία και ρυθμίσεις
Ο κατασκευαστής συνιστά οδηγία συστήματος που περιγράφει το περιβάλλον, την περίπτωση χρήσης και τον τρόπο χρήσης εργαλείων. Κρατήστε το σύνολο εργαλείων καλά ορισμένο και περιορισμένο στο ελάχιστο που απαιτεί η εργασία. Μια μικρή ροή αναζήτησης μπορεί να προσφέρει τις συναρτήσεις που σχετίζονται με την τρέχουσα ερώτηση, με σαφώς ονομασμένα υποχρεωτικά ορίσματα, αντί να παρουσιάζει μεγάλη συλλογή άσχετων λειτουργιών.
Για καθημερινή χρήση και χρήση σε παραγωγή, η κάρτα συνιστά θερμοκρασία κάτω από 0.1, με υψηλότερες θερμοκρασίες διαθέσιμες για δημιουργική διερεύνηση. Αντιμετωπίστε το ως σύσταση για τη ροή οδηγιών και όχι ως ξεχωριστό έλεγχο λειτουργίας συλλογιστικής. Η οικογένεια διαθέτει διακριτά checkpoint Base, Instruct και Reasoning· η παρούσα καταχώριση είναι η έκδοση Instruct 2512 και όχι η ξεχωριστή έκδοση Reasoning του ίδιου μεγέθους.
Για εικόνες, ο κατασκευαστής συνιστά αναλογίες κοντά στο 1:1 και αποφυγή πολύ στενών ή πολύ πλατιών εισόδων. Περικόψτε όπου χρειάζεται, διατηρώντας τις ετικέτες και τα συμφραζόμενα που απαιτεί η ερώτηση. Αν μια σελίδα περιέχει πολλές άσχετες περιοχές, προσδιορίστε το τμήμα που πρέπει να εξεταστεί και το αποτέλεσμα που πρέπει να επιστραφεί. Μια ευανάγνωστη, εστιασμένη εικόνα είναι χρησιμότερη από το να ζητάτε από το μοντέλο να μαντέψει ποια μικρή λεπτομέρεια σε μια εκτεταμένη σελίδα έχει σημασία.
Όρια συμφραζομένων και έκδοσης
Σχεδιάστε το κείμενο, τις εικόνες, τη συνομιλία και την επιθυμητή απάντηση γύρω από το ρυθμισμένο πλαίσιο συμφραζομένων. Οι σημειώσεις χρήσης επιτρέπουν ρητά τη μείωση του ρυθμισμένου μήκους μοντέλου όταν χρειάζονται λιγότερα συμφραζόμενα, επομένως το πλήρες παράθυρο δεν είναι οδηγία να γεμίζετε κάθε αίτημα με όλο το διαθέσιμο υλικό. Το παράδειγμα παραγωγής 512 token της κάρτας είναι μόνο μια ενδεικτική ρύθμιση, και οι πηγές που εξετάστηκαν δεν τεκμηριώνουν ξεχωριστό αυστηρό μέγιστο μήκος απάντησης.
Το checkpoint FP8 Instruct, η προεκπαιδευμένη έκδοση Base και η έκδοση Reasoning είναι ξεχωριστές εκδόσεις. Ο κατασκευαστής περιγράφει επίσης εξειδίκευση και λεπτομερή προσαρμογή ως περιπτώσεις χρήσης. Διατηρήστε το ονομασμένο checkpoint και τον tokenizer του κατά την προετοιμασία της συνομιλίας και κρατήστε την παραγωγή κειμένου διακριτή από την πρόσβαση σε αποθετήριο, την εκτέλεση συναρτήσεων ή άλλες ενέργειες που παρέχει η περιβάλλουσα εφαρμογή.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια mistralai/ministral-8b-2512 | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00066 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00066 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/ministral-8b-2512", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/ministral-8b-2512',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/ministral-8b-2512',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra mistralai/ministral-8b-2512
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
mistralai/ministral-8b-2512Το Ministral 3 8B Instruct 2512 είναι πολυγλωσσικό μοντέλο οδηγιών κειμένου και εικόνας με γλωσσικό τμήμα 8,4 δισ. παραμέτρων και οπτικό κωδικοποιητή 0,4 δισ. παραμέτρων. Υποστηρίζει πλαίσιο 256 χιλ. token σύμφωνα με τον κατασκευαστή, οδηγίες συστήματος, JSON και εγγενή κλήση συναρτήσεων για βοηθούς και ροές εγγράφων.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Ministral 3 8B Instruct 2512 είναι το μεσαίου μεγέθους μοντέλο της οικογένειας Ministral 3 της Mistral AI που έχει προσαρμοστεί για οδηγίες. Το δημοσιευμένο checkpoint έχει υποστεί μεταγενέστερη εκπαίδευση για εργασίες συνομιλίας και οδηγιών σε ακρίβεια FP8. Συνδυάζει γλωσσικό τμήμα με οπτικό κωδικοποιητή, δέχεται κείμενο και εικόνες και επιστρέφει κείμενο αντί για παραδοτέο εικόνας ή ήχου.
Αρχιτεκτονική και βασικές δυνατότητες
Ο κατασκευαστής αναφέρει γλωσσικό μοντέλο 8,4 δισ. παραμέτρων και οπτικό κωδικοποιητή 0,4 δισ. παραμέτρων. Το παράθυρο συμφραζομένων περιγράφεται ως 256 χιλ. token, και οι δημοσιευμένες σημειώσεις χρήσης χρησιμοποιούν προεπιλεγμένο ρυθμισμένο μήκος 262.144. Αυτά περιγράφουν τη συγκεκριμένη έκδοση μεγέθους 8B· τα μικρότερα μέλη 3B και μεγαλύτερα μέλη 14B της οικογένειας διατηρούν τα δικά τους μεγέθη τμημάτων και τις δικές τους ρυθμίσεις.
Η όραση επεκτείνει την είσοδο του μοντέλου πέρα από μια γραπτή συνομιλία. Μια εικόνα εγγράφου μπορεί να συνοδεύεται από ερώτηση για επιλεγμένο πεδίο, παράγραφο ή ορατή σχέση. Ένα στιγμιότυπο οθόνης μπορεί να συνοδεύεται από τον στόχο χρήστη και αίτημα εντοπισμού του σχετικού χειριστηρίου. Ζητήστε την παρατήρηση που στηρίζει κάθε συμπέρασμα όταν η απάντηση εξαρτάται από οπτική λεπτομέρεια και διατηρήστε τις επικεφαλίδες, τις ετικέτες και τις μονάδες που χρειάζονται για την ερμηνεία μιας περικοπής.
Η κάρτα περιγράφει πολυγλωσσική εργασία σε δεκάδες γλώσσες, όπως αγγλικά, γαλλικά, ισπανικά, γερμανικά, ιταλικά, πορτογαλικά, ολλανδικά, κινεζικά, ιαπωνικά, κορεατικά και αραβικά. Αναφέρει επίσης τήρηση οδηγιών συστήματος, εγγενή κλήση συναρτήσεων και έξοδο JSON. Ορίστε ρητά την τελική γλώσσα, τον ρόλο και τις απαιτήσεις εξόδου, αντί να αφήνετε το μοντέλο να συμπεράνει το επιθυμητό παραδοτέο από μια μεγάλη είσοδο.
Εργασίες εγγράφων, συνομιλίας και πρακτόρων
Οι περιπτώσεις χρήσης του κατασκευαστή περιλαμβάνουν διεπαφές συνομιλίας, καθημερινούς βοηθούς, περιγραφή εικόνων και εγγράφων, μετάφραση, παραγωγή περιεχομένου και εξειδικευμένους πράκτορες. Για βοηθό εγγράφων, δώστε τη σελίδα και προσδιορίστε τις πληροφορίες που πρέπει να επιστραφούν. Ένα αίτημα εξαγωγής μπορεί να κατονομάζει ετικέτες πεδίων, αναμενόμενους τύπους και χειρισμό τιμών που λείπουν. Μια χρήσιμη απάντηση μπορεί να περιέχει το αναγνωριστικό εγγράφου, την εξαγόμενη τιμή και σύντομη εξήγηση συνδεδεμένη με την ορατή πηγή.
Για μια συνεχιζόμενη συνομιλία, κρατήστε τη σχετική προηγούμενη απάντηση και κάντε μια εστιασμένη συμπληρωματική ερώτηση. Ένας χρήστης μπορεί πρώτα να ζητήσει σύνοψη εγγράφου και κατόπιν να ρωτήσει ποια δήλωση στηρίζει ένα συμπέρασμα. Αυτό αλλάζει την απαιτούμενη έξοδο από γενική επισκόπηση σε εξήγηση συνδεδεμένη με πηγή, διατηρώντας το αρχικό υλικό και τον σκοπό του διαλόγου.
Για πολυγλωσσική επεξεργασία, δώστε το αρχικό απόσπασμα, τον επιδιωκόμενο αναγνώστη και κατάλογο ορολογίας. Ζητήστε αναθεωρημένη έκδοση που διατηρεί ονόματα, προϋποθέσεις και μονάδες, ακολουθούμενη από σύντομη εξήγηση των αλλαγών αν είναι χρήσιμη. Για παραγωγή περιεχομένου, προσδιορίστε το κοινό και τα γεγονότα που πρέπει να εμφανίζονται πριν ζητήσετε σύντομο προσχέδιο ή εναλλακτική διατύπωση.
Σε μια εργασία πράκτορα, η εφαρμογή παρέχει τα εργαλεία και τις παραμέτρους τους. Το μοντέλο μπορεί να επιλέγει συνάρτηση και να προετοιμάζει ορίσματα, ενώ η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα. Το παράδειγμα συνάρτησης της κάρτας συνδυάζει μια ερώτηση εικόνας με εργαλείο υπολογισμού. Κρατήστε το αποτέλεσμα του εργαλείου χωριστά από την προτεινόμενη κλήση, ώστε η επόμενη γραπτή απάντηση να χρησιμοποιεί τις πληροφορίες που επέστρεψε πραγματικά η λειτουργία.
Προτεινόμενη προετοιμασία και ρυθμίσεις
Ο κατασκευαστής συνιστά οδηγία συστήματος που περιγράφει το περιβάλλον, την περίπτωση χρήσης και τον τρόπο χρήσης εργαλείων. Κρατήστε το σύνολο εργαλείων καλά ορισμένο και περιορισμένο στο ελάχιστο που απαιτεί η εργασία. Μια μικρή ροή αναζήτησης μπορεί να προσφέρει τις συναρτήσεις που σχετίζονται με την τρέχουσα ερώτηση, με σαφώς ονομασμένα υποχρεωτικά ορίσματα, αντί να παρουσιάζει μεγάλη συλλογή άσχετων λειτουργιών.
Για καθημερινή χρήση και χρήση σε παραγωγή, η κάρτα συνιστά θερμοκρασία κάτω από 0.1, με υψηλότερες θερμοκρασίες διαθέσιμες για δημιουργική διερεύνηση. Αντιμετωπίστε το ως σύσταση για τη ροή οδηγιών και όχι ως ξεχωριστό έλεγχο λειτουργίας συλλογιστικής. Η οικογένεια διαθέτει διακριτά checkpoint Base, Instruct και Reasoning· η παρούσα καταχώριση είναι η έκδοση Instruct 2512 και όχι η ξεχωριστή έκδοση Reasoning του ίδιου μεγέθους.
Για εικόνες, ο κατασκευαστής συνιστά αναλογίες κοντά στο 1:1 και αποφυγή πολύ στενών ή πολύ πλατιών εισόδων. Περικόψτε όπου χρειάζεται, διατηρώντας τις ετικέτες και τα συμφραζόμενα που απαιτεί η ερώτηση. Αν μια σελίδα περιέχει πολλές άσχετες περιοχές, προσδιορίστε το τμήμα που πρέπει να εξεταστεί και το αποτέλεσμα που πρέπει να επιστραφεί. Μια ευανάγνωστη, εστιασμένη εικόνα είναι χρησιμότερη από το να ζητάτε από το μοντέλο να μαντέψει ποια μικρή λεπτομέρεια σε μια εκτεταμένη σελίδα έχει σημασία.
Όρια συμφραζομένων και έκδοσης
Σχεδιάστε το κείμενο, τις εικόνες, τη συνομιλία και την επιθυμητή απάντηση γύρω από το ρυθμισμένο πλαίσιο συμφραζομένων. Οι σημειώσεις χρήσης επιτρέπουν ρητά τη μείωση του ρυθμισμένου μήκους μοντέλου όταν χρειάζονται λιγότερα συμφραζόμενα, επομένως το πλήρες παράθυρο δεν είναι οδηγία να γεμίζετε κάθε αίτημα με όλο το διαθέσιμο υλικό. Το παράδειγμα παραγωγής 512 token της κάρτας είναι μόνο μια ενδεικτική ρύθμιση, και οι πηγές που εξετάστηκαν δεν τεκμηριώνουν ξεχωριστό αυστηρό μέγιστο μήκος απάντησης.
Το checkpoint FP8 Instruct, η προεκπαιδευμένη έκδοση Base και η έκδοση Reasoning είναι ξεχωριστές εκδόσεις. Ο κατασκευαστής περιγράφει επίσης εξειδίκευση και λεπτομερή προσαρμογή ως περιπτώσεις χρήσης. Διατηρήστε το ονομασμένο checkpoint και τον tokenizer του κατά την προετοιμασία της συνομιλίας και κρατήστε την παραγωγή κειμένου διακριτή από την πρόσβαση σε αποθετήριο, την εκτέλεση συναρτήσεων ή άλλες ενέργειες που παρέχει η περιβάλλουσα εφαρμογή.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια mistralai/ministral-8b-2512 | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00066 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00066 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "mistralai/ministral-8b-2512",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/ministral-8b-2512', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/ministral-8b-2512', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra mistralai/ministral-8b-2512
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Extract a compact invoice record\n\nExtract the invoice identifier, supplier, total and currency from this text: Invoice INV-731. Supplier: Cedar Works. Subtotal: 80 EUR. Tax: 16 EUR. Total: 96 EUR. Payment due: not stated. Return those fields plus payment_due; use null when absent and preserve the identifier exactly.A labelled record with invoice_id, supplier, total, currency and payment_due, using null for the unstated date.Check that the total is taken from the Total line rather than the subtotal and that EUR is retained.