Το Mistral Nemo Instruct 2407 είναι η προσαρμοσμένη σε οδηγίες έκδοση του γλωσσικού μοντέλου Mistral Nemo 12B. Προέρχεται από προσαρμοστική εκπαίδευση του χωριστά ονομασμένου σημείου ελέγχου Nemo Base 2407. Ο κατασκευαστής περιγράφει εκπαίδευση με μεγάλο ποσοστό πολυγλωσσικού υλικού και κώδικα και παράθυρο συμφραζομένων 128k token, που υποστηρίζει γραπτές οδηγίες, συνομιλία και εργασίες προγραμματισμού.
Βασικά χαρακτηριστικά και αρχιτεκτονική
Η έκδοση παρέχει διακριτές προεκπαιδευμένες και προσαρμοσμένες σε οδηγίες παραλλαγές. Αυτή η καταχώριση αφορά το σημείο ελέγχου Instruct: ένα κειμενικό αίτημα μπορεί να ζητά εξήγηση, αναθεωρημένο έγγραφο, κώδικα προγράμματος ή προτεινόμενη κλήση συνάρτησης. Η προσαρμογή σε οδηγίες περιγράφεται ως βελτίωση της ακριβούς τήρησης οδηγιών, της συλλογιστικής, του διαλόγου πολλών γύρων και της δημιουργίας κώδικα σε σύγκριση με την προηγούμενη σειρά Mistral 7B.
Το μοντέλο έχει 40 επίπεδα Transformer με πλάτος μοντέλου 5,120. Χρησιμοποιεί SwiGLU, 32 κεφαλές προσοχής και 8 κεφαλές κλειδιών/τιμών σε προσοχή ομαδοποιημένων ερωτημάτων, διάσταση κεφαλής 128 και κρυφή διάσταση 14,336. Οι περιστροφικές ενσωματώσεις χρησιμοποιούν ρύθμιση theta ενός εκατομμυρίου. Το δημοσιευμένο λεξιλόγιο έχει 2 στη δύναμη 17 καταχωρίσεις, δηλαδή 131,072· αυτό το μέγεθος λεξιλογίου διαφέρει από την ετικέτα συμφραζομένων εργασίας 128k.
Η ανακοίνωση του κατασκευαστή περιγράφει επίσης εκπαίδευση με επίγνωση κβάντισης και εξαγωγή συμπερασμάτων FP8. Αυτά είναι χαρακτηριστικά έκδοσης και ακρίβειας αριθμητικής αναπαράστασης, όχι πρόσθετοι τρόποι περιεχομένου. Διατηρήστε το ακριβές σημείο ελέγχου και τον αντίστοιχο tokenizer αντί να θεωρείτε την ίδια έκδοση ένα άλλο μοντέλο 12B ή της οικογένειας Mistral.
Πολυγλωσσικό κείμενο και Tekken
Η έκδοση δίνει έμφαση σε Αγγλικά, Γαλλικά, Γερμανικά, Ισπανικά, Ιταλικά, Πορτογαλικά, Κινεζικά, Ιαπωνικά, Κορεατικά, Αραβικά και Χίντι, ενώ τα Ρωσικά περιλαμβάνονται στα μεταδεδομένα γλωσσών της κάρτας. Ορίστε την τελική γλώσσα, το επιδιωκόμενο κοινό και την ορολογία πριν ζητήσετε αποτέλεσμα. Για πολυγλωσσική εργασία εγγράφων, κρατήστε αμετάβλητα ονόματα, αναγνωριστικά και μονάδες, προσαρμόζοντας το περιβάλλον κείμενο.
Το Nemo χρησιμοποιεί τον tokenizer Tekken, εκπαιδευμένο σε περισσότερες από 100 γλώσσες και σχεδιασμένο για αποδοτική αναπαράσταση φυσικής γλώσσας και πηγαίου κώδικα. Ο tokenizer επηρεάζει τον χώρο συμφραζομένων που καταλαμβάνει το υλικό πηγής· επομένως το πλήθος χαρακτήρων δεν είναι από μόνο του πλήθος token. Χρησιμοποιήστε τον αντίστοιχο tokenizer και κρατήστε μαζί το σχετικό υλικό της εργασίας αντί να εκτιμάτε τα συμφραζόμενα μόνο από την ορατή έκταση ενός αποσπάσματος.
Προετοιμασία οδηγιών και κώδικα
Για εξήγηση εγγράφου, δώστε το απόσπασμα πηγής και προσδιορίστε τη συνθήκη ή τον όρο που θα εξηγηθεί. Ζητήστε την εξήγηση στη γλώσσα του αναγνώστη, διατηρώντας τα αρχικά ονόματα και τη δήλωση της πηγής που στηρίζει την απάντηση. Για επεξεργασία, ορίστε ποιο νόημα και ποιες συνθήκες πρέπει να διατηρηθούν στην επαναδιατύπωση και αν το αποτέλεσμα πρέπει να είναι μόνο το αναθεωρημένο απόσπασμα ή το απόσπασμα μαζί με εξήγηση.
Για εργασία προγραμματισμού, ονομάστε τη γλώσσα, τους τύπους εισόδου, την αναμενόμενη έξοδο και την υπάρχουσα διεπαφή. Συμπεριλάβετε τη συνάρτηση ή τις δηλώσεις που καθορίζουν την αλλαγή. Ένα χρήσιμο αποτέλεσμα μπορεί να περιέχει την υλοποίηση, τις υποθέσεις της και παραδείγματα εισόδων με αναμενόμενες εξόδους. Χωριστό ερώτημα μπορεί να ζητά από το μοντέλο να ακολουθήσει μία είσοδο μέσα στον παρεχόμενο κώδικα, ώστε η εξήγηση να αφορά συγκεκριμένη διαδρομή και όχι απροσδιόριστο πρόγραμμα.
Για συνομιλία πολλών γύρων, κρατήστε τη σχετική προηγούμενη απάντηση και ζητήστε εστιασμένη συνέχεια ή δώστε νέο υλικό που αλλάζει την εργασία. Ορίστε αν η επόμενη απάντηση πρέπει να αναθεωρεί το προηγούμενο παραδοτέο, να εξηγεί μία απόφαση ή να παράγει διαφορετική αναπαράσταση των ίδιων γεγονότων της πηγής. Έτσι γίνεται ρητή η συνέχεια της συνομιλίας.
Κλήσεις συναρτήσεων και δειγματοληψία
Ο κατασκευαστής τεκμηριώνει κλήσεις συναρτήσεων με την αντίστοιχη μορφή συνομιλίας. Το μοντέλο παράγει την προτεινόμενη λειτουργία και τα ορίσματα, ενώ η εφαρμογή εκτελεί τη συνάρτηση και προσθέτει το αποτέλεσμά της στη συνομιλία πριν από την επόμενη παραγωγή. Η κάρτα σημειώνει ρητά ότι ένα συντομευμένο παράδειγμα κώδικα δεν δείχνει τον πλήρη κύκλο, οπότε τα απόντα βήματα εκτέλεσης και αποτελέσματος παραμένουν απαραίτητα μέρη μιας εφαρμογής με εργαλεία.
Σε αυτή τη δημοσιευμένη μορφή εργαλείων, τα αναγνωριστικά κλήσεων και τα αντίστοιχα αναγνωριστικά αποτελεσμάτων έχουν ακριβώς εννέα αλφαριθμητικούς χαρακτήρες. Διατηρήστε τη σύνδεση λειτουργίας και αποτελέσματος όταν προετοιμάζετε συνομιλία εγγενούς μορφής. Μια διεπαφή περιτυλίγματος μπορεί να αναπαριστά τη συνομιλία διαφορετικά· η απαίτηση της έκδοσης περιγράφει τη μορφοποίηση μοντέλου του κατασκευαστή και όχι κάποιο επινοημένο καθολικό αναγνωριστικό εφαρμογής πελάτη.
Ο κατασκευαστής συνιστά temperature 0.3, σημειώνοντας ότι το Nemo χρησιμοποιεί χαμηλότερες θερμοκρασίες από προηγούμενα μοντέλα Mistral. Οι διάφορες ρυθμίσεις 64, 128, 256 και 1,000 token που εμφανίζονται στα παραδείγματα είναι επιλογές παραγωγής για εκείνες τις επιδείξεις και όχι ανεξάρτητα δημοσιευμένες μέγιστες χωρητικότητες απάντησης.
Ουσιαστικοί περιορισμοί
Η κάρτα Instruct περιγράφει αυτό το σημείο ελέγχου ως επίδειξη προσαρμοστικής εκπαίδευσης της βάσης και δηλώνει ρητά ότι δεν περιέχει μηχανισμό ελέγχου περιεχομένου. Οι εφαρμογές που χρειάζονται ελεγχόμενη συμπεριφορά πρέπει να την παρέχουν στο περιβάλλον σύστημα. Αυτό είναι ιδιότητα του δημοσιευμένου σημείου ελέγχου και όχι ισχυρισμός για κάθε υπηρεσία που φιλοξενεί μοντέλο Nemo.
Η τεκμηριωμένη εργασία του Nemo εδώ είναι δημιουργία κειμένου, με δικά του συμφραζόμενα 128k και μορφή συνομιλίας. Κατανόηση εικόνων, μεταγραφή ομιλίας και υβριδικές ρυθμίσεις συλλογιστικής από μεταγενέστερες οικογένειες Mistral δεν πρέπει να αποδίδονται σε αυτή την έκδοση. Δώστε ολόκληρη τη γραπτή συνθήκη, το σχετικό υλικό πηγής και το απαιτούμενο τελικό παραδοτέο, ώστε το αποτέλεσμα να παραμένει χρήσιμο ως εξήγηση, αναθεωρημένο κείμενο ή προτεινόμενη υλοποίηση.
", "aboutText": "Το Mistral Nemo Instruct 2407 είναι η προσαρμοσμένη σε οδηγίες έκδοση του γλωσσικού μοντέλου Mistral Nemo 12B. Προέρχεται από προσαρμοστική εκπαίδευση του χωριστά ονομασμένου σημείου ελέγχου Nemo Base 2407. Ο κατασκευαστής περιγράφει εκπαίδευση με μεγάλο ποσοστό πολυγλωσσικού υλικού και κώδικα και παράθυρο συμφραζομένων 128k token, που υποστηρίζει γραπτές οδηγίες, συνομιλία και εργασίες προγραμματισμού.\n\nΒασικά χαρακτηριστικά και αρχιτεκτονική\n\nΗ έκδοση παρέχει διακριτές προεκπαιδευμένες και προσαρμοσμένες σε οδηγίες παραλλαγές. Αυτή η καταχώριση αφορά το σημείο ελέγχου Instruct: ένα κειμενικό αίτημα μπορεί να ζητά εξήγηση, αναθεωρημένο έγγραφο, κώδικα προγράμματος ή προτεινόμενη κλήση συνάρτησης. Η προσαρμογή σε οδηγίες περιγράφεται ως βελτίωση της ακριβούς τήρησης οδηγιών, της συλλογιστικής, του διαλόγου πολλών γύρων και της δημιουργίας κώδικα σε σύγκριση με την προηγούμενη σειρά Mistral 7B.\n\nΤο μοντέλο έχει 40 επίπεδα Transformer με πλάτος μοντέλου 5,120. Χρησιμοποιεί SwiGLU, 32 κεφαλές προσοχής και 8 κεφαλές κλειδιών/τιμών σε προσοχή ομαδοποιημένων ερωτημάτων, διάσταση κεφαλής 128 και κρυφή διάσταση 14,336. Οι περιστροφικές ενσωματώσεις χρησιμοποιούν ρύθμιση theta ενός εκατομμυρίου. Το δημοσιευμένο λεξιλόγιο έχει 2 στη δύναμη 17 καταχωρίσεις, δηλαδή 131,072· αυτό το μέγεθος λεξιλογίου διαφέρει από την ετικέτα συμφραζομένων εργασίας 128k.\n\nΗ ανακοίνωση του κατασκευαστή περιγράφει επίσης εκπαίδευση με επίγνωση κβάντισης και εξαγωγή συμπερασμάτων FP8. Αυτά είναι χαρακτηριστικά έκδοσης και ακρίβειας αριθμητικής αναπαράστασης, όχι πρόσθετοι τρόποι περιεχομένου. Διατηρήστε το ακριβές σημείο ελέγχου και τον αντίστοιχο tokenizer αντί να θεωρείτε την ίδια έκδοση ένα άλλο μοντέλο 12B ή της οικογένειας Mistral.\n\nΠολυγλωσσικό κείμενο και Tekken\n\nΗ έκδοση δίνει έμφαση σε Αγγλικά, Γαλλικά, Γερμανικά, Ισπανικά, Ιταλικά, Πορτογαλικά, Κινεζικά, Ιαπωνικά, Κορεατικά, Αραβικά και Χίντι, ενώ τα Ρωσικά περιλαμβάνονται στα μεταδεδομένα γλωσσών της κάρτας. Ορίστε την τελική γλώσσα, το επιδιωκόμενο κοινό και την ορολογία πριν ζητήσετε αποτέλεσμα. Για πολυγλωσσική εργασία εγγράφων, κρατήστε αμετάβλητα ονόματα, αναγνωριστικά και μονάδες, προσαρμόζοντας το περιβάλλον κείμενο.\n\nΤο Nemo χρησιμοποιεί τον tokenizer Tekken, εκπαιδευμένο σε περισσότερες από 100 γλώσσες και σχεδιασμένο για αποδοτική αναπαράσταση φυσικής γλώσσας και πηγαίου κώδικα. Ο tokenizer επηρεάζει τον χώρο συμφραζομένων που καταλαμβάνει το υλικό πηγής· επομένως το πλήθος χαρακτήρων δεν είναι από μόνο του πλήθος token. Χρησιμοποιήστε τον αντίστοιχο tokenizer και κρατήστε μαζί το σχετικό υλικό της εργασίας αντί να εκτιμάτε τα συμφραζόμενα μόνο από την ορατή έκταση ενός αποσπάσματος.\n\nΠροετοιμασία οδηγιών και κώδικα\n\nΓια εξήγηση εγγράφου, δώστε το απόσπασμα πηγής και προσδιορίστε τη συνθήκη ή τον όρο που θα εξηγηθεί. Ζητήστε την εξήγηση στη γλώσσα του αναγνώστη, διατηρώντας τα αρχικά ονόματα και τη δήλωση της πηγής που στηρίζει την απάντηση. Για επεξεργασία, ορίστε ποιο νόημα και ποιες συνθήκες πρέπει να διατηρηθούν στην επαναδιατύπωση και αν το αποτέλεσμα πρέπει να είναι μόνο το αναθεωρημένο απόσπασμα ή το απόσπασμα μαζί με εξήγηση.\n\nΓια εργασία προγραμματισμού, ονομάστε τη γλώσσα, τους τύπους εισόδου, την αναμενόμενη έξοδο και την υπάρχουσα διεπαφή. Συμπεριλάβετε τη συνάρτηση ή τις δηλώσεις που καθορίζουν την αλλαγή. Ένα χρήσιμο αποτέλεσμα μπορεί να περιέχει την υλοποίηση, τις υποθέσεις της και παραδείγματα εισόδων με αναμενόμενες εξόδους. Χωριστό ερώτημα μπορεί να ζητά από το μοντέλο να ακολουθήσει μία είσοδο μέσα στον παρεχόμενο κώδικα, ώστε η εξήγηση να αφορά συγκεκριμένη διαδρομή και όχι απροσδιόριστο πρόγραμμα.\n\nΓια συνομιλία πολλών γύρων, κρατήστε τη σχετική προηγούμενη απάντηση και ζητήστε εστιασμένη συνέχεια ή δώστε νέο υλικό που αλλάζει την εργασία. Ορίστε αν η επόμενη απάντηση πρέπει να αναθεωρεί το προηγούμενο παραδοτέο, να εξηγεί μία απόφαση ή να παράγει διαφορετική αναπαράσταση των ίδιων γεγονότων της πηγής. Έτσι γίνεται ρητή η συνέχεια της συνομιλίας.\n\nΚλήσεις συναρτήσεων και δειγματοληψία\n\nΟ κατασκευαστής τεκμηριώνει κλήσεις συναρτήσεων με την αντίστοιχη μορφή συνομιλίας. Το μοντέλο παράγει την προτεινόμενη λειτουργία και τα ορίσματα, ενώ η εφαρμογή εκτελεί τη συνάρτηση και προσθέτει το αποτέλεσμά της στη συνομιλία πριν από την επόμενη παραγωγή. Η κάρτα σημειώνει ρητά ότι ένα συντομευμένο παράδειγμα κώδικα δεν δείχνει τον πλήρη κύκλο, οπότε τα απόντα βήματα εκτέλεσης και αποτελέσματος παραμένουν απαραίτητα μέρη μιας εφαρμογής με εργαλεία.\n\nΣε αυτή τη δημοσιευμένη μορφή εργαλείων, τα αναγνωριστικά κλήσεων και τα αντίστοιχα αναγνωριστικά αποτελεσμάτων έχουν ακριβώς εννέα αλφαριθμητικούς χαρακτήρες. Διατηρήστε τη σύνδεση λειτουργίας και αποτελέσματος όταν προετοιμάζετε συνομιλία εγγενούς μορφής. Μια διεπαφή περιτυλίγματος μπορεί να αναπαριστά τη συνομιλία διαφορετικά· η απαίτηση της έκδοσης περιγράφει τη μορφοποίηση μοντέλου του κατασκευαστή και όχι κάποιο επινοημένο καθολικό αναγνωριστικό εφαρμογής πελάτη.\n\nΟ κατασκευαστής συνιστά temperature 0.3, σημειώνοντας ότι το Nemo χρησιμοποιεί χαμηλότερες θερμοκρασίες από προηγούμενα μοντέλα Mistral. Οι διάφορες ρυθμίσεις 64, 128, 256 και 1,000 token που εμφανίζονται στα παραδείγματα είναι επιλογές παραγωγής για εκείνες τις επιδείξεις και όχι ανεξάρτητα δημοσιευμένες μέγιστες χωρητικότητες απάντησης.\n\nΟυσιαστικοί περιορισμοί\n\nΗ κάρτα Instruct περιγράφει αυτό το σημείο ελέγχου ως επίδειξη προσαρμοστικής εκπαίδευσης της βάσης και δηλώνει ρητά ότι δεν περιέχει μηχανισμό ελέγχου περιεχομένου. Οι εφαρμογές που χρειάζονται ελεγχόμενη συμπεριφορά πρέπει να την παρέχουν στο περιβάλλον σύστημα. Αυτό είναι ιδιότητα του δημοσιευμένου σημείου ελέγχου και όχι ισχυρισμός για κάθε υπηρεσία που φιλοξενεί μοντέλο Nemo.\n\nΗ τεκμηριωμένη εργασία του Nemo εδώ είναι δημιουργία κειμένου, με δικά του συμφραζόμενα 128k και μορφή συνομιλίας. Κατανόηση εικόνων, μεταγραφή ομιλίας και υβριδικές ρυθμίσεις συλλογιστικής από μεταγενέστερες οικογένειες Mistral δεν πρέπει να αποδίδονται σε αυτή την έκδοση. Δώστε ολόκληρη τη γραπτή συνθήκη, το σχετικό υλικό πηγής και το απαιτούμενο τελικό παραδοτέο, ώστε το αποτέλεσμα να παραμένει χρήσιμο ως εξήγηση, αναθεωρημένο κείμενο ή προτεινόμενη υλοποίηση.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoΤο Mistral Nemo Instruct 2407 είναι πολυγλωσσικό μοντέλο κειμένου 12 δισ. παραμέτρων για ακριβείς οδηγίες, συνομιλία πολλών γύρων και κώδικα. Διαθέτει πλαίσιο 128 χιλ. token σύμφωνα με τον κατασκευαστή, tokenizer Tekken, τεκμηριωμένη κλήση συναρτήσεων και διακριτό checkpoint προσαρμοσμένο για οδηγίες με δικές του συστάσεις δειγματοληψίας.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Mistral Nemo Instruct 2407 είναι η προσαρμοσμένη σε οδηγίες έκδοση του γλωσσικού μοντέλου Mistral Nemo 12B. Προέρχεται από προσαρμοστική εκπαίδευση του χωριστά ονομασμένου σημείου ελέγχου Nemo Base 2407. Ο κατασκευαστής περιγράφει εκπαίδευση με μεγάλο ποσοστό πολυγλωσσικού υλικού και κώδικα και παράθυρο συμφραζομένων 128k token, που υποστηρίζει γραπτές οδηγίες, συνομιλία και εργασίες προγραμματισμού.
Βασικά χαρακτηριστικά και αρχιτεκτονική
Η έκδοση παρέχει διακριτές προεκπαιδευμένες και προσαρμοσμένες σε οδηγίες παραλλαγές. Αυτή η καταχώριση αφορά το σημείο ελέγχου Instruct: ένα κειμενικό αίτημα μπορεί να ζητά εξήγηση, αναθεωρημένο έγγραφο, κώδικα προγράμματος ή προτεινόμενη κλήση συνάρτησης. Η προσαρμογή σε οδηγίες περιγράφεται ως βελτίωση της ακριβούς τήρησης οδηγιών, της συλλογιστικής, του διαλόγου πολλών γύρων και της δημιουργίας κώδικα σε σύγκριση με την προηγούμενη σειρά Mistral 7B.
Το μοντέλο έχει 40 επίπεδα Transformer με πλάτος μοντέλου 5,120. Χρησιμοποιεί SwiGLU, 32 κεφαλές προσοχής και 8 κεφαλές κλειδιών/τιμών σε προσοχή ομαδοποιημένων ερωτημάτων, διάσταση κεφαλής 128 και κρυφή διάσταση 14,336. Οι περιστροφικές ενσωματώσεις χρησιμοποιούν ρύθμιση theta ενός εκατομμυρίου. Το δημοσιευμένο λεξιλόγιο έχει 2 στη δύναμη 17 καταχωρίσεις, δηλαδή 131,072· αυτό το μέγεθος λεξιλογίου διαφέρει από την ετικέτα συμφραζομένων εργασίας 128k.
Η ανακοίνωση του κατασκευαστή περιγράφει επίσης εκπαίδευση με επίγνωση κβάντισης και εξαγωγή συμπερασμάτων FP8. Αυτά είναι χαρακτηριστικά έκδοσης και ακρίβειας αριθμητικής αναπαράστασης, όχι πρόσθετοι τρόποι περιεχομένου. Διατηρήστε το ακριβές σημείο ελέγχου και τον αντίστοιχο tokenizer αντί να θεωρείτε την ίδια έκδοση ένα άλλο μοντέλο 12B ή της οικογένειας Mistral.
Πολυγλωσσικό κείμενο και Tekken
Η έκδοση δίνει έμφαση σε Αγγλικά, Γαλλικά, Γερμανικά, Ισπανικά, Ιταλικά, Πορτογαλικά, Κινεζικά, Ιαπωνικά, Κορεατικά, Αραβικά και Χίντι, ενώ τα Ρωσικά περιλαμβάνονται στα μεταδεδομένα γλωσσών της κάρτας. Ορίστε την τελική γλώσσα, το επιδιωκόμενο κοινό και την ορολογία πριν ζητήσετε αποτέλεσμα. Για πολυγλωσσική εργασία εγγράφων, κρατήστε αμετάβλητα ονόματα, αναγνωριστικά και μονάδες, προσαρμόζοντας το περιβάλλον κείμενο.
Το Nemo χρησιμοποιεί τον tokenizer Tekken, εκπαιδευμένο σε περισσότερες από 100 γλώσσες και σχεδιασμένο για αποδοτική αναπαράσταση φυσικής γλώσσας και πηγαίου κώδικα. Ο tokenizer επηρεάζει τον χώρο συμφραζομένων που καταλαμβάνει το υλικό πηγής· επομένως το πλήθος χαρακτήρων δεν είναι από μόνο του πλήθος token. Χρησιμοποιήστε τον αντίστοιχο tokenizer και κρατήστε μαζί το σχετικό υλικό της εργασίας αντί να εκτιμάτε τα συμφραζόμενα μόνο από την ορατή έκταση ενός αποσπάσματος.
Προετοιμασία οδηγιών και κώδικα
Για εξήγηση εγγράφου, δώστε το απόσπασμα πηγής και προσδιορίστε τη συνθήκη ή τον όρο που θα εξηγηθεί. Ζητήστε την εξήγηση στη γλώσσα του αναγνώστη, διατηρώντας τα αρχικά ονόματα και τη δήλωση της πηγής που στηρίζει την απάντηση. Για επεξεργασία, ορίστε ποιο νόημα και ποιες συνθήκες πρέπει να διατηρηθούν στην επαναδιατύπωση και αν το αποτέλεσμα πρέπει να είναι μόνο το αναθεωρημένο απόσπασμα ή το απόσπασμα μαζί με εξήγηση.
Για εργασία προγραμματισμού, ονομάστε τη γλώσσα, τους τύπους εισόδου, την αναμενόμενη έξοδο και την υπάρχουσα διεπαφή. Συμπεριλάβετε τη συνάρτηση ή τις δηλώσεις που καθορίζουν την αλλαγή. Ένα χρήσιμο αποτέλεσμα μπορεί να περιέχει την υλοποίηση, τις υποθέσεις της και παραδείγματα εισόδων με αναμενόμενες εξόδους. Χωριστό ερώτημα μπορεί να ζητά από το μοντέλο να ακολουθήσει μία είσοδο μέσα στον παρεχόμενο κώδικα, ώστε η εξήγηση να αφορά συγκεκριμένη διαδρομή και όχι απροσδιόριστο πρόγραμμα.
Για συνομιλία πολλών γύρων, κρατήστε τη σχετική προηγούμενη απάντηση και ζητήστε εστιασμένη συνέχεια ή δώστε νέο υλικό που αλλάζει την εργασία. Ορίστε αν η επόμενη απάντηση πρέπει να αναθεωρεί το προηγούμενο παραδοτέο, να εξηγεί μία απόφαση ή να παράγει διαφορετική αναπαράσταση των ίδιων γεγονότων της πηγής. Έτσι γίνεται ρητή η συνέχεια της συνομιλίας.
Κλήσεις συναρτήσεων και δειγματοληψία
Ο κατασκευαστής τεκμηριώνει κλήσεις συναρτήσεων με την αντίστοιχη μορφή συνομιλίας. Το μοντέλο παράγει την προτεινόμενη λειτουργία και τα ορίσματα, ενώ η εφαρμογή εκτελεί τη συνάρτηση και προσθέτει το αποτέλεσμά της στη συνομιλία πριν από την επόμενη παραγωγή. Η κάρτα σημειώνει ρητά ότι ένα συντομευμένο παράδειγμα κώδικα δεν δείχνει τον πλήρη κύκλο, οπότε τα απόντα βήματα εκτέλεσης και αποτελέσματος παραμένουν απαραίτητα μέρη μιας εφαρμογής με εργαλεία.
Σε αυτή τη δημοσιευμένη μορφή εργαλείων, τα αναγνωριστικά κλήσεων και τα αντίστοιχα αναγνωριστικά αποτελεσμάτων έχουν ακριβώς εννέα αλφαριθμητικούς χαρακτήρες. Διατηρήστε τη σύνδεση λειτουργίας και αποτελέσματος όταν προετοιμάζετε συνομιλία εγγενούς μορφής. Μια διεπαφή περιτυλίγματος μπορεί να αναπαριστά τη συνομιλία διαφορετικά· η απαίτηση της έκδοσης περιγράφει τη μορφοποίηση μοντέλου του κατασκευαστή και όχι κάποιο επινοημένο καθολικό αναγνωριστικό εφαρμογής πελάτη.
Ο κατασκευαστής συνιστά temperature 0.3, σημειώνοντας ότι το Nemo χρησιμοποιεί χαμηλότερες θερμοκρασίες από προηγούμενα μοντέλα Mistral. Οι διάφορες ρυθμίσεις 64, 128, 256 και 1,000 token που εμφανίζονται στα παραδείγματα είναι επιλογές παραγωγής για εκείνες τις επιδείξεις και όχι ανεξάρτητα δημοσιευμένες μέγιστες χωρητικότητες απάντησης.
Ουσιαστικοί περιορισμοί
Η κάρτα Instruct περιγράφει αυτό το σημείο ελέγχου ως επίδειξη προσαρμοστικής εκπαίδευσης της βάσης και δηλώνει ρητά ότι δεν περιέχει μηχανισμό ελέγχου περιεχομένου. Οι εφαρμογές που χρειάζονται ελεγχόμενη συμπεριφορά πρέπει να την παρέχουν στο περιβάλλον σύστημα. Αυτό είναι ιδιότητα του δημοσιευμένου σημείου ελέγχου και όχι ισχυρισμός για κάθε υπηρεσία που φιλοξενεί μοντέλο Nemo.
Η τεκμηριωμένη εργασία του Nemo εδώ είναι δημιουργία κειμένου, με δικά του συμφραζόμενα 128k και μορφή συνομιλίας. Κατανόηση εικόνων, μεταγραφή ομιλίας και υβριδικές ρυθμίσεις συλλογιστικής από μεταγενέστερες οικογένειες Mistral δεν πρέπει να αποδίδονται σε αυτή την έκδοση. Δώστε ολόκληρη τη γραπτή συνθήκη, το σχετικό υλικό πηγής και το απαιτούμενο τελικό παραδοτέο, ώστε το αποτέλεσμα να παραμένει χρήσιμο ως εξήγηση, αναθεωρημένο κείμενο ή προτεινόμενη υλοποίηση.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια mistralai/mistral-nemo | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0003 / 1K token Έξοδος · Token εξόδου $0.0003 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0003 / 1K token Έξοδος · Token εξόδου $0.0003 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra mistralai/mistral-nemo
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
mistralai/mistral-nemoΤο Mistral Nemo Instruct 2407 είναι πολυγλωσσικό μοντέλο κειμένου 12 δισ. παραμέτρων για ακριβείς οδηγίες, συνομιλία πολλών γύρων και κώδικα. Διαθέτει πλαίσιο 128 χιλ. token σύμφωνα με τον κατασκευαστή, tokenizer Tekken, τεκμηριωμένη κλήση συναρτήσεων και διακριτό checkpoint προσαρμοσμένο για οδηγίες με δικές του συστάσεις δειγματοληψίας.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Mistral Nemo Instruct 2407 είναι η προσαρμοσμένη σε οδηγίες έκδοση του γλωσσικού μοντέλου Mistral Nemo 12B. Προέρχεται από προσαρμοστική εκπαίδευση του χωριστά ονομασμένου σημείου ελέγχου Nemo Base 2407. Ο κατασκευαστής περιγράφει εκπαίδευση με μεγάλο ποσοστό πολυγλωσσικού υλικού και κώδικα και παράθυρο συμφραζομένων 128k token, που υποστηρίζει γραπτές οδηγίες, συνομιλία και εργασίες προγραμματισμού.
Βασικά χαρακτηριστικά και αρχιτεκτονική
Η έκδοση παρέχει διακριτές προεκπαιδευμένες και προσαρμοσμένες σε οδηγίες παραλλαγές. Αυτή η καταχώριση αφορά το σημείο ελέγχου Instruct: ένα κειμενικό αίτημα μπορεί να ζητά εξήγηση, αναθεωρημένο έγγραφο, κώδικα προγράμματος ή προτεινόμενη κλήση συνάρτησης. Η προσαρμογή σε οδηγίες περιγράφεται ως βελτίωση της ακριβούς τήρησης οδηγιών, της συλλογιστικής, του διαλόγου πολλών γύρων και της δημιουργίας κώδικα σε σύγκριση με την προηγούμενη σειρά Mistral 7B.
Το μοντέλο έχει 40 επίπεδα Transformer με πλάτος μοντέλου 5,120. Χρησιμοποιεί SwiGLU, 32 κεφαλές προσοχής και 8 κεφαλές κλειδιών/τιμών σε προσοχή ομαδοποιημένων ερωτημάτων, διάσταση κεφαλής 128 και κρυφή διάσταση 14,336. Οι περιστροφικές ενσωματώσεις χρησιμοποιούν ρύθμιση theta ενός εκατομμυρίου. Το δημοσιευμένο λεξιλόγιο έχει 2 στη δύναμη 17 καταχωρίσεις, δηλαδή 131,072· αυτό το μέγεθος λεξιλογίου διαφέρει από την ετικέτα συμφραζομένων εργασίας 128k.
Η ανακοίνωση του κατασκευαστή περιγράφει επίσης εκπαίδευση με επίγνωση κβάντισης και εξαγωγή συμπερασμάτων FP8. Αυτά είναι χαρακτηριστικά έκδοσης και ακρίβειας αριθμητικής αναπαράστασης, όχι πρόσθετοι τρόποι περιεχομένου. Διατηρήστε το ακριβές σημείο ελέγχου και τον αντίστοιχο tokenizer αντί να θεωρείτε την ίδια έκδοση ένα άλλο μοντέλο 12B ή της οικογένειας Mistral.
Πολυγλωσσικό κείμενο και Tekken
Η έκδοση δίνει έμφαση σε Αγγλικά, Γαλλικά, Γερμανικά, Ισπανικά, Ιταλικά, Πορτογαλικά, Κινεζικά, Ιαπωνικά, Κορεατικά, Αραβικά και Χίντι, ενώ τα Ρωσικά περιλαμβάνονται στα μεταδεδομένα γλωσσών της κάρτας. Ορίστε την τελική γλώσσα, το επιδιωκόμενο κοινό και την ορολογία πριν ζητήσετε αποτέλεσμα. Για πολυγλωσσική εργασία εγγράφων, κρατήστε αμετάβλητα ονόματα, αναγνωριστικά και μονάδες, προσαρμόζοντας το περιβάλλον κείμενο.
Το Nemo χρησιμοποιεί τον tokenizer Tekken, εκπαιδευμένο σε περισσότερες από 100 γλώσσες και σχεδιασμένο για αποδοτική αναπαράσταση φυσικής γλώσσας και πηγαίου κώδικα. Ο tokenizer επηρεάζει τον χώρο συμφραζομένων που καταλαμβάνει το υλικό πηγής· επομένως το πλήθος χαρακτήρων δεν είναι από μόνο του πλήθος token. Χρησιμοποιήστε τον αντίστοιχο tokenizer και κρατήστε μαζί το σχετικό υλικό της εργασίας αντί να εκτιμάτε τα συμφραζόμενα μόνο από την ορατή έκταση ενός αποσπάσματος.
Προετοιμασία οδηγιών και κώδικα
Για εξήγηση εγγράφου, δώστε το απόσπασμα πηγής και προσδιορίστε τη συνθήκη ή τον όρο που θα εξηγηθεί. Ζητήστε την εξήγηση στη γλώσσα του αναγνώστη, διατηρώντας τα αρχικά ονόματα και τη δήλωση της πηγής που στηρίζει την απάντηση. Για επεξεργασία, ορίστε ποιο νόημα και ποιες συνθήκες πρέπει να διατηρηθούν στην επαναδιατύπωση και αν το αποτέλεσμα πρέπει να είναι μόνο το αναθεωρημένο απόσπασμα ή το απόσπασμα μαζί με εξήγηση.
Για εργασία προγραμματισμού, ονομάστε τη γλώσσα, τους τύπους εισόδου, την αναμενόμενη έξοδο και την υπάρχουσα διεπαφή. Συμπεριλάβετε τη συνάρτηση ή τις δηλώσεις που καθορίζουν την αλλαγή. Ένα χρήσιμο αποτέλεσμα μπορεί να περιέχει την υλοποίηση, τις υποθέσεις της και παραδείγματα εισόδων με αναμενόμενες εξόδους. Χωριστό ερώτημα μπορεί να ζητά από το μοντέλο να ακολουθήσει μία είσοδο μέσα στον παρεχόμενο κώδικα, ώστε η εξήγηση να αφορά συγκεκριμένη διαδρομή και όχι απροσδιόριστο πρόγραμμα.
Για συνομιλία πολλών γύρων, κρατήστε τη σχετική προηγούμενη απάντηση και ζητήστε εστιασμένη συνέχεια ή δώστε νέο υλικό που αλλάζει την εργασία. Ορίστε αν η επόμενη απάντηση πρέπει να αναθεωρεί το προηγούμενο παραδοτέο, να εξηγεί μία απόφαση ή να παράγει διαφορετική αναπαράσταση των ίδιων γεγονότων της πηγής. Έτσι γίνεται ρητή η συνέχεια της συνομιλίας.
Κλήσεις συναρτήσεων και δειγματοληψία
Ο κατασκευαστής τεκμηριώνει κλήσεις συναρτήσεων με την αντίστοιχη μορφή συνομιλίας. Το μοντέλο παράγει την προτεινόμενη λειτουργία και τα ορίσματα, ενώ η εφαρμογή εκτελεί τη συνάρτηση και προσθέτει το αποτέλεσμά της στη συνομιλία πριν από την επόμενη παραγωγή. Η κάρτα σημειώνει ρητά ότι ένα συντομευμένο παράδειγμα κώδικα δεν δείχνει τον πλήρη κύκλο, οπότε τα απόντα βήματα εκτέλεσης και αποτελέσματος παραμένουν απαραίτητα μέρη μιας εφαρμογής με εργαλεία.
Σε αυτή τη δημοσιευμένη μορφή εργαλείων, τα αναγνωριστικά κλήσεων και τα αντίστοιχα αναγνωριστικά αποτελεσμάτων έχουν ακριβώς εννέα αλφαριθμητικούς χαρακτήρες. Διατηρήστε τη σύνδεση λειτουργίας και αποτελέσματος όταν προετοιμάζετε συνομιλία εγγενούς μορφής. Μια διεπαφή περιτυλίγματος μπορεί να αναπαριστά τη συνομιλία διαφορετικά· η απαίτηση της έκδοσης περιγράφει τη μορφοποίηση μοντέλου του κατασκευαστή και όχι κάποιο επινοημένο καθολικό αναγνωριστικό εφαρμογής πελάτη.
Ο κατασκευαστής συνιστά temperature 0.3, σημειώνοντας ότι το Nemo χρησιμοποιεί χαμηλότερες θερμοκρασίες από προηγούμενα μοντέλα Mistral. Οι διάφορες ρυθμίσεις 64, 128, 256 και 1,000 token που εμφανίζονται στα παραδείγματα είναι επιλογές παραγωγής για εκείνες τις επιδείξεις και όχι ανεξάρτητα δημοσιευμένες μέγιστες χωρητικότητες απάντησης.
Ουσιαστικοί περιορισμοί
Η κάρτα Instruct περιγράφει αυτό το σημείο ελέγχου ως επίδειξη προσαρμοστικής εκπαίδευσης της βάσης και δηλώνει ρητά ότι δεν περιέχει μηχανισμό ελέγχου περιεχομένου. Οι εφαρμογές που χρειάζονται ελεγχόμενη συμπεριφορά πρέπει να την παρέχουν στο περιβάλλον σύστημα. Αυτό είναι ιδιότητα του δημοσιευμένου σημείου ελέγχου και όχι ισχυρισμός για κάθε υπηρεσία που φιλοξενεί μοντέλο Nemo.
Η τεκμηριωμένη εργασία του Nemo εδώ είναι δημιουργία κειμένου, με δικά του συμφραζόμενα 128k και μορφή συνομιλίας. Κατανόηση εικόνων, μεταγραφή ομιλίας και υβριδικές ρυθμίσεις συλλογιστικής από μεταγενέστερες οικογένειες Mistral δεν πρέπει να αποδίδονται σε αυτή την έκδοση. Δώστε ολόκληρη τη γραπτή συνθήκη, το σχετικό υλικό πηγής και το απαιτούμενο τελικό παραδοτέο, ώστε το αποτέλεσμα να παραμένει χρήσιμο ως εξήγηση, αναθεωρημένο κείμενο ή προτεινόμενη υλοποίηση.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια mistralai/mistral-nemo | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0003 / 1K token Έξοδος · Token εξόδου $0.0003 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0003 / 1K token Έξοδος · Token εξόδου $0.0003 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00003 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra mistralai/mistral-nemo
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.