Το North Mini Code 1.0 είναι το μοντέλο της Cohere για μηχανική λογισμικού με πράκτορες, εργασίες τερματικού και παραγωγή κώδικα. Δέχεται κείμενο και παράγει κείμενο, συμπεριλαμβανομένων κώδικα, εξηγήσεων και αιτημάτων εργαλείων. Ο κατασκευαστής κυκλοφόρησε τα βάρη του με άδεια Apache 2.0 και το προσδιορίζει ως το πρώτο μοντέλο στην οικογένεια πρακτόρων κώδικα North. Είναι εξειδικευμένο προφίλ προγραμματισμού και όχι μοντέλο κατανόησης εικόνων ή γενικό μοντέλο βαθμολόγησης αποφάσεων.
Το μοντέλο έχει 30 δισεκατομμύρια συνολικές παραμέτρους, με περίπου 3 δισεκατομμύρια ενεργές. Ο Transformer του, μόνο με αποκωδικοποιητή, χρησιμοποιεί αραιό μείγμα ειδικών με 128 ειδικούς, οκτώ ενεργούς ανά token, και ένα πυκνό επίπεδο πριν από τα αραιά επίπεδα. Η προσοχή συρόμενου παραθύρου με περιστροφικές θέσεις εναλλάσσεται με καθολική προσοχή χωρίς ενσωματώσεις θέσης σε αναλογία 3:1. Ο αριθμός ενεργών παραμέτρων περιγράφει τον υπολογισμό που χρησιμοποιείται για ένα token και όχι το συνολικό σύνολο βαρών που πρέπει να αποθηκευτεί.
Η μετεκπαίδευση της Cohere χρησιμοποιεί δύο στάδια επιβλεπόμενης λεπτομερούς προσαρμογής, ακολουθούμενα από ενισχυτική μάθηση με επαληθεύσιμες ανταμοιβές, εστιασμένη στη μηχανική λογισμικού και στην εργασία τερματικού. Ο δημιουργός περιγράφει εκπαίδευση σε πολλαπλά περιβάλλοντα εκτέλεσης πρακτόρων αντί για έναν σταθερό σκελετό. Αυτό υποστηρίζει την προετοιμασία εργασίας γύρω από την απαιτούμενη συμπεριφορά και τα διαθέσιμα εργαλεία, ενώ το περιβάλλον εκτέλεσης παραμένει υπεύθυνο για λήψη αρχείων, εκτέλεση εντολών και επιστροφή παρατηρήσεων.
Παρέχετε τον τρέχοντα κώδικα και τη συμπεριφορά, τη ζητούμενη αλλαγή, τα σχετικά όρια αρχείων ή διεπαφών και τα στοιχεία που θα αποδείξουν την ολοκλήρωση. Για σφάλμα, συμπεριλάβετε το παρατηρούμενο σφάλμα ή την είσοδο που αποτυγχάνει και το αναμενόμενο αποτέλεσμα. Για λειτουργία, δηλώστε την απαιτούμενη συμπεριφορά και τους περιορισμούς συμβατότητας. Ένα χρήσιμο τελικό τεχνούργημα είναι μια προτεινόμενη αλλαγή κώδικα με εξήγηση και αποτελέσματα από ελέγχους που πράγματι εκτελέστηκαν.
Ένα ενδεικτικό αίτημα μπορεί να ζητά ενημέρωση ενός αναλυτή για επιπλέον υποστηριζόμενη είσοδο, διατηρώντας τις υπάρχουσες μορφές. Προσδιορίστε αντιπροσωπευτικές εισόδους και το τμήμα του αποθετηρίου που ορίζει τη συμπεριφορά του αναλυτή. Το μοντέλο μπορεί να χρησιμοποιήσει κώδικα και παρατηρήσεις εργαλείων για να αναπτύξει την αλλαγή· ένα παραγόμενο patch ή μια δήλωση ότι μια εντολή πρέπει να εκτελεστεί δεν είναι στοιχείο ότι η εντολή πέτυχε.
Η εγγενής κάρτα μοντέλου τεκμηριώνει εκπαίδευση χρήσης εργαλείων και προτείνει περιγραφές εργαλείων JSON Schema μέσω του προτύπου συνομιλίας του μοντέλου. Περιγράψτε καθαρά τον σκοπό και τα ορίσματα ενός εργαλείου. Ένα εργαλείο εκτέλεσης εντολών μπορεί να επιστρέφει την πραγματική έξοδο και κατάσταση, ενώ ένα εργαλείο επιθεώρησης αρχείων μπορεί να επιστρέφει το υλικό που χρειάζεται το επόμενο βήμα. Κρατήστε κάθε αποτέλεσμα εργαλείου συνδεδεμένο με το αναγνωριστικό κλήσης του, ώστε η μεταγενέστερη ανάλυση να χρησιμοποιεί την επιδιωκόμενη παρατήρηση.
Το παράδειγμα του δημιουργού διατηρεί μια κλήση εργαλείου και τη συλλογιστική του βοηθού στο ιστορικό, εκτελεί το εργαλείο και προσθέτει το αποτέλεσμά του πριν από νέα παραγωγή. Το παράδειγμα εγγενούς προτύπου χρησιμοποιεί δομημένο λεξικό για το αποτέλεσμα εργαλείου. Διατηρήστε αυτή την αναπαράσταση σύμφωνα με την τεκμηριωμένη ενσωμάτωση, αντί να υποθέτετε ότι κάθε άσχετο API σειριοποιεί αποτελέσματα εργαλείων με τον ίδιο τρόπο. Ένα σχήμα JSON που περιγράφει τα ορίσματα εργαλείου διαφέρει από τον ισχυρισμό υποστήριξης αυθαίρετης τελικής εξόδου περιορισμένης από σχήμα.
Το North Mini Code υποστηρίζει εναλλασσόμενη σκέψη, την οποία ο δημιουργός προτείνει να ενεργοποιείται για εργασία πρακτόρων. Μεταφέρετε το περιεχόμενο σκέψης και τις κλήσεις εργαλείων που παράγει το μοντέλο στα επόμενα βήματα πράκτορα και στους επόμενους γύρους της συνομιλίας. Το εγγενές παράδειγμα κρατά πεδίο συλλογιστικής στο μήνυμα βοηθού και επιστρέφει κατόπιν την αντίστοιχη παρατήρηση εργαλείου. Αυτό διατηρεί τις πληροφορίες που χρησιμοποίησε το μοντέλο όταν αποφάσιζε τι θα επιθεωρήσει ή θα αλλάξει στη συνέχεια.
Κρατήστε τον τρέχοντα στόχο, το πηγαίο υλικό και τις πραγματικές παρατηρήσεις στο ιστορικό εργασίας. Για μεγαλύτερη εργασία αποθετηρίου, συνοψίστε το τελικό αποτέλεσμα γύρω από την αλλαγμένη συμπεριφορά και το χρήσιμο τεχνούργημα, διατηρώντας τα στοιχεία που χρειάζονται για την ανασκόπησή του. Η εναλλασσόμενη συλλογιστική δεν συνεπάγεται ότι μια σύντομη ορατή απάντηση δεν χρειάστηκε ανάλυση, ούτε αποδεικνύει ότι μια ενέργεια που περιέγραψε το μοντέλο έχει ήδη συμβεί.
Ο κατασκευαστής προσδιορίζει επίσης επιστημονικό προγραμματισμό και αλγοριθμική συλλογιστική εκτός βρόχου πράκτορα. Παρέχετε τον ορισμό προβλήματος, τη μορφή εισόδου και εξόδου, τους περιορισμούς, τις σχετικές αριθμητικές παραδοχές και την αναμενόμενη συμπεριφορά στα όρια. Ζητήστε πλήρη συνάρτηση ή πρόγραμμα όταν αυτό είναι το απαιτούμενο τεχνούργημα, με εξήγηση στο επίπεδο που χρειάζεται ο αναγνώστης.
Για εξήγηση κώδικα, παρέχετε την υλοποίηση και τη συγκεκριμένη συμπεριφορά ή εξάρτηση που πρέπει να διευκρινιστεί. Για κώδικα οπτικοποίησης δεδομένων, προσδιορίστε τα παρεχόμενα πεδία και την επιδιωκόμενη σύγκριση, αντί να αφήνετε υπονοούμενο τον σκοπό του γραφήματος. Τα παραδείγματα ανάπτυξης του δημιουργού περιλαμβάνουν εξήγηση, επεξεργασία, οπτικοποίηση κώδικα και υλοποίηση από προδιαγραφή. Αυτά είναι μοτίβα εργασιών παραγωγής ή τροποποίησης κώδικα και όχι υπόσχεση σωστών αποτελεσμάτων για κάθε αποθετήριο ή πλαίσιο ανάπτυξης.
Η κάρτα μοντέλου και η σελίδα API του κατασκευαστή αναφέρουν παράθυρο συμφραζομένων 256K token και μέγιστη έξοδο 64K token. Προετοιμάστε εκτενές υλικό αποθετηρίου γύρω από αυτά τα ξεχωριστά όρια και το μέγεθος του τελικού τεχνουργήματος. Κρατήστε άθικτα τα όρια και τα αναγνωριστικά πηγών και αφαιρέστε το άσχετο υλικό, αντί να υποθέτετε ότι ένα μεγάλο παράθυρο εξαλείφει την ανάγκη εστιασμένου αιτήματος.
Η εγγενής κάρτα μοντέλου προτείνει temperature 1.0 και top_p 0.95 για παραγωγή και χρησιμοποιεί το πρότυπο συνομιλίας του μοντέλου, συμπεριλαμβανομένης προτροπής παραγωγής, για ροές κειμένου και εργαλείων. Τα ενδεικτικά όρια εξόδου της είναι ρυθμίσεις για εκείνα τα παραδείγματα και όχι αντικατάσταση του δημοσιευμένου μέγιστου του μοντέλου. Η Cohere δημοσιεύει βάρη BF16 και ένα τεχνούργημα FP8 με ξεχωριστό όνομα. Επιλέξτε το κατάλληλο τεχνούργημα όταν προετοιμάζετε ανάπτυξη.
Ένα χρήσιμο αποτέλεσμα North Mini Code είναι επιθεωρήσιμο τεχνούργημα κώδικα ή τεχνική εξήγηση συνδεδεμένα με τις παρεχόμενες απαιτήσεις. Συγκρίνετε το αποτέλεσμα με την αρχική συμπεριφορά και την πραγματική έξοδο εργαλείων, ελέγξτε παραδοχές που επηρεάζουν τον κώδικα και διατηρήστε την πηγή και τις παρατηρήσεις που χρειάζονται για ανασκόπηση. Το μοντέλο προγραμματισμού μόνο για κείμενο παρέχει συλλογιστική και παραγόμενο περιεχόμενο· η περιβάλλουσα εφαρμογή εκτελεί τις λειτουργίες που μετατρέπουν αυτές τις προτάσεις σε ολοκληρωμένη εργασία λογισμικού.
", "aboutText": "Το North Mini Code 1.0 είναι το μοντέλο της Cohere για μηχανική λογισμικού με πράκτορες, εργασίες τερματικού και παραγωγή κώδικα. Δέχεται κείμενο και παράγει κείμενο, συμπεριλαμβανομένων κώδικα, εξηγήσεων και αιτημάτων εργαλείων. Ο κατασκευαστής κυκλοφόρησε τα βάρη του με άδεια Apache 2.0 και το προσδιορίζει ως το πρώτο μοντέλο στην οικογένεια πρακτόρων κώδικα North. Είναι εξειδικευμένο προφίλ προγραμματισμού και όχι μοντέλο κατανόησης εικόνων ή γενικό μοντέλο βαθμολόγησης αποφάσεων.\n\n### Αραιή αρχιτεκτονική και προετοιμασία προγραμματισμού\n\nΤο μοντέλο έχει 30 δισεκατομμύρια συνολικές παραμέτρους, με περίπου 3 δισεκατομμύρια ενεργές. Ο Transformer του, μόνο με αποκωδικοποιητή, χρησιμοποιεί αραιό μείγμα ειδικών με 128 ειδικούς, οκτώ ενεργούς ανά token, και ένα πυκνό επίπεδο πριν από τα αραιά επίπεδα. Η προσοχή συρόμενου παραθύρου με περιστροφικές θέσεις εναλλάσσεται με καθολική προσοχή χωρίς ενσωματώσεις θέσης σε αναλογία 3:1. Ο αριθμός ενεργών παραμέτρων περιγράφει τον υπολογισμό που χρησιμοποιείται για ένα token και όχι το συνολικό σύνολο βαρών που πρέπει να αποθηκευτεί.\n\nΗ μετεκπαίδευση της Cohere χρησιμοποιεί δύο στάδια επιβλεπόμενης λεπτομερούς προσαρμογής, ακολουθούμενα από ενισχυτική μάθηση με επαληθεύσιμες ανταμοιβές, εστιασμένη στη μηχανική λογισμικού και στην εργασία τερματικού. Ο δημιουργός περιγράφει εκπαίδευση σε πολλαπλά περιβάλλοντα εκτέλεσης πρακτόρων αντί για έναν σταθερό σκελετό. Αυτό υποστηρίζει την προετοιμασία εργασίας γύρω από την απαιτούμενη συμπεριφορά και τα διαθέσιμα εργαλεία, ενώ το περιβάλλον εκτέλεσης παραμένει υπεύθυνο για λήψη αρχείων, εκτέλεση εντολών και επιστροφή παρατηρήσεων.\n\n### Προετοιμάστε μια αλλαγή σε επίπεδο αποθετηρίου\n\nΠαρέχετε τον τρέχοντα κώδικα και τη συμπεριφορά, τη ζητούμενη αλλαγή, τα σχετικά όρια αρχείων ή διεπαφών και τα στοιχεία που θα αποδείξουν την ολοκλήρωση. Για σφάλμα, συμπεριλάβετε το παρατηρούμενο σφάλμα ή την είσοδο που αποτυγχάνει και το αναμενόμενο αποτέλεσμα. Για λειτουργία, δηλώστε την απαιτούμενη συμπεριφορά και τους περιορισμούς συμβατότητας. Ένα χρήσιμο τελικό τεχνούργημα είναι μια προτεινόμενη αλλαγή κώδικα με εξήγηση και αποτελέσματα από ελέγχους που πράγματι εκτελέστηκαν.\n\nΈνα ενδεικτικό αίτημα μπορεί να ζητά ενημέρωση ενός αναλυτή για επιπλέον υποστηριζόμενη είσοδο, διατηρώντας τις υπάρχουσες μορφές. Προσδιορίστε αντιπροσωπευτικές εισόδους και το τμήμα του αποθετηρίου που ορίζει τη συμπεριφορά του αναλυτή. Το μοντέλο μπορεί να χρησιμοποιήσει κώδικα και παρατηρήσεις εργαλείων για να αναπτύξει την αλλαγή· ένα παραγόμενο patch ή μια δήλωση ότι μια εντολή πρέπει να εκτελεστεί δεν είναι στοιχείο ότι η εντολή πέτυχε.\n\n### Εργαλεία τερματικού και δομημένες παρατηρήσεις\n\nΗ εγγενής κάρτα μοντέλου τεκμηριώνει εκπαίδευση χρήσης εργαλείων και προτείνει περιγραφές εργαλείων JSON Schema μέσω του προτύπου συνομιλίας του μοντέλου. Περιγράψτε καθαρά τον σκοπό και τα ορίσματα ενός εργαλείου. Ένα εργαλείο εκτέλεσης εντολών μπορεί να επιστρέφει την πραγματική έξοδο και κατάσταση, ενώ ένα εργαλείο επιθεώρησης αρχείων μπορεί να επιστρέφει το υλικό που χρειάζεται το επόμενο βήμα. Κρατήστε κάθε αποτέλεσμα εργαλείου συνδεδεμένο με το αναγνωριστικό κλήσης του, ώστε η μεταγενέστερη ανάλυση να χρησιμοποιεί την επιδιωκόμενη παρατήρηση.\n\nΤο παράδειγμα του δημιουργού διατηρεί μια κλήση εργαλείου και τη συλλογιστική του βοηθού στο ιστορικό, εκτελεί το εργαλείο και προσθέτει το αποτέλεσμά του πριν από νέα παραγωγή. Το παράδειγμα εγγενούς προτύπου χρησιμοποιεί δομημένο λεξικό για το αποτέλεσμα εργαλείου. Διατηρήστε αυτή την αναπαράσταση σύμφωνα με την τεκμηριωμένη ενσωμάτωση, αντί να υποθέτετε ότι κάθε άσχετο API σειριοποιεί αποτελέσματα εργαλείων με τον ίδιο τρόπο. Ένα σχήμα JSON που περιγράφει τα ορίσματα εργαλείου διαφέρει από τον ισχυρισμό υποστήριξης αυθαίρετης τελικής εξόδου περιορισμένης από σχήμα.\n\n### Εναλλασσόμενη σκέψη και ιστορικό πολλών γύρων συνομιλίας\n\nΤο North Mini Code υποστηρίζει εναλλασσόμενη σκέψη, την οποία ο δημιουργός προτείνει να ενεργοποιείται για εργασία πρακτόρων. Μεταφέρετε το περιεχόμενο σκέψης και τις κλήσεις εργαλείων που παράγει το μοντέλο στα επόμενα βήματα πράκτορα και στους επόμενους γύρους της συνομιλίας. Το εγγενές παράδειγμα κρατά πεδίο συλλογιστικής στο μήνυμα βοηθού και επιστρέφει κατόπιν την αντίστοιχη παρατήρηση εργαλείου. Αυτό διατηρεί τις πληροφορίες που χρησιμοποίησε το μοντέλο όταν αποφάσιζε τι θα επιθεωρήσει ή θα αλλάξει στη συνέχεια.\n\nΚρατήστε τον τρέχοντα στόχο, το πηγαίο υλικό και τις πραγματικές παρατηρήσεις στο ιστορικό εργασίας. Για μεγαλύτερη εργασία αποθετηρίου, συνοψίστε το τελικό αποτέλεσμα γύρω από την αλλαγμένη συμπεριφορά και το χρήσιμο τεχνούργημα, διατηρώντας τα στοιχεία που χρειάζονται για την ανασκόπησή του. Η εναλλασσόμενη συλλογιστική δεν συνεπάγεται ότι μια σύντομη ορατή απάντηση δεν χρειάστηκε ανάλυση, ούτε αποδεικνύει ότι μια ενέργεια που περιέγραψε το μοντέλο έχει ήδη συμβεί.\n\n### Αυτοτελείς εργασίες κώδικα και εξήγησης\n\nΟ κατασκευαστής προσδιορίζει επίσης επιστημονικό προγραμματισμό και αλγοριθμική συλλογιστική εκτός βρόχου πράκτορα. Παρέχετε τον ορισμό προβλήματος, τη μορφή εισόδου και εξόδου, τους περιορισμούς, τις σχετικές αριθμητικές παραδοχές και την αναμενόμενη συμπεριφορά στα όρια. Ζητήστε πλήρη συνάρτηση ή πρόγραμμα όταν αυτό είναι το απαιτούμενο τεχνούργημα, με εξήγηση στο επίπεδο που χρειάζεται ο αναγνώστης.\n\nΓια εξήγηση κώδικα, παρέχετε την υλοποίηση και τη συγκεκριμένη συμπεριφορά ή εξάρτηση που πρέπει να διευκρινιστεί. Για κώδικα οπτικοποίησης δεδομένων, προσδιορίστε τα παρεχόμενα πεδία και την επιδιωκόμενη σύγκριση, αντί να αφήνετε υπονοούμενο τον σκοπό του γραφήματος. Τα παραδείγματα ανάπτυξης του δημιουργού περιλαμβάνουν εξήγηση, επεξεργασία, οπτικοποίηση κώδικα και υλοποίηση από προδιαγραφή. Αυτά είναι μοτίβα εργασιών παραγωγής ή τροποποίησης κώδικα και όχι υπόσχεση σωστών αποτελεσμάτων για κάθε αποθετήριο ή πλαίσιο ανάπτυξης.\n\n### Συμφραζόμενα, έξοδος και ρυθμίσεις παραγωγής\n\nΗ κάρτα μοντέλου και η σελίδα API του κατασκευαστή αναφέρουν παράθυρο συμφραζομένων 256K token και μέγιστη έξοδο 64K token. Προετοιμάστε εκτενές υλικό αποθετηρίου γύρω από αυτά τα ξεχωριστά όρια και το μέγεθος του τελικού τεχνουργήματος. Κρατήστε άθικτα τα όρια και τα αναγνωριστικά πηγών και αφαιρέστε το άσχετο υλικό, αντί να υποθέτετε ότι ένα μεγάλο παράθυρο εξαλείφει την ανάγκη εστιασμένου αιτήματος.\n\nΗ εγγενής κάρτα μοντέλου προτείνει temperature 1.0 και top_p 0.95 για παραγωγή και χρησιμοποιεί το πρότυπο συνομιλίας του μοντέλου, συμπεριλαμβανομένης προτροπής παραγωγής, για ροές κειμένου και εργαλείων. Τα ενδεικτικά όρια εξόδου της είναι ρυθμίσεις για εκείνα τα παραδείγματα και όχι αντικατάσταση του δημοσιευμένου μέγιστου του μοντέλου. Η Cohere δημοσιεύει βάρη BF16 και ένα τεχνούργημα FP8 με ξεχωριστό όνομα. Επιλέξτε το κατάλληλο τεχνούργημα όταν προετοιμάζετε ανάπτυξη.\n\nΈνα χρήσιμο αποτέλεσμα North Mini Code είναι επιθεωρήσιμο τεχνούργημα κώδικα ή τεχνική εξήγηση συνδεδεμένα με τις παρεχόμενες απαιτήσεις. Συγκρίνετε το αποτέλεσμα με την αρχική συμπεριφορά και την πραγματική έξοδο εργαλείων, ελέγξτε παραδοχές που επηρεάζουν τον κώδικα και διατηρήστε την πηγή και τις παρατηρήσεις που χρειάζονται για ανασκόπηση. Το μοντέλο προγραμματισμού μόνο για κείμενο παρέχει συλλογιστική και παραγόμενο περιεχόμενο· η περιβάλλουσα εφαρμογή εκτελεί τις λειτουργίες που μετατρέπουν αυτές τις προτάσεις σε ολοκληρωμένη εργασία λογισμικού.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "b0a3f6e67d999f7a434fcd6e39a347ee44619a4eacd32036b1fb792a893743f3", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "el", "methods": [ { "html": "cohere/north-mini-code:freeΤο North Mini Code 1.0 είναι το μοντέλο της Cohere μόνο για κείμενο, για παραγωγή κώδικα, αλλαγές αποθετηρίων και εργασίες πρακτόρων μέσω τερματικού. Ο αραιός σχεδιασμός του με 30B συνολικές/3B ενεργές παραμέτρους υποστηρίζει χρήση εργαλείων και εναλλασσόμενη σκέψη, με τεκμηριωμένο παράθυρο συμφραζομένων 256K και όριο εξόδου 64K.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το North Mini Code 1.0 είναι το μοντέλο της Cohere για μηχανική λογισμικού με πράκτορες, εργασίες τερματικού και παραγωγή κώδικα. Δέχεται κείμενο και παράγει κείμενο, συμπεριλαμβανομένων κώδικα, εξηγήσεων και αιτημάτων εργαλείων. Ο κατασκευαστής κυκλοφόρησε τα βάρη του με άδεια Apache 2.0 και το προσδιορίζει ως το πρώτο μοντέλο στην οικογένεια πρακτόρων κώδικα North. Είναι εξειδικευμένο προφίλ προγραμματισμού και όχι μοντέλο κατανόησης εικόνων ή γενικό μοντέλο βαθμολόγησης αποφάσεων.
Το μοντέλο έχει 30 δισεκατομμύρια συνολικές παραμέτρους, με περίπου 3 δισεκατομμύρια ενεργές. Ο Transformer του, μόνο με αποκωδικοποιητή, χρησιμοποιεί αραιό μείγμα ειδικών με 128 ειδικούς, οκτώ ενεργούς ανά token, και ένα πυκνό επίπεδο πριν από τα αραιά επίπεδα. Η προσοχή συρόμενου παραθύρου με περιστροφικές θέσεις εναλλάσσεται με καθολική προσοχή χωρίς ενσωματώσεις θέσης σε αναλογία 3:1. Ο αριθμός ενεργών παραμέτρων περιγράφει τον υπολογισμό που χρησιμοποιείται για ένα token και όχι το συνολικό σύνολο βαρών που πρέπει να αποθηκευτεί.
Η μετεκπαίδευση της Cohere χρησιμοποιεί δύο στάδια επιβλεπόμενης λεπτομερούς προσαρμογής, ακολουθούμενα από ενισχυτική μάθηση με επαληθεύσιμες ανταμοιβές, εστιασμένη στη μηχανική λογισμικού και στην εργασία τερματικού. Ο δημιουργός περιγράφει εκπαίδευση σε πολλαπλά περιβάλλοντα εκτέλεσης πρακτόρων αντί για έναν σταθερό σκελετό. Αυτό υποστηρίζει την προετοιμασία εργασίας γύρω από την απαιτούμενη συμπεριφορά και τα διαθέσιμα εργαλεία, ενώ το περιβάλλον εκτέλεσης παραμένει υπεύθυνο για λήψη αρχείων, εκτέλεση εντολών και επιστροφή παρατηρήσεων.
Παρέχετε τον τρέχοντα κώδικα και τη συμπεριφορά, τη ζητούμενη αλλαγή, τα σχετικά όρια αρχείων ή διεπαφών και τα στοιχεία που θα αποδείξουν την ολοκλήρωση. Για σφάλμα, συμπεριλάβετε το παρατηρούμενο σφάλμα ή την είσοδο που αποτυγχάνει και το αναμενόμενο αποτέλεσμα. Για λειτουργία, δηλώστε την απαιτούμενη συμπεριφορά και τους περιορισμούς συμβατότητας. Ένα χρήσιμο τελικό τεχνούργημα είναι μια προτεινόμενη αλλαγή κώδικα με εξήγηση και αποτελέσματα από ελέγχους που πράγματι εκτελέστηκαν.
Ένα ενδεικτικό αίτημα μπορεί να ζητά ενημέρωση ενός αναλυτή για επιπλέον υποστηριζόμενη είσοδο, διατηρώντας τις υπάρχουσες μορφές. Προσδιορίστε αντιπροσωπευτικές εισόδους και το τμήμα του αποθετηρίου που ορίζει τη συμπεριφορά του αναλυτή. Το μοντέλο μπορεί να χρησιμοποιήσει κώδικα και παρατηρήσεις εργαλείων για να αναπτύξει την αλλαγή· ένα παραγόμενο patch ή μια δήλωση ότι μια εντολή πρέπει να εκτελεστεί δεν είναι στοιχείο ότι η εντολή πέτυχε.
Η εγγενής κάρτα μοντέλου τεκμηριώνει εκπαίδευση χρήσης εργαλείων και προτείνει περιγραφές εργαλείων JSON Schema μέσω του προτύπου συνομιλίας του μοντέλου. Περιγράψτε καθαρά τον σκοπό και τα ορίσματα ενός εργαλείου. Ένα εργαλείο εκτέλεσης εντολών μπορεί να επιστρέφει την πραγματική έξοδο και κατάσταση, ενώ ένα εργαλείο επιθεώρησης αρχείων μπορεί να επιστρέφει το υλικό που χρειάζεται το επόμενο βήμα. Κρατήστε κάθε αποτέλεσμα εργαλείου συνδεδεμένο με το αναγνωριστικό κλήσης του, ώστε η μεταγενέστερη ανάλυση να χρησιμοποιεί την επιδιωκόμενη παρατήρηση.
Το παράδειγμα του δημιουργού διατηρεί μια κλήση εργαλείου και τη συλλογιστική του βοηθού στο ιστορικό, εκτελεί το εργαλείο και προσθέτει το αποτέλεσμά του πριν από νέα παραγωγή. Το παράδειγμα εγγενούς προτύπου χρησιμοποιεί δομημένο λεξικό για το αποτέλεσμα εργαλείου. Διατηρήστε αυτή την αναπαράσταση σύμφωνα με την τεκμηριωμένη ενσωμάτωση, αντί να υποθέτετε ότι κάθε άσχετο API σειριοποιεί αποτελέσματα εργαλείων με τον ίδιο τρόπο. Ένα σχήμα JSON που περιγράφει τα ορίσματα εργαλείου διαφέρει από τον ισχυρισμό υποστήριξης αυθαίρετης τελικής εξόδου περιορισμένης από σχήμα.
Το North Mini Code υποστηρίζει εναλλασσόμενη σκέψη, την οποία ο δημιουργός προτείνει να ενεργοποιείται για εργασία πρακτόρων. Μεταφέρετε το περιεχόμενο σκέψης και τις κλήσεις εργαλείων που παράγει το μοντέλο στα επόμενα βήματα πράκτορα και στους επόμενους γύρους της συνομιλίας. Το εγγενές παράδειγμα κρατά πεδίο συλλογιστικής στο μήνυμα βοηθού και επιστρέφει κατόπιν την αντίστοιχη παρατήρηση εργαλείου. Αυτό διατηρεί τις πληροφορίες που χρησιμοποίησε το μοντέλο όταν αποφάσιζε τι θα επιθεωρήσει ή θα αλλάξει στη συνέχεια.
Κρατήστε τον τρέχοντα στόχο, το πηγαίο υλικό και τις πραγματικές παρατηρήσεις στο ιστορικό εργασίας. Για μεγαλύτερη εργασία αποθετηρίου, συνοψίστε το τελικό αποτέλεσμα γύρω από την αλλαγμένη συμπεριφορά και το χρήσιμο τεχνούργημα, διατηρώντας τα στοιχεία που χρειάζονται για την ανασκόπησή του. Η εναλλασσόμενη συλλογιστική δεν συνεπάγεται ότι μια σύντομη ορατή απάντηση δεν χρειάστηκε ανάλυση, ούτε αποδεικνύει ότι μια ενέργεια που περιέγραψε το μοντέλο έχει ήδη συμβεί.
Ο κατασκευαστής προσδιορίζει επίσης επιστημονικό προγραμματισμό και αλγοριθμική συλλογιστική εκτός βρόχου πράκτορα. Παρέχετε τον ορισμό προβλήματος, τη μορφή εισόδου και εξόδου, τους περιορισμούς, τις σχετικές αριθμητικές παραδοχές και την αναμενόμενη συμπεριφορά στα όρια. Ζητήστε πλήρη συνάρτηση ή πρόγραμμα όταν αυτό είναι το απαιτούμενο τεχνούργημα, με εξήγηση στο επίπεδο που χρειάζεται ο αναγνώστης.
Για εξήγηση κώδικα, παρέχετε την υλοποίηση και τη συγκεκριμένη συμπεριφορά ή εξάρτηση που πρέπει να διευκρινιστεί. Για κώδικα οπτικοποίησης δεδομένων, προσδιορίστε τα παρεχόμενα πεδία και την επιδιωκόμενη σύγκριση, αντί να αφήνετε υπονοούμενο τον σκοπό του γραφήματος. Τα παραδείγματα ανάπτυξης του δημιουργού περιλαμβάνουν εξήγηση, επεξεργασία, οπτικοποίηση κώδικα και υλοποίηση από προδιαγραφή. Αυτά είναι μοτίβα εργασιών παραγωγής ή τροποποίησης κώδικα και όχι υπόσχεση σωστών αποτελεσμάτων για κάθε αποθετήριο ή πλαίσιο ανάπτυξης.
Η κάρτα μοντέλου και η σελίδα API του κατασκευαστή αναφέρουν παράθυρο συμφραζομένων 256K token και μέγιστη έξοδο 64K token. Προετοιμάστε εκτενές υλικό αποθετηρίου γύρω από αυτά τα ξεχωριστά όρια και το μέγεθος του τελικού τεχνουργήματος. Κρατήστε άθικτα τα όρια και τα αναγνωριστικά πηγών και αφαιρέστε το άσχετο υλικό, αντί να υποθέτετε ότι ένα μεγάλο παράθυρο εξαλείφει την ανάγκη εστιασμένου αιτήματος.
Η εγγενής κάρτα μοντέλου προτείνει temperature 1.0 και top_p 0.95 για παραγωγή και χρησιμοποιεί το πρότυπο συνομιλίας του μοντέλου, συμπεριλαμβανομένης προτροπής παραγωγής, για ροές κειμένου και εργαλείων. Τα ενδεικτικά όρια εξόδου της είναι ρυθμίσεις για εκείνα τα παραδείγματα και όχι αντικατάσταση του δημοσιευμένου μέγιστου του μοντέλου. Η Cohere δημοσιεύει βάρη BF16 και ένα τεχνούργημα FP8 με ξεχωριστό όνομα. Επιλέξτε το κατάλληλο τεχνούργημα όταν προετοιμάζετε ανάπτυξη.
Ένα χρήσιμο αποτέλεσμα North Mini Code είναι επιθεωρήσιμο τεχνούργημα κώδικα ή τεχνική εξήγηση συνδεδεμένα με τις παρεχόμενες απαιτήσεις. Συγκρίνετε το αποτέλεσμα με την αρχική συμπεριφορά και την πραγματική έξοδο εργαλείων, ελέγξτε παραδοχές που επηρεάζουν τον κώδικα και διατηρήστε την πηγή και τις παρατηρήσεις που χρειάζονται για ανασκόπηση. Το μοντέλο προγραμματισμού μόνο για κείμενο παρέχει συλλογιστική και παραγόμενο περιεχόμενο· η περιβάλλουσα εφαρμογή εκτελεί τις λειτουργίες που μετατρέπουν αυτές τις προτάσεις σε ολοκληρωμένη εργασία λογισμικού.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια cohere/north-mini-code:free | Προεπιλογή— |
Πεδίοmessages | Τύποςarray | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια false | Προεπιλογήfalse |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Μέγιστο: 64.000 | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Μέγιστο: 64.000 | Προεπιλογή— |
Πεδίοn | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Μέγιστο: 128 | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοseed | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstop | Τύπος | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοfrequency_penalty | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοpresence_penalty | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοuser | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςoptional | Σύμβασηstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςconditions | ΣύμβασηUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 256000 bytes. |
Κύκλος ζωής: synchronous_json
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0 / 1K token Έξοδος · Token εξόδου $0 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra cohere/north-mini-code:free
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
cohere/north-mini-code:freeΤο North Mini Code 1.0 είναι το μοντέλο της Cohere μόνο για κείμενο, για παραγωγή κώδικα, αλλαγές αποθετηρίων και εργασίες πρακτόρων μέσω τερματικού. Ο αραιός σχεδιασμός του με 30B συνολικές/3B ενεργές παραμέτρους υποστηρίζει χρήση εργαλείων και εναλλασσόμενη σκέψη, με τεκμηριωμένο παράθυρο συμφραζομένων 256K και όριο εξόδου 64K.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το North Mini Code 1.0 είναι το μοντέλο της Cohere για μηχανική λογισμικού με πράκτορες, εργασίες τερματικού και παραγωγή κώδικα. Δέχεται κείμενο και παράγει κείμενο, συμπεριλαμβανομένων κώδικα, εξηγήσεων και αιτημάτων εργαλείων. Ο κατασκευαστής κυκλοφόρησε τα βάρη του με άδεια Apache 2.0 και το προσδιορίζει ως το πρώτο μοντέλο στην οικογένεια πρακτόρων κώδικα North. Είναι εξειδικευμένο προφίλ προγραμματισμού και όχι μοντέλο κατανόησης εικόνων ή γενικό μοντέλο βαθμολόγησης αποφάσεων.
Το μοντέλο έχει 30 δισεκατομμύρια συνολικές παραμέτρους, με περίπου 3 δισεκατομμύρια ενεργές. Ο Transformer του, μόνο με αποκωδικοποιητή, χρησιμοποιεί αραιό μείγμα ειδικών με 128 ειδικούς, οκτώ ενεργούς ανά token, και ένα πυκνό επίπεδο πριν από τα αραιά επίπεδα. Η προσοχή συρόμενου παραθύρου με περιστροφικές θέσεις εναλλάσσεται με καθολική προσοχή χωρίς ενσωματώσεις θέσης σε αναλογία 3:1. Ο αριθμός ενεργών παραμέτρων περιγράφει τον υπολογισμό που χρησιμοποιείται για ένα token και όχι το συνολικό σύνολο βαρών που πρέπει να αποθηκευτεί.
Η μετεκπαίδευση της Cohere χρησιμοποιεί δύο στάδια επιβλεπόμενης λεπτομερούς προσαρμογής, ακολουθούμενα από ενισχυτική μάθηση με επαληθεύσιμες ανταμοιβές, εστιασμένη στη μηχανική λογισμικού και στην εργασία τερματικού. Ο δημιουργός περιγράφει εκπαίδευση σε πολλαπλά περιβάλλοντα εκτέλεσης πρακτόρων αντί για έναν σταθερό σκελετό. Αυτό υποστηρίζει την προετοιμασία εργασίας γύρω από την απαιτούμενη συμπεριφορά και τα διαθέσιμα εργαλεία, ενώ το περιβάλλον εκτέλεσης παραμένει υπεύθυνο για λήψη αρχείων, εκτέλεση εντολών και επιστροφή παρατηρήσεων.
Παρέχετε τον τρέχοντα κώδικα και τη συμπεριφορά, τη ζητούμενη αλλαγή, τα σχετικά όρια αρχείων ή διεπαφών και τα στοιχεία που θα αποδείξουν την ολοκλήρωση. Για σφάλμα, συμπεριλάβετε το παρατηρούμενο σφάλμα ή την είσοδο που αποτυγχάνει και το αναμενόμενο αποτέλεσμα. Για λειτουργία, δηλώστε την απαιτούμενη συμπεριφορά και τους περιορισμούς συμβατότητας. Ένα χρήσιμο τελικό τεχνούργημα είναι μια προτεινόμενη αλλαγή κώδικα με εξήγηση και αποτελέσματα από ελέγχους που πράγματι εκτελέστηκαν.
Ένα ενδεικτικό αίτημα μπορεί να ζητά ενημέρωση ενός αναλυτή για επιπλέον υποστηριζόμενη είσοδο, διατηρώντας τις υπάρχουσες μορφές. Προσδιορίστε αντιπροσωπευτικές εισόδους και το τμήμα του αποθετηρίου που ορίζει τη συμπεριφορά του αναλυτή. Το μοντέλο μπορεί να χρησιμοποιήσει κώδικα και παρατηρήσεις εργαλείων για να αναπτύξει την αλλαγή· ένα παραγόμενο patch ή μια δήλωση ότι μια εντολή πρέπει να εκτελεστεί δεν είναι στοιχείο ότι η εντολή πέτυχε.
Η εγγενής κάρτα μοντέλου τεκμηριώνει εκπαίδευση χρήσης εργαλείων και προτείνει περιγραφές εργαλείων JSON Schema μέσω του προτύπου συνομιλίας του μοντέλου. Περιγράψτε καθαρά τον σκοπό και τα ορίσματα ενός εργαλείου. Ένα εργαλείο εκτέλεσης εντολών μπορεί να επιστρέφει την πραγματική έξοδο και κατάσταση, ενώ ένα εργαλείο επιθεώρησης αρχείων μπορεί να επιστρέφει το υλικό που χρειάζεται το επόμενο βήμα. Κρατήστε κάθε αποτέλεσμα εργαλείου συνδεδεμένο με το αναγνωριστικό κλήσης του, ώστε η μεταγενέστερη ανάλυση να χρησιμοποιεί την επιδιωκόμενη παρατήρηση.
Το παράδειγμα του δημιουργού διατηρεί μια κλήση εργαλείου και τη συλλογιστική του βοηθού στο ιστορικό, εκτελεί το εργαλείο και προσθέτει το αποτέλεσμά του πριν από νέα παραγωγή. Το παράδειγμα εγγενούς προτύπου χρησιμοποιεί δομημένο λεξικό για το αποτέλεσμα εργαλείου. Διατηρήστε αυτή την αναπαράσταση σύμφωνα με την τεκμηριωμένη ενσωμάτωση, αντί να υποθέτετε ότι κάθε άσχετο API σειριοποιεί αποτελέσματα εργαλείων με τον ίδιο τρόπο. Ένα σχήμα JSON που περιγράφει τα ορίσματα εργαλείου διαφέρει από τον ισχυρισμό υποστήριξης αυθαίρετης τελικής εξόδου περιορισμένης από σχήμα.
Το North Mini Code υποστηρίζει εναλλασσόμενη σκέψη, την οποία ο δημιουργός προτείνει να ενεργοποιείται για εργασία πρακτόρων. Μεταφέρετε το περιεχόμενο σκέψης και τις κλήσεις εργαλείων που παράγει το μοντέλο στα επόμενα βήματα πράκτορα και στους επόμενους γύρους της συνομιλίας. Το εγγενές παράδειγμα κρατά πεδίο συλλογιστικής στο μήνυμα βοηθού και επιστρέφει κατόπιν την αντίστοιχη παρατήρηση εργαλείου. Αυτό διατηρεί τις πληροφορίες που χρησιμοποίησε το μοντέλο όταν αποφάσιζε τι θα επιθεωρήσει ή θα αλλάξει στη συνέχεια.
Κρατήστε τον τρέχοντα στόχο, το πηγαίο υλικό και τις πραγματικές παρατηρήσεις στο ιστορικό εργασίας. Για μεγαλύτερη εργασία αποθετηρίου, συνοψίστε το τελικό αποτέλεσμα γύρω από την αλλαγμένη συμπεριφορά και το χρήσιμο τεχνούργημα, διατηρώντας τα στοιχεία που χρειάζονται για την ανασκόπησή του. Η εναλλασσόμενη συλλογιστική δεν συνεπάγεται ότι μια σύντομη ορατή απάντηση δεν χρειάστηκε ανάλυση, ούτε αποδεικνύει ότι μια ενέργεια που περιέγραψε το μοντέλο έχει ήδη συμβεί.
Ο κατασκευαστής προσδιορίζει επίσης επιστημονικό προγραμματισμό και αλγοριθμική συλλογιστική εκτός βρόχου πράκτορα. Παρέχετε τον ορισμό προβλήματος, τη μορφή εισόδου και εξόδου, τους περιορισμούς, τις σχετικές αριθμητικές παραδοχές και την αναμενόμενη συμπεριφορά στα όρια. Ζητήστε πλήρη συνάρτηση ή πρόγραμμα όταν αυτό είναι το απαιτούμενο τεχνούργημα, με εξήγηση στο επίπεδο που χρειάζεται ο αναγνώστης.
Για εξήγηση κώδικα, παρέχετε την υλοποίηση και τη συγκεκριμένη συμπεριφορά ή εξάρτηση που πρέπει να διευκρινιστεί. Για κώδικα οπτικοποίησης δεδομένων, προσδιορίστε τα παρεχόμενα πεδία και την επιδιωκόμενη σύγκριση, αντί να αφήνετε υπονοούμενο τον σκοπό του γραφήματος. Τα παραδείγματα ανάπτυξης του δημιουργού περιλαμβάνουν εξήγηση, επεξεργασία, οπτικοποίηση κώδικα και υλοποίηση από προδιαγραφή. Αυτά είναι μοτίβα εργασιών παραγωγής ή τροποποίησης κώδικα και όχι υπόσχεση σωστών αποτελεσμάτων για κάθε αποθετήριο ή πλαίσιο ανάπτυξης.
Η κάρτα μοντέλου και η σελίδα API του κατασκευαστή αναφέρουν παράθυρο συμφραζομένων 256K token και μέγιστη έξοδο 64K token. Προετοιμάστε εκτενές υλικό αποθετηρίου γύρω από αυτά τα ξεχωριστά όρια και το μέγεθος του τελικού τεχνουργήματος. Κρατήστε άθικτα τα όρια και τα αναγνωριστικά πηγών και αφαιρέστε το άσχετο υλικό, αντί να υποθέτετε ότι ένα μεγάλο παράθυρο εξαλείφει την ανάγκη εστιασμένου αιτήματος.
Η εγγενής κάρτα μοντέλου προτείνει temperature 1.0 και top_p 0.95 για παραγωγή και χρησιμοποιεί το πρότυπο συνομιλίας του μοντέλου, συμπεριλαμβανομένης προτροπής παραγωγής, για ροές κειμένου και εργαλείων. Τα ενδεικτικά όρια εξόδου της είναι ρυθμίσεις για εκείνα τα παραδείγματα και όχι αντικατάσταση του δημοσιευμένου μέγιστου του μοντέλου. Η Cohere δημοσιεύει βάρη BF16 και ένα τεχνούργημα FP8 με ξεχωριστό όνομα. Επιλέξτε το κατάλληλο τεχνούργημα όταν προετοιμάζετε ανάπτυξη.
Ένα χρήσιμο αποτέλεσμα North Mini Code είναι επιθεωρήσιμο τεχνούργημα κώδικα ή τεχνική εξήγηση συνδεδεμένα με τις παρεχόμενες απαιτήσεις. Συγκρίνετε το αποτέλεσμα με την αρχική συμπεριφορά και την πραγματική έξοδο εργαλείων, ελέγξτε παραδοχές που επηρεάζουν τον κώδικα και διατηρήστε την πηγή και τις παρατηρήσεις που χρειάζονται για ανασκόπηση. Το μοντέλο προγραμματισμού μόνο για κείμενο παρέχει συλλογιστική και παραγόμενο περιεχόμενο· η περιβάλλουσα εφαρμογή εκτελεί τις λειτουργίες που μετατρέπουν αυτές τις προτάσεις σε ολοκληρωμένη εργασία λογισμικού.
POST /v1/messagestexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια cohere/north-mini-code:free | Προεπιλογή— |
Πεδίοmessages | Τύποςarray | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια false | Προεπιλογήfalse |
Πεδίοsystem | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο: 1 Μέγιστο: 64.000 | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtop_k | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstop_sequences | Τύποςarray | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmetadata | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional | Σύμβασηstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςconditions | ΣύμβασηUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 256000 bytes. |
Κύκλος ζωής: synchronous_json
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0 / 1K token Έξοδος · Token εξόδου $0 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/north-mini-code:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra cohere/north-mini-code:free
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.