Το Llama 3.1 70B Instruct είναι το μοντέλο κειμένου 70 δισεκατομμυρίων παραμέτρων της Meta, βελτιστοποιημένο για πολυγλωσσικό διάλογο και αιτήματα τύπου βοηθού. Είναι checkpoint προσαρμοσμένο σε οδηγίες μέσα σε μια οικογένεια που περιλαμβάνει επίσης μεγέθη 8B και 405B και ξεχωριστά προεκπαιδευμένα μοντέλα. Δέχεται κείμενο και επιστρέφει πολυγλωσσικό κείμενο ή κώδικα· η ονομασμένη έκδοση 70B διατηρεί το δικό της μέγεθος και ταυτότητα.
Πληροφορίες μοντέλου και εκπαίδευση
Η έκδοση χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Τα προσαρμοσμένα μοντέλα ευθυγραμμίζονται μέσω εποπτευόμενης λεπτομερούς προσαρμογής και ενισχυτικής μάθησης με ανθρώπινη ανατροφοδότηση. Αυτά είναι στάδια εκπαίδευσης για χρήσιμη συνομιλιακή συμπεριφορά, όχι ένας ονομασμένος διακόπτης κατά την εκτέλεση μεταξύ ξεχωριστών λειτουργιών με και χωρίς συλλογιστική.
Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για τα μοντέλα κειμένου και υποστηρίζει επίσημα αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Η εκπαίδευση περιλαμβάνει ευρύτερη συλλογή γλωσσών, πράγμα που δεν καθιστά κάθε γλώσσα εξίσου υποστηριζόμενη. Προσδιορίστε τη γλώσσα εξόδου, την ορολογία και τον αναγνώστη πριν ζητήσετε ένα πολυγλωσσικό παραδοτέο.
Το σώμα προεκπαίδευσης της οικογένειας περιγράφεται ως περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει σύνολα δεδομένων οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Το όριο αφορά τα δεδομένα εκπαίδευσης· ένα ερώτημα που εξαρτάται από νεότερες ή ιδιωτικές πληροφορίες χρειάζεται αυτές τις πληροφορίες παρεχόμενες στην εργασία ή επιστρεφόμενες από συνδεδεμένη πηγή.
Συνομιλία τύπου βοηθού και ανάλυση πηγών
Η έκδοση Instruct προορίζεται να ανταποκρίνεται σε συνομιλιακό αίτημα, ενώ η προεκπαιδευμένη έκδοση είναι βάση που μπορεί να προσαρμοστεί για άλλες εργασίες παραγωγής. Για απάντηση βασισμένη σε πηγές, δώστε το ερώτημα και τα αποσπάσματα που καθορίζουν το αποτέλεσμα. Επισημάνετε τις πηγές και ζητήστε την υποστηρικτική ενότητα ή δήλωση δίπλα σε κάθε εύρημα.
Μια πρακτική σύγκριση μπορεί να παρέχει δύο διαδικασίες και να ζητά κοινές συνθήκες, διαφορές και άλυτες συγκρούσεις. Ένας οδηγός που προκύπτει μπορεί να διατηρεί την αρχική ακολουθία και τις συνθήκες υπό τις οποίες ισχύει κάθε ενέργεια. Μια εργασία επιμέλειας εγγράφου μπορεί να προσδιορίζει το κοινό, τα γεγονότα που πρέπει να διατηρηθούν και αν το τελικό παραδοτέο πρέπει να είναι μόνο ένα αναθεωρημένο απόσπασμα ή ένα απόσπασμα με εξήγηση.
Για μεγαλύτερη απάντηση, ονομάστε τις απαιτούμενες ενότητες και τον σκοπό καθεμιάς. Ένα μεγάλο παράθυρο συμφραζομένων μπορεί να κρατά μαζί σχετικό υλικό, ενώ το τελικό αποτέλεσμα παραμένει ένας συνοπτικός πίνακας ή εξήγηση. Οι ταυτότητες πηγών και ένα σαφώς ορισμένο ερώτημα έχουν μεγαλύτερη σημασία από την απλή συμπερίληψη κάθε διαθέσιμου εγγράφου.
Κώδικας και παραγόμενα παραδείγματα
Η τεκμηριωμένη έξοδος περιλαμβάνει κώδικα. Για προτεινόμενη υλοποίηση, δώστε τη γλώσσα, τους τύπους εισόδου, το αναμενόμενο αποτέλεσμα και τη διεπαφή που πρέπει να παραμένει συμβατή. Συμπεριλάβετε το υπάρχον τμήμα και τις σχετικές δηλώσεις όταν η εργασία είναι διόρθωση. Ζητήστε τον κώδικα χωριστά από τις παραδοχές και τα παραδείγματά του, ώστε το επόμενο βήμα ανάπτυξης να μπορεί να τον εξετάσει.
Για εξήγηση κώδικα, δώστε την είσοδο προς ιχνηλάτηση και ρωτήστε πώς η παρεχόμενη συνάρτηση φτάνει στην επιστρεφόμενη τιμή. Για μαθηματική εξήγηση, ορίστε σύμβολα και παραδοχές και δηλώστε αν το αποτέλεσμα πρέπει να είναι ακριβές, προσεγγιστικό ή απόδειξη. Η παραγωγή κώδικα και η γραπτή συλλογιστική δεν μεταγλωττίζουν από μόνες τους πρόγραμμα ούτε εκτελούν υπολογισμό.
Ο δημιουργός προσδιορίζει επίσης την παραγωγή συνθετικών δεδομένων και την απόσταξη ως χρήσεις της οικογένειας. Μια εργασία κειμένου μπορεί να ζητά ποικίλα παραδείγματα σε συγκεκριμένη μορφή, διατηρώντας τους παρεχόμενους κανόνες. Το αν αυτά τα παραδείγματα είναι κατάλληλα για περαιτέρω εκπαίδευση είναι ξεχωριστή απόφαση της εφαρμογής· η έξοδος κειμένου από μόνη της δεν αποτελεί ανεξάρτητη επαλήθευση της ορθότητάς τους.
Μορφή συνομιλίας και εργαλεία
Η κάρτα παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη με το αντίστοιχο πρότυπο συνομιλίας. Χρησιμοποιήστε την οδηγία συστήματος για ρόλο, τόνο και σταθερούς κανόνες απάντησης, ενώ το αίτημα χρήστη περιέχει το πραγματικό πρόβλημα και τις πηγές. Διατηρήστε τα σχετικά προηγούμενα μηνύματα όταν ζητάτε συνέχεια που βασίζεται σε προηγούμενη απάντηση.
Το Llama 3.1 υποστηρίζει πολλές τεκμηριωμένες μορφές χρήσης εργαλείων. Η εφαρμογή παρέχει τις συναρτήσεις και τις παραμέτρους, το μοντέλο προετοιμάζει μια προτεινόμενη κλήση, η εφαρμογή την εκτελεί και προσθέτει το αποτέλεσμά της στη συνομιλία. Μια επόμενη παραγωγή μπορεί να χρησιμοποιήσει αυτό το αποτέλεσμα. Το σύντομο παράδειγμα της κάρτας δείχνει ρητά την προσθήκη της κλήσης του βοηθού και κατόπιν του αποτελέσματος εργαλείου· η επιλογή μιας συνάρτησης διαφέρει από την ολοκλήρωση της ενέργειάς της.
Για αναζήτηση, δηλώστε ποιες πληροφορίες απαιτούνται και ορίστε τη συνάρτηση που τις επιστρέφει. Κρατήστε την πραγματική επιστρεφόμενη τιμή μαζί με την αρχική κλήση πριν ζητήσετε την τελική εξήγηση. Για υπολογισμό, διακρίνετε την προτεινόμενη ενέργεια του μοντέλου από το αποτέλεσμα που επιστρέφει η αριθμομηχανή. Η εγγενής μορφοποίηση εργαλείων και η ορατή αναπαράσταση μιας περιβάλλουσας διεπαφής πρέπει να διατηρούν τις δικές τους τεκμηριωμένες συμβάσεις.
Έκδοση και πρακτικά όρια
Η ρύθμιση παραγωγής 256 tokens της κάρτας που εξετάστηκε είναι παράδειγμα χρήσης και όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα εξόδου. Το παράθυρο 128 χιλ. tokens αφορά το υλικό και την παραγόμενη συνομιλία μέσα στη ρυθμισμένη έκδοση. Μην αποδίδετε σε αυτή την έκδοση το παράθυρο συμφραζομένων ή τις οπτικές δυνατότητες του Llama 4 ούτε το μέγεθος άλλου checkpoint Llama 3.1.
Αυτό είναι μοντέλο Instruct αποκλειστικά κειμένου. Μια εικόνα, ηχογράφηση ή βίντεο χρειάζεται το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού. Η εξωτερική ανάκτηση, η εκτέλεση προγραμμάτων και οι αλλαγές αρχείων ανήκουν επίσης στην εφαρμογή που συνδέεται με τον βοηθό. Διατηρήστε την ακριβή έκδοση 70B Instruct και ζητήστε την εξήγηση συνδεδεμένη με πηγές, το αναθεωρημένο έγγραφο, τον κώδικα ή το δομημένο κείμενο που χρειάζεται η εργασία.
", "aboutText": "Το Llama 3.1 70B Instruct είναι το μοντέλο κειμένου 70 δισεκατομμυρίων παραμέτρων της Meta, βελτιστοποιημένο για πολυγλωσσικό διάλογο και αιτήματα τύπου βοηθού. Είναι checkpoint προσαρμοσμένο σε οδηγίες μέσα σε μια οικογένεια που περιλαμβάνει επίσης μεγέθη 8B και 405B και ξεχωριστά προεκπαιδευμένα μοντέλα. Δέχεται κείμενο και επιστρέφει πολυγλωσσικό κείμενο ή κώδικα· η ονομασμένη έκδοση 70B διατηρεί το δικό της μέγεθος και ταυτότητα.\n\nΠληροφορίες μοντέλου και εκπαίδευση\n\nΗ έκδοση χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Τα προσαρμοσμένα μοντέλα ευθυγραμμίζονται μέσω εποπτευόμενης λεπτομερούς προσαρμογής και ενισχυτικής μάθησης με ανθρώπινη ανατροφοδότηση. Αυτά είναι στάδια εκπαίδευσης για χρήσιμη συνομιλιακή συμπεριφορά, όχι ένας ονομασμένος διακόπτης κατά την εκτέλεση μεταξύ ξεχωριστών λειτουργιών με και χωρίς συλλογιστική.\n\nΟ δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για τα μοντέλα κειμένου και υποστηρίζει επίσημα αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Η εκπαίδευση περιλαμβάνει ευρύτερη συλλογή γλωσσών, πράγμα που δεν καθιστά κάθε γλώσσα εξίσου υποστηριζόμενη. Προσδιορίστε τη γλώσσα εξόδου, την ορολογία και τον αναγνώστη πριν ζητήσετε ένα πολυγλωσσικό παραδοτέο.\n\nΤο σώμα προεκπαίδευσης της οικογένειας περιγράφεται ως περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει σύνολα δεδομένων οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Το όριο αφορά τα δεδομένα εκπαίδευσης· ένα ερώτημα που εξαρτάται από νεότερες ή ιδιωτικές πληροφορίες χρειάζεται αυτές τις πληροφορίες παρεχόμενες στην εργασία ή επιστρεφόμενες από συνδεδεμένη πηγή.\n\nΣυνομιλία τύπου βοηθού και ανάλυση πηγών\n\nΗ έκδοση Instruct προορίζεται να ανταποκρίνεται σε συνομιλιακό αίτημα, ενώ η προεκπαιδευμένη έκδοση είναι βάση που μπορεί να προσαρμοστεί για άλλες εργασίες παραγωγής. Για απάντηση βασισμένη σε πηγές, δώστε το ερώτημα και τα αποσπάσματα που καθορίζουν το αποτέλεσμα. Επισημάνετε τις πηγές και ζητήστε την υποστηρικτική ενότητα ή δήλωση δίπλα σε κάθε εύρημα.\n\nΜια πρακτική σύγκριση μπορεί να παρέχει δύο διαδικασίες και να ζητά κοινές συνθήκες, διαφορές και άλυτες συγκρούσεις. Ένας οδηγός που προκύπτει μπορεί να διατηρεί την αρχική ακολουθία και τις συνθήκες υπό τις οποίες ισχύει κάθε ενέργεια. Μια εργασία επιμέλειας εγγράφου μπορεί να προσδιορίζει το κοινό, τα γεγονότα που πρέπει να διατηρηθούν και αν το τελικό παραδοτέο πρέπει να είναι μόνο ένα αναθεωρημένο απόσπασμα ή ένα απόσπασμα με εξήγηση.\n\nΓια μεγαλύτερη απάντηση, ονομάστε τις απαιτούμενες ενότητες και τον σκοπό καθεμιάς. Ένα μεγάλο παράθυρο συμφραζομένων μπορεί να κρατά μαζί σχετικό υλικό, ενώ το τελικό αποτέλεσμα παραμένει ένας συνοπτικός πίνακας ή εξήγηση. Οι ταυτότητες πηγών και ένα σαφώς ορισμένο ερώτημα έχουν μεγαλύτερη σημασία από την απλή συμπερίληψη κάθε διαθέσιμου εγγράφου.\n\nΚώδικας και παραγόμενα παραδείγματα\n\nΗ τεκμηριωμένη έξοδος περιλαμβάνει κώδικα. Για προτεινόμενη υλοποίηση, δώστε τη γλώσσα, τους τύπους εισόδου, το αναμενόμενο αποτέλεσμα και τη διεπαφή που πρέπει να παραμένει συμβατή. Συμπεριλάβετε το υπάρχον τμήμα και τις σχετικές δηλώσεις όταν η εργασία είναι διόρθωση. Ζητήστε τον κώδικα χωριστά από τις παραδοχές και τα παραδείγματά του, ώστε το επόμενο βήμα ανάπτυξης να μπορεί να τον εξετάσει.\n\nΓια εξήγηση κώδικα, δώστε την είσοδο προς ιχνηλάτηση και ρωτήστε πώς η παρεχόμενη συνάρτηση φτάνει στην επιστρεφόμενη τιμή. Για μαθηματική εξήγηση, ορίστε σύμβολα και παραδοχές και δηλώστε αν το αποτέλεσμα πρέπει να είναι ακριβές, προσεγγιστικό ή απόδειξη. Η παραγωγή κώδικα και η γραπτή συλλογιστική δεν μεταγλωττίζουν από μόνες τους πρόγραμμα ούτε εκτελούν υπολογισμό.\n\nΟ δημιουργός προσδιορίζει επίσης την παραγωγή συνθετικών δεδομένων και την απόσταξη ως χρήσεις της οικογένειας. Μια εργασία κειμένου μπορεί να ζητά ποικίλα παραδείγματα σε συγκεκριμένη μορφή, διατηρώντας τους παρεχόμενους κανόνες. Το αν αυτά τα παραδείγματα είναι κατάλληλα για περαιτέρω εκπαίδευση είναι ξεχωριστή απόφαση της εφαρμογής· η έξοδος κειμένου από μόνη της δεν αποτελεί ανεξάρτητη επαλήθευση της ορθότητάς τους.\n\nΜορφή συνομιλίας και εργαλεία\n\nΗ κάρτα παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη με το αντίστοιχο πρότυπο συνομιλίας. Χρησιμοποιήστε την οδηγία συστήματος για ρόλο, τόνο και σταθερούς κανόνες απάντησης, ενώ το αίτημα χρήστη περιέχει το πραγματικό πρόβλημα και τις πηγές. Διατηρήστε τα σχετικά προηγούμενα μηνύματα όταν ζητάτε συνέχεια που βασίζεται σε προηγούμενη απάντηση.\n\nΤο Llama 3.1 υποστηρίζει πολλές τεκμηριωμένες μορφές χρήσης εργαλείων. Η εφαρμογή παρέχει τις συναρτήσεις και τις παραμέτρους, το μοντέλο προετοιμάζει μια προτεινόμενη κλήση, η εφαρμογή την εκτελεί και προσθέτει το αποτέλεσμά της στη συνομιλία. Μια επόμενη παραγωγή μπορεί να χρησιμοποιήσει αυτό το αποτέλεσμα. Το σύντομο παράδειγμα της κάρτας δείχνει ρητά την προσθήκη της κλήσης του βοηθού και κατόπιν του αποτελέσματος εργαλείου· η επιλογή μιας συνάρτησης διαφέρει από την ολοκλήρωση της ενέργειάς της.\n\nΓια αναζήτηση, δηλώστε ποιες πληροφορίες απαιτούνται και ορίστε τη συνάρτηση που τις επιστρέφει. Κρατήστε την πραγματική επιστρεφόμενη τιμή μαζί με την αρχική κλήση πριν ζητήσετε την τελική εξήγηση. Για υπολογισμό, διακρίνετε την προτεινόμενη ενέργεια του μοντέλου από το αποτέλεσμα που επιστρέφει η αριθμομηχανή. Η εγγενής μορφοποίηση εργαλείων και η ορατή αναπαράσταση μιας περιβάλλουσας διεπαφής πρέπει να διατηρούν τις δικές τους τεκμηριωμένες συμβάσεις.\n\nΈκδοση και πρακτικά όρια\n\nΗ ρύθμιση παραγωγής 256 tokens της κάρτας που εξετάστηκε είναι παράδειγμα χρήσης και όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα εξόδου. Το παράθυρο 128 χιλ. tokens αφορά το υλικό και την παραγόμενη συνομιλία μέσα στη ρυθμισμένη έκδοση. Μην αποδίδετε σε αυτή την έκδοση το παράθυρο συμφραζομένων ή τις οπτικές δυνατότητες του Llama 4 ούτε το μέγεθος άλλου checkpoint Llama 3.1.\n\nΑυτό είναι μοντέλο Instruct αποκλειστικά κειμένου. Μια εικόνα, ηχογράφηση ή βίντεο χρειάζεται το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού. Η εξωτερική ανάκτηση, η εκτέλεση προγραμμάτων και οι αλλαγές αρχείων ανήκουν επίσης στην εφαρμογή που συνδέεται με τον βοηθό. Διατηρήστε την ακριβή έκδοση 70B Instruct και ζητήστε την εξήγηση συνδεδεμένη με πηγές, το αναθεωρημένο έγγραφο, τον κώδικα ή το δομημένο κείμενο που χρειάζεται η εργασία.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.meta-llama/llama-3.1-70b-instructΤο Llama 3.1 70B Instruct είναι το μοντέλο κειμένου της Meta για πολυγλωσσικό διάλογο, συλλογιστική σε έγγραφα και κώδικα. Η έκδοση 70 δισ. παραμέτρων που έχει προσαρμοστεί σε οδηγίες χρησιμοποιεί προσοχή ομαδοποιημένων ερωτημάτων, παράθυρο συμφραζομένων 128 χιλ. tokens κατά τον δημιουργό και τεκμηριωμένες μορφές συνομιλίας με κλήσεις εργαλείων, με έξοδο κειμένου και κώδικα.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama 3.1 70B Instruct είναι το μοντέλο κειμένου 70 δισεκατομμυρίων παραμέτρων της Meta, βελτιστοποιημένο για πολυγλωσσικό διάλογο και αιτήματα τύπου βοηθού. Είναι checkpoint προσαρμοσμένο σε οδηγίες μέσα σε μια οικογένεια που περιλαμβάνει επίσης μεγέθη 8B και 405B και ξεχωριστά προεκπαιδευμένα μοντέλα. Δέχεται κείμενο και επιστρέφει πολυγλωσσικό κείμενο ή κώδικα· η ονομασμένη έκδοση 70B διατηρεί το δικό της μέγεθος και ταυτότητα.
Πληροφορίες μοντέλου και εκπαίδευση
Η έκδοση χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Τα προσαρμοσμένα μοντέλα ευθυγραμμίζονται μέσω εποπτευόμενης λεπτομερούς προσαρμογής και ενισχυτικής μάθησης με ανθρώπινη ανατροφοδότηση. Αυτά είναι στάδια εκπαίδευσης για χρήσιμη συνομιλιακή συμπεριφορά, όχι ένας ονομασμένος διακόπτης κατά την εκτέλεση μεταξύ ξεχωριστών λειτουργιών με και χωρίς συλλογιστική.
Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για τα μοντέλα κειμένου και υποστηρίζει επίσημα αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Η εκπαίδευση περιλαμβάνει ευρύτερη συλλογή γλωσσών, πράγμα που δεν καθιστά κάθε γλώσσα εξίσου υποστηριζόμενη. Προσδιορίστε τη γλώσσα εξόδου, την ορολογία και τον αναγνώστη πριν ζητήσετε ένα πολυγλωσσικό παραδοτέο.
Το σώμα προεκπαίδευσης της οικογένειας περιγράφεται ως περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει σύνολα δεδομένων οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Το όριο αφορά τα δεδομένα εκπαίδευσης· ένα ερώτημα που εξαρτάται από νεότερες ή ιδιωτικές πληροφορίες χρειάζεται αυτές τις πληροφορίες παρεχόμενες στην εργασία ή επιστρεφόμενες από συνδεδεμένη πηγή.
Συνομιλία τύπου βοηθού και ανάλυση πηγών
Η έκδοση Instruct προορίζεται να ανταποκρίνεται σε συνομιλιακό αίτημα, ενώ η προεκπαιδευμένη έκδοση είναι βάση που μπορεί να προσαρμοστεί για άλλες εργασίες παραγωγής. Για απάντηση βασισμένη σε πηγές, δώστε το ερώτημα και τα αποσπάσματα που καθορίζουν το αποτέλεσμα. Επισημάνετε τις πηγές και ζητήστε την υποστηρικτική ενότητα ή δήλωση δίπλα σε κάθε εύρημα.
Μια πρακτική σύγκριση μπορεί να παρέχει δύο διαδικασίες και να ζητά κοινές συνθήκες, διαφορές και άλυτες συγκρούσεις. Ένας οδηγός που προκύπτει μπορεί να διατηρεί την αρχική ακολουθία και τις συνθήκες υπό τις οποίες ισχύει κάθε ενέργεια. Μια εργασία επιμέλειας εγγράφου μπορεί να προσδιορίζει το κοινό, τα γεγονότα που πρέπει να διατηρηθούν και αν το τελικό παραδοτέο πρέπει να είναι μόνο ένα αναθεωρημένο απόσπασμα ή ένα απόσπασμα με εξήγηση.
Για μεγαλύτερη απάντηση, ονομάστε τις απαιτούμενες ενότητες και τον σκοπό καθεμιάς. Ένα μεγάλο παράθυρο συμφραζομένων μπορεί να κρατά μαζί σχετικό υλικό, ενώ το τελικό αποτέλεσμα παραμένει ένας συνοπτικός πίνακας ή εξήγηση. Οι ταυτότητες πηγών και ένα σαφώς ορισμένο ερώτημα έχουν μεγαλύτερη σημασία από την απλή συμπερίληψη κάθε διαθέσιμου εγγράφου.
Κώδικας και παραγόμενα παραδείγματα
Η τεκμηριωμένη έξοδος περιλαμβάνει κώδικα. Για προτεινόμενη υλοποίηση, δώστε τη γλώσσα, τους τύπους εισόδου, το αναμενόμενο αποτέλεσμα και τη διεπαφή που πρέπει να παραμένει συμβατή. Συμπεριλάβετε το υπάρχον τμήμα και τις σχετικές δηλώσεις όταν η εργασία είναι διόρθωση. Ζητήστε τον κώδικα χωριστά από τις παραδοχές και τα παραδείγματά του, ώστε το επόμενο βήμα ανάπτυξης να μπορεί να τον εξετάσει.
Για εξήγηση κώδικα, δώστε την είσοδο προς ιχνηλάτηση και ρωτήστε πώς η παρεχόμενη συνάρτηση φτάνει στην επιστρεφόμενη τιμή. Για μαθηματική εξήγηση, ορίστε σύμβολα και παραδοχές και δηλώστε αν το αποτέλεσμα πρέπει να είναι ακριβές, προσεγγιστικό ή απόδειξη. Η παραγωγή κώδικα και η γραπτή συλλογιστική δεν μεταγλωττίζουν από μόνες τους πρόγραμμα ούτε εκτελούν υπολογισμό.
Ο δημιουργός προσδιορίζει επίσης την παραγωγή συνθετικών δεδομένων και την απόσταξη ως χρήσεις της οικογένειας. Μια εργασία κειμένου μπορεί να ζητά ποικίλα παραδείγματα σε συγκεκριμένη μορφή, διατηρώντας τους παρεχόμενους κανόνες. Το αν αυτά τα παραδείγματα είναι κατάλληλα για περαιτέρω εκπαίδευση είναι ξεχωριστή απόφαση της εφαρμογής· η έξοδος κειμένου από μόνη της δεν αποτελεί ανεξάρτητη επαλήθευση της ορθότητάς τους.
Μορφή συνομιλίας και εργαλεία
Η κάρτα παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη με το αντίστοιχο πρότυπο συνομιλίας. Χρησιμοποιήστε την οδηγία συστήματος για ρόλο, τόνο και σταθερούς κανόνες απάντησης, ενώ το αίτημα χρήστη περιέχει το πραγματικό πρόβλημα και τις πηγές. Διατηρήστε τα σχετικά προηγούμενα μηνύματα όταν ζητάτε συνέχεια που βασίζεται σε προηγούμενη απάντηση.
Το Llama 3.1 υποστηρίζει πολλές τεκμηριωμένες μορφές χρήσης εργαλείων. Η εφαρμογή παρέχει τις συναρτήσεις και τις παραμέτρους, το μοντέλο προετοιμάζει μια προτεινόμενη κλήση, η εφαρμογή την εκτελεί και προσθέτει το αποτέλεσμά της στη συνομιλία. Μια επόμενη παραγωγή μπορεί να χρησιμοποιήσει αυτό το αποτέλεσμα. Το σύντομο παράδειγμα της κάρτας δείχνει ρητά την προσθήκη της κλήσης του βοηθού και κατόπιν του αποτελέσματος εργαλείου· η επιλογή μιας συνάρτησης διαφέρει από την ολοκλήρωση της ενέργειάς της.
Για αναζήτηση, δηλώστε ποιες πληροφορίες απαιτούνται και ορίστε τη συνάρτηση που τις επιστρέφει. Κρατήστε την πραγματική επιστρεφόμενη τιμή μαζί με την αρχική κλήση πριν ζητήσετε την τελική εξήγηση. Για υπολογισμό, διακρίνετε την προτεινόμενη ενέργεια του μοντέλου από το αποτέλεσμα που επιστρέφει η αριθμομηχανή. Η εγγενής μορφοποίηση εργαλείων και η ορατή αναπαράσταση μιας περιβάλλουσας διεπαφής πρέπει να διατηρούν τις δικές τους τεκμηριωμένες συμβάσεις.
Έκδοση και πρακτικά όρια
Η ρύθμιση παραγωγής 256 tokens της κάρτας που εξετάστηκε είναι παράδειγμα χρήσης και όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα εξόδου. Το παράθυρο 128 χιλ. tokens αφορά το υλικό και την παραγόμενη συνομιλία μέσα στη ρυθμισμένη έκδοση. Μην αποδίδετε σε αυτή την έκδοση το παράθυρο συμφραζομένων ή τις οπτικές δυνατότητες του Llama 4 ούτε το μέγεθος άλλου checkpoint Llama 3.1.
Αυτό είναι μοντέλο Instruct αποκλειστικά κειμένου. Μια εικόνα, ηχογράφηση ή βίντεο χρειάζεται το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού. Η εξωτερική ανάκτηση, η εκτέλεση προγραμμάτων και οι αλλαγές αρχείων ανήκουν επίσης στην εφαρμογή που συνδέεται με τον βοηθό. Διατηρήστε την ακριβή έκδοση 70B Instruct και ζητήστε την εξήγηση συνδεδεμένη με πηγές, το αναθεωρημένο έγγραφο, τον κώδικα ή το δομημένο κείμενο που χρειάζεται η εργασία.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.1-70b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00144 / 1K token Έξοδος · Token εξόδου $0.00144 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00144 / 1K token Έξοδος · Token εξόδου $0.00144 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
meta-llama/llama-3.1-70b-instructΤο Llama 3.1 70B Instruct είναι το μοντέλο κειμένου της Meta για πολυγλωσσικό διάλογο, συλλογιστική σε έγγραφα και κώδικα. Η έκδοση 70 δισ. παραμέτρων που έχει προσαρμοστεί σε οδηγίες χρησιμοποιεί προσοχή ομαδοποιημένων ερωτημάτων, παράθυρο συμφραζομένων 128 χιλ. tokens κατά τον δημιουργό και τεκμηριωμένες μορφές συνομιλίας με κλήσεις εργαλείων, με έξοδο κειμένου και κώδικα.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama 3.1 70B Instruct είναι το μοντέλο κειμένου 70 δισεκατομμυρίων παραμέτρων της Meta, βελτιστοποιημένο για πολυγλωσσικό διάλογο και αιτήματα τύπου βοηθού. Είναι checkpoint προσαρμοσμένο σε οδηγίες μέσα σε μια οικογένεια που περιλαμβάνει επίσης μεγέθη 8B και 405B και ξεχωριστά προεκπαιδευμένα μοντέλα. Δέχεται κείμενο και επιστρέφει πολυγλωσσικό κείμενο ή κώδικα· η ονομασμένη έκδοση 70B διατηρεί το δικό της μέγεθος και ταυτότητα.
Πληροφορίες μοντέλου και εκπαίδευση
Η έκδοση χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Τα προσαρμοσμένα μοντέλα ευθυγραμμίζονται μέσω εποπτευόμενης λεπτομερούς προσαρμογής και ενισχυτικής μάθησης με ανθρώπινη ανατροφοδότηση. Αυτά είναι στάδια εκπαίδευσης για χρήσιμη συνομιλιακή συμπεριφορά, όχι ένας ονομασμένος διακόπτης κατά την εκτέλεση μεταξύ ξεχωριστών λειτουργιών με και χωρίς συλλογιστική.
Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για τα μοντέλα κειμένου και υποστηρίζει επίσημα αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Η εκπαίδευση περιλαμβάνει ευρύτερη συλλογή γλωσσών, πράγμα που δεν καθιστά κάθε γλώσσα εξίσου υποστηριζόμενη. Προσδιορίστε τη γλώσσα εξόδου, την ορολογία και τον αναγνώστη πριν ζητήσετε ένα πολυγλωσσικό παραδοτέο.
Το σώμα προεκπαίδευσης της οικογένειας περιγράφεται ως περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει σύνολα δεδομένων οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Το όριο αφορά τα δεδομένα εκπαίδευσης· ένα ερώτημα που εξαρτάται από νεότερες ή ιδιωτικές πληροφορίες χρειάζεται αυτές τις πληροφορίες παρεχόμενες στην εργασία ή επιστρεφόμενες από συνδεδεμένη πηγή.
Συνομιλία τύπου βοηθού και ανάλυση πηγών
Η έκδοση Instruct προορίζεται να ανταποκρίνεται σε συνομιλιακό αίτημα, ενώ η προεκπαιδευμένη έκδοση είναι βάση που μπορεί να προσαρμοστεί για άλλες εργασίες παραγωγής. Για απάντηση βασισμένη σε πηγές, δώστε το ερώτημα και τα αποσπάσματα που καθορίζουν το αποτέλεσμα. Επισημάνετε τις πηγές και ζητήστε την υποστηρικτική ενότητα ή δήλωση δίπλα σε κάθε εύρημα.
Μια πρακτική σύγκριση μπορεί να παρέχει δύο διαδικασίες και να ζητά κοινές συνθήκες, διαφορές και άλυτες συγκρούσεις. Ένας οδηγός που προκύπτει μπορεί να διατηρεί την αρχική ακολουθία και τις συνθήκες υπό τις οποίες ισχύει κάθε ενέργεια. Μια εργασία επιμέλειας εγγράφου μπορεί να προσδιορίζει το κοινό, τα γεγονότα που πρέπει να διατηρηθούν και αν το τελικό παραδοτέο πρέπει να είναι μόνο ένα αναθεωρημένο απόσπασμα ή ένα απόσπασμα με εξήγηση.
Για μεγαλύτερη απάντηση, ονομάστε τις απαιτούμενες ενότητες και τον σκοπό καθεμιάς. Ένα μεγάλο παράθυρο συμφραζομένων μπορεί να κρατά μαζί σχετικό υλικό, ενώ το τελικό αποτέλεσμα παραμένει ένας συνοπτικός πίνακας ή εξήγηση. Οι ταυτότητες πηγών και ένα σαφώς ορισμένο ερώτημα έχουν μεγαλύτερη σημασία από την απλή συμπερίληψη κάθε διαθέσιμου εγγράφου.
Κώδικας και παραγόμενα παραδείγματα
Η τεκμηριωμένη έξοδος περιλαμβάνει κώδικα. Για προτεινόμενη υλοποίηση, δώστε τη γλώσσα, τους τύπους εισόδου, το αναμενόμενο αποτέλεσμα και τη διεπαφή που πρέπει να παραμένει συμβατή. Συμπεριλάβετε το υπάρχον τμήμα και τις σχετικές δηλώσεις όταν η εργασία είναι διόρθωση. Ζητήστε τον κώδικα χωριστά από τις παραδοχές και τα παραδείγματά του, ώστε το επόμενο βήμα ανάπτυξης να μπορεί να τον εξετάσει.
Για εξήγηση κώδικα, δώστε την είσοδο προς ιχνηλάτηση και ρωτήστε πώς η παρεχόμενη συνάρτηση φτάνει στην επιστρεφόμενη τιμή. Για μαθηματική εξήγηση, ορίστε σύμβολα και παραδοχές και δηλώστε αν το αποτέλεσμα πρέπει να είναι ακριβές, προσεγγιστικό ή απόδειξη. Η παραγωγή κώδικα και η γραπτή συλλογιστική δεν μεταγλωττίζουν από μόνες τους πρόγραμμα ούτε εκτελούν υπολογισμό.
Ο δημιουργός προσδιορίζει επίσης την παραγωγή συνθετικών δεδομένων και την απόσταξη ως χρήσεις της οικογένειας. Μια εργασία κειμένου μπορεί να ζητά ποικίλα παραδείγματα σε συγκεκριμένη μορφή, διατηρώντας τους παρεχόμενους κανόνες. Το αν αυτά τα παραδείγματα είναι κατάλληλα για περαιτέρω εκπαίδευση είναι ξεχωριστή απόφαση της εφαρμογής· η έξοδος κειμένου από μόνη της δεν αποτελεί ανεξάρτητη επαλήθευση της ορθότητάς τους.
Μορφή συνομιλίας και εργαλεία
Η κάρτα παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη με το αντίστοιχο πρότυπο συνομιλίας. Χρησιμοποιήστε την οδηγία συστήματος για ρόλο, τόνο και σταθερούς κανόνες απάντησης, ενώ το αίτημα χρήστη περιέχει το πραγματικό πρόβλημα και τις πηγές. Διατηρήστε τα σχετικά προηγούμενα μηνύματα όταν ζητάτε συνέχεια που βασίζεται σε προηγούμενη απάντηση.
Το Llama 3.1 υποστηρίζει πολλές τεκμηριωμένες μορφές χρήσης εργαλείων. Η εφαρμογή παρέχει τις συναρτήσεις και τις παραμέτρους, το μοντέλο προετοιμάζει μια προτεινόμενη κλήση, η εφαρμογή την εκτελεί και προσθέτει το αποτέλεσμά της στη συνομιλία. Μια επόμενη παραγωγή μπορεί να χρησιμοποιήσει αυτό το αποτέλεσμα. Το σύντομο παράδειγμα της κάρτας δείχνει ρητά την προσθήκη της κλήσης του βοηθού και κατόπιν του αποτελέσματος εργαλείου· η επιλογή μιας συνάρτησης διαφέρει από την ολοκλήρωση της ενέργειάς της.
Για αναζήτηση, δηλώστε ποιες πληροφορίες απαιτούνται και ορίστε τη συνάρτηση που τις επιστρέφει. Κρατήστε την πραγματική επιστρεφόμενη τιμή μαζί με την αρχική κλήση πριν ζητήσετε την τελική εξήγηση. Για υπολογισμό, διακρίνετε την προτεινόμενη ενέργεια του μοντέλου από το αποτέλεσμα που επιστρέφει η αριθμομηχανή. Η εγγενής μορφοποίηση εργαλείων και η ορατή αναπαράσταση μιας περιβάλλουσας διεπαφής πρέπει να διατηρούν τις δικές τους τεκμηριωμένες συμβάσεις.
Έκδοση και πρακτικά όρια
Η ρύθμιση παραγωγής 256 tokens της κάρτας που εξετάστηκε είναι παράδειγμα χρήσης και όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα εξόδου. Το παράθυρο 128 χιλ. tokens αφορά το υλικό και την παραγόμενη συνομιλία μέσα στη ρυθμισμένη έκδοση. Μην αποδίδετε σε αυτή την έκδοση το παράθυρο συμφραζομένων ή τις οπτικές δυνατότητες του Llama 4 ούτε το μέγεθος άλλου checkpoint Llama 3.1.
Αυτό είναι μοντέλο Instruct αποκλειστικά κειμένου. Μια εικόνα, ηχογράφηση ή βίντεο χρειάζεται το σχετικό περιεχόμενό του προετοιμασμένο μέσω άλλου συστατικού. Η εξωτερική ανάκτηση, η εκτέλεση προγραμμάτων και οι αλλαγές αρχείων ανήκουν επίσης στην εφαρμογή που συνδέεται με τον βοηθό. Διατηρήστε την ακριβή έκδοση 70B Instruct και ζητήστε την εξήγηση συνδεδεμένη με πηγές, το αναθεωρημένο έγγραφο, τον κώδικα ή το δομημένο κείμενο που χρειάζεται η εργασία.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.1-70b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00144 / 1K token Έξοδος · Token εξόδου $0.00144 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00144 / 1K token Έξοδος · Token εξόδου $0.00144 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "meta-llama/llama-3.1-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.