Το Llama 3.1 8B Instruct είναι το μοντέλο κειμένου οκτώ δισεκατομμυρίων παραμέτρων της Meta για πολυγλωσσικό διάλογο και βοηθούς βασισμένους σε οδηγίες. Δέχεται γραπτή συνομιλία και πηγαίο υλικό και παράγει κείμενο ή κώδικα. Είναι η έκδοση Instruct του μεγέθους 8B, διαφορετική από την προεκπαιδευμένη βάση της και τα μοντέλα 70B και 405B της οικογένειας.
Αρχιτεκτονική, συμφραζόμενα και γλώσσες
Το μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Η οικογένεια που έχει προσαρμοστεί σε οδηγίες χρησιμοποιεί εποπτευόμενη λεπτομερή προσαρμογή και ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για την ευθυγράμμιση των συνομιλιακών απαντήσεών της. Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για αυτή την έκδοση κειμένου· δεν πρόκειται για την προδιαγραφή όρασης ή εκτενούς παραθύρου ενός μεταγενέστερου μοντέλου Llama 4.
Οι οκτώ επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Τα δεδομένα προεκπαίδευσης καλύπτουν ευρύτερη συλλογή, διαφορετική από τις γλώσσες που υποστηρίζει ρητά η κάρτα. Δηλώστε την τελική γλώσσα και οποιαδήποτε ονόματα, αναγνωριστικά μεταβλητών ή όρους πρέπει να παραμένουν αμετάβλητα σε ένα πολυγλωσσικό αποτέλεσμα.
Η οικογένεια προεκπαιδεύεται σε περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει υλικό οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Αυτό περιγράφει την εκπαίδευση του μοντέλου, όχι πρόσβαση σε ιδιωτική βάση γνώσεων ή ζωντανές πληροφορίες όταν φτάνει ένα νέο ερώτημα.
Καθορισμένες ενέργειες κειμένου
Ένα αίτημα προσανατολισμένο στην υποστήριξη μπορεί να παρέχει το μήνυμα του χρήστη και σχετικά αποσπάσματα αναφοράς και κατόπιν να ζητά την απάντηση και τη συνθήκη που την υποστηρίζει. Μια συνοπτική εγγραφή μπορεί να διαχωρίζει το ζήτημα, τις ήδη παρεχόμενες πληροφορίες και το επόμενο απαιτούμενο βήμα. Ορίστε τα ονόματα πεδίων και τον χειρισμό ελλειπουσών τιμών όταν μια εφαρμογή πρέπει να επεξεργαστεί αυτό το αποτέλεσμα.
Για σύνοψη, δώστε το πραγματικό απόσπασμα ή την ανταλλαγή μηνυμάτων και προσδιορίστε το κοινό, το μήκος και τα γεγονότα που πρέπει να διατηρηθούν. Ζητήστε τις αποφάσεις ή τα άλυτα ερωτήματα που σχετίζονται με ένα θέμα, αντί για μια μη κατευθυνόμενη σύνοψη άσχετου υλικού. Ένα επόμενο αίτημα μπορεί να ζητά συντομότερη απάντηση ή σαφέστερη εξήγηση μιας συνθήκης, διατηρώντας τα ίδια γεγονότα της πηγής.
Για επιμέλεια, προσδιορίστε τον αναγνώστη και τον τόνο και ορίστε το νόημα που πρέπει να παραμείνει αμετάβλητο. Μια πρακτική εργασία μπορεί να ζητά σαφέστερο μήνυμα ακολουθούμενο από σύντομο κατάλογο αλλαγών ή μόνο το αναθεωρημένο μήνυμα αν θα χρησιμοποιηθεί απευθείας. Μια εργασία ταξινόμησης πρέπει να παρέχει τις επιτρεπόμενες ετικέτες και τη διάκριση μεταξύ τους, αντί να βασίζεται στο όνομα μιας ετικέτας για τον ορισμό του κανόνα.
Παραγωγή κώδικα και παραδειγμάτων
Η τεκμηριωμένη έξοδος περιλαμβάνει επίσης κώδικα. Δώστε τη γλώσσα, τις απαιτούμενες εισόδους και το αναμενόμενο αποτέλεσμα πριν ζητήσετε μια συνάρτηση. Για εξήγηση, δώστε την υπάρχουσα συνάρτηση και μια συγκεκριμένη είσοδο και ρωτήστε ποια βήματα καθορίζουν την επιστρεφόμενη τιμή της. Για διόρθωση, συμπεριλάβετε την παρατηρημένη αποτυχία και την επιδιωκόμενη συμπεριφορά, διατηρώντας τη διεπαφή που πρέπει να παραμένει συμβατή.
Μια χρήσιμη έξοδος μπορεί να διαχωρίζει τον προτεινόμενο κώδικα, τις παραδοχές του και παραδείγματα εισόδων. Η εφαρμογή ή ο προγραμματιστής πραγματοποιεί την πραγματική μεταγλώττιση, εκτέλεση ή αλλαγή αποθετηρίου. Ο γραπτός πηγαίος κώδικας είναι παραδοτέο προς εξέταση, όχι ολοκληρωμένη εξωτερική ενέργεια απλώς επειδή τον επέστρεψε το μοντέλο.
Η οικογένεια υποστηρίζει επίσης τη χρήση παραγόμενης εξόδου για συνθετικά παραδείγματα και απόσταξη. Ένα καθορισμένο αίτημα κειμένου μπορεί να παράγει παραλλαγές σύμφωνα με παρεχόμενους κανόνες και σε συγκεκριμένη μορφή. Διατηρήστε τους κανόνες και τις ετικέτες, ώστε κάθε παράδειγμα να μπορεί να εξεταστεί· τα παραγόμενα παραδείγματα δεν τεκμηριώνουν ανεξάρτητα την ορθότητα ενός συνόλου δεδομένων εκπαίδευσης.
Ρόλοι συνομιλίας και χρήση εργαλείων
Η κάρτα του μοντέλου παρουσιάζει πρότυπο συνομιλίας με χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης στο πλαίσιο συστήματος και κατόπιν δώστε το ερώτημα και το πηγαίο υλικό ως εργασία. Κρατήστε τα σχετικά προηγούμενα μηνύματα όταν κάνετε επόμενο αίτημα ή παρέχετε νέα τεκμήρια που αλλάζουν το αποτέλεσμα.
Το Llama 3.1 τεκμηριώνει πολλές μορφές χρήσης εργαλείων. Η εφαρμογή περιγράφει μια συνάρτηση, το μοντέλο παράγει την προτεινόμενη κλήση και τα ορίσματα, η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα με τον ρόλο εργαλείου. Η επόμενη απάντηση μπορεί τότε να χρησιμοποιήσει τις επιστρεφόμενες πληροφορίες. Κρατήστε την αρχική ενέργεια και το αποτέλεσμα συνδεδεμένα σε όλη τη συνομιλία.
Για παράδειγμα, μια αναζήτηση μπορεί να επιστρέψει την τρέχουσα τιμή αναφοράς που λείπει από ένα απόσπασμα ή ένα εργαλείο υπολογισμού να παρέχει το αριθμητικό αποτέλεσμα που απαιτεί η εξήγηση. Ένας βοηθός με ενεργοποιημένα εργαλεία χρειάζεται αυτές τις ενέργειες παρεχόμενες από το περιβάλλον. Η κειμενική συμπεριφορά του μοντέλου δεν δημιουργεί από μόνη της σύνδεση με εξωτερική πηγή ούτε ολοκληρώνει παρενέργεια.
Πρακτικά όρια
Η ένδειξη παραθύρου συμφραζομένων 128 χιλ. tokens του δημιουργού πρέπει να διατηρείται με την ακριβή έκδοση 8B Instruct και την ισχύουσα διαμόρφωση. Το παράδειγμα παραγωγής 256 tokens είναι μόνο επιλογή χρήσης· οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστή σκληρή μέγιστη χωρητικότητα απάντησης. Το μέγεθος 8B δεν πρέπει να κληρονομεί τον αριθμό παραμέτρων άλλου μέλους ή τα ονομασμένα στοιχεία ελέγχου συλλογιστικής μιας άλλης οικογένειας.
Αυτό είναι μοντέλο αποκλειστικά κειμένου. Η οπτική είσοδος, η κατανόηση ήχου και η παραγωγή ομιλίας απαιτούν χωριστά καθορισμένα συστατικά. Ορίστε το τελικό παραδοτέο πριν δώσετε το υλικό: συνοπτική απάντηση, εξαγόμενη εγγραφή, αναθεωρημένο απόσπασμα, εξήγηση ή πρόταση κώδικα. Διατηρήστε τις πληροφορίες πηγής που χρειάζονται για την εξέταση του νοήματος και της μορφής αυτού του παραδοτέου.
", "aboutText": "Το Llama 3.1 8B Instruct είναι το μοντέλο κειμένου οκτώ δισεκατομμυρίων παραμέτρων της Meta για πολυγλωσσικό διάλογο και βοηθούς βασισμένους σε οδηγίες. Δέχεται γραπτή συνομιλία και πηγαίο υλικό και παράγει κείμενο ή κώδικα. Είναι η έκδοση Instruct του μεγέθους 8B, διαφορετική από την προεκπαιδευμένη βάση της και τα μοντέλα 70B και 405B της οικογένειας.\n\nΑρχιτεκτονική, συμφραζόμενα και γλώσσες\n\nΤο μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Η οικογένεια που έχει προσαρμοστεί σε οδηγίες χρησιμοποιεί εποπτευόμενη λεπτομερή προσαρμογή και ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για την ευθυγράμμιση των συνομιλιακών απαντήσεών της. Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για αυτή την έκδοση κειμένου· δεν πρόκειται για την προδιαγραφή όρασης ή εκτενούς παραθύρου ενός μεταγενέστερου μοντέλου Llama 4.\n\nΟι οκτώ επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Τα δεδομένα προεκπαίδευσης καλύπτουν ευρύτερη συλλογή, διαφορετική από τις γλώσσες που υποστηρίζει ρητά η κάρτα. Δηλώστε την τελική γλώσσα και οποιαδήποτε ονόματα, αναγνωριστικά μεταβλητών ή όρους πρέπει να παραμένουν αμετάβλητα σε ένα πολυγλωσσικό αποτέλεσμα.\n\nΗ οικογένεια προεκπαιδεύεται σε περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει υλικό οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Αυτό περιγράφει την εκπαίδευση του μοντέλου, όχι πρόσβαση σε ιδιωτική βάση γνώσεων ή ζωντανές πληροφορίες όταν φτάνει ένα νέο ερώτημα.\n\nΚαθορισμένες ενέργειες κειμένου\n\nΈνα αίτημα προσανατολισμένο στην υποστήριξη μπορεί να παρέχει το μήνυμα του χρήστη και σχετικά αποσπάσματα αναφοράς και κατόπιν να ζητά την απάντηση και τη συνθήκη που την υποστηρίζει. Μια συνοπτική εγγραφή μπορεί να διαχωρίζει το ζήτημα, τις ήδη παρεχόμενες πληροφορίες και το επόμενο απαιτούμενο βήμα. Ορίστε τα ονόματα πεδίων και τον χειρισμό ελλειπουσών τιμών όταν μια εφαρμογή πρέπει να επεξεργαστεί αυτό το αποτέλεσμα.\n\nΓια σύνοψη, δώστε το πραγματικό απόσπασμα ή την ανταλλαγή μηνυμάτων και προσδιορίστε το κοινό, το μήκος και τα γεγονότα που πρέπει να διατηρηθούν. Ζητήστε τις αποφάσεις ή τα άλυτα ερωτήματα που σχετίζονται με ένα θέμα, αντί για μια μη κατευθυνόμενη σύνοψη άσχετου υλικού. Ένα επόμενο αίτημα μπορεί να ζητά συντομότερη απάντηση ή σαφέστερη εξήγηση μιας συνθήκης, διατηρώντας τα ίδια γεγονότα της πηγής.\n\nΓια επιμέλεια, προσδιορίστε τον αναγνώστη και τον τόνο και ορίστε το νόημα που πρέπει να παραμείνει αμετάβλητο. Μια πρακτική εργασία μπορεί να ζητά σαφέστερο μήνυμα ακολουθούμενο από σύντομο κατάλογο αλλαγών ή μόνο το αναθεωρημένο μήνυμα αν θα χρησιμοποιηθεί απευθείας. Μια εργασία ταξινόμησης πρέπει να παρέχει τις επιτρεπόμενες ετικέτες και τη διάκριση μεταξύ τους, αντί να βασίζεται στο όνομα μιας ετικέτας για τον ορισμό του κανόνα.\n\nΠαραγωγή κώδικα και παραδειγμάτων\n\nΗ τεκμηριωμένη έξοδος περιλαμβάνει επίσης κώδικα. Δώστε τη γλώσσα, τις απαιτούμενες εισόδους και το αναμενόμενο αποτέλεσμα πριν ζητήσετε μια συνάρτηση. Για εξήγηση, δώστε την υπάρχουσα συνάρτηση και μια συγκεκριμένη είσοδο και ρωτήστε ποια βήματα καθορίζουν την επιστρεφόμενη τιμή της. Για διόρθωση, συμπεριλάβετε την παρατηρημένη αποτυχία και την επιδιωκόμενη συμπεριφορά, διατηρώντας τη διεπαφή που πρέπει να παραμένει συμβατή.\n\nΜια χρήσιμη έξοδος μπορεί να διαχωρίζει τον προτεινόμενο κώδικα, τις παραδοχές του και παραδείγματα εισόδων. Η εφαρμογή ή ο προγραμματιστής πραγματοποιεί την πραγματική μεταγλώττιση, εκτέλεση ή αλλαγή αποθετηρίου. Ο γραπτός πηγαίος κώδικας είναι παραδοτέο προς εξέταση, όχι ολοκληρωμένη εξωτερική ενέργεια απλώς επειδή τον επέστρεψε το μοντέλο.\n\nΗ οικογένεια υποστηρίζει επίσης τη χρήση παραγόμενης εξόδου για συνθετικά παραδείγματα και απόσταξη. Ένα καθορισμένο αίτημα κειμένου μπορεί να παράγει παραλλαγές σύμφωνα με παρεχόμενους κανόνες και σε συγκεκριμένη μορφή. Διατηρήστε τους κανόνες και τις ετικέτες, ώστε κάθε παράδειγμα να μπορεί να εξεταστεί· τα παραγόμενα παραδείγματα δεν τεκμηριώνουν ανεξάρτητα την ορθότητα ενός συνόλου δεδομένων εκπαίδευσης.\n\nΡόλοι συνομιλίας και χρήση εργαλείων\n\nΗ κάρτα του μοντέλου παρουσιάζει πρότυπο συνομιλίας με χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης στο πλαίσιο συστήματος και κατόπιν δώστε το ερώτημα και το πηγαίο υλικό ως εργασία. Κρατήστε τα σχετικά προηγούμενα μηνύματα όταν κάνετε επόμενο αίτημα ή παρέχετε νέα τεκμήρια που αλλάζουν το αποτέλεσμα.\n\nΤο Llama 3.1 τεκμηριώνει πολλές μορφές χρήσης εργαλείων. Η εφαρμογή περιγράφει μια συνάρτηση, το μοντέλο παράγει την προτεινόμενη κλήση και τα ορίσματα, η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα με τον ρόλο εργαλείου. Η επόμενη απάντηση μπορεί τότε να χρησιμοποιήσει τις επιστρεφόμενες πληροφορίες. Κρατήστε την αρχική ενέργεια και το αποτέλεσμα συνδεδεμένα σε όλη τη συνομιλία.\n\nΓια παράδειγμα, μια αναζήτηση μπορεί να επιστρέψει την τρέχουσα τιμή αναφοράς που λείπει από ένα απόσπασμα ή ένα εργαλείο υπολογισμού να παρέχει το αριθμητικό αποτέλεσμα που απαιτεί η εξήγηση. Ένας βοηθός με ενεργοποιημένα εργαλεία χρειάζεται αυτές τις ενέργειες παρεχόμενες από το περιβάλλον. Η κειμενική συμπεριφορά του μοντέλου δεν δημιουργεί από μόνη της σύνδεση με εξωτερική πηγή ούτε ολοκληρώνει παρενέργεια.\n\nΠρακτικά όρια\n\nΗ ένδειξη παραθύρου συμφραζομένων 128 χιλ. tokens του δημιουργού πρέπει να διατηρείται με την ακριβή έκδοση 8B Instruct και την ισχύουσα διαμόρφωση. Το παράδειγμα παραγωγής 256 tokens είναι μόνο επιλογή χρήσης· οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστή σκληρή μέγιστη χωρητικότητα απάντησης. Το μέγεθος 8B δεν πρέπει να κληρονομεί τον αριθμό παραμέτρων άλλου μέλους ή τα ονομασμένα στοιχεία ελέγχου συλλογιστικής μιας άλλης οικογένειας.\n\nΑυτό είναι μοντέλο αποκλειστικά κειμένου. Η οπτική είσοδος, η κατανόηση ήχου και η παραγωγή ομιλίας απαιτούν χωριστά καθορισμένα συστατικά. Ορίστε το τελικό παραδοτέο πριν δώσετε το υλικό: συνοπτική απάντηση, εξαγόμενη εγγραφή, αναθεωρημένο απόσπασμα, εξήγηση ή πρόταση κώδικα. Διατηρήστε τις πληροφορίες πηγής που χρειάζονται για την εξέταση του νοήματος και της μορφής αυτού του παραδοτέου.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.meta-llama/llama-3.1-8b-instructΤο Llama 3.1 8B Instruct είναι το μικρότερο μοντέλο κειμένου της Meta που ακολουθεί οδηγίες, για πολυγλωσσικό διάλογο, συνόψεις και απαντήσεις βάσει πηγών. Διαθέτει 8 δισ. παραμέτρους, παράθυρο συμφραζομένων 128 χιλ. tokens κατά τον δημιουργό, προσοχή ομαδοποιημένων ερωτημάτων και τεκμηριωμένες μορφές χρήσης εργαλείων, επιστρέφοντας κείμενο ή κώδικα.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama 3.1 8B Instruct είναι το μοντέλο κειμένου οκτώ δισεκατομμυρίων παραμέτρων της Meta για πολυγλωσσικό διάλογο και βοηθούς βασισμένους σε οδηγίες. Δέχεται γραπτή συνομιλία και πηγαίο υλικό και παράγει κείμενο ή κώδικα. Είναι η έκδοση Instruct του μεγέθους 8B, διαφορετική από την προεκπαιδευμένη βάση της και τα μοντέλα 70B και 405B της οικογένειας.
Αρχιτεκτονική, συμφραζόμενα και γλώσσες
Το μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Η οικογένεια που έχει προσαρμοστεί σε οδηγίες χρησιμοποιεί εποπτευόμενη λεπτομερή προσαρμογή και ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για την ευθυγράμμιση των συνομιλιακών απαντήσεών της. Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για αυτή την έκδοση κειμένου· δεν πρόκειται για την προδιαγραφή όρασης ή εκτενούς παραθύρου ενός μεταγενέστερου μοντέλου Llama 4.
Οι οκτώ επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Τα δεδομένα προεκπαίδευσης καλύπτουν ευρύτερη συλλογή, διαφορετική από τις γλώσσες που υποστηρίζει ρητά η κάρτα. Δηλώστε την τελική γλώσσα και οποιαδήποτε ονόματα, αναγνωριστικά μεταβλητών ή όρους πρέπει να παραμένουν αμετάβλητα σε ένα πολυγλωσσικό αποτέλεσμα.
Η οικογένεια προεκπαιδεύεται σε περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει υλικό οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Αυτό περιγράφει την εκπαίδευση του μοντέλου, όχι πρόσβαση σε ιδιωτική βάση γνώσεων ή ζωντανές πληροφορίες όταν φτάνει ένα νέο ερώτημα.
Καθορισμένες ενέργειες κειμένου
Ένα αίτημα προσανατολισμένο στην υποστήριξη μπορεί να παρέχει το μήνυμα του χρήστη και σχετικά αποσπάσματα αναφοράς και κατόπιν να ζητά την απάντηση και τη συνθήκη που την υποστηρίζει. Μια συνοπτική εγγραφή μπορεί να διαχωρίζει το ζήτημα, τις ήδη παρεχόμενες πληροφορίες και το επόμενο απαιτούμενο βήμα. Ορίστε τα ονόματα πεδίων και τον χειρισμό ελλειπουσών τιμών όταν μια εφαρμογή πρέπει να επεξεργαστεί αυτό το αποτέλεσμα.
Για σύνοψη, δώστε το πραγματικό απόσπασμα ή την ανταλλαγή μηνυμάτων και προσδιορίστε το κοινό, το μήκος και τα γεγονότα που πρέπει να διατηρηθούν. Ζητήστε τις αποφάσεις ή τα άλυτα ερωτήματα που σχετίζονται με ένα θέμα, αντί για μια μη κατευθυνόμενη σύνοψη άσχετου υλικού. Ένα επόμενο αίτημα μπορεί να ζητά συντομότερη απάντηση ή σαφέστερη εξήγηση μιας συνθήκης, διατηρώντας τα ίδια γεγονότα της πηγής.
Για επιμέλεια, προσδιορίστε τον αναγνώστη και τον τόνο και ορίστε το νόημα που πρέπει να παραμείνει αμετάβλητο. Μια πρακτική εργασία μπορεί να ζητά σαφέστερο μήνυμα ακολουθούμενο από σύντομο κατάλογο αλλαγών ή μόνο το αναθεωρημένο μήνυμα αν θα χρησιμοποιηθεί απευθείας. Μια εργασία ταξινόμησης πρέπει να παρέχει τις επιτρεπόμενες ετικέτες και τη διάκριση μεταξύ τους, αντί να βασίζεται στο όνομα μιας ετικέτας για τον ορισμό του κανόνα.
Παραγωγή κώδικα και παραδειγμάτων
Η τεκμηριωμένη έξοδος περιλαμβάνει επίσης κώδικα. Δώστε τη γλώσσα, τις απαιτούμενες εισόδους και το αναμενόμενο αποτέλεσμα πριν ζητήσετε μια συνάρτηση. Για εξήγηση, δώστε την υπάρχουσα συνάρτηση και μια συγκεκριμένη είσοδο και ρωτήστε ποια βήματα καθορίζουν την επιστρεφόμενη τιμή της. Για διόρθωση, συμπεριλάβετε την παρατηρημένη αποτυχία και την επιδιωκόμενη συμπεριφορά, διατηρώντας τη διεπαφή που πρέπει να παραμένει συμβατή.
Μια χρήσιμη έξοδος μπορεί να διαχωρίζει τον προτεινόμενο κώδικα, τις παραδοχές του και παραδείγματα εισόδων. Η εφαρμογή ή ο προγραμματιστής πραγματοποιεί την πραγματική μεταγλώττιση, εκτέλεση ή αλλαγή αποθετηρίου. Ο γραπτός πηγαίος κώδικας είναι παραδοτέο προς εξέταση, όχι ολοκληρωμένη εξωτερική ενέργεια απλώς επειδή τον επέστρεψε το μοντέλο.
Η οικογένεια υποστηρίζει επίσης τη χρήση παραγόμενης εξόδου για συνθετικά παραδείγματα και απόσταξη. Ένα καθορισμένο αίτημα κειμένου μπορεί να παράγει παραλλαγές σύμφωνα με παρεχόμενους κανόνες και σε συγκεκριμένη μορφή. Διατηρήστε τους κανόνες και τις ετικέτες, ώστε κάθε παράδειγμα να μπορεί να εξεταστεί· τα παραγόμενα παραδείγματα δεν τεκμηριώνουν ανεξάρτητα την ορθότητα ενός συνόλου δεδομένων εκπαίδευσης.
Ρόλοι συνομιλίας και χρήση εργαλείων
Η κάρτα του μοντέλου παρουσιάζει πρότυπο συνομιλίας με χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης στο πλαίσιο συστήματος και κατόπιν δώστε το ερώτημα και το πηγαίο υλικό ως εργασία. Κρατήστε τα σχετικά προηγούμενα μηνύματα όταν κάνετε επόμενο αίτημα ή παρέχετε νέα τεκμήρια που αλλάζουν το αποτέλεσμα.
Το Llama 3.1 τεκμηριώνει πολλές μορφές χρήσης εργαλείων. Η εφαρμογή περιγράφει μια συνάρτηση, το μοντέλο παράγει την προτεινόμενη κλήση και τα ορίσματα, η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα με τον ρόλο εργαλείου. Η επόμενη απάντηση μπορεί τότε να χρησιμοποιήσει τις επιστρεφόμενες πληροφορίες. Κρατήστε την αρχική ενέργεια και το αποτέλεσμα συνδεδεμένα σε όλη τη συνομιλία.
Για παράδειγμα, μια αναζήτηση μπορεί να επιστρέψει την τρέχουσα τιμή αναφοράς που λείπει από ένα απόσπασμα ή ένα εργαλείο υπολογισμού να παρέχει το αριθμητικό αποτέλεσμα που απαιτεί η εξήγηση. Ένας βοηθός με ενεργοποιημένα εργαλεία χρειάζεται αυτές τις ενέργειες παρεχόμενες από το περιβάλλον. Η κειμενική συμπεριφορά του μοντέλου δεν δημιουργεί από μόνη της σύνδεση με εξωτερική πηγή ούτε ολοκληρώνει παρενέργεια.
Πρακτικά όρια
Η ένδειξη παραθύρου συμφραζομένων 128 χιλ. tokens του δημιουργού πρέπει να διατηρείται με την ακριβή έκδοση 8B Instruct και την ισχύουσα διαμόρφωση. Το παράδειγμα παραγωγής 256 tokens είναι μόνο επιλογή χρήσης· οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστή σκληρή μέγιστη χωρητικότητα απάντησης. Το μέγεθος 8B δεν πρέπει να κληρονομεί τον αριθμό παραμέτρων άλλου μέλους ή τα ονομασμένα στοιχεία ελέγχου συλλογιστικής μιας άλλης οικογένειας.
Αυτό είναι μοντέλο αποκλειστικά κειμένου. Η οπτική είσοδος, η κατανόηση ήχου και η παραγωγή ομιλίας απαιτούν χωριστά καθορισμένα συστατικά. Ορίστε το τελικό παραδοτέο πριν δώσετε το υλικό: συνοπτική απάντηση, εξαγόμενη εγγραφή, αναθεωρημένο απόσπασμα, εξήγηση ή πρόταση κώδικα. Διατηρήστε τις πληροφορίες πηγής που χρειάζονται για την εξέταση του νοήματος και της μορφής αυτού του παραδοτέου.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.1-8b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00044 / 1K token Έξοδος · Token εξόδου $0.00044 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00044 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00044 / 1K token Έξοδος · Token εξόδου $0.00044 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00044 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
meta-llama/llama-3.1-8b-instructΤο Llama 3.1 8B Instruct είναι το μικρότερο μοντέλο κειμένου της Meta που ακολουθεί οδηγίες, για πολυγλωσσικό διάλογο, συνόψεις και απαντήσεις βάσει πηγών. Διαθέτει 8 δισ. παραμέτρους, παράθυρο συμφραζομένων 128 χιλ. tokens κατά τον δημιουργό, προσοχή ομαδοποιημένων ερωτημάτων και τεκμηριωμένες μορφές χρήσης εργαλείων, επιστρέφοντας κείμενο ή κώδικα.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama 3.1 8B Instruct είναι το μοντέλο κειμένου οκτώ δισεκατομμυρίων παραμέτρων της Meta για πολυγλωσσικό διάλογο και βοηθούς βασισμένους σε οδηγίες. Δέχεται γραπτή συνομιλία και πηγαίο υλικό και παράγει κείμενο ή κώδικα. Είναι η έκδοση Instruct του μεγέθους 8B, διαφορετική από την προεκπαιδευμένη βάση της και τα μοντέλα 70B και 405B της οικογένειας.
Αρχιτεκτονική, συμφραζόμενα και γλώσσες
Το μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων. Η οικογένεια που έχει προσαρμοστεί σε οδηγίες χρησιμοποιεί εποπτευόμενη λεπτομερή προσαρμογή και ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για την ευθυγράμμιση των συνομιλιακών απαντήσεών της. Ο δημιουργός τεκμηριώνει παράθυρο συμφραζομένων 128 χιλ. tokens για αυτή την έκδοση κειμένου· δεν πρόκειται για την προδιαγραφή όρασης ή εκτενούς παραθύρου ενός μεταγενέστερου μοντέλου Llama 4.
Οι οκτώ επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Τα δεδομένα προεκπαίδευσης καλύπτουν ευρύτερη συλλογή, διαφορετική από τις γλώσσες που υποστηρίζει ρητά η κάρτα. Δηλώστε την τελική γλώσσα και οποιαδήποτε ονόματα, αναγνωριστικά μεταβλητών ή όρους πρέπει να παραμένουν αμετάβλητα σε ένα πολυγλωσσικό αποτέλεσμα.
Η οικογένεια προεκπαιδεύεται σε περίπου δεκαπέντε τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Η λεπτομερής προσαρμογή περιλαμβάνει υλικό οδηγιών και περισσότερα από είκοσι πέντε εκατομμύρια συνθετικά παραδείγματα. Αυτό περιγράφει την εκπαίδευση του μοντέλου, όχι πρόσβαση σε ιδιωτική βάση γνώσεων ή ζωντανές πληροφορίες όταν φτάνει ένα νέο ερώτημα.
Καθορισμένες ενέργειες κειμένου
Ένα αίτημα προσανατολισμένο στην υποστήριξη μπορεί να παρέχει το μήνυμα του χρήστη και σχετικά αποσπάσματα αναφοράς και κατόπιν να ζητά την απάντηση και τη συνθήκη που την υποστηρίζει. Μια συνοπτική εγγραφή μπορεί να διαχωρίζει το ζήτημα, τις ήδη παρεχόμενες πληροφορίες και το επόμενο απαιτούμενο βήμα. Ορίστε τα ονόματα πεδίων και τον χειρισμό ελλειπουσών τιμών όταν μια εφαρμογή πρέπει να επεξεργαστεί αυτό το αποτέλεσμα.
Για σύνοψη, δώστε το πραγματικό απόσπασμα ή την ανταλλαγή μηνυμάτων και προσδιορίστε το κοινό, το μήκος και τα γεγονότα που πρέπει να διατηρηθούν. Ζητήστε τις αποφάσεις ή τα άλυτα ερωτήματα που σχετίζονται με ένα θέμα, αντί για μια μη κατευθυνόμενη σύνοψη άσχετου υλικού. Ένα επόμενο αίτημα μπορεί να ζητά συντομότερη απάντηση ή σαφέστερη εξήγηση μιας συνθήκης, διατηρώντας τα ίδια γεγονότα της πηγής.
Για επιμέλεια, προσδιορίστε τον αναγνώστη και τον τόνο και ορίστε το νόημα που πρέπει να παραμείνει αμετάβλητο. Μια πρακτική εργασία μπορεί να ζητά σαφέστερο μήνυμα ακολουθούμενο από σύντομο κατάλογο αλλαγών ή μόνο το αναθεωρημένο μήνυμα αν θα χρησιμοποιηθεί απευθείας. Μια εργασία ταξινόμησης πρέπει να παρέχει τις επιτρεπόμενες ετικέτες και τη διάκριση μεταξύ τους, αντί να βασίζεται στο όνομα μιας ετικέτας για τον ορισμό του κανόνα.
Παραγωγή κώδικα και παραδειγμάτων
Η τεκμηριωμένη έξοδος περιλαμβάνει επίσης κώδικα. Δώστε τη γλώσσα, τις απαιτούμενες εισόδους και το αναμενόμενο αποτέλεσμα πριν ζητήσετε μια συνάρτηση. Για εξήγηση, δώστε την υπάρχουσα συνάρτηση και μια συγκεκριμένη είσοδο και ρωτήστε ποια βήματα καθορίζουν την επιστρεφόμενη τιμή της. Για διόρθωση, συμπεριλάβετε την παρατηρημένη αποτυχία και την επιδιωκόμενη συμπεριφορά, διατηρώντας τη διεπαφή που πρέπει να παραμένει συμβατή.
Μια χρήσιμη έξοδος μπορεί να διαχωρίζει τον προτεινόμενο κώδικα, τις παραδοχές του και παραδείγματα εισόδων. Η εφαρμογή ή ο προγραμματιστής πραγματοποιεί την πραγματική μεταγλώττιση, εκτέλεση ή αλλαγή αποθετηρίου. Ο γραπτός πηγαίος κώδικας είναι παραδοτέο προς εξέταση, όχι ολοκληρωμένη εξωτερική ενέργεια απλώς επειδή τον επέστρεψε το μοντέλο.
Η οικογένεια υποστηρίζει επίσης τη χρήση παραγόμενης εξόδου για συνθετικά παραδείγματα και απόσταξη. Ένα καθορισμένο αίτημα κειμένου μπορεί να παράγει παραλλαγές σύμφωνα με παρεχόμενους κανόνες και σε συγκεκριμένη μορφή. Διατηρήστε τους κανόνες και τις ετικέτες, ώστε κάθε παράδειγμα να μπορεί να εξεταστεί· τα παραγόμενα παραδείγματα δεν τεκμηριώνουν ανεξάρτητα την ορθότητα ενός συνόλου δεδομένων εκπαίδευσης.
Ρόλοι συνομιλίας και χρήση εργαλείων
Η κάρτα του μοντέλου παρουσιάζει πρότυπο συνομιλίας με χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης στο πλαίσιο συστήματος και κατόπιν δώστε το ερώτημα και το πηγαίο υλικό ως εργασία. Κρατήστε τα σχετικά προηγούμενα μηνύματα όταν κάνετε επόμενο αίτημα ή παρέχετε νέα τεκμήρια που αλλάζουν το αποτέλεσμα.
Το Llama 3.1 τεκμηριώνει πολλές μορφές χρήσης εργαλείων. Η εφαρμογή περιγράφει μια συνάρτηση, το μοντέλο παράγει την προτεινόμενη κλήση και τα ορίσματα, η εφαρμογή την εκτελεί και επιστρέφει το αποτέλεσμα με τον ρόλο εργαλείου. Η επόμενη απάντηση μπορεί τότε να χρησιμοποιήσει τις επιστρεφόμενες πληροφορίες. Κρατήστε την αρχική ενέργεια και το αποτέλεσμα συνδεδεμένα σε όλη τη συνομιλία.
Για παράδειγμα, μια αναζήτηση μπορεί να επιστρέψει την τρέχουσα τιμή αναφοράς που λείπει από ένα απόσπασμα ή ένα εργαλείο υπολογισμού να παρέχει το αριθμητικό αποτέλεσμα που απαιτεί η εξήγηση. Ένας βοηθός με ενεργοποιημένα εργαλεία χρειάζεται αυτές τις ενέργειες παρεχόμενες από το περιβάλλον. Η κειμενική συμπεριφορά του μοντέλου δεν δημιουργεί από μόνη της σύνδεση με εξωτερική πηγή ούτε ολοκληρώνει παρενέργεια.
Πρακτικά όρια
Η ένδειξη παραθύρου συμφραζομένων 128 χιλ. tokens του δημιουργού πρέπει να διατηρείται με την ακριβή έκδοση 8B Instruct και την ισχύουσα διαμόρφωση. Το παράδειγμα παραγωγής 256 tokens είναι μόνο επιλογή χρήσης· οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστή σκληρή μέγιστη χωρητικότητα απάντησης. Το μέγεθος 8B δεν πρέπει να κληρονομεί τον αριθμό παραμέτρων άλλου μέλους ή τα ονομασμένα στοιχεία ελέγχου συλλογιστικής μιας άλλης οικογένειας.
Αυτό είναι μοντέλο αποκλειστικά κειμένου. Η οπτική είσοδος, η κατανόηση ήχου και η παραγωγή ομιλίας απαιτούν χωριστά καθορισμένα συστατικά. Ορίστε το τελικό παραδοτέο πριν δώσετε το υλικό: συνοπτική απάντηση, εξαγόμενη εγγραφή, αναθεωρημένο απόσπασμα, εξήγηση ή πρόταση κώδικα. Διατηρήστε τις πληροφορίες πηγής που χρειάζονται για την εξέταση του νοήματος και της μορφής αυτού του παραδοτέου.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.1-8b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00044 / 1K token Έξοδος · Token εξόδου $0.00044 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00044 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00044 / 1K token Έξοδος · Token εξόδου $0.00044 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0.00044 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "meta-llama/llama-3.1-8b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.