Το Llama 3.2 1B Instruct είναι το συμπαγές μοντέλο κειμένου της Meta που έχει προσαρμοστεί σε οδηγίες, με 1,23 δισεκατομμύρια παραμέτρους στον πίνακα του δημιουργού. Δέχεται πολυγλωσσικό κείμενο και επιστρέφει κείμενο ή κώδικα. Η έκδοση προορίζεται για διάλογο, ανάκτηση γνώσης, σύνοψη, βοηθούς συγγραφής σε κινητά και αναδιατύπωση ερωτημάτων ή προτροπών, αντί για τις εργασίες κατανόησης εικόνας των ξεχωριστών εκδόσεων όρασης Llama.
Πληροφορίες μοντέλου και συμφραζόμενα
Το μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων και κοινά embeddings. Η Meta διακρίνει προεκπαιδευμένα και προσαρμοσμένα σε οδηγίες μοντέλα 1B και 3B. Αυτή η καταχώριση αφορά το checkpoint 1B Instruct, του οποίου η εργασία είναι να ακολουθεί το αίτημα του χρήστη σε μια συνομιλία, αντί να χρησιμεύει ως προεκπαιδευμένη βάση.
Η συνήθης έκδοση κειμένου τεκμηριώνεται με παράθυρο συμφραζομένων 128 χιλ. tokens. Ο δημιουργός αναφέρει χωριστά παράθυρο 8 χιλ. tokens για τα κβαντισμένα μοντέλα κειμένου του. Αυτές οι διαμορφώσεις πρέπει να παραμένουν διακριτές: η κβάντιση δεν επιτρέπει να μεταφέρεται το παράθυρο της συνήθους έκδοσης σε κάθε checkpoint μικρότερης μορφής ούτε να συνάγεται η ρυθμισμένη χωρητικότητα μιας συγκεκριμένης υπηρεσίας.
Χρησιμοποιήστε το παράθυρο συμφραζομένων για τα αποσπάσματα και τη συνομιλία που σχετίζονται με μία καθορισμένη ενέργεια. Ένα εκτενές έγγραφο μπορεί και πάλι να απαιτεί μια σύντομη σύνοψη, ένα αναδιατυπωμένο ερώτημα αναζήτησης ή μια απάντηση βασισμένη σε πηγή. Προσδιορίστε το υλικό που πρέπει να διατηρήσει το αποτέλεσμα και το μήκος ή τα πεδία που χρειάζεται το επόμενο βήμα της εφαρμογής.
Ανάκτηση, συνόψεις και αναδιατύπωση
Για σύνοψη, δώστε το πραγματικό απόσπασμα ή τη συνομιλία και προσδιορίστε το κοινό, το μήκος και τα ουσιώδη γεγονότα. Ένα χρήσιμο αποτέλεσμα μπορεί να διαχωρίζει το κεντρικό ζήτημα, τις ήδη δηλωμένες αποφάσεις και τα ανοιχτά ερωτήματα. Αν η πηγή περιέχει πολλά θέματα, προσδιορίστε ποιο πρέπει να καλύπτει η σύνοψη, αντί να ζητάτε μια μη κατευθυνόμενη συμπύκνωση των πάντων.
Για ανάκτηση γνώσης, δώστε τα επιλεγμένα αποσπάσματα πηγών ή τις πληροφορίες που επέστρεψε ένα συστατικό ανάκτησης. Ζητήστε τη δήλωση που απαντά στο ερώτημα και το απόσπασμα που την υποστηρίζει. Η απάντηση κειμένου του μοντέλου μπορεί να εξηγεί ανακτημένες πληροφορίες, ενώ η αναζήτηση σε ιδιωτική συλλογή παραμένει εργασία της συνδεδεμένης εφαρμογής. Δεν αποκτά αυτή τη συλλογή απλώς από την ετικέτα της χρήσης ανάκτησης.
Για αναδιατύπωση ερωτήματος, δώστε το αρχικό ερώτημα και τον σκοπό της αναζήτησης. Ζητήστε συνοπτική αναδιατύπωση που διατηρεί την οντότητα, τη συνθήκη και τη ζητούμενη πληροφορία. Ένα ερώτημα υποστήριξης μπορεί να αναδιατυπωθεί με τον όρο προϊόντος και την ενέργεια που έχουν σημασία, χωρίς να προστεθεί γεγονός που δεν υπάρχει στο μήνυμα του χρήστη. Επιστρέψτε το αναθεωρημένο ερώτημα χωριστά από κάθε εξήγηση αν άλλο συστατικό θα το χρησιμοποιήσει απευθείας.
Για έναν βοηθό συγγραφής, προσδιορίστε τον αναγνώστη, τον τόνο και τα γεγονότα της πηγής πριν ζητήσετε μια σύντομη επιστολή ή αναθεωρημένο απόσπασμα. Για μια εργασία εξαγωγής πληροφοριών, ορίστε τα πεδία και τον τρόπο αναπαράστασης πληροφοριών που απουσιάζουν. Αυτές είναι συγκεκριμένες ενέργειες που συνδέουν την τεκμηριωμένη έμφαση του συμπαγούς μοντέλου στο κείμενο με ένα παραδοτέο που μπορεί να εξεταστεί.
Υποστηριζόμενες γλώσσες και εκπαίδευση
Οι επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Το μοντέλο εκπαιδεύεται σε ευρύτερη συλλογή γλωσσών, διαφορετική από τις οκτώ γλώσσες που υποστηρίζει ρητά η κάρτα. Προσδιορίστε την τελική γλώσσα και οποιουσδήποτε όρους ή αναγνωριστικά πρέπει να παραμένουν αμετάβλητα.
Η οικογένεια προεκπαιδεύεται σε έως εννέα τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Για τα μοντέλα 1B και 3B, ο δημιουργός χρησιμοποιεί εξόδους από τα Llama 3.1 8B και 70B ως στόχους εκπαίδευσης σε επίπεδο token και απόσταξη γνώσης μετά το κλάδεμα. Πρόκειται για διαδικασία εκπαίδευσης· δεν σημαίνει ότι το εγκατεστημένο μοντέλο 1B ζητά από αυτά τα μεγαλύτερα μοντέλα να απαντήσουν σε κάθε ερώτηση χρήστη.
Η κάρτα περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση βάσει προτιμήσεων, με γύρους πρόσθετης εκπαίδευσης που περιλαμβάνουν εποπτευόμενα παραδείγματα, δειγματοληψία απόρριψης και άμεση βελτιστοποίηση προτιμήσεων. Αυτά τα στάδια παράγουν τη συμπεριφορά Instruct, διατηρώντας το ονομασμένο checkpoint και την αποκλειστικά κειμενική τροπικότητα.
Συνομιλία και κβαντισμένες εκδόσεις
Ο δημιουργός παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη χρησιμοποιώντας την αντίστοιχη μορφή συνομιλίας. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης χωριστά από το πραγματικό πηγαίο κείμενο. Κρατήστε τη σχετική προηγούμενη απάντηση όταν ένα επόμενο αίτημα ζητά αναθεώρηση, διευκρίνιση ή διαφορετική μορφή των ίδιων πληροφοριών.
Η έκδοση τεκμηριώνει επίσης διακριτές παραλλαγές με εκπαίδευση που λαμβάνει υπόψη την κβάντιση και με κβάντιση μετά την εκπαίδευση. Η ακρίβεια και το παράθυρο 8 χιλ. tokens τους ανήκουν σε αυτές τις παραλλαγές και δεν αποτελούν καθολική προδιαγραφή για αυτή τη συνήθη καταχώριση Instruct. Χρησιμοποιήστε το ακριβές checkpoint και τη διαμόρφωση όταν συγκρίνετε μια επαναλαμβανόμενη εργασία ή προετοιμάζετε παράγωγη εγκατάσταση.
Ουσιαστικά όρια
Αυτή η έκδοση 1B είναι αποκλειστικά κειμενική. Δεν πρέπει να κληρονομεί είσοδο εικόνας από τα μοντέλα όρασης 11B ή 90B του Llama 3.2, τις δυνατότητες κειμένου και εικόνας του Llama 4 ή τα ονομασμένα στοιχεία ελέγχου επιπέδου συλλογιστικής του Muse Spark. Το παράδειγμα παραγωγής 256 tokens της κάρτας είναι ενδεικτική ρύθμιση, όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα απάντησης.
Ένα πρακτικό τελικό αποτέλεσμα είναι η ζητούμενη σύνοψη, το ερώτημα, η εξαγόμενη εγγραφή ή το αναδιατυπωμένο κείμενο, διατηρώντας το σχετικό νόημα και τα αναγνωριστικά της πηγής. Οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστό σκληρό μέγιστο tokens εξόδου. Κρατήστε την εργασία εστιασμένη, το υλικό εισόδου πλήρες για αυτή την ενέργεια και τη διάκριση παραθύρου μεταξύ συνήθους και κβαντισμένης έκδοσης ρητή.
", "aboutText": "Το Llama 3.2 1B Instruct είναι το συμπαγές μοντέλο κειμένου της Meta που έχει προσαρμοστεί σε οδηγίες, με 1,23 δισεκατομμύρια παραμέτρους στον πίνακα του δημιουργού. Δέχεται πολυγλωσσικό κείμενο και επιστρέφει κείμενο ή κώδικα. Η έκδοση προορίζεται για διάλογο, ανάκτηση γνώσης, σύνοψη, βοηθούς συγγραφής σε κινητά και αναδιατύπωση ερωτημάτων ή προτροπών, αντί για τις εργασίες κατανόησης εικόνας των ξεχωριστών εκδόσεων όρασης Llama.\n\nΠληροφορίες μοντέλου και συμφραζόμενα\n\nΤο μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων και κοινά embeddings. Η Meta διακρίνει προεκπαιδευμένα και προσαρμοσμένα σε οδηγίες μοντέλα 1B και 3B. Αυτή η καταχώριση αφορά το checkpoint 1B Instruct, του οποίου η εργασία είναι να ακολουθεί το αίτημα του χρήστη σε μια συνομιλία, αντί να χρησιμεύει ως προεκπαιδευμένη βάση.\n\nΗ συνήθης έκδοση κειμένου τεκμηριώνεται με παράθυρο συμφραζομένων 128 χιλ. tokens. Ο δημιουργός αναφέρει χωριστά παράθυρο 8 χιλ. tokens για τα κβαντισμένα μοντέλα κειμένου του. Αυτές οι διαμορφώσεις πρέπει να παραμένουν διακριτές: η κβάντιση δεν επιτρέπει να μεταφέρεται το παράθυρο της συνήθους έκδοσης σε κάθε checkpoint μικρότερης μορφής ούτε να συνάγεται η ρυθμισμένη χωρητικότητα μιας συγκεκριμένης υπηρεσίας.\n\nΧρησιμοποιήστε το παράθυρο συμφραζομένων για τα αποσπάσματα και τη συνομιλία που σχετίζονται με μία καθορισμένη ενέργεια. Ένα εκτενές έγγραφο μπορεί και πάλι να απαιτεί μια σύντομη σύνοψη, ένα αναδιατυπωμένο ερώτημα αναζήτησης ή μια απάντηση βασισμένη σε πηγή. Προσδιορίστε το υλικό που πρέπει να διατηρήσει το αποτέλεσμα και το μήκος ή τα πεδία που χρειάζεται το επόμενο βήμα της εφαρμογής.\n\nΑνάκτηση, συνόψεις και αναδιατύπωση\n\nΓια σύνοψη, δώστε το πραγματικό απόσπασμα ή τη συνομιλία και προσδιορίστε το κοινό, το μήκος και τα ουσιώδη γεγονότα. Ένα χρήσιμο αποτέλεσμα μπορεί να διαχωρίζει το κεντρικό ζήτημα, τις ήδη δηλωμένες αποφάσεις και τα ανοιχτά ερωτήματα. Αν η πηγή περιέχει πολλά θέματα, προσδιορίστε ποιο πρέπει να καλύπτει η σύνοψη, αντί να ζητάτε μια μη κατευθυνόμενη συμπύκνωση των πάντων.\n\nΓια ανάκτηση γνώσης, δώστε τα επιλεγμένα αποσπάσματα πηγών ή τις πληροφορίες που επέστρεψε ένα συστατικό ανάκτησης. Ζητήστε τη δήλωση που απαντά στο ερώτημα και το απόσπασμα που την υποστηρίζει. Η απάντηση κειμένου του μοντέλου μπορεί να εξηγεί ανακτημένες πληροφορίες, ενώ η αναζήτηση σε ιδιωτική συλλογή παραμένει εργασία της συνδεδεμένης εφαρμογής. Δεν αποκτά αυτή τη συλλογή απλώς από την ετικέτα της χρήσης ανάκτησης.\n\nΓια αναδιατύπωση ερωτήματος, δώστε το αρχικό ερώτημα και τον σκοπό της αναζήτησης. Ζητήστε συνοπτική αναδιατύπωση που διατηρεί την οντότητα, τη συνθήκη και τη ζητούμενη πληροφορία. Ένα ερώτημα υποστήριξης μπορεί να αναδιατυπωθεί με τον όρο προϊόντος και την ενέργεια που έχουν σημασία, χωρίς να προστεθεί γεγονός που δεν υπάρχει στο μήνυμα του χρήστη. Επιστρέψτε το αναθεωρημένο ερώτημα χωριστά από κάθε εξήγηση αν άλλο συστατικό θα το χρησιμοποιήσει απευθείας.\n\nΓια έναν βοηθό συγγραφής, προσδιορίστε τον αναγνώστη, τον τόνο και τα γεγονότα της πηγής πριν ζητήσετε μια σύντομη επιστολή ή αναθεωρημένο απόσπασμα. Για μια εργασία εξαγωγής πληροφοριών, ορίστε τα πεδία και τον τρόπο αναπαράστασης πληροφοριών που απουσιάζουν. Αυτές είναι συγκεκριμένες ενέργειες που συνδέουν την τεκμηριωμένη έμφαση του συμπαγούς μοντέλου στο κείμενο με ένα παραδοτέο που μπορεί να εξεταστεί.\n\nΥποστηριζόμενες γλώσσες και εκπαίδευση\n\nΟι επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Το μοντέλο εκπαιδεύεται σε ευρύτερη συλλογή γλωσσών, διαφορετική από τις οκτώ γλώσσες που υποστηρίζει ρητά η κάρτα. Προσδιορίστε την τελική γλώσσα και οποιουσδήποτε όρους ή αναγνωριστικά πρέπει να παραμένουν αμετάβλητα.\n\nΗ οικογένεια προεκπαιδεύεται σε έως εννέα τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Για τα μοντέλα 1B και 3B, ο δημιουργός χρησιμοποιεί εξόδους από τα Llama 3.1 8B και 70B ως στόχους εκπαίδευσης σε επίπεδο token και απόσταξη γνώσης μετά το κλάδεμα. Πρόκειται για διαδικασία εκπαίδευσης· δεν σημαίνει ότι το εγκατεστημένο μοντέλο 1B ζητά από αυτά τα μεγαλύτερα μοντέλα να απαντήσουν σε κάθε ερώτηση χρήστη.\n\nΗ κάρτα περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση βάσει προτιμήσεων, με γύρους πρόσθετης εκπαίδευσης που περιλαμβάνουν εποπτευόμενα παραδείγματα, δειγματοληψία απόρριψης και άμεση βελτιστοποίηση προτιμήσεων. Αυτά τα στάδια παράγουν τη συμπεριφορά Instruct, διατηρώντας το ονομασμένο checkpoint και την αποκλειστικά κειμενική τροπικότητα.\n\nΣυνομιλία και κβαντισμένες εκδόσεις\n\nΟ δημιουργός παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη χρησιμοποιώντας την αντίστοιχη μορφή συνομιλίας. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης χωριστά από το πραγματικό πηγαίο κείμενο. Κρατήστε τη σχετική προηγούμενη απάντηση όταν ένα επόμενο αίτημα ζητά αναθεώρηση, διευκρίνιση ή διαφορετική μορφή των ίδιων πληροφοριών.\n\nΗ έκδοση τεκμηριώνει επίσης διακριτές παραλλαγές με εκπαίδευση που λαμβάνει υπόψη την κβάντιση και με κβάντιση μετά την εκπαίδευση. Η ακρίβεια και το παράθυρο 8 χιλ. tokens τους ανήκουν σε αυτές τις παραλλαγές και δεν αποτελούν καθολική προδιαγραφή για αυτή τη συνήθη καταχώριση Instruct. Χρησιμοποιήστε το ακριβές checkpoint και τη διαμόρφωση όταν συγκρίνετε μια επαναλαμβανόμενη εργασία ή προετοιμάζετε παράγωγη εγκατάσταση.\n\nΟυσιαστικά όρια\n\nΑυτή η έκδοση 1B είναι αποκλειστικά κειμενική. Δεν πρέπει να κληρονομεί είσοδο εικόνας από τα μοντέλα όρασης 11B ή 90B του Llama 3.2, τις δυνατότητες κειμένου και εικόνας του Llama 4 ή τα ονομασμένα στοιχεία ελέγχου επιπέδου συλλογιστικής του Muse Spark. Το παράδειγμα παραγωγής 256 tokens της κάρτας είναι ενδεικτική ρύθμιση, όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα απάντησης.\n\nΈνα πρακτικό τελικό αποτέλεσμα είναι η ζητούμενη σύνοψη, το ερώτημα, η εξαγόμενη εγγραφή ή το αναδιατυπωμένο κείμενο, διατηρώντας το σχετικό νόημα και τα αναγνωριστικά της πηγής. Οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστό σκληρό μέγιστο tokens εξόδου. Κρατήστε την εργασία εστιασμένη, το υλικό εισόδου πλήρες για αυτή την ενέργεια και τη διάκριση παραθύρου μεταξύ συνήθους και κβαντισμένης έκδοσης ρητή.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructΤο Llama 3.2 1B Instruct είναι το συμπαγές μοντέλο κειμένου της Meta με 1,23 δισ. παραμέτρους για διάλογο, σύνοψη, ανάκτηση γνώσης και αναδιατύπωση ερωτημάτων. Ο δημιουργός αναφέρει παράθυρο 128 χιλ. tokens για τη συνήθη έκδοση και 8 χιλ. για χωριστές κβαντισμένες παραλλαγές, με πολυγλωσσική έξοδο κειμένου και κώδικα.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama 3.2 1B Instruct είναι το συμπαγές μοντέλο κειμένου της Meta που έχει προσαρμοστεί σε οδηγίες, με 1,23 δισεκατομμύρια παραμέτρους στον πίνακα του δημιουργού. Δέχεται πολυγλωσσικό κείμενο και επιστρέφει κείμενο ή κώδικα. Η έκδοση προορίζεται για διάλογο, ανάκτηση γνώσης, σύνοψη, βοηθούς συγγραφής σε κινητά και αναδιατύπωση ερωτημάτων ή προτροπών, αντί για τις εργασίες κατανόησης εικόνας των ξεχωριστών εκδόσεων όρασης Llama.
Πληροφορίες μοντέλου και συμφραζόμενα
Το μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων και κοινά embeddings. Η Meta διακρίνει προεκπαιδευμένα και προσαρμοσμένα σε οδηγίες μοντέλα 1B και 3B. Αυτή η καταχώριση αφορά το checkpoint 1B Instruct, του οποίου η εργασία είναι να ακολουθεί το αίτημα του χρήστη σε μια συνομιλία, αντί να χρησιμεύει ως προεκπαιδευμένη βάση.
Η συνήθης έκδοση κειμένου τεκμηριώνεται με παράθυρο συμφραζομένων 128 χιλ. tokens. Ο δημιουργός αναφέρει χωριστά παράθυρο 8 χιλ. tokens για τα κβαντισμένα μοντέλα κειμένου του. Αυτές οι διαμορφώσεις πρέπει να παραμένουν διακριτές: η κβάντιση δεν επιτρέπει να μεταφέρεται το παράθυρο της συνήθους έκδοσης σε κάθε checkpoint μικρότερης μορφής ούτε να συνάγεται η ρυθμισμένη χωρητικότητα μιας συγκεκριμένης υπηρεσίας.
Χρησιμοποιήστε το παράθυρο συμφραζομένων για τα αποσπάσματα και τη συνομιλία που σχετίζονται με μία καθορισμένη ενέργεια. Ένα εκτενές έγγραφο μπορεί και πάλι να απαιτεί μια σύντομη σύνοψη, ένα αναδιατυπωμένο ερώτημα αναζήτησης ή μια απάντηση βασισμένη σε πηγή. Προσδιορίστε το υλικό που πρέπει να διατηρήσει το αποτέλεσμα και το μήκος ή τα πεδία που χρειάζεται το επόμενο βήμα της εφαρμογής.
Ανάκτηση, συνόψεις και αναδιατύπωση
Για σύνοψη, δώστε το πραγματικό απόσπασμα ή τη συνομιλία και προσδιορίστε το κοινό, το μήκος και τα ουσιώδη γεγονότα. Ένα χρήσιμο αποτέλεσμα μπορεί να διαχωρίζει το κεντρικό ζήτημα, τις ήδη δηλωμένες αποφάσεις και τα ανοιχτά ερωτήματα. Αν η πηγή περιέχει πολλά θέματα, προσδιορίστε ποιο πρέπει να καλύπτει η σύνοψη, αντί να ζητάτε μια μη κατευθυνόμενη συμπύκνωση των πάντων.
Για ανάκτηση γνώσης, δώστε τα επιλεγμένα αποσπάσματα πηγών ή τις πληροφορίες που επέστρεψε ένα συστατικό ανάκτησης. Ζητήστε τη δήλωση που απαντά στο ερώτημα και το απόσπασμα που την υποστηρίζει. Η απάντηση κειμένου του μοντέλου μπορεί να εξηγεί ανακτημένες πληροφορίες, ενώ η αναζήτηση σε ιδιωτική συλλογή παραμένει εργασία της συνδεδεμένης εφαρμογής. Δεν αποκτά αυτή τη συλλογή απλώς από την ετικέτα της χρήσης ανάκτησης.
Για αναδιατύπωση ερωτήματος, δώστε το αρχικό ερώτημα και τον σκοπό της αναζήτησης. Ζητήστε συνοπτική αναδιατύπωση που διατηρεί την οντότητα, τη συνθήκη και τη ζητούμενη πληροφορία. Ένα ερώτημα υποστήριξης μπορεί να αναδιατυπωθεί με τον όρο προϊόντος και την ενέργεια που έχουν σημασία, χωρίς να προστεθεί γεγονός που δεν υπάρχει στο μήνυμα του χρήστη. Επιστρέψτε το αναθεωρημένο ερώτημα χωριστά από κάθε εξήγηση αν άλλο συστατικό θα το χρησιμοποιήσει απευθείας.
Για έναν βοηθό συγγραφής, προσδιορίστε τον αναγνώστη, τον τόνο και τα γεγονότα της πηγής πριν ζητήσετε μια σύντομη επιστολή ή αναθεωρημένο απόσπασμα. Για μια εργασία εξαγωγής πληροφοριών, ορίστε τα πεδία και τον τρόπο αναπαράστασης πληροφοριών που απουσιάζουν. Αυτές είναι συγκεκριμένες ενέργειες που συνδέουν την τεκμηριωμένη έμφαση του συμπαγούς μοντέλου στο κείμενο με ένα παραδοτέο που μπορεί να εξεταστεί.
Υποστηριζόμενες γλώσσες και εκπαίδευση
Οι επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Το μοντέλο εκπαιδεύεται σε ευρύτερη συλλογή γλωσσών, διαφορετική από τις οκτώ γλώσσες που υποστηρίζει ρητά η κάρτα. Προσδιορίστε την τελική γλώσσα και οποιουσδήποτε όρους ή αναγνωριστικά πρέπει να παραμένουν αμετάβλητα.
Η οικογένεια προεκπαιδεύεται σε έως εννέα τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Για τα μοντέλα 1B και 3B, ο δημιουργός χρησιμοποιεί εξόδους από τα Llama 3.1 8B και 70B ως στόχους εκπαίδευσης σε επίπεδο token και απόσταξη γνώσης μετά το κλάδεμα. Πρόκειται για διαδικασία εκπαίδευσης· δεν σημαίνει ότι το εγκατεστημένο μοντέλο 1B ζητά από αυτά τα μεγαλύτερα μοντέλα να απαντήσουν σε κάθε ερώτηση χρήστη.
Η κάρτα περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση βάσει προτιμήσεων, με γύρους πρόσθετης εκπαίδευσης που περιλαμβάνουν εποπτευόμενα παραδείγματα, δειγματοληψία απόρριψης και άμεση βελτιστοποίηση προτιμήσεων. Αυτά τα στάδια παράγουν τη συμπεριφορά Instruct, διατηρώντας το ονομασμένο checkpoint και την αποκλειστικά κειμενική τροπικότητα.
Συνομιλία και κβαντισμένες εκδόσεις
Ο δημιουργός παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη χρησιμοποιώντας την αντίστοιχη μορφή συνομιλίας. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης χωριστά από το πραγματικό πηγαίο κείμενο. Κρατήστε τη σχετική προηγούμενη απάντηση όταν ένα επόμενο αίτημα ζητά αναθεώρηση, διευκρίνιση ή διαφορετική μορφή των ίδιων πληροφοριών.
Η έκδοση τεκμηριώνει επίσης διακριτές παραλλαγές με εκπαίδευση που λαμβάνει υπόψη την κβάντιση και με κβάντιση μετά την εκπαίδευση. Η ακρίβεια και το παράθυρο 8 χιλ. tokens τους ανήκουν σε αυτές τις παραλλαγές και δεν αποτελούν καθολική προδιαγραφή για αυτή τη συνήθη καταχώριση Instruct. Χρησιμοποιήστε το ακριβές checkpoint και τη διαμόρφωση όταν συγκρίνετε μια επαναλαμβανόμενη εργασία ή προετοιμάζετε παράγωγη εγκατάσταση.
Ουσιαστικά όρια
Αυτή η έκδοση 1B είναι αποκλειστικά κειμενική. Δεν πρέπει να κληρονομεί είσοδο εικόνας από τα μοντέλα όρασης 11B ή 90B του Llama 3.2, τις δυνατότητες κειμένου και εικόνας του Llama 4 ή τα ονομασμένα στοιχεία ελέγχου επιπέδου συλλογιστικής του Muse Spark. Το παράδειγμα παραγωγής 256 tokens της κάρτας είναι ενδεικτική ρύθμιση, όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα απάντησης.
Ένα πρακτικό τελικό αποτέλεσμα είναι η ζητούμενη σύνοψη, το ερώτημα, η εξαγόμενη εγγραφή ή το αναδιατυπωμένο κείμενο, διατηρώντας το σχετικό νόημα και τα αναγνωριστικά της πηγής. Οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστό σκληρό μέγιστο tokens εξόδου. Κρατήστε την εργασία εστιασμένη, το υλικό εισόδου πλήρες για αυτή την ενέργεια και τη διάκριση παραθύρου μεταξύ συνήθους και κβαντισμένης έκδοσης ρητή.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.2-1b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.000054 / 1K token Έξοδος · Token εξόδου $0.000402 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.000054 / 1K token Έξοδος · Token εξόδου $0.000402 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
meta-llama/llama-3.2-1b-instructΤο Llama 3.2 1B Instruct είναι το συμπαγές μοντέλο κειμένου της Meta με 1,23 δισ. παραμέτρους για διάλογο, σύνοψη, ανάκτηση γνώσης και αναδιατύπωση ερωτημάτων. Ο δημιουργός αναφέρει παράθυρο 128 χιλ. tokens για τη συνήθη έκδοση και 8 χιλ. για χωριστές κβαντισμένες παραλλαγές, με πολυγλωσσική έξοδο κειμένου και κώδικα.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama 3.2 1B Instruct είναι το συμπαγές μοντέλο κειμένου της Meta που έχει προσαρμοστεί σε οδηγίες, με 1,23 δισεκατομμύρια παραμέτρους στον πίνακα του δημιουργού. Δέχεται πολυγλωσσικό κείμενο και επιστρέφει κείμενο ή κώδικα. Η έκδοση προορίζεται για διάλογο, ανάκτηση γνώσης, σύνοψη, βοηθούς συγγραφής σε κινητά και αναδιατύπωση ερωτημάτων ή προτροπών, αντί για τις εργασίες κατανόησης εικόνας των ξεχωριστών εκδόσεων όρασης Llama.
Πληροφορίες μοντέλου και συμφραζόμενα
Το μοντέλο χρησιμοποιεί αυτοπαλίνδρομη αρχιτεκτονική Transformer με προσοχή ομαδοποιημένων ερωτημάτων και κοινά embeddings. Η Meta διακρίνει προεκπαιδευμένα και προσαρμοσμένα σε οδηγίες μοντέλα 1B και 3B. Αυτή η καταχώριση αφορά το checkpoint 1B Instruct, του οποίου η εργασία είναι να ακολουθεί το αίτημα του χρήστη σε μια συνομιλία, αντί να χρησιμεύει ως προεκπαιδευμένη βάση.
Η συνήθης έκδοση κειμένου τεκμηριώνεται με παράθυρο συμφραζομένων 128 χιλ. tokens. Ο δημιουργός αναφέρει χωριστά παράθυρο 8 χιλ. tokens για τα κβαντισμένα μοντέλα κειμένου του. Αυτές οι διαμορφώσεις πρέπει να παραμένουν διακριτές: η κβάντιση δεν επιτρέπει να μεταφέρεται το παράθυρο της συνήθους έκδοσης σε κάθε checkpoint μικρότερης μορφής ούτε να συνάγεται η ρυθμισμένη χωρητικότητα μιας συγκεκριμένης υπηρεσίας.
Χρησιμοποιήστε το παράθυρο συμφραζομένων για τα αποσπάσματα και τη συνομιλία που σχετίζονται με μία καθορισμένη ενέργεια. Ένα εκτενές έγγραφο μπορεί και πάλι να απαιτεί μια σύντομη σύνοψη, ένα αναδιατυπωμένο ερώτημα αναζήτησης ή μια απάντηση βασισμένη σε πηγή. Προσδιορίστε το υλικό που πρέπει να διατηρήσει το αποτέλεσμα και το μήκος ή τα πεδία που χρειάζεται το επόμενο βήμα της εφαρμογής.
Ανάκτηση, συνόψεις και αναδιατύπωση
Για σύνοψη, δώστε το πραγματικό απόσπασμα ή τη συνομιλία και προσδιορίστε το κοινό, το μήκος και τα ουσιώδη γεγονότα. Ένα χρήσιμο αποτέλεσμα μπορεί να διαχωρίζει το κεντρικό ζήτημα, τις ήδη δηλωμένες αποφάσεις και τα ανοιχτά ερωτήματα. Αν η πηγή περιέχει πολλά θέματα, προσδιορίστε ποιο πρέπει να καλύπτει η σύνοψη, αντί να ζητάτε μια μη κατευθυνόμενη συμπύκνωση των πάντων.
Για ανάκτηση γνώσης, δώστε τα επιλεγμένα αποσπάσματα πηγών ή τις πληροφορίες που επέστρεψε ένα συστατικό ανάκτησης. Ζητήστε τη δήλωση που απαντά στο ερώτημα και το απόσπασμα που την υποστηρίζει. Η απάντηση κειμένου του μοντέλου μπορεί να εξηγεί ανακτημένες πληροφορίες, ενώ η αναζήτηση σε ιδιωτική συλλογή παραμένει εργασία της συνδεδεμένης εφαρμογής. Δεν αποκτά αυτή τη συλλογή απλώς από την ετικέτα της χρήσης ανάκτησης.
Για αναδιατύπωση ερωτήματος, δώστε το αρχικό ερώτημα και τον σκοπό της αναζήτησης. Ζητήστε συνοπτική αναδιατύπωση που διατηρεί την οντότητα, τη συνθήκη και τη ζητούμενη πληροφορία. Ένα ερώτημα υποστήριξης μπορεί να αναδιατυπωθεί με τον όρο προϊόντος και την ενέργεια που έχουν σημασία, χωρίς να προστεθεί γεγονός που δεν υπάρχει στο μήνυμα του χρήστη. Επιστρέψτε το αναθεωρημένο ερώτημα χωριστά από κάθε εξήγηση αν άλλο συστατικό θα το χρησιμοποιήσει απευθείας.
Για έναν βοηθό συγγραφής, προσδιορίστε τον αναγνώστη, τον τόνο και τα γεγονότα της πηγής πριν ζητήσετε μια σύντομη επιστολή ή αναθεωρημένο απόσπασμα. Για μια εργασία εξαγωγής πληροφοριών, ορίστε τα πεδία και τον τρόπο αναπαράστασης πληροφοριών που απουσιάζουν. Αυτές είναι συγκεκριμένες ενέργειες που συνδέουν την τεκμηριωμένη έμφαση του συμπαγούς μοντέλου στο κείμενο με ένα παραδοτέο που μπορεί να εξεταστεί.
Υποστηριζόμενες γλώσσες και εκπαίδευση
Οι επίσημα υποστηριζόμενες γλώσσες είναι αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά. Το μοντέλο εκπαιδεύεται σε ευρύτερη συλλογή γλωσσών, διαφορετική από τις οκτώ γλώσσες που υποστηρίζει ρητά η κάρτα. Προσδιορίστε την τελική γλώσσα και οποιουσδήποτε όρους ή αναγνωριστικά πρέπει να παραμένουν αμετάβλητα.
Η οικογένεια προεκπαιδεύεται σε έως εννέα τρισεκατομμύρια tokens, με όριο δεδομένων τον Δεκέμβριο του 2023. Για τα μοντέλα 1B και 3B, ο δημιουργός χρησιμοποιεί εξόδους από τα Llama 3.1 8B και 70B ως στόχους εκπαίδευσης σε επίπεδο token και απόσταξη γνώσης μετά το κλάδεμα. Πρόκειται για διαδικασία εκπαίδευσης· δεν σημαίνει ότι το εγκατεστημένο μοντέλο 1B ζητά από αυτά τα μεγαλύτερα μοντέλα να απαντήσουν σε κάθε ερώτηση χρήστη.
Η κάρτα περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση βάσει προτιμήσεων, με γύρους πρόσθετης εκπαίδευσης που περιλαμβάνουν εποπτευόμενα παραδείγματα, δειγματοληψία απόρριψης και άμεση βελτιστοποίηση προτιμήσεων. Αυτά τα στάδια παράγουν τη συμπεριφορά Instruct, διατηρώντας το ονομασμένο checkpoint και την αποκλειστικά κειμενική τροπικότητα.
Συνομιλία και κβαντισμένες εκδόσεις
Ο δημιουργός παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη χρησιμοποιώντας την αντίστοιχη μορφή συνομιλίας. Ορίστε τον ρόλο του βοηθού και τις απαιτήσεις απάντησης χωριστά από το πραγματικό πηγαίο κείμενο. Κρατήστε τη σχετική προηγούμενη απάντηση όταν ένα επόμενο αίτημα ζητά αναθεώρηση, διευκρίνιση ή διαφορετική μορφή των ίδιων πληροφοριών.
Η έκδοση τεκμηριώνει επίσης διακριτές παραλλαγές με εκπαίδευση που λαμβάνει υπόψη την κβάντιση και με κβάντιση μετά την εκπαίδευση. Η ακρίβεια και το παράθυρο 8 χιλ. tokens τους ανήκουν σε αυτές τις παραλλαγές και δεν αποτελούν καθολική προδιαγραφή για αυτή τη συνήθη καταχώριση Instruct. Χρησιμοποιήστε το ακριβές checkpoint και τη διαμόρφωση όταν συγκρίνετε μια επαναλαμβανόμενη εργασία ή προετοιμάζετε παράγωγη εγκατάσταση.
Ουσιαστικά όρια
Αυτή η έκδοση 1B είναι αποκλειστικά κειμενική. Δεν πρέπει να κληρονομεί είσοδο εικόνας από τα μοντέλα όρασης 11B ή 90B του Llama 3.2, τις δυνατότητες κειμένου και εικόνας του Llama 4 ή τα ονομασμένα στοιχεία ελέγχου επιπέδου συλλογιστικής του Muse Spark. Το παράδειγμα παραγωγής 256 tokens της κάρτας είναι ενδεικτική ρύθμιση, όχι ανεξάρτητα δηλωμένη μέγιστη χωρητικότητα απάντησης.
Ένα πρακτικό τελικό αποτέλεσμα είναι η ζητούμενη σύνοψη, το ερώτημα, η εξαγόμενη εγγραφή ή το αναδιατυπωμένο κείμενο, διατηρώντας το σχετικό νόημα και τα αναγνωριστικά της πηγής. Οι πηγές που εξετάστηκαν δεν δηλώνουν ξεχωριστό σκληρό μέγιστο tokens εξόδου. Κρατήστε την εργασία εστιασμένη, το υλικό εισόδου πλήρες για αυτή την ενέργεια και τη διάκριση παραθύρου μεταξύ συνήθους και κβαντισμένης έκδοσης ρητή.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.2-1b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.000054 / 1K token Έξοδος · Token εξόδου $0.000402 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.000054 / 1K token Έξοδος · Token εξόδου $0.000402 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.