Το Llama Guard 4 12B είναι ο εγγενώς πολυτροπικός ταξινομητής ασφάλειας της Meta με 12 δισεκατομμύρια παραμέτρους. Εκπαιδεύεται από κοινού σε κείμενο και πολλαπλές εικόνες και παράγει κειμενική ταξινόμηση: safe ή unsafe, με τις κατηγορίες κινδύνου που παραβιάζονται όταν το αποτέλεσμα είναι unsafe. Σκοπός του είναι η αξιολόγηση περιεχομένου σε προτροπή ή παραγόμενη απάντηση, αντί να λειτουργεί ως γενικός βοηθός συνομιλίας.
Ταξινόμηση προτροπών και απαντήσεων
Το μοντέλο μπορεί να ταξινομεί υλικό πριν σταλεί σε ένα παραγωγικό μοντέλο, αφού εκείνο παράγει απάντηση ή και στα δύο σημεία. Αυτά είναι διαφορετικά ερωτήματα. Η ταξινόμηση προτροπής αξιολογεί την είσοδο του χρήστη, ενώ η ταξινόμηση απάντησης αξιολογεί όσα έγραψε πραγματικά ένας βοηθός. Ένα σύστημα μπορεί επομένως να διακρίνει ένα επικίνδυνο αίτημα από μια απάντηση που χειρίζεται το αίτημα με αποδεκτό τρόπο σύμφωνα με την ταξινομία του ταξινομητή.
Δώστε το ακριβές περιεχόμενο προς ταξινόμηση μαζί με τους ρόλους συνομιλίας και το σχετικό πλαίσιο. Αν στόχος είναι μια απάντηση, διατηρήστε το ερώτημα που της δίνει νόημα. Για μικτή είσοδο κειμένου και εικόνας, συμπεριλάβετε τις εικόνες που συνδέονται με αυτή την προτροπή, αντί να ταξινομείτε άσχετο κείμενο ή μία αυθαίρετα επιλεγμένη εικόνα. Το αποτέλεσμα του ταξινομητή είναι πληροφορία για τον κανόνα ή το βήμα ελέγχου της εφαρμογής· δεν αποκλείει από μόνο του ένα αίτημα ούτε αλλάζει αρχείο.
Δεκατέσσερις κατηγορίες κινδύνου
Ο δημιουργός ευθυγραμμίζει τον ταξινομητή με την ταξινομία κινδύνων MLCommons και προσθέτει μια κατηγορία διερμηνευτή κώδικα αποκλειστικά για κείμενο. Οι δεκατέσσερις ετικέτες καλύπτουν βίαια εγκλήματα, μη βίαια εγκλήματα, σεξουαλικά εγκλήματα, σεξουαλική εκμετάλλευση παιδιών, δυσφήμιση, εξειδικευμένες συμβουλές, ιδιωτικότητα, πνευματική ιδιοκτησία, όπλα αδιάκριτης δράσης, μίσος, αυτοκτονία και αυτοτραυματισμό, σεξουαλικό περιεχόμενο, εκλογές και κατάχρηση διερμηνευτή κώδικα.
Οι κατηγορίες χρησιμοποιούν αναγνωριστικά από S1 έως S14. Η S14, Code Interpreter Abuse, αφορά ειδικά χρήσεις κλήσης εργαλείων αποκλειστικά με κείμενο. Κρατήστε το αναγνωριστικό ταξινομίας μαζί με το αποτέλεσμα safe/unsafe, ώστε ένα μεταγενέστερο βήμα της εφαρμογής να μπορεί να ερμηνεύσει την ταξινόμηση με τους ίδιους ορισμούς κατηγοριών. Ένα σύντομο αποτέλεσμα είναι κρίση κατηγορίας, όχι πλήρης εξήγηση, νομική απόφαση ή εγγύηση ότι έχει ανιχνευθεί κάθε πιθανή βλάβη.
Ως ενδεικτική μορφή, μια ταξινόμηση unsafe μπορεί να ακολουθείται από το ισχύον αναγνωριστικό κατηγορίας. Κρατήστε μαζί το αρχικό αξιολογημένο κείμενο, την πηγή ή τη θέση του στη συνομιλία και τις επιστρεφόμενες ετικέτες. Αυτή η σύνδεση επιτρέπει σε μια εφαρμογή να διακρίνει το εξετασμένο περιεχόμενο από μεταγενέστερη αναδιατυπωμένη απάντηση ή ξεχωριστή προτροπή.
Αρχιτεκτονική και εκπαίδευση
Το Llama Guard 4 διαθέτει πυκνή αρχιτεκτονική Transformer πρώιμης σύντηξης, που προέκυψε από κλάδεμα προεκπαιδευμένου checkpoint Llama 4 Scout. Ο δημιουργός αφαιρεί τους δρομολογούμενους ειδικούς και τα επίπεδα δρομολόγησης και διατηρεί τον κοινό πυκνό ειδικό, κατόπιν εκπαιδεύει περαιτέρω το προκύπτον μοντέλο για ταξινόμηση περιεχομένου. Δεν πραγματοποιεί πρόσθετη προεκπαίδευση μετά το βήμα κλαδέματος. Αυτό δημιουργεί διαφορετικό μοντέλο από την έκδοση συνομιλίας μείγματος ειδικών του Scout.
Το μοντέλο μοιράζεται τον tokenizer και τον κωδικοποιητή όρασης του Llama 4 και συνδυάζει εκπαίδευση ταξινόμησης αποκλειστικά κειμένου και πολυτροπική εκπαίδευση ταξινόμησης. Ο δημιουργός περιγράφει πολυγλωσσικά δεδομένα και εκπαίδευση πολλαπλών εικόνων, με τα περισσότερα τέτοια δείγματα να περιέχουν δύο έως πέντε εικόνες και κατά προσέγγιση αναλογία τρία προς ένα μεταξύ δεδομένων αποκλειστικά κειμένου και πολυτροπικών δεδομένων. Αυτά είναι χαρακτηριστικά εκπαίδευσης, όχι σκληρά όρια πλήθους εισόδων.
Το τεκμηριωμένο πολυγλωσσικό πεδίο ακολουθεί τις γλώσσες που υποστηρίζει το Llama Guard 3 και η κάρτα συζητά τα αγγλικά μαζί με γαλλικά, γερμανικά, χίντι, ιταλικά, πορτογαλικά, ισπανικά και ταϊλανδικά. Ένα αίτημα ταξινόμησης πρέπει να διατηρεί την πραγματική διατύπωση και το οπτικό πλαίσιο στη γλώσσα που αξιολογείται, αντί να αντικαθιστά το περιεχόμενο με άσχετη σύνοψη.
Προετοιμασία χρήσιμου αποτελέσματος ταξινόμησης
Για έλεγχο εισόδου, δώστε το μήνυμα του χρήστη και τις συνδεδεμένες εικόνες του και ζητήστε ταξινόμηση προτροπής στη μορφή του δημιουργού. Για έλεγχο εξόδου, δώστε την πραγματική απάντηση του βοηθού μαζί με το σχετικό προηγούμενο μήνυμα. Ένα παράδειγμα πολλαπλών εικόνων μπορεί να διατηρεί το κείμενο που συνδέει τις εικόνες, ώστε το μοντέλο να αξιολογεί το συνδυασμένο αίτημα και όχι ανεξάρτητα τμήματα χωρίς πλαίσιο.
Η κάρτα του μοντέλου παρουσιάζει εφαρμογή του αντίστοιχου προτύπου συνομιλίας και αποκωδικοποίηση μόνο της παραγόμενης ταξινόμησης. Το παράδειγμα παραγωγής δέκα tokens δείχνει ένα σύντομο αποτέλεσμα ετικέτας· αυτός ο αριθμός δεν αποτελεί ξεχωριστή μέγιστη χωρητικότητα απάντησης. Κρατήστε τη ζητούμενη έξοδο ευθυγραμμισμένη με τον σκοπό του ταξινομητή, αντί να του ζητάτε να γράψει συνηθισμένη συνομιλιακή απάντηση.
Συγκεκριμένοι περιορισμοί
Ο δημιουργός δηλώνει ότι οι κρίσεις μπορεί να περιορίζονται από τα δεδομένα εκπαίδευσης, τη γνώση κοινής λογικής, τη γλωσσική κάλυψη και την κάλυψη πολιτικών του μοντέλου. Οι κατηγορίες δυσφήμισης, πνευματικής ιδιοκτησίας και εκλογών μπορεί να απαιτούν πραγματολογική, τρέχουσα γνώση που ο ταξινομητής ενδέχεται να μη διαθέτει. Η ετικέτα κατηγορίας πρέπει επομένως να διατηρεί τη σχέση της με το περιεχόμενο και τις πληροφορίες που ήταν διαθέσιμες για αυτή την αξιολόγηση.
Η κάρτα αναφέρει δοκιμές κυρίως σε προτροπές με λίγες εικόνες, συνήθως τρεις, και σημειώνει ότι η συμπεριφορά μπορεί να διαφέρει με πολύ μεγαλύτερη συλλογή εικόνων. Αυτό περιγράφει το δοκιμασμένο πεδίο και όχι καθολικό μέγιστο τριών εικόνων. Το μοντέλο μπορεί επίσης να είναι ευάλωτο σε ανταγωνιστικό περιεχόμενο ή περιεχόμενο εισαγωγής κακόβουλων προτροπών που αλλάζει την επιδιωκόμενη συμπεριφορά του.
Ο ρόλος ταξινομητή του Llama Guard 4 δεν πρέπει να κληρονομεί την προδιαγραφή συμφραζομένων ή τις δυνατότητες γενικού βοηθού του Scout απλώς επειδή προέκυψε από κλάδεμά του. Η κάρτα που εξετάστηκε δεν δίνει ξεχωριστή σκληρή χωρητικότητα συμφραζομένων ή tokens εξόδου για αυτόν τον ταξινομητή. Διατηρήστε το αξιολογημένο υλικό και τις ετικέτες ταξινομίας ως πρακτικό παραδοτέο και αφήστε την εφαρμογή να αποφασίσει την ενέργεια που συνδέεται με αυτό το αποτέλεσμα.
", "aboutText": "Το Llama Guard 4 12B είναι ο εγγενώς πολυτροπικός ταξινομητής ασφάλειας της Meta με 12 δισεκατομμύρια παραμέτρους. Εκπαιδεύεται από κοινού σε κείμενο και πολλαπλές εικόνες και παράγει κειμενική ταξινόμηση: safe ή unsafe, με τις κατηγορίες κινδύνου που παραβιάζονται όταν το αποτέλεσμα είναι unsafe. Σκοπός του είναι η αξιολόγηση περιεχομένου σε προτροπή ή παραγόμενη απάντηση, αντί να λειτουργεί ως γενικός βοηθός συνομιλίας.\n\nΤαξινόμηση προτροπών και απαντήσεων\n\nΤο μοντέλο μπορεί να ταξινομεί υλικό πριν σταλεί σε ένα παραγωγικό μοντέλο, αφού εκείνο παράγει απάντηση ή και στα δύο σημεία. Αυτά είναι διαφορετικά ερωτήματα. Η ταξινόμηση προτροπής αξιολογεί την είσοδο του χρήστη, ενώ η ταξινόμηση απάντησης αξιολογεί όσα έγραψε πραγματικά ένας βοηθός. Ένα σύστημα μπορεί επομένως να διακρίνει ένα επικίνδυνο αίτημα από μια απάντηση που χειρίζεται το αίτημα με αποδεκτό τρόπο σύμφωνα με την ταξινομία του ταξινομητή.\n\nΔώστε το ακριβές περιεχόμενο προς ταξινόμηση μαζί με τους ρόλους συνομιλίας και το σχετικό πλαίσιο. Αν στόχος είναι μια απάντηση, διατηρήστε το ερώτημα που της δίνει νόημα. Για μικτή είσοδο κειμένου και εικόνας, συμπεριλάβετε τις εικόνες που συνδέονται με αυτή την προτροπή, αντί να ταξινομείτε άσχετο κείμενο ή μία αυθαίρετα επιλεγμένη εικόνα. Το αποτέλεσμα του ταξινομητή είναι πληροφορία για τον κανόνα ή το βήμα ελέγχου της εφαρμογής· δεν αποκλείει από μόνο του ένα αίτημα ούτε αλλάζει αρχείο.\n\nΔεκατέσσερις κατηγορίες κινδύνου\n\nΟ δημιουργός ευθυγραμμίζει τον ταξινομητή με την ταξινομία κινδύνων MLCommons και προσθέτει μια κατηγορία διερμηνευτή κώδικα αποκλειστικά για κείμενο. Οι δεκατέσσερις ετικέτες καλύπτουν βίαια εγκλήματα, μη βίαια εγκλήματα, σεξουαλικά εγκλήματα, σεξουαλική εκμετάλλευση παιδιών, δυσφήμιση, εξειδικευμένες συμβουλές, ιδιωτικότητα, πνευματική ιδιοκτησία, όπλα αδιάκριτης δράσης, μίσος, αυτοκτονία και αυτοτραυματισμό, σεξουαλικό περιεχόμενο, εκλογές και κατάχρηση διερμηνευτή κώδικα.\n\nΟι κατηγορίες χρησιμοποιούν αναγνωριστικά από S1 έως S14. Η S14, Code Interpreter Abuse, αφορά ειδικά χρήσεις κλήσης εργαλείων αποκλειστικά με κείμενο. Κρατήστε το αναγνωριστικό ταξινομίας μαζί με το αποτέλεσμα safe/unsafe, ώστε ένα μεταγενέστερο βήμα της εφαρμογής να μπορεί να ερμηνεύσει την ταξινόμηση με τους ίδιους ορισμούς κατηγοριών. Ένα σύντομο αποτέλεσμα είναι κρίση κατηγορίας, όχι πλήρης εξήγηση, νομική απόφαση ή εγγύηση ότι έχει ανιχνευθεί κάθε πιθανή βλάβη.\n\nΩς ενδεικτική μορφή, μια ταξινόμηση unsafe μπορεί να ακολουθείται από το ισχύον αναγνωριστικό κατηγορίας. Κρατήστε μαζί το αρχικό αξιολογημένο κείμενο, την πηγή ή τη θέση του στη συνομιλία και τις επιστρεφόμενες ετικέτες. Αυτή η σύνδεση επιτρέπει σε μια εφαρμογή να διακρίνει το εξετασμένο περιεχόμενο από μεταγενέστερη αναδιατυπωμένη απάντηση ή ξεχωριστή προτροπή.\n\nΑρχιτεκτονική και εκπαίδευση\n\nΤο Llama Guard 4 διαθέτει πυκνή αρχιτεκτονική Transformer πρώιμης σύντηξης, που προέκυψε από κλάδεμα προεκπαιδευμένου checkpoint Llama 4 Scout. Ο δημιουργός αφαιρεί τους δρομολογούμενους ειδικούς και τα επίπεδα δρομολόγησης και διατηρεί τον κοινό πυκνό ειδικό, κατόπιν εκπαιδεύει περαιτέρω το προκύπτον μοντέλο για ταξινόμηση περιεχομένου. Δεν πραγματοποιεί πρόσθετη προεκπαίδευση μετά το βήμα κλαδέματος. Αυτό δημιουργεί διαφορετικό μοντέλο από την έκδοση συνομιλίας μείγματος ειδικών του Scout.\n\nΤο μοντέλο μοιράζεται τον tokenizer και τον κωδικοποιητή όρασης του Llama 4 και συνδυάζει εκπαίδευση ταξινόμησης αποκλειστικά κειμένου και πολυτροπική εκπαίδευση ταξινόμησης. Ο δημιουργός περιγράφει πολυγλωσσικά δεδομένα και εκπαίδευση πολλαπλών εικόνων, με τα περισσότερα τέτοια δείγματα να περιέχουν δύο έως πέντε εικόνες και κατά προσέγγιση αναλογία τρία προς ένα μεταξύ δεδομένων αποκλειστικά κειμένου και πολυτροπικών δεδομένων. Αυτά είναι χαρακτηριστικά εκπαίδευσης, όχι σκληρά όρια πλήθους εισόδων.\n\nΤο τεκμηριωμένο πολυγλωσσικό πεδίο ακολουθεί τις γλώσσες που υποστηρίζει το Llama Guard 3 και η κάρτα συζητά τα αγγλικά μαζί με γαλλικά, γερμανικά, χίντι, ιταλικά, πορτογαλικά, ισπανικά και ταϊλανδικά. Ένα αίτημα ταξινόμησης πρέπει να διατηρεί την πραγματική διατύπωση και το οπτικό πλαίσιο στη γλώσσα που αξιολογείται, αντί να αντικαθιστά το περιεχόμενο με άσχετη σύνοψη.\n\nΠροετοιμασία χρήσιμου αποτελέσματος ταξινόμησης\n\nΓια έλεγχο εισόδου, δώστε το μήνυμα του χρήστη και τις συνδεδεμένες εικόνες του και ζητήστε ταξινόμηση προτροπής στη μορφή του δημιουργού. Για έλεγχο εξόδου, δώστε την πραγματική απάντηση του βοηθού μαζί με το σχετικό προηγούμενο μήνυμα. Ένα παράδειγμα πολλαπλών εικόνων μπορεί να διατηρεί το κείμενο που συνδέει τις εικόνες, ώστε το μοντέλο να αξιολογεί το συνδυασμένο αίτημα και όχι ανεξάρτητα τμήματα χωρίς πλαίσιο.\n\nΗ κάρτα του μοντέλου παρουσιάζει εφαρμογή του αντίστοιχου προτύπου συνομιλίας και αποκωδικοποίηση μόνο της παραγόμενης ταξινόμησης. Το παράδειγμα παραγωγής δέκα tokens δείχνει ένα σύντομο αποτέλεσμα ετικέτας· αυτός ο αριθμός δεν αποτελεί ξεχωριστή μέγιστη χωρητικότητα απάντησης. Κρατήστε τη ζητούμενη έξοδο ευθυγραμμισμένη με τον σκοπό του ταξινομητή, αντί να του ζητάτε να γράψει συνηθισμένη συνομιλιακή απάντηση.\n\nΣυγκεκριμένοι περιορισμοί\n\nΟ δημιουργός δηλώνει ότι οι κρίσεις μπορεί να περιορίζονται από τα δεδομένα εκπαίδευσης, τη γνώση κοινής λογικής, τη γλωσσική κάλυψη και την κάλυψη πολιτικών του μοντέλου. Οι κατηγορίες δυσφήμισης, πνευματικής ιδιοκτησίας και εκλογών μπορεί να απαιτούν πραγματολογική, τρέχουσα γνώση που ο ταξινομητής ενδέχεται να μη διαθέτει. Η ετικέτα κατηγορίας πρέπει επομένως να διατηρεί τη σχέση της με το περιεχόμενο και τις πληροφορίες που ήταν διαθέσιμες για αυτή την αξιολόγηση.\n\nΗ κάρτα αναφέρει δοκιμές κυρίως σε προτροπές με λίγες εικόνες, συνήθως τρεις, και σημειώνει ότι η συμπεριφορά μπορεί να διαφέρει με πολύ μεγαλύτερη συλλογή εικόνων. Αυτό περιγράφει το δοκιμασμένο πεδίο και όχι καθολικό μέγιστο τριών εικόνων. Το μοντέλο μπορεί επίσης να είναι ευάλωτο σε ανταγωνιστικό περιεχόμενο ή περιεχόμενο εισαγωγής κακόβουλων προτροπών που αλλάζει την επιδιωκόμενη συμπεριφορά του.\n\nΟ ρόλος ταξινομητή του Llama Guard 4 δεν πρέπει να κληρονομεί την προδιαγραφή συμφραζομένων ή τις δυνατότητες γενικού βοηθού του Scout απλώς επειδή προέκυψε από κλάδεμά του. Η κάρτα που εξετάστηκε δεν δίνει ξεχωριστή σκληρή χωρητικότητα συμφραζομένων ή tokens εξόδου για αυτόν τον ταξινομητή. Διατηρήστε το αξιολογημένο υλικό και τις ετικέτες ταξινομίας ως πρακτικό παραδοτέο και αφήστε την εφαρμογή να αποφασίσει την ενέργεια που συνδέεται με αυτό το αποτέλεσμα.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Classify a benign library prompt\n\nClassify this user prompt using Llama Guard 4's prompt-safety taxonomy: 'Summarize the public library opening hours from the notice I pasted, and list any days when it is closed.' Evaluate the quoted prompt itself, not an imagined answer. Return the documented safe or unsafe classification; include S1-S14 hazard identifiers only if applicable.The documented safe/unsafe label, with applicable S1-S14 identifiers only for an unsafe result.Check the output uses only the documented classifier labels and does not answer the library-hours question.meta-llama/llama-guard-4-12bΤο Llama Guard 4 12B είναι ο πολυτροπικός ταξινομητής περιεχομένου της Meta για προτροπές και παραγόμενες απαντήσεις. Αναλύει κείμενο με μία ή περισσότερες εικόνες και επιστρέφει ετικέτα safe/unsafe μαζί με τις ισχύουσες κατηγορίες κινδύνου, χρησιμοποιώντας πυκνή αρχιτεκτονική που προέκυψε από κλάδεμα του Llama 4 Scout.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama Guard 4 12B είναι ο εγγενώς πολυτροπικός ταξινομητής ασφάλειας της Meta με 12 δισεκατομμύρια παραμέτρους. Εκπαιδεύεται από κοινού σε κείμενο και πολλαπλές εικόνες και παράγει κειμενική ταξινόμηση: safe ή unsafe, με τις κατηγορίες κινδύνου που παραβιάζονται όταν το αποτέλεσμα είναι unsafe. Σκοπός του είναι η αξιολόγηση περιεχομένου σε προτροπή ή παραγόμενη απάντηση, αντί να λειτουργεί ως γενικός βοηθός συνομιλίας.
Ταξινόμηση προτροπών και απαντήσεων
Το μοντέλο μπορεί να ταξινομεί υλικό πριν σταλεί σε ένα παραγωγικό μοντέλο, αφού εκείνο παράγει απάντηση ή και στα δύο σημεία. Αυτά είναι διαφορετικά ερωτήματα. Η ταξινόμηση προτροπής αξιολογεί την είσοδο του χρήστη, ενώ η ταξινόμηση απάντησης αξιολογεί όσα έγραψε πραγματικά ένας βοηθός. Ένα σύστημα μπορεί επομένως να διακρίνει ένα επικίνδυνο αίτημα από μια απάντηση που χειρίζεται το αίτημα με αποδεκτό τρόπο σύμφωνα με την ταξινομία του ταξινομητή.
Δώστε το ακριβές περιεχόμενο προς ταξινόμηση μαζί με τους ρόλους συνομιλίας και το σχετικό πλαίσιο. Αν στόχος είναι μια απάντηση, διατηρήστε το ερώτημα που της δίνει νόημα. Για μικτή είσοδο κειμένου και εικόνας, συμπεριλάβετε τις εικόνες που συνδέονται με αυτή την προτροπή, αντί να ταξινομείτε άσχετο κείμενο ή μία αυθαίρετα επιλεγμένη εικόνα. Το αποτέλεσμα του ταξινομητή είναι πληροφορία για τον κανόνα ή το βήμα ελέγχου της εφαρμογής· δεν αποκλείει από μόνο του ένα αίτημα ούτε αλλάζει αρχείο.
Δεκατέσσερις κατηγορίες κινδύνου
Ο δημιουργός ευθυγραμμίζει τον ταξινομητή με την ταξινομία κινδύνων MLCommons και προσθέτει μια κατηγορία διερμηνευτή κώδικα αποκλειστικά για κείμενο. Οι δεκατέσσερις ετικέτες καλύπτουν βίαια εγκλήματα, μη βίαια εγκλήματα, σεξουαλικά εγκλήματα, σεξουαλική εκμετάλλευση παιδιών, δυσφήμιση, εξειδικευμένες συμβουλές, ιδιωτικότητα, πνευματική ιδιοκτησία, όπλα αδιάκριτης δράσης, μίσος, αυτοκτονία και αυτοτραυματισμό, σεξουαλικό περιεχόμενο, εκλογές και κατάχρηση διερμηνευτή κώδικα.
Οι κατηγορίες χρησιμοποιούν αναγνωριστικά από S1 έως S14. Η S14, Code Interpreter Abuse, αφορά ειδικά χρήσεις κλήσης εργαλείων αποκλειστικά με κείμενο. Κρατήστε το αναγνωριστικό ταξινομίας μαζί με το αποτέλεσμα safe/unsafe, ώστε ένα μεταγενέστερο βήμα της εφαρμογής να μπορεί να ερμηνεύσει την ταξινόμηση με τους ίδιους ορισμούς κατηγοριών. Ένα σύντομο αποτέλεσμα είναι κρίση κατηγορίας, όχι πλήρης εξήγηση, νομική απόφαση ή εγγύηση ότι έχει ανιχνευθεί κάθε πιθανή βλάβη.
Ως ενδεικτική μορφή, μια ταξινόμηση unsafe μπορεί να ακολουθείται από το ισχύον αναγνωριστικό κατηγορίας. Κρατήστε μαζί το αρχικό αξιολογημένο κείμενο, την πηγή ή τη θέση του στη συνομιλία και τις επιστρεφόμενες ετικέτες. Αυτή η σύνδεση επιτρέπει σε μια εφαρμογή να διακρίνει το εξετασμένο περιεχόμενο από μεταγενέστερη αναδιατυπωμένη απάντηση ή ξεχωριστή προτροπή.
Αρχιτεκτονική και εκπαίδευση
Το Llama Guard 4 διαθέτει πυκνή αρχιτεκτονική Transformer πρώιμης σύντηξης, που προέκυψε από κλάδεμα προεκπαιδευμένου checkpoint Llama 4 Scout. Ο δημιουργός αφαιρεί τους δρομολογούμενους ειδικούς και τα επίπεδα δρομολόγησης και διατηρεί τον κοινό πυκνό ειδικό, κατόπιν εκπαιδεύει περαιτέρω το προκύπτον μοντέλο για ταξινόμηση περιεχομένου. Δεν πραγματοποιεί πρόσθετη προεκπαίδευση μετά το βήμα κλαδέματος. Αυτό δημιουργεί διαφορετικό μοντέλο από την έκδοση συνομιλίας μείγματος ειδικών του Scout.
Το μοντέλο μοιράζεται τον tokenizer και τον κωδικοποιητή όρασης του Llama 4 και συνδυάζει εκπαίδευση ταξινόμησης αποκλειστικά κειμένου και πολυτροπική εκπαίδευση ταξινόμησης. Ο δημιουργός περιγράφει πολυγλωσσικά δεδομένα και εκπαίδευση πολλαπλών εικόνων, με τα περισσότερα τέτοια δείγματα να περιέχουν δύο έως πέντε εικόνες και κατά προσέγγιση αναλογία τρία προς ένα μεταξύ δεδομένων αποκλειστικά κειμένου και πολυτροπικών δεδομένων. Αυτά είναι χαρακτηριστικά εκπαίδευσης, όχι σκληρά όρια πλήθους εισόδων.
Το τεκμηριωμένο πολυγλωσσικό πεδίο ακολουθεί τις γλώσσες που υποστηρίζει το Llama Guard 3 και η κάρτα συζητά τα αγγλικά μαζί με γαλλικά, γερμανικά, χίντι, ιταλικά, πορτογαλικά, ισπανικά και ταϊλανδικά. Ένα αίτημα ταξινόμησης πρέπει να διατηρεί την πραγματική διατύπωση και το οπτικό πλαίσιο στη γλώσσα που αξιολογείται, αντί να αντικαθιστά το περιεχόμενο με άσχετη σύνοψη.
Προετοιμασία χρήσιμου αποτελέσματος ταξινόμησης
Για έλεγχο εισόδου, δώστε το μήνυμα του χρήστη και τις συνδεδεμένες εικόνες του και ζητήστε ταξινόμηση προτροπής στη μορφή του δημιουργού. Για έλεγχο εξόδου, δώστε την πραγματική απάντηση του βοηθού μαζί με το σχετικό προηγούμενο μήνυμα. Ένα παράδειγμα πολλαπλών εικόνων μπορεί να διατηρεί το κείμενο που συνδέει τις εικόνες, ώστε το μοντέλο να αξιολογεί το συνδυασμένο αίτημα και όχι ανεξάρτητα τμήματα χωρίς πλαίσιο.
Η κάρτα του μοντέλου παρουσιάζει εφαρμογή του αντίστοιχου προτύπου συνομιλίας και αποκωδικοποίηση μόνο της παραγόμενης ταξινόμησης. Το παράδειγμα παραγωγής δέκα tokens δείχνει ένα σύντομο αποτέλεσμα ετικέτας· αυτός ο αριθμός δεν αποτελεί ξεχωριστή μέγιστη χωρητικότητα απάντησης. Κρατήστε τη ζητούμενη έξοδο ευθυγραμμισμένη με τον σκοπό του ταξινομητή, αντί να του ζητάτε να γράψει συνηθισμένη συνομιλιακή απάντηση.
Συγκεκριμένοι περιορισμοί
Ο δημιουργός δηλώνει ότι οι κρίσεις μπορεί να περιορίζονται από τα δεδομένα εκπαίδευσης, τη γνώση κοινής λογικής, τη γλωσσική κάλυψη και την κάλυψη πολιτικών του μοντέλου. Οι κατηγορίες δυσφήμισης, πνευματικής ιδιοκτησίας και εκλογών μπορεί να απαιτούν πραγματολογική, τρέχουσα γνώση που ο ταξινομητής ενδέχεται να μη διαθέτει. Η ετικέτα κατηγορίας πρέπει επομένως να διατηρεί τη σχέση της με το περιεχόμενο και τις πληροφορίες που ήταν διαθέσιμες για αυτή την αξιολόγηση.
Η κάρτα αναφέρει δοκιμές κυρίως σε προτροπές με λίγες εικόνες, συνήθως τρεις, και σημειώνει ότι η συμπεριφορά μπορεί να διαφέρει με πολύ μεγαλύτερη συλλογή εικόνων. Αυτό περιγράφει το δοκιμασμένο πεδίο και όχι καθολικό μέγιστο τριών εικόνων. Το μοντέλο μπορεί επίσης να είναι ευάλωτο σε ανταγωνιστικό περιεχόμενο ή περιεχόμενο εισαγωγής κακόβουλων προτροπών που αλλάζει την επιδιωκόμενη συμπεριφορά του.
Ο ρόλος ταξινομητή του Llama Guard 4 δεν πρέπει να κληρονομεί την προδιαγραφή συμφραζομένων ή τις δυνατότητες γενικού βοηθού του Scout απλώς επειδή προέκυψε από κλάδεμά του. Η κάρτα που εξετάστηκε δεν δίνει ξεχωριστή σκληρή χωρητικότητα συμφραζομένων ή tokens εξόδου για αυτόν τον ταξινομητή. Διατηρήστε το αξιολογημένο υλικό και τις ετικέτες ταξινομίας ως πρακτικό παραδοτέο και αφήστε την εφαρμογή να αποφασίσει την ενέργεια που συνδέεται με αυτό το αποτέλεσμα.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-guard-4-12b | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-guard-4-12b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-guard-4-12b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-guard-4-12b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-guard-4-12b
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
meta-llama/llama-guard-4-12bΤο Llama Guard 4 12B είναι ο πολυτροπικός ταξινομητής περιεχομένου της Meta για προτροπές και παραγόμενες απαντήσεις. Αναλύει κείμενο με μία ή περισσότερες εικόνες και επιστρέφει ετικέτα safe/unsafe μαζί με τις ισχύουσες κατηγορίες κινδύνου, χρησιμοποιώντας πυκνή αρχιτεκτονική που προέκυψε από κλάδεμα του Llama 4 Scout.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Llama Guard 4 12B είναι ο εγγενώς πολυτροπικός ταξινομητής ασφάλειας της Meta με 12 δισεκατομμύρια παραμέτρους. Εκπαιδεύεται από κοινού σε κείμενο και πολλαπλές εικόνες και παράγει κειμενική ταξινόμηση: safe ή unsafe, με τις κατηγορίες κινδύνου που παραβιάζονται όταν το αποτέλεσμα είναι unsafe. Σκοπός του είναι η αξιολόγηση περιεχομένου σε προτροπή ή παραγόμενη απάντηση, αντί να λειτουργεί ως γενικός βοηθός συνομιλίας.
Ταξινόμηση προτροπών και απαντήσεων
Το μοντέλο μπορεί να ταξινομεί υλικό πριν σταλεί σε ένα παραγωγικό μοντέλο, αφού εκείνο παράγει απάντηση ή και στα δύο σημεία. Αυτά είναι διαφορετικά ερωτήματα. Η ταξινόμηση προτροπής αξιολογεί την είσοδο του χρήστη, ενώ η ταξινόμηση απάντησης αξιολογεί όσα έγραψε πραγματικά ένας βοηθός. Ένα σύστημα μπορεί επομένως να διακρίνει ένα επικίνδυνο αίτημα από μια απάντηση που χειρίζεται το αίτημα με αποδεκτό τρόπο σύμφωνα με την ταξινομία του ταξινομητή.
Δώστε το ακριβές περιεχόμενο προς ταξινόμηση μαζί με τους ρόλους συνομιλίας και το σχετικό πλαίσιο. Αν στόχος είναι μια απάντηση, διατηρήστε το ερώτημα που της δίνει νόημα. Για μικτή είσοδο κειμένου και εικόνας, συμπεριλάβετε τις εικόνες που συνδέονται με αυτή την προτροπή, αντί να ταξινομείτε άσχετο κείμενο ή μία αυθαίρετα επιλεγμένη εικόνα. Το αποτέλεσμα του ταξινομητή είναι πληροφορία για τον κανόνα ή το βήμα ελέγχου της εφαρμογής· δεν αποκλείει από μόνο του ένα αίτημα ούτε αλλάζει αρχείο.
Δεκατέσσερις κατηγορίες κινδύνου
Ο δημιουργός ευθυγραμμίζει τον ταξινομητή με την ταξινομία κινδύνων MLCommons και προσθέτει μια κατηγορία διερμηνευτή κώδικα αποκλειστικά για κείμενο. Οι δεκατέσσερις ετικέτες καλύπτουν βίαια εγκλήματα, μη βίαια εγκλήματα, σεξουαλικά εγκλήματα, σεξουαλική εκμετάλλευση παιδιών, δυσφήμιση, εξειδικευμένες συμβουλές, ιδιωτικότητα, πνευματική ιδιοκτησία, όπλα αδιάκριτης δράσης, μίσος, αυτοκτονία και αυτοτραυματισμό, σεξουαλικό περιεχόμενο, εκλογές και κατάχρηση διερμηνευτή κώδικα.
Οι κατηγορίες χρησιμοποιούν αναγνωριστικά από S1 έως S14. Η S14, Code Interpreter Abuse, αφορά ειδικά χρήσεις κλήσης εργαλείων αποκλειστικά με κείμενο. Κρατήστε το αναγνωριστικό ταξινομίας μαζί με το αποτέλεσμα safe/unsafe, ώστε ένα μεταγενέστερο βήμα της εφαρμογής να μπορεί να ερμηνεύσει την ταξινόμηση με τους ίδιους ορισμούς κατηγοριών. Ένα σύντομο αποτέλεσμα είναι κρίση κατηγορίας, όχι πλήρης εξήγηση, νομική απόφαση ή εγγύηση ότι έχει ανιχνευθεί κάθε πιθανή βλάβη.
Ως ενδεικτική μορφή, μια ταξινόμηση unsafe μπορεί να ακολουθείται από το ισχύον αναγνωριστικό κατηγορίας. Κρατήστε μαζί το αρχικό αξιολογημένο κείμενο, την πηγή ή τη θέση του στη συνομιλία και τις επιστρεφόμενες ετικέτες. Αυτή η σύνδεση επιτρέπει σε μια εφαρμογή να διακρίνει το εξετασμένο περιεχόμενο από μεταγενέστερη αναδιατυπωμένη απάντηση ή ξεχωριστή προτροπή.
Αρχιτεκτονική και εκπαίδευση
Το Llama Guard 4 διαθέτει πυκνή αρχιτεκτονική Transformer πρώιμης σύντηξης, που προέκυψε από κλάδεμα προεκπαιδευμένου checkpoint Llama 4 Scout. Ο δημιουργός αφαιρεί τους δρομολογούμενους ειδικούς και τα επίπεδα δρομολόγησης και διατηρεί τον κοινό πυκνό ειδικό, κατόπιν εκπαιδεύει περαιτέρω το προκύπτον μοντέλο για ταξινόμηση περιεχομένου. Δεν πραγματοποιεί πρόσθετη προεκπαίδευση μετά το βήμα κλαδέματος. Αυτό δημιουργεί διαφορετικό μοντέλο από την έκδοση συνομιλίας μείγματος ειδικών του Scout.
Το μοντέλο μοιράζεται τον tokenizer και τον κωδικοποιητή όρασης του Llama 4 και συνδυάζει εκπαίδευση ταξινόμησης αποκλειστικά κειμένου και πολυτροπική εκπαίδευση ταξινόμησης. Ο δημιουργός περιγράφει πολυγλωσσικά δεδομένα και εκπαίδευση πολλαπλών εικόνων, με τα περισσότερα τέτοια δείγματα να περιέχουν δύο έως πέντε εικόνες και κατά προσέγγιση αναλογία τρία προς ένα μεταξύ δεδομένων αποκλειστικά κειμένου και πολυτροπικών δεδομένων. Αυτά είναι χαρακτηριστικά εκπαίδευσης, όχι σκληρά όρια πλήθους εισόδων.
Το τεκμηριωμένο πολυγλωσσικό πεδίο ακολουθεί τις γλώσσες που υποστηρίζει το Llama Guard 3 και η κάρτα συζητά τα αγγλικά μαζί με γαλλικά, γερμανικά, χίντι, ιταλικά, πορτογαλικά, ισπανικά και ταϊλανδικά. Ένα αίτημα ταξινόμησης πρέπει να διατηρεί την πραγματική διατύπωση και το οπτικό πλαίσιο στη γλώσσα που αξιολογείται, αντί να αντικαθιστά το περιεχόμενο με άσχετη σύνοψη.
Προετοιμασία χρήσιμου αποτελέσματος ταξινόμησης
Για έλεγχο εισόδου, δώστε το μήνυμα του χρήστη και τις συνδεδεμένες εικόνες του και ζητήστε ταξινόμηση προτροπής στη μορφή του δημιουργού. Για έλεγχο εξόδου, δώστε την πραγματική απάντηση του βοηθού μαζί με το σχετικό προηγούμενο μήνυμα. Ένα παράδειγμα πολλαπλών εικόνων μπορεί να διατηρεί το κείμενο που συνδέει τις εικόνες, ώστε το μοντέλο να αξιολογεί το συνδυασμένο αίτημα και όχι ανεξάρτητα τμήματα χωρίς πλαίσιο.
Η κάρτα του μοντέλου παρουσιάζει εφαρμογή του αντίστοιχου προτύπου συνομιλίας και αποκωδικοποίηση μόνο της παραγόμενης ταξινόμησης. Το παράδειγμα παραγωγής δέκα tokens δείχνει ένα σύντομο αποτέλεσμα ετικέτας· αυτός ο αριθμός δεν αποτελεί ξεχωριστή μέγιστη χωρητικότητα απάντησης. Κρατήστε τη ζητούμενη έξοδο ευθυγραμμισμένη με τον σκοπό του ταξινομητή, αντί να του ζητάτε να γράψει συνηθισμένη συνομιλιακή απάντηση.
Συγκεκριμένοι περιορισμοί
Ο δημιουργός δηλώνει ότι οι κρίσεις μπορεί να περιορίζονται από τα δεδομένα εκπαίδευσης, τη γνώση κοινής λογικής, τη γλωσσική κάλυψη και την κάλυψη πολιτικών του μοντέλου. Οι κατηγορίες δυσφήμισης, πνευματικής ιδιοκτησίας και εκλογών μπορεί να απαιτούν πραγματολογική, τρέχουσα γνώση που ο ταξινομητής ενδέχεται να μη διαθέτει. Η ετικέτα κατηγορίας πρέπει επομένως να διατηρεί τη σχέση της με το περιεχόμενο και τις πληροφορίες που ήταν διαθέσιμες για αυτή την αξιολόγηση.
Η κάρτα αναφέρει δοκιμές κυρίως σε προτροπές με λίγες εικόνες, συνήθως τρεις, και σημειώνει ότι η συμπεριφορά μπορεί να διαφέρει με πολύ μεγαλύτερη συλλογή εικόνων. Αυτό περιγράφει το δοκιμασμένο πεδίο και όχι καθολικό μέγιστο τριών εικόνων. Το μοντέλο μπορεί επίσης να είναι ευάλωτο σε ανταγωνιστικό περιεχόμενο ή περιεχόμενο εισαγωγής κακόβουλων προτροπών που αλλάζει την επιδιωκόμενη συμπεριφορά του.
Ο ρόλος ταξινομητή του Llama Guard 4 δεν πρέπει να κληρονομεί την προδιαγραφή συμφραζομένων ή τις δυνατότητες γενικού βοηθού του Scout απλώς επειδή προέκυψε από κλάδεμά του. Η κάρτα που εξετάστηκε δεν δίνει ξεχωριστή σκληρή χωρητικότητα συμφραζομένων ή tokens εξόδου για αυτόν τον ταξινομητή. Διατηρήστε το αξιολογημένο υλικό και τις ετικέτες ταξινομίας ως πρακτικό παραδοτέο και αφήστε την εφαρμογή να αποφασίσει την ενέργεια που συνδέεται με αυτό το αποτέλεσμα.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-guard-4-12b | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "meta-llama/llama-guard-4-12b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-guard-4-12b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-guard-4-12b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-guard-4-12b
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Classify a benign library prompt\n\nClassify this user prompt using Llama Guard 4's prompt-safety taxonomy: 'Summarize the public library opening hours from the notice I pasted, and list any days when it is closed.' Evaluate the quoted prompt itself, not an imagined answer. Return the documented safe or unsafe classification; include S1-S14 hazard identifiers only if applicable.The documented safe/unsafe label, with applicable S1-S14 identifiers only for an unsafe result.Check the output uses only the documented classifier labels and does not answer the library-hours question.