Το Meta Llama 3.2 3B Instruct είναι μοντέλο κειμένου προσαρμοσμένο σε οδηγίες, σχεδιασμένο για πολυγλωσσικές συνομιλίες βοηθού, εργασία βασισμένη σε ανακτημένες πηγές και σύνοψη. Ο πίνακας μοντέλων του δημιουργού προσδιορίζει κατηγορία 3B με 3,21 δισ. παραμέτρους. Δέχεται κείμενο και παράγει κείμενο ή κώδικα. Η ανάπτυξή του συνδυάζει κλάδεμα μοντέλου και απόσταξη γνώσης με προσαρμογή σε οδηγίες, δημιουργώντας ένα μικρό προφίλ μοντέλου για στοχευμένες εργασίες συγγραφής και βοηθού.
Δώστε στο μοντέλο το πηγαίο υλικό, το ερώτημα και την αναμενόμενη μορφή της απάντησης. Ένα αίτημα βοήθειας στη συγγραφή μπορεί να προσδιορίζει το κοινό, τον τόνο και τις λεπτομέρειες που πρέπει να διατηρηθούν. Μια σύνοψη μπορεί να προσδιορίζει τις ενότητες που πρέπει να καλυφθούν και το επιθυμητό μήκος ή τη δομή. Για μια σύντομη απάντηση βάσης γνώσεων, δώστε το σχετικό απόσπασμα και ζητήστε εξήγηση βασισμένη σε αυτή την πηγή.
Ο δημιουργός αναφέρει την ανάκτηση γνώσης, τη σύνοψη, τους βοηθούς συγγραφής σε κινητά, την αναδιατύπωση ερωτημάτων και την αναδιατύπωση προτροπών μεταξύ των προβλεπόμενων χρήσεων των μοντέλων κειμένου που έχουν προσαρμοστεί σε οδηγίες. Μια εφαρμογή ανάκτησης μπορεί να παρέχει τα αποσπάσματα που βρήκε και να ζητά από το μοντέλο να συνθέσει την απάντηση. Κρατήστε τα αναγνωριστικά αποσπασμάτων μαζί με το αποτέλεσμα, ώστε ο αναγνώστης ή άλλο συστατικό να μπορεί να εξετάσει τα τεκμήρια.
Για αναδιατύπωση ερωτήματος, διατηρήστε το αρχικό ερώτημα και ζητήστε μια συνοπτική διατύπωση αναζήτησης που διατηρεί την πρόθεσή του. Για σύνοψη εγγράφου, ζητήστε τους κύριους ισχυρισμούς και τις επιφυλάξεις που τους επηρεάζουν. Ελέγξτε την πραγματική έξοδο για παραλειπόμενες συνθήκες, αλλαγμένους αριθμούς ή επινοημένες πληροφορίες, ιδίως όταν μια σύντομη απάντηση συμπυκνώνει μια μεγαλύτερη πηγή.
Αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά είναι οι οκτώ επίσημα υποστηριζόμενες γλώσσες. Δηλώστε την επιθυμητή γλώσσα εξόδου και διατηρήστε την ορθογραφία ονομάτων ή εξειδικευμένης ορολογίας που πρέπει να παραμείνει αμετάβλητη. Μια πολυγλωσσική εργασία πρέπει να μεταφέρει αρκετό πλαίσιο πηγής ώστε να κριθεί το νόημα της επιστρεφόμενης διατύπωσης, αντί να βασίζεται μόνο στην ευχέρεια λόγου.
Το τυπικό checkpoint κειμένου Llama 3.2 διαθέτει παράθυρο συμφραζομένων 128 χιλ. tokens. Χρησιμοποιήστε αυτόν τον προϋπολογισμό για σχετικό πηγαίο υλικό, ιστορικό συνομιλίας και το παραγόμενο αποτέλεσμα. Διατηρήστε τις προηγούμενες αποφάσεις που χρειάζονται για τη συνέχεια και αφήστε χώρο για την απάντηση. Το όριο δεδομένων προεκπαίδευσης είναι ο Δεκέμβριος του 2023, επομένως οι μεταγενέστερες πληροφορίες χρειάζονται τεκμήρια παρεχόμενα με την εργασία ή από την περιβάλλουσα εφαρμογή ανάκτησης.
Αυτό είναι το checkpoint Instruct, προετοιμασμένο για διάλογο τύπου βοηθού. Η κάρτα του μοντέλου περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση με ανθρώπινες προτιμήσεις, με πρόσθετη απόσταξη κατά την ανάπτυξη των μικρών μοντέλων. Τα παραδείγματα χρήσης παρέχουν μηνύματα συστήματος και χρήστη μέσω μορφής συνομιλίας. Μια οδηγία συστήματος μπορεί να ορίζει τον ρόλο και τις προσδοκίες εξόδου, ενώ το μήνυμα χρήστη παρέχει την τρέχουσα εργασία και τις πηγές.
Κρατήστε τη μορφή συνομιλίας κατάλληλη για την επιλεγμένη έκδοση όταν χρησιμοποιείτε απευθείας το checkpoint της. Ορίστε σαφώς το αποτέλεσμα και εξετάστε την παραγόμενη απάντηση, συμπεριλαμβανομένης της σχέσης της με τα παρεχόμενα τεκμήρια. Για ένα δομημένο παραδοτέο κειμένου, προσδιορίστε τα απαιτούμενα πεδία ή τις επικεφαλίδες και επικυρώστε την πραγματική έξοδο πριν τη χρησιμοποιήσει μια εφαρμογή· ένα γραπτό αίτημα μορφής δεν εγγυάται ότι κάθε τιμή είναι σωστή.
Ο δημιουργός διακρίνει το τυπικό μοντέλο κειμένου από τα χωριστά δημοσιευμένα κβαντισμένα προφίλ κειμένου Llama 3.2. Ο πίνακας μοντέλων του αναφέρει παράθυρο 8 χιλ. tokens για αυτά τα κβαντισμένα προφίλ, διαφορετικό από το τυπικό παράθυρο 128 χιλ. tokens. Επιλέξτε μαζί το μοντέλο και τον προϋπολογισμό εργασίας, αντί να υποθέτετε ότι κάθε εγκατάσταση με την ένδειξη 3B διατηρεί το ίδιο διαθέσιμο παράθυρο συμφραζομένων.
Το μοντέλο 3B Instruct είναι επίσης ξεχωριστό από τα μεγαλύτερα μοντέλα όρασης του Llama 3.2. Για αυτό το προφίλ κειμένου, προετοιμάστε κειμενικό πηγαίο υλικό ή κείμενο που εξασφαλίζει η περιβάλλουσα εφαρμογή. Χρησιμοποιήστε το μοντέλο για στοχευμένη απάντηση, αναδιατύπωση, σύνοψη ή σύντομη εξήγηση κώδικα. Διατηρήστε το επιλεγμένο checkpoint, την προτροπή και την πηγή μαζί με το αποτέλεσμα και κατόπιν δώστε επόμενη οδηγία ειδικά για τη λεπτομέρεια που λείπει ή το παρατηρημένο σφάλμα.
", "aboutText": "Το Meta Llama 3.2 3B Instruct είναι μοντέλο κειμένου προσαρμοσμένο σε οδηγίες, σχεδιασμένο για πολυγλωσσικές συνομιλίες βοηθού, εργασία βασισμένη σε ανακτημένες πηγές και σύνοψη. Ο πίνακας μοντέλων του δημιουργού προσδιορίζει κατηγορία 3B με 3,21 δισ. παραμέτρους. Δέχεται κείμενο και παράγει κείμενο ή κώδικα. Η ανάπτυξή του συνδυάζει κλάδεμα μοντέλου και απόσταξη γνώσης με προσαρμογή σε οδηγίες, δημιουργώντας ένα μικρό προφίλ μοντέλου για στοχευμένες εργασίες συγγραφής και βοηθού.\n\n### Ορίστε ένα οριοθετημένο αποτέλεσμα κειμένου\n\nΔώστε στο μοντέλο το πηγαίο υλικό, το ερώτημα και την αναμενόμενη μορφή της απάντησης. Ένα αίτημα βοήθειας στη συγγραφή μπορεί να προσδιορίζει το κοινό, τον τόνο και τις λεπτομέρειες που πρέπει να διατηρηθούν. Μια σύνοψη μπορεί να προσδιορίζει τις ενότητες που πρέπει να καλυφθούν και το επιθυμητό μήκος ή τη δομή. Για μια σύντομη απάντηση βάσης γνώσεων, δώστε το σχετικό απόσπασμα και ζητήστε εξήγηση βασισμένη σε αυτή την πηγή.\n\nΟ δημιουργός αναφέρει την ανάκτηση γνώσης, τη σύνοψη, τους βοηθούς συγγραφής σε κινητά, την αναδιατύπωση ερωτημάτων και την αναδιατύπωση προτροπών μεταξύ των προβλεπόμενων χρήσεων των μοντέλων κειμένου που έχουν προσαρμοστεί σε οδηγίες. Μια εφαρμογή ανάκτησης μπορεί να παρέχει τα αποσπάσματα που βρήκε και να ζητά από το μοντέλο να συνθέσει την απάντηση. Κρατήστε τα αναγνωριστικά αποσπασμάτων μαζί με το αποτέλεσμα, ώστε ο αναγνώστης ή άλλο συστατικό να μπορεί να εξετάσει τα τεκμήρια.\n\nΓια αναδιατύπωση ερωτήματος, διατηρήστε το αρχικό ερώτημα και ζητήστε μια συνοπτική διατύπωση αναζήτησης που διατηρεί την πρόθεσή του. Για σύνοψη εγγράφου, ζητήστε τους κύριους ισχυρισμούς και τις επιφυλάξεις που τους επηρεάζουν. Ελέγξτε την πραγματική έξοδο για παραλειπόμενες συνθήκες, αλλαγμένους αριθμούς ή επινοημένες πληροφορίες, ιδίως όταν μια σύντομη απάντηση συμπυκνώνει μια μεγαλύτερη πηγή.\n\n### Γλώσσες και συμφραζόμενα\n\nΑγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά είναι οι οκτώ επίσημα υποστηριζόμενες γλώσσες. Δηλώστε την επιθυμητή γλώσσα εξόδου και διατηρήστε την ορθογραφία ονομάτων ή εξειδικευμένης ορολογίας που πρέπει να παραμείνει αμετάβλητη. Μια πολυγλωσσική εργασία πρέπει να μεταφέρει αρκετό πλαίσιο πηγής ώστε να κριθεί το νόημα της επιστρεφόμενης διατύπωσης, αντί να βασίζεται μόνο στην ευχέρεια λόγου.\n\nΤο τυπικό checkpoint κειμένου Llama 3.2 διαθέτει παράθυρο συμφραζομένων 128 χιλ. tokens. Χρησιμοποιήστε αυτόν τον προϋπολογισμό για σχετικό πηγαίο υλικό, ιστορικό συνομιλίας και το παραγόμενο αποτέλεσμα. Διατηρήστε τις προηγούμενες αποφάσεις που χρειάζονται για τη συνέχεια και αφήστε χώρο για την απάντηση. Το όριο δεδομένων προεκπαίδευσης είναι ο Δεκέμβριος του 2023, επομένως οι μεταγενέστερες πληροφορίες χρειάζονται τεκμήρια παρεχόμενα με την εργασία ή από την περιβάλλουσα εφαρμογή ανάκτησης.\n\n### Προσαρμογή σε οδηγίες και μορφή συνομιλίας\n\nΑυτό είναι το checkpoint Instruct, προετοιμασμένο για διάλογο τύπου βοηθού. Η κάρτα του μοντέλου περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση με ανθρώπινες προτιμήσεις, με πρόσθετη απόσταξη κατά την ανάπτυξη των μικρών μοντέλων. Τα παραδείγματα χρήσης παρέχουν μηνύματα συστήματος και χρήστη μέσω μορφής συνομιλίας. Μια οδηγία συστήματος μπορεί να ορίζει τον ρόλο και τις προσδοκίες εξόδου, ενώ το μήνυμα χρήστη παρέχει την τρέχουσα εργασία και τις πηγές.\n\nΚρατήστε τη μορφή συνομιλίας κατάλληλη για την επιλεγμένη έκδοση όταν χρησιμοποιείτε απευθείας το checkpoint της. Ορίστε σαφώς το αποτέλεσμα και εξετάστε την παραγόμενη απάντηση, συμπεριλαμβανομένης της σχέσης της με τα παρεχόμενα τεκμήρια. Για ένα δομημένο παραδοτέο κειμένου, προσδιορίστε τα απαιτούμενα πεδία ή τις επικεφαλίδες και επικυρώστε την πραγματική έξοδο πριν τη χρησιμοποιήσει μια εφαρμογή· ένα γραπτό αίτημα μορφής δεν εγγυάται ότι κάθε τιμή είναι σωστή.\n\n### Τυπικά, κβαντισμένα και οπτικά προφίλ\n\nΟ δημιουργός διακρίνει το τυπικό μοντέλο κειμένου από τα χωριστά δημοσιευμένα κβαντισμένα προφίλ κειμένου Llama 3.2. Ο πίνακας μοντέλων του αναφέρει παράθυρο 8 χιλ. tokens για αυτά τα κβαντισμένα προφίλ, διαφορετικό από το τυπικό παράθυρο 128 χιλ. tokens. Επιλέξτε μαζί το μοντέλο και τον προϋπολογισμό εργασίας, αντί να υποθέτετε ότι κάθε εγκατάσταση με την ένδειξη 3B διατηρεί το ίδιο διαθέσιμο παράθυρο συμφραζομένων.\n\nΤο μοντέλο 3B Instruct είναι επίσης ξεχωριστό από τα μεγαλύτερα μοντέλα όρασης του Llama 3.2. Για αυτό το προφίλ κειμένου, προετοιμάστε κειμενικό πηγαίο υλικό ή κείμενο που εξασφαλίζει η περιβάλλουσα εφαρμογή. Χρησιμοποιήστε το μοντέλο για στοχευμένη απάντηση, αναδιατύπωση, σύνοψη ή σύντομη εξήγηση κώδικα. Διατηρήστε το επιλεγμένο checkpoint, την προτροπή και την πηγή μαζί με το αποτέλεσμα και κατόπιν δώστε επόμενη οδηγία ειδικά για τη λεπτομέρεια που λείπει ή το παρατηρημένο σφάλμα.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructΤο Meta Llama 3.2 3B Instruct είναι ένα συμπαγές μοντέλο κειμένου για πολυγλωσσική συνομιλία, συνόψεις βασισμένες σε ανακτημένες πηγές και βοήθεια στη συγγραφή. Το τυπικό checkpoint του διαθέτει παράθυρο συμφραζομένων 128 χιλ. tokens· οι χωριστά δημοσιευμένες κβαντισμένες παραλλαγές έχουν διαφορετικό λειτουργικό παράθυρο.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Meta Llama 3.2 3B Instruct είναι μοντέλο κειμένου προσαρμοσμένο σε οδηγίες, σχεδιασμένο για πολυγλωσσικές συνομιλίες βοηθού, εργασία βασισμένη σε ανακτημένες πηγές και σύνοψη. Ο πίνακας μοντέλων του δημιουργού προσδιορίζει κατηγορία 3B με 3,21 δισ. παραμέτρους. Δέχεται κείμενο και παράγει κείμενο ή κώδικα. Η ανάπτυξή του συνδυάζει κλάδεμα μοντέλου και απόσταξη γνώσης με προσαρμογή σε οδηγίες, δημιουργώντας ένα μικρό προφίλ μοντέλου για στοχευμένες εργασίες συγγραφής και βοηθού.
Δώστε στο μοντέλο το πηγαίο υλικό, το ερώτημα και την αναμενόμενη μορφή της απάντησης. Ένα αίτημα βοήθειας στη συγγραφή μπορεί να προσδιορίζει το κοινό, τον τόνο και τις λεπτομέρειες που πρέπει να διατηρηθούν. Μια σύνοψη μπορεί να προσδιορίζει τις ενότητες που πρέπει να καλυφθούν και το επιθυμητό μήκος ή τη δομή. Για μια σύντομη απάντηση βάσης γνώσεων, δώστε το σχετικό απόσπασμα και ζητήστε εξήγηση βασισμένη σε αυτή την πηγή.
Ο δημιουργός αναφέρει την ανάκτηση γνώσης, τη σύνοψη, τους βοηθούς συγγραφής σε κινητά, την αναδιατύπωση ερωτημάτων και την αναδιατύπωση προτροπών μεταξύ των προβλεπόμενων χρήσεων των μοντέλων κειμένου που έχουν προσαρμοστεί σε οδηγίες. Μια εφαρμογή ανάκτησης μπορεί να παρέχει τα αποσπάσματα που βρήκε και να ζητά από το μοντέλο να συνθέσει την απάντηση. Κρατήστε τα αναγνωριστικά αποσπασμάτων μαζί με το αποτέλεσμα, ώστε ο αναγνώστης ή άλλο συστατικό να μπορεί να εξετάσει τα τεκμήρια.
Για αναδιατύπωση ερωτήματος, διατηρήστε το αρχικό ερώτημα και ζητήστε μια συνοπτική διατύπωση αναζήτησης που διατηρεί την πρόθεσή του. Για σύνοψη εγγράφου, ζητήστε τους κύριους ισχυρισμούς και τις επιφυλάξεις που τους επηρεάζουν. Ελέγξτε την πραγματική έξοδο για παραλειπόμενες συνθήκες, αλλαγμένους αριθμούς ή επινοημένες πληροφορίες, ιδίως όταν μια σύντομη απάντηση συμπυκνώνει μια μεγαλύτερη πηγή.
Αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά είναι οι οκτώ επίσημα υποστηριζόμενες γλώσσες. Δηλώστε την επιθυμητή γλώσσα εξόδου και διατηρήστε την ορθογραφία ονομάτων ή εξειδικευμένης ορολογίας που πρέπει να παραμείνει αμετάβλητη. Μια πολυγλωσσική εργασία πρέπει να μεταφέρει αρκετό πλαίσιο πηγής ώστε να κριθεί το νόημα της επιστρεφόμενης διατύπωσης, αντί να βασίζεται μόνο στην ευχέρεια λόγου.
Το τυπικό checkpoint κειμένου Llama 3.2 διαθέτει παράθυρο συμφραζομένων 128 χιλ. tokens. Χρησιμοποιήστε αυτόν τον προϋπολογισμό για σχετικό πηγαίο υλικό, ιστορικό συνομιλίας και το παραγόμενο αποτέλεσμα. Διατηρήστε τις προηγούμενες αποφάσεις που χρειάζονται για τη συνέχεια και αφήστε χώρο για την απάντηση. Το όριο δεδομένων προεκπαίδευσης είναι ο Δεκέμβριος του 2023, επομένως οι μεταγενέστερες πληροφορίες χρειάζονται τεκμήρια παρεχόμενα με την εργασία ή από την περιβάλλουσα εφαρμογή ανάκτησης.
Αυτό είναι το checkpoint Instruct, προετοιμασμένο για διάλογο τύπου βοηθού. Η κάρτα του μοντέλου περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση με ανθρώπινες προτιμήσεις, με πρόσθετη απόσταξη κατά την ανάπτυξη των μικρών μοντέλων. Τα παραδείγματα χρήσης παρέχουν μηνύματα συστήματος και χρήστη μέσω μορφής συνομιλίας. Μια οδηγία συστήματος μπορεί να ορίζει τον ρόλο και τις προσδοκίες εξόδου, ενώ το μήνυμα χρήστη παρέχει την τρέχουσα εργασία και τις πηγές.
Κρατήστε τη μορφή συνομιλίας κατάλληλη για την επιλεγμένη έκδοση όταν χρησιμοποιείτε απευθείας το checkpoint της. Ορίστε σαφώς το αποτέλεσμα και εξετάστε την παραγόμενη απάντηση, συμπεριλαμβανομένης της σχέσης της με τα παρεχόμενα τεκμήρια. Για ένα δομημένο παραδοτέο κειμένου, προσδιορίστε τα απαιτούμενα πεδία ή τις επικεφαλίδες και επικυρώστε την πραγματική έξοδο πριν τη χρησιμοποιήσει μια εφαρμογή· ένα γραπτό αίτημα μορφής δεν εγγυάται ότι κάθε τιμή είναι σωστή.
Ο δημιουργός διακρίνει το τυπικό μοντέλο κειμένου από τα χωριστά δημοσιευμένα κβαντισμένα προφίλ κειμένου Llama 3.2. Ο πίνακας μοντέλων του αναφέρει παράθυρο 8 χιλ. tokens για αυτά τα κβαντισμένα προφίλ, διαφορετικό από το τυπικό παράθυρο 128 χιλ. tokens. Επιλέξτε μαζί το μοντέλο και τον προϋπολογισμό εργασίας, αντί να υποθέτετε ότι κάθε εγκατάσταση με την ένδειξη 3B διατηρεί το ίδιο διαθέσιμο παράθυρο συμφραζομένων.
Το μοντέλο 3B Instruct είναι επίσης ξεχωριστό από τα μεγαλύτερα μοντέλα όρασης του Llama 3.2. Για αυτό το προφίλ κειμένου, προετοιμάστε κειμενικό πηγαίο υλικό ή κείμενο που εξασφαλίζει η περιβάλλουσα εφαρμογή. Χρησιμοποιήστε το μοντέλο για στοχευμένη απάντηση, αναδιατύπωση, σύνοψη ή σύντομη εξήγηση κώδικα. Διατηρήστε το επιλεγμένο checkpoint, την προτροπή και την πηγή μαζί με το αποτέλεσμα και κατόπιν δώστε επόμενη οδηγία ειδικά για τη λεπτομέρεια που λείπει ή το παρατηρημένο σφάλμα.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.2-3b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
meta-llama/llama-3.2-3b-instructΤο Meta Llama 3.2 3B Instruct είναι ένα συμπαγές μοντέλο κειμένου για πολυγλωσσική συνομιλία, συνόψεις βασισμένες σε ανακτημένες πηγές και βοήθεια στη συγγραφή. Το τυπικό checkpoint του διαθέτει παράθυρο συμφραζομένων 128 χιλ. tokens· οι χωριστά δημοσιευμένες κβαντισμένες παραλλαγές έχουν διαφορετικό λειτουργικό παράθυρο.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Meta Llama 3.2 3B Instruct είναι μοντέλο κειμένου προσαρμοσμένο σε οδηγίες, σχεδιασμένο για πολυγλωσσικές συνομιλίες βοηθού, εργασία βασισμένη σε ανακτημένες πηγές και σύνοψη. Ο πίνακας μοντέλων του δημιουργού προσδιορίζει κατηγορία 3B με 3,21 δισ. παραμέτρους. Δέχεται κείμενο και παράγει κείμενο ή κώδικα. Η ανάπτυξή του συνδυάζει κλάδεμα μοντέλου και απόσταξη γνώσης με προσαρμογή σε οδηγίες, δημιουργώντας ένα μικρό προφίλ μοντέλου για στοχευμένες εργασίες συγγραφής και βοηθού.
Δώστε στο μοντέλο το πηγαίο υλικό, το ερώτημα και την αναμενόμενη μορφή της απάντησης. Ένα αίτημα βοήθειας στη συγγραφή μπορεί να προσδιορίζει το κοινό, τον τόνο και τις λεπτομέρειες που πρέπει να διατηρηθούν. Μια σύνοψη μπορεί να προσδιορίζει τις ενότητες που πρέπει να καλυφθούν και το επιθυμητό μήκος ή τη δομή. Για μια σύντομη απάντηση βάσης γνώσεων, δώστε το σχετικό απόσπασμα και ζητήστε εξήγηση βασισμένη σε αυτή την πηγή.
Ο δημιουργός αναφέρει την ανάκτηση γνώσης, τη σύνοψη, τους βοηθούς συγγραφής σε κινητά, την αναδιατύπωση ερωτημάτων και την αναδιατύπωση προτροπών μεταξύ των προβλεπόμενων χρήσεων των μοντέλων κειμένου που έχουν προσαρμοστεί σε οδηγίες. Μια εφαρμογή ανάκτησης μπορεί να παρέχει τα αποσπάσματα που βρήκε και να ζητά από το μοντέλο να συνθέσει την απάντηση. Κρατήστε τα αναγνωριστικά αποσπασμάτων μαζί με το αποτέλεσμα, ώστε ο αναγνώστης ή άλλο συστατικό να μπορεί να εξετάσει τα τεκμήρια.
Για αναδιατύπωση ερωτήματος, διατηρήστε το αρχικό ερώτημα και ζητήστε μια συνοπτική διατύπωση αναζήτησης που διατηρεί την πρόθεσή του. Για σύνοψη εγγράφου, ζητήστε τους κύριους ισχυρισμούς και τις επιφυλάξεις που τους επηρεάζουν. Ελέγξτε την πραγματική έξοδο για παραλειπόμενες συνθήκες, αλλαγμένους αριθμούς ή επινοημένες πληροφορίες, ιδίως όταν μια σύντομη απάντηση συμπυκνώνει μια μεγαλύτερη πηγή.
Αγγλικά, γερμανικά, γαλλικά, ιταλικά, πορτογαλικά, χίντι, ισπανικά και ταϊλανδικά είναι οι οκτώ επίσημα υποστηριζόμενες γλώσσες. Δηλώστε την επιθυμητή γλώσσα εξόδου και διατηρήστε την ορθογραφία ονομάτων ή εξειδικευμένης ορολογίας που πρέπει να παραμείνει αμετάβλητη. Μια πολυγλωσσική εργασία πρέπει να μεταφέρει αρκετό πλαίσιο πηγής ώστε να κριθεί το νόημα της επιστρεφόμενης διατύπωσης, αντί να βασίζεται μόνο στην ευχέρεια λόγου.
Το τυπικό checkpoint κειμένου Llama 3.2 διαθέτει παράθυρο συμφραζομένων 128 χιλ. tokens. Χρησιμοποιήστε αυτόν τον προϋπολογισμό για σχετικό πηγαίο υλικό, ιστορικό συνομιλίας και το παραγόμενο αποτέλεσμα. Διατηρήστε τις προηγούμενες αποφάσεις που χρειάζονται για τη συνέχεια και αφήστε χώρο για την απάντηση. Το όριο δεδομένων προεκπαίδευσης είναι ο Δεκέμβριος του 2023, επομένως οι μεταγενέστερες πληροφορίες χρειάζονται τεκμήρια παρεχόμενα με την εργασία ή από την περιβάλλουσα εφαρμογή ανάκτησης.
Αυτό είναι το checkpoint Instruct, προετοιμασμένο για διάλογο τύπου βοηθού. Η κάρτα του μοντέλου περιγράφει εποπτευόμενη λεπτομερή προσαρμογή και ευθυγράμμιση με ανθρώπινες προτιμήσεις, με πρόσθετη απόσταξη κατά την ανάπτυξη των μικρών μοντέλων. Τα παραδείγματα χρήσης παρέχουν μηνύματα συστήματος και χρήστη μέσω μορφής συνομιλίας. Μια οδηγία συστήματος μπορεί να ορίζει τον ρόλο και τις προσδοκίες εξόδου, ενώ το μήνυμα χρήστη παρέχει την τρέχουσα εργασία και τις πηγές.
Κρατήστε τη μορφή συνομιλίας κατάλληλη για την επιλεγμένη έκδοση όταν χρησιμοποιείτε απευθείας το checkpoint της. Ορίστε σαφώς το αποτέλεσμα και εξετάστε την παραγόμενη απάντηση, συμπεριλαμβανομένης της σχέσης της με τα παρεχόμενα τεκμήρια. Για ένα δομημένο παραδοτέο κειμένου, προσδιορίστε τα απαιτούμενα πεδία ή τις επικεφαλίδες και επικυρώστε την πραγματική έξοδο πριν τη χρησιμοποιήσει μια εφαρμογή· ένα γραπτό αίτημα μορφής δεν εγγυάται ότι κάθε τιμή είναι σωστή.
Ο δημιουργός διακρίνει το τυπικό μοντέλο κειμένου από τα χωριστά δημοσιευμένα κβαντισμένα προφίλ κειμένου Llama 3.2. Ο πίνακας μοντέλων του αναφέρει παράθυρο 8 χιλ. tokens για αυτά τα κβαντισμένα προφίλ, διαφορετικό από το τυπικό παράθυρο 128 χιλ. tokens. Επιλέξτε μαζί το μοντέλο και τον προϋπολογισμό εργασίας, αντί να υποθέτετε ότι κάθε εγκατάσταση με την ένδειξη 3B διατηρεί το ίδιο διαθέσιμο παράθυρο συμφραζομένων.
Το μοντέλο 3B Instruct είναι επίσης ξεχωριστό από τα μεγαλύτερα μοντέλα όρασης του Llama 3.2. Για αυτό το προφίλ κειμένου, προετοιμάστε κειμενικό πηγαίο υλικό ή κείμενο που εξασφαλίζει η περιβάλλουσα εφαρμογή. Χρησιμοποιήστε το μοντέλο για στοχευμένη απάντηση, αναδιατύπωση, σύνοψη ή σύντομη εξήγηση κώδικα. Διατηρήστε το επιλεγμένο checkpoint, την προτροπή και την πηγή μαζί με το αποτέλεσμα και κατόπιν δώστε επόμενη οδηγία ειδικά για τη λεπτομέρεια που λείπει ή το παρατηρημένο σφάλμα.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια meta-llama/llama-3.2-3b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
Αντιστοιχίστε κάθε χρέωση στις συνθήκες που εμφανίζονται. Χρησιμοποιήστε μία χρέωση ανά σύνολο εναλλακτικών διαμορφώσεων.
| Διαμόρφωση | Πίνακας χρεώσεων | Token συμφραζομένων, πάνω από | Token συμφραζομένων, έως και | Χρέωση |
|---|---|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Token συμφραζομένων, πάνω από— | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
| ΔιαμόρφωσηΕπίπεδο 1 βάσει μήκους αιτήματος | Πίνακας χρεώσεων— | Token συμφραζομένων, πάνω από0 | Token συμφραζομένων, έως καιΧωρίς ανώτατο όριο | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.00066 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη — / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Τεχνικό παράδειγμα στα αγγλικά
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.