Το Qwen2.5-32B-Instruct είναι το μοντέλο κειμένου μεγέθους 32B της γενικής οικογένειας Qwen2.5, προσαρμοσμένο σε οδηγίες. Συνδυάζει κατανόηση και παραγωγή γλώσσας με προγραμματισμό και μαθηματικά, χωρίς να είναι η χωριστά ονομασμένη εξειδικευμένη έκδοση Coder ή Math. Ο δημιουργός δίνει ιδιαίτερη έμφαση στην τήρηση λεπτομερών οδηγιών, στη συγγραφή μεγάλων κειμένων, στην κατανόηση πινάκων και στην παραγωγή δομημένου κειμένου, ιδιαίτερα JSON. Η οικογένεια προεκπαιδεύεται σε ένα σώμα δεδομένων που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token.
Δομημένα δεδομένα, μεγάλες απαντήσεις και πολυγλωσσική εργασία
Μια χρήσιμη εργασία εξαγωγής παρέχει ένα απόσπασμα πηγής και τα ακριβή πεδία που χρειάζονται για το επόμενο βήμα της εφαρμογής. Ορίστε τους τύπους των πεδίων, αν η διατύπωση πρέπει να αντιγραφεί ή να συνοψιστεί και πώς θα αναπαρίστανται οι πληροφορίες που λείπουν. Για παράδειγμα, μια εγγραφή προϊόντος μπορεί να ζητά ένα αναγνωριστικό, συνθήκες λειτουργίας και μια λίστα αναπάντητων ερωτημάτων. Ζητήστε μόνο την εγγραφή JSON όταν πρέπει να αναλυθεί από λογισμικό ή ζητήστε χωριστή εξήγηση όταν ένα άτομο χρειάζεται να εξετάσει τον συλλογισμό πίσω από τα πεδία που εξάγονται.
Η κατανόηση πινάκων είναι μια άλλη τεκμηριωμένη εστίαση. Δώστε τα ονόματα στηλών, τις μονάδες και τις σχετικές γραμμές μαζί με την ερώτηση. Ζητήστε από το μοντέλο να εντοπίσει τις γραμμές που ικανοποιούν μια προϋπόθεση, να εξηγήσει μια μεταβολή μεταξύ περιόδων ή να μετατρέψει έναν πίνακα σε γραπτή αναφορά. Μια πρακτική έξοδος μπορεί να διατηρεί το αναγνωριστικό κάθε γραμμής δίπλα στο εύρημα. Έτσι διατηρείται η σύνδεση μεταξύ των δεδομένων που παρέχονται και της απάντησης, αντί να παράγεται μια σύνοψη χωρίς ανιχνεύσιμη γραμμή πηγής.
Για τη συγγραφή μεγάλων κειμένων, προσδιορίστε το κοινό, τις ενότητες και τα γεγονότα της πηγής πριν ζητήσετε το έγγραφο. Μια τεχνική πρόταση μπορεί να απαιτεί διατύπωση προβλήματος, απαιτήσεις, εναλλακτικές και σύσταση, χρησιμοποιώντας μόνο το υλικό που παρέχεται. Προσδιορίστε ποιες προϋποθέσεις είναι υποχρεωτικές και ποιες είναι ερωτήματα προς επίλυση. Ο δημιουργός βελτιώνει επίσης την ανθεκτικότητα σε διαφορετικές συστημικές οδηγίες, υποστηρίζοντας έναν καθορισμένο ρόλο, τόνο και συνθήκες συνομιλίας.
Η οικογένεια υποστηρίζει περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γαλλικά, ισπανικά, πορτογαλικά, γερμανικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Για μια πολυγλωσσική εργασία, διαχωρίστε τη γλώσσα πηγής από την απαιτούμενη γλώσσα εξόδου και δώστε έναν κατάλογο ορολογίας όταν ονόματα ή τεχνικοί όροι πρέπει να παραμένουν συνεπείς. Μια δίγλωσση αναφορά μπορεί να ζητά τα ίδια γεγονότα της πηγής σε δύο εκδοχές, διατηρώντας αμετάβλητα τα αναγνωριστικά και τις μονάδες.
Λεπτομέρειες αυτής της έκδοσης
Η έκδοση 32B-Instruct έχει 32,5 δισεκατομμύρια παραμέτρους, με 31,0 δισεκατομμύρια παραμέτρους εκτός ενσωματώσεων, και 64 επίπεδα Transformer. Χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών. Πρόκειται για μια πυκνή έκδοση γλωσσικού μοντέλου μόνο με αποκωδικοποιητή, με προεκπαίδευση και μετέπειτα εκπαίδευση· το Instruct προσδιορίζει την έκδοση που εκπαιδεύτηκε για συνομιλία, αντί για το βασικό μοντέλο.
Η κάρτα αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Αυτά τα μεγέθη περιγράφουν διαφορετικά μέρη μιας εργασίας: το πλαίσιο διατηρεί την προτροπή και τη συνομιλία, ενώ το μέγεθος παραγωγής οριοθετεί τη γραπτή απάντηση. Τα 512 παραγόμενα token του οδηγού γρήγορης εκκίνησης είναι απλώς παράδειγμα μέσα στο μεγαλύτερο δηλωμένο όριο παραγωγής. Το μοντέλο δέχεται και επιστρέφει κείμενο· ένας σαρωμένος πίνακας ή ένα στιγμιότυπο οθόνης χρειάζεται να έχει το περιεχόμενό του διαθέσιμο ως κείμενο ή να χρησιμοποιηθεί χωριστό οπτικό μοντέλο.
Συνομιλία και εργαλεία
Η κάρτα του μοντέλου παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη, μορφοποιημένα με το κατάλληλο πρότυπο συνομιλίας. Τοποθετήστε τους σταθερούς κανόνες απάντησης του βοηθού στον κατάλληλο ρόλο συνομιλίας και το πραγματικό έγγραφο, τον πίνακα ή τον κώδικα μαζί με την εργασία του χρήστη. Σημειώστε το όριο μεταξύ παρατιθέμενου υλικού πηγής και οδηγιών, ώστε μια οδηγία που εμφανίζεται μέσα σε ένα έγγραφο να μη θεωρηθεί η εργασία που επιδιώκει η εφαρμογή.
Η επίσημη ανακοίνωση της οικογένειας τεκμηριώνει υποστήριξη κλήσεων εργαλείων μέσω συμβατών προτύπων συνομιλίας και ενσωματώσεων στην υποδομή εξυπηρέτησης. Σε μια τέτοια ροή εργασίας, η εφαρμογή παρέχει τις περιγραφές συναρτήσεων, λαμβάνει την προτεινόμενη κλήση, εκτελεί τη συνάρτηση και επιστρέφει το αποτέλεσμά της. Έτσι μπορεί να συνδεθεί μια ερώτηση κειμένου με έναν υπολογισμό ή μια αναζήτηση δεδομένων, αλλά η επιλογή αυτού του μοντέλου από μόνη της δεν παρέχει το εξωτερικό εργαλείο ή τα δεδομένα του. Η παραγωγή JSON και μια κλήση εργαλείου είναι επίσης διαφορετικά αποτελέσματα: η πρώτη μορφοποιεί κείμενο, ενώ η δεύτερη ζητά από την εφαρμογή που περιβάλλει το μοντέλο να εκτελέσει μια κατονομασμένη λειτουργία.
Προετοιμασία μεγάλου πλαισίου
Η διαμόρφωση που κυκλοφόρησε ξεκινά από 32.768 token. Οι είσοδοι πέρα από αυτή τη ρύθμιση απαιτούν την τεκμηριωμένη επέκταση YaRN, της οποίας το παράδειγμα χρησιμοποιεί συντελεστή 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Ο δημιουργός προειδοποιεί ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα και συνιστά να ενεργοποιείται όταν χρειάζεται επεξεργασία μεγάλου πλαισίου.
Για σύγκριση μεγάλων εγγράφων, προσδιορίστε τον ρόλο κάθε εγγράφου και ζητήστε ένα σαφώς καθορισμένο αποτέλεσμα: έναν πίνακα απαιτήσεων, μια λίστα αποκλίσεων ή μια αναθεωρημένη ενότητα. Διατηρήστε τις θέσεις πηγής δίπλα στα εξαγόμενα ευρήματα και αφήστε αρκετό χώρο απάντησης για την απαιτούμενη δομή. Η χωρητικότητα μεγάλου πλαισίου βοηθά να παραμείνει συγκεντρωμένο το σχετικό υλικό· δεν αντικαθιστά την ανάγκη να οριστεί τι πρέπει να συγκριθεί ή πώς θα χρησιμοποιηθεί το τελικό αποτέλεσμα.
", "aboutText": "Το Qwen2.5-32B-Instruct είναι το μοντέλο κειμένου μεγέθους 32B της γενικής οικογένειας Qwen2.5, προσαρμοσμένο σε οδηγίες. Συνδυάζει κατανόηση και παραγωγή γλώσσας με προγραμματισμό και μαθηματικά, χωρίς να είναι η χωριστά ονομασμένη εξειδικευμένη έκδοση Coder ή Math. Ο δημιουργός δίνει ιδιαίτερη έμφαση στην τήρηση λεπτομερών οδηγιών, στη συγγραφή μεγάλων κειμένων, στην κατανόηση πινάκων και στην παραγωγή δομημένου κειμένου, ιδιαίτερα JSON. Η οικογένεια προεκπαιδεύεται σε ένα σώμα δεδομένων που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token.\n\nΔομημένα δεδομένα, μεγάλες απαντήσεις και πολυγλωσσική εργασία\n\nΜια χρήσιμη εργασία εξαγωγής παρέχει ένα απόσπασμα πηγής και τα ακριβή πεδία που χρειάζονται για το επόμενο βήμα της εφαρμογής. Ορίστε τους τύπους των πεδίων, αν η διατύπωση πρέπει να αντιγραφεί ή να συνοψιστεί και πώς θα αναπαρίστανται οι πληροφορίες που λείπουν. Για παράδειγμα, μια εγγραφή προϊόντος μπορεί να ζητά ένα αναγνωριστικό, συνθήκες λειτουργίας και μια λίστα αναπάντητων ερωτημάτων. Ζητήστε μόνο την εγγραφή JSON όταν πρέπει να αναλυθεί από λογισμικό ή ζητήστε χωριστή εξήγηση όταν ένα άτομο χρειάζεται να εξετάσει τον συλλογισμό πίσω από τα πεδία που εξάγονται.\n\nΗ κατανόηση πινάκων είναι μια άλλη τεκμηριωμένη εστίαση. Δώστε τα ονόματα στηλών, τις μονάδες και τις σχετικές γραμμές μαζί με την ερώτηση. Ζητήστε από το μοντέλο να εντοπίσει τις γραμμές που ικανοποιούν μια προϋπόθεση, να εξηγήσει μια μεταβολή μεταξύ περιόδων ή να μετατρέψει έναν πίνακα σε γραπτή αναφορά. Μια πρακτική έξοδος μπορεί να διατηρεί το αναγνωριστικό κάθε γραμμής δίπλα στο εύρημα. Έτσι διατηρείται η σύνδεση μεταξύ των δεδομένων που παρέχονται και της απάντησης, αντί να παράγεται μια σύνοψη χωρίς ανιχνεύσιμη γραμμή πηγής.\n\nΓια τη συγγραφή μεγάλων κειμένων, προσδιορίστε το κοινό, τις ενότητες και τα γεγονότα της πηγής πριν ζητήσετε το έγγραφο. Μια τεχνική πρόταση μπορεί να απαιτεί διατύπωση προβλήματος, απαιτήσεις, εναλλακτικές και σύσταση, χρησιμοποιώντας μόνο το υλικό που παρέχεται. Προσδιορίστε ποιες προϋποθέσεις είναι υποχρεωτικές και ποιες είναι ερωτήματα προς επίλυση. Ο δημιουργός βελτιώνει επίσης την ανθεκτικότητα σε διαφορετικές συστημικές οδηγίες, υποστηρίζοντας έναν καθορισμένο ρόλο, τόνο και συνθήκες συνομιλίας.\n\nΗ οικογένεια υποστηρίζει περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γαλλικά, ισπανικά, πορτογαλικά, γερμανικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Για μια πολυγλωσσική εργασία, διαχωρίστε τη γλώσσα πηγής από την απαιτούμενη γλώσσα εξόδου και δώστε έναν κατάλογο ορολογίας όταν ονόματα ή τεχνικοί όροι πρέπει να παραμένουν συνεπείς. Μια δίγλωσση αναφορά μπορεί να ζητά τα ίδια γεγονότα της πηγής σε δύο εκδοχές, διατηρώντας αμετάβλητα τα αναγνωριστικά και τις μονάδες.\n\nΛεπτομέρειες αυτής της έκδοσης\n\nΗ έκδοση 32B-Instruct έχει 32,5 δισεκατομμύρια παραμέτρους, με 31,0 δισεκατομμύρια παραμέτρους εκτός ενσωματώσεων, και 64 επίπεδα Transformer. Χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών. Πρόκειται για μια πυκνή έκδοση γλωσσικού μοντέλου μόνο με αποκωδικοποιητή, με προεκπαίδευση και μετέπειτα εκπαίδευση· το Instruct προσδιορίζει την έκδοση που εκπαιδεύτηκε για συνομιλία, αντί για το βασικό μοντέλο.\n\nΗ κάρτα αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Αυτά τα μεγέθη περιγράφουν διαφορετικά μέρη μιας εργασίας: το πλαίσιο διατηρεί την προτροπή και τη συνομιλία, ενώ το μέγεθος παραγωγής οριοθετεί τη γραπτή απάντηση. Τα 512 παραγόμενα token του οδηγού γρήγορης εκκίνησης είναι απλώς παράδειγμα μέσα στο μεγαλύτερο δηλωμένο όριο παραγωγής. Το μοντέλο δέχεται και επιστρέφει κείμενο· ένας σαρωμένος πίνακας ή ένα στιγμιότυπο οθόνης χρειάζεται να έχει το περιεχόμενό του διαθέσιμο ως κείμενο ή να χρησιμοποιηθεί χωριστό οπτικό μοντέλο.\n\nΣυνομιλία και εργαλεία\n\nΗ κάρτα του μοντέλου παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη, μορφοποιημένα με το κατάλληλο πρότυπο συνομιλίας. Τοποθετήστε τους σταθερούς κανόνες απάντησης του βοηθού στον κατάλληλο ρόλο συνομιλίας και το πραγματικό έγγραφο, τον πίνακα ή τον κώδικα μαζί με την εργασία του χρήστη. Σημειώστε το όριο μεταξύ παρατιθέμενου υλικού πηγής και οδηγιών, ώστε μια οδηγία που εμφανίζεται μέσα σε ένα έγγραφο να μη θεωρηθεί η εργασία που επιδιώκει η εφαρμογή.\n\nΗ επίσημη ανακοίνωση της οικογένειας τεκμηριώνει υποστήριξη κλήσεων εργαλείων μέσω συμβατών προτύπων συνομιλίας και ενσωματώσεων στην υποδομή εξυπηρέτησης. Σε μια τέτοια ροή εργασίας, η εφαρμογή παρέχει τις περιγραφές συναρτήσεων, λαμβάνει την προτεινόμενη κλήση, εκτελεί τη συνάρτηση και επιστρέφει το αποτέλεσμά της. Έτσι μπορεί να συνδεθεί μια ερώτηση κειμένου με έναν υπολογισμό ή μια αναζήτηση δεδομένων, αλλά η επιλογή αυτού του μοντέλου από μόνη της δεν παρέχει το εξωτερικό εργαλείο ή τα δεδομένα του. Η παραγωγή JSON και μια κλήση εργαλείου είναι επίσης διαφορετικά αποτελέσματα: η πρώτη μορφοποιεί κείμενο, ενώ η δεύτερη ζητά από την εφαρμογή που περιβάλλει το μοντέλο να εκτελέσει μια κατονομασμένη λειτουργία.\n\nΠροετοιμασία μεγάλου πλαισίου\n\nΗ διαμόρφωση που κυκλοφόρησε ξεκινά από 32.768 token. Οι είσοδοι πέρα από αυτή τη ρύθμιση απαιτούν την τεκμηριωμένη επέκταση YaRN, της οποίας το παράδειγμα χρησιμοποιεί συντελεστή 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Ο δημιουργός προειδοποιεί ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα και συνιστά να ενεργοποιείται όταν χρειάζεται επεξεργασία μεγάλου πλαισίου.\n\nΓια σύγκριση μεγάλων εγγράφων, προσδιορίστε τον ρόλο κάθε εγγράφου και ζητήστε ένα σαφώς καθορισμένο αποτέλεσμα: έναν πίνακα απαιτήσεων, μια λίστα αποκλίσεων ή μια αναθεωρημένη ενότητα. Διατηρήστε τις θέσεις πηγής δίπλα στα εξαγόμενα ευρήματα και αφήστε αρκετό χώρο απάντησης για την απαιτούμενη δομή. Η χωρητικότητα μεγάλου πλαισίου βοηθά να παραμείνει συγκεντρωμένο το σχετικό υλικό· δεν αντικαθιστά την ανάγκη να οριστεί τι πρέπει να συγκριθεί ή πώς θα χρησιμοποιηθεί το τελικό αποτέλεσμα.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructΤο Qwen2.5-32B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για λεπτομερείς οδηγίες, προγραμματισμό, μαθηματικά και δομημένα δεδομένα. Η έκδοσή του με 32,5 δισεκατομμύρια παραμέτρους δίνει έμφαση στην κατανόηση πινάκων, στην έξοδο JSON και σε μεγάλα γραπτά αποτελέσματα, με τεκμηριωμένες ρυθμίσεις εκτεταμένου πλαισίου.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-32B-Instruct είναι το μοντέλο κειμένου μεγέθους 32B της γενικής οικογένειας Qwen2.5, προσαρμοσμένο σε οδηγίες. Συνδυάζει κατανόηση και παραγωγή γλώσσας με προγραμματισμό και μαθηματικά, χωρίς να είναι η χωριστά ονομασμένη εξειδικευμένη έκδοση Coder ή Math. Ο δημιουργός δίνει ιδιαίτερη έμφαση στην τήρηση λεπτομερών οδηγιών, στη συγγραφή μεγάλων κειμένων, στην κατανόηση πινάκων και στην παραγωγή δομημένου κειμένου, ιδιαίτερα JSON. Η οικογένεια προεκπαιδεύεται σε ένα σώμα δεδομένων που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token.
Δομημένα δεδομένα, μεγάλες απαντήσεις και πολυγλωσσική εργασία
Μια χρήσιμη εργασία εξαγωγής παρέχει ένα απόσπασμα πηγής και τα ακριβή πεδία που χρειάζονται για το επόμενο βήμα της εφαρμογής. Ορίστε τους τύπους των πεδίων, αν η διατύπωση πρέπει να αντιγραφεί ή να συνοψιστεί και πώς θα αναπαρίστανται οι πληροφορίες που λείπουν. Για παράδειγμα, μια εγγραφή προϊόντος μπορεί να ζητά ένα αναγνωριστικό, συνθήκες λειτουργίας και μια λίστα αναπάντητων ερωτημάτων. Ζητήστε μόνο την εγγραφή JSON όταν πρέπει να αναλυθεί από λογισμικό ή ζητήστε χωριστή εξήγηση όταν ένα άτομο χρειάζεται να εξετάσει τον συλλογισμό πίσω από τα πεδία που εξάγονται.
Η κατανόηση πινάκων είναι μια άλλη τεκμηριωμένη εστίαση. Δώστε τα ονόματα στηλών, τις μονάδες και τις σχετικές γραμμές μαζί με την ερώτηση. Ζητήστε από το μοντέλο να εντοπίσει τις γραμμές που ικανοποιούν μια προϋπόθεση, να εξηγήσει μια μεταβολή μεταξύ περιόδων ή να μετατρέψει έναν πίνακα σε γραπτή αναφορά. Μια πρακτική έξοδος μπορεί να διατηρεί το αναγνωριστικό κάθε γραμμής δίπλα στο εύρημα. Έτσι διατηρείται η σύνδεση μεταξύ των δεδομένων που παρέχονται και της απάντησης, αντί να παράγεται μια σύνοψη χωρίς ανιχνεύσιμη γραμμή πηγής.
Για τη συγγραφή μεγάλων κειμένων, προσδιορίστε το κοινό, τις ενότητες και τα γεγονότα της πηγής πριν ζητήσετε το έγγραφο. Μια τεχνική πρόταση μπορεί να απαιτεί διατύπωση προβλήματος, απαιτήσεις, εναλλακτικές και σύσταση, χρησιμοποιώντας μόνο το υλικό που παρέχεται. Προσδιορίστε ποιες προϋποθέσεις είναι υποχρεωτικές και ποιες είναι ερωτήματα προς επίλυση. Ο δημιουργός βελτιώνει επίσης την ανθεκτικότητα σε διαφορετικές συστημικές οδηγίες, υποστηρίζοντας έναν καθορισμένο ρόλο, τόνο και συνθήκες συνομιλίας.
Η οικογένεια υποστηρίζει περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γαλλικά, ισπανικά, πορτογαλικά, γερμανικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Για μια πολυγλωσσική εργασία, διαχωρίστε τη γλώσσα πηγής από την απαιτούμενη γλώσσα εξόδου και δώστε έναν κατάλογο ορολογίας όταν ονόματα ή τεχνικοί όροι πρέπει να παραμένουν συνεπείς. Μια δίγλωσση αναφορά μπορεί να ζητά τα ίδια γεγονότα της πηγής σε δύο εκδοχές, διατηρώντας αμετάβλητα τα αναγνωριστικά και τις μονάδες.
Λεπτομέρειες αυτής της έκδοσης
Η έκδοση 32B-Instruct έχει 32,5 δισεκατομμύρια παραμέτρους, με 31,0 δισεκατομμύρια παραμέτρους εκτός ενσωματώσεων, και 64 επίπεδα Transformer. Χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών. Πρόκειται για μια πυκνή έκδοση γλωσσικού μοντέλου μόνο με αποκωδικοποιητή, με προεκπαίδευση και μετέπειτα εκπαίδευση· το Instruct προσδιορίζει την έκδοση που εκπαιδεύτηκε για συνομιλία, αντί για το βασικό μοντέλο.
Η κάρτα αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Αυτά τα μεγέθη περιγράφουν διαφορετικά μέρη μιας εργασίας: το πλαίσιο διατηρεί την προτροπή και τη συνομιλία, ενώ το μέγεθος παραγωγής οριοθετεί τη γραπτή απάντηση. Τα 512 παραγόμενα token του οδηγού γρήγορης εκκίνησης είναι απλώς παράδειγμα μέσα στο μεγαλύτερο δηλωμένο όριο παραγωγής. Το μοντέλο δέχεται και επιστρέφει κείμενο· ένας σαρωμένος πίνακας ή ένα στιγμιότυπο οθόνης χρειάζεται να έχει το περιεχόμενό του διαθέσιμο ως κείμενο ή να χρησιμοποιηθεί χωριστό οπτικό μοντέλο.
Συνομιλία και εργαλεία
Η κάρτα του μοντέλου παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη, μορφοποιημένα με το κατάλληλο πρότυπο συνομιλίας. Τοποθετήστε τους σταθερούς κανόνες απάντησης του βοηθού στον κατάλληλο ρόλο συνομιλίας και το πραγματικό έγγραφο, τον πίνακα ή τον κώδικα μαζί με την εργασία του χρήστη. Σημειώστε το όριο μεταξύ παρατιθέμενου υλικού πηγής και οδηγιών, ώστε μια οδηγία που εμφανίζεται μέσα σε ένα έγγραφο να μη θεωρηθεί η εργασία που επιδιώκει η εφαρμογή.
Η επίσημη ανακοίνωση της οικογένειας τεκμηριώνει υποστήριξη κλήσεων εργαλείων μέσω συμβατών προτύπων συνομιλίας και ενσωματώσεων στην υποδομή εξυπηρέτησης. Σε μια τέτοια ροή εργασίας, η εφαρμογή παρέχει τις περιγραφές συναρτήσεων, λαμβάνει την προτεινόμενη κλήση, εκτελεί τη συνάρτηση και επιστρέφει το αποτέλεσμά της. Έτσι μπορεί να συνδεθεί μια ερώτηση κειμένου με έναν υπολογισμό ή μια αναζήτηση δεδομένων, αλλά η επιλογή αυτού του μοντέλου από μόνη της δεν παρέχει το εξωτερικό εργαλείο ή τα δεδομένα του. Η παραγωγή JSON και μια κλήση εργαλείου είναι επίσης διαφορετικά αποτελέσματα: η πρώτη μορφοποιεί κείμενο, ενώ η δεύτερη ζητά από την εφαρμογή που περιβάλλει το μοντέλο να εκτελέσει μια κατονομασμένη λειτουργία.
Προετοιμασία μεγάλου πλαισίου
Η διαμόρφωση που κυκλοφόρησε ξεκινά από 32.768 token. Οι είσοδοι πέρα από αυτή τη ρύθμιση απαιτούν την τεκμηριωμένη επέκταση YaRN, της οποίας το παράδειγμα χρησιμοποιεί συντελεστή 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Ο δημιουργός προειδοποιεί ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα και συνιστά να ενεργοποιείται όταν χρειάζεται επεξεργασία μεγάλου πλαισίου.
Για σύγκριση μεγάλων εγγράφων, προσδιορίστε τον ρόλο κάθε εγγράφου και ζητήστε ένα σαφώς καθορισμένο αποτέλεσμα: έναν πίνακα απαιτήσεων, μια λίστα αποκλίσεων ή μια αναθεωρημένη ενότητα. Διατηρήστε τις θέσεις πηγής δίπλα στα εξαγόμενα ευρήματα και αφήστε αρκετό χώρο απάντησης για την απαιτούμενη δομή. Η χωρητικότητα μεγάλου πλαισίου βοηθά να παραμείνει συγκεντρωμένο το σχετικό υλικό· δεν αντικαθιστά την ανάγκη να οριστεί τι πρέπει να συγκριθεί ή πώς θα χρησιμοποιηθεί το τελικό αποτέλεσμα.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Qwen/Qwen2.5-32B-Instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructΤο Qwen2.5-32B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για λεπτομερείς οδηγίες, προγραμματισμό, μαθηματικά και δομημένα δεδομένα. Η έκδοσή του με 32,5 δισεκατομμύρια παραμέτρους δίνει έμφαση στην κατανόηση πινάκων, στην έξοδο JSON και σε μεγάλα γραπτά αποτελέσματα, με τεκμηριωμένες ρυθμίσεις εκτεταμένου πλαισίου.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-32B-Instruct είναι το μοντέλο κειμένου μεγέθους 32B της γενικής οικογένειας Qwen2.5, προσαρμοσμένο σε οδηγίες. Συνδυάζει κατανόηση και παραγωγή γλώσσας με προγραμματισμό και μαθηματικά, χωρίς να είναι η χωριστά ονομασμένη εξειδικευμένη έκδοση Coder ή Math. Ο δημιουργός δίνει ιδιαίτερη έμφαση στην τήρηση λεπτομερών οδηγιών, στη συγγραφή μεγάλων κειμένων, στην κατανόηση πινάκων και στην παραγωγή δομημένου κειμένου, ιδιαίτερα JSON. Η οικογένεια προεκπαιδεύεται σε ένα σώμα δεδομένων που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token.
Δομημένα δεδομένα, μεγάλες απαντήσεις και πολυγλωσσική εργασία
Μια χρήσιμη εργασία εξαγωγής παρέχει ένα απόσπασμα πηγής και τα ακριβή πεδία που χρειάζονται για το επόμενο βήμα της εφαρμογής. Ορίστε τους τύπους των πεδίων, αν η διατύπωση πρέπει να αντιγραφεί ή να συνοψιστεί και πώς θα αναπαρίστανται οι πληροφορίες που λείπουν. Για παράδειγμα, μια εγγραφή προϊόντος μπορεί να ζητά ένα αναγνωριστικό, συνθήκες λειτουργίας και μια λίστα αναπάντητων ερωτημάτων. Ζητήστε μόνο την εγγραφή JSON όταν πρέπει να αναλυθεί από λογισμικό ή ζητήστε χωριστή εξήγηση όταν ένα άτομο χρειάζεται να εξετάσει τον συλλογισμό πίσω από τα πεδία που εξάγονται.
Η κατανόηση πινάκων είναι μια άλλη τεκμηριωμένη εστίαση. Δώστε τα ονόματα στηλών, τις μονάδες και τις σχετικές γραμμές μαζί με την ερώτηση. Ζητήστε από το μοντέλο να εντοπίσει τις γραμμές που ικανοποιούν μια προϋπόθεση, να εξηγήσει μια μεταβολή μεταξύ περιόδων ή να μετατρέψει έναν πίνακα σε γραπτή αναφορά. Μια πρακτική έξοδος μπορεί να διατηρεί το αναγνωριστικό κάθε γραμμής δίπλα στο εύρημα. Έτσι διατηρείται η σύνδεση μεταξύ των δεδομένων που παρέχονται και της απάντησης, αντί να παράγεται μια σύνοψη χωρίς ανιχνεύσιμη γραμμή πηγής.
Για τη συγγραφή μεγάλων κειμένων, προσδιορίστε το κοινό, τις ενότητες και τα γεγονότα της πηγής πριν ζητήσετε το έγγραφο. Μια τεχνική πρόταση μπορεί να απαιτεί διατύπωση προβλήματος, απαιτήσεις, εναλλακτικές και σύσταση, χρησιμοποιώντας μόνο το υλικό που παρέχεται. Προσδιορίστε ποιες προϋποθέσεις είναι υποχρεωτικές και ποιες είναι ερωτήματα προς επίλυση. Ο δημιουργός βελτιώνει επίσης την ανθεκτικότητα σε διαφορετικές συστημικές οδηγίες, υποστηρίζοντας έναν καθορισμένο ρόλο, τόνο και συνθήκες συνομιλίας.
Η οικογένεια υποστηρίζει περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γαλλικά, ισπανικά, πορτογαλικά, γερμανικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Για μια πολυγλωσσική εργασία, διαχωρίστε τη γλώσσα πηγής από την απαιτούμενη γλώσσα εξόδου και δώστε έναν κατάλογο ορολογίας όταν ονόματα ή τεχνικοί όροι πρέπει να παραμένουν συνεπείς. Μια δίγλωσση αναφορά μπορεί να ζητά τα ίδια γεγονότα της πηγής σε δύο εκδοχές, διατηρώντας αμετάβλητα τα αναγνωριστικά και τις μονάδες.
Λεπτομέρειες αυτής της έκδοσης
Η έκδοση 32B-Instruct έχει 32,5 δισεκατομμύρια παραμέτρους, με 31,0 δισεκατομμύρια παραμέτρους εκτός ενσωματώσεων, και 64 επίπεδα Transformer. Χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών. Πρόκειται για μια πυκνή έκδοση γλωσσικού μοντέλου μόνο με αποκωδικοποιητή, με προεκπαίδευση και μετέπειτα εκπαίδευση· το Instruct προσδιορίζει την έκδοση που εκπαιδεύτηκε για συνομιλία, αντί για το βασικό μοντέλο.
Η κάρτα αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Αυτά τα μεγέθη περιγράφουν διαφορετικά μέρη μιας εργασίας: το πλαίσιο διατηρεί την προτροπή και τη συνομιλία, ενώ το μέγεθος παραγωγής οριοθετεί τη γραπτή απάντηση. Τα 512 παραγόμενα token του οδηγού γρήγορης εκκίνησης είναι απλώς παράδειγμα μέσα στο μεγαλύτερο δηλωμένο όριο παραγωγής. Το μοντέλο δέχεται και επιστρέφει κείμενο· ένας σαρωμένος πίνακας ή ένα στιγμιότυπο οθόνης χρειάζεται να έχει το περιεχόμενό του διαθέσιμο ως κείμενο ή να χρησιμοποιηθεί χωριστό οπτικό μοντέλο.
Συνομιλία και εργαλεία
Η κάρτα του μοντέλου παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη, μορφοποιημένα με το κατάλληλο πρότυπο συνομιλίας. Τοποθετήστε τους σταθερούς κανόνες απάντησης του βοηθού στον κατάλληλο ρόλο συνομιλίας και το πραγματικό έγγραφο, τον πίνακα ή τον κώδικα μαζί με την εργασία του χρήστη. Σημειώστε το όριο μεταξύ παρατιθέμενου υλικού πηγής και οδηγιών, ώστε μια οδηγία που εμφανίζεται μέσα σε ένα έγγραφο να μη θεωρηθεί η εργασία που επιδιώκει η εφαρμογή.
Η επίσημη ανακοίνωση της οικογένειας τεκμηριώνει υποστήριξη κλήσεων εργαλείων μέσω συμβατών προτύπων συνομιλίας και ενσωματώσεων στην υποδομή εξυπηρέτησης. Σε μια τέτοια ροή εργασίας, η εφαρμογή παρέχει τις περιγραφές συναρτήσεων, λαμβάνει την προτεινόμενη κλήση, εκτελεί τη συνάρτηση και επιστρέφει το αποτέλεσμά της. Έτσι μπορεί να συνδεθεί μια ερώτηση κειμένου με έναν υπολογισμό ή μια αναζήτηση δεδομένων, αλλά η επιλογή αυτού του μοντέλου από μόνη της δεν παρέχει το εξωτερικό εργαλείο ή τα δεδομένα του. Η παραγωγή JSON και μια κλήση εργαλείου είναι επίσης διαφορετικά αποτελέσματα: η πρώτη μορφοποιεί κείμενο, ενώ η δεύτερη ζητά από την εφαρμογή που περιβάλλει το μοντέλο να εκτελέσει μια κατονομασμένη λειτουργία.
Προετοιμασία μεγάλου πλαισίου
Η διαμόρφωση που κυκλοφόρησε ξεκινά από 32.768 token. Οι είσοδοι πέρα από αυτή τη ρύθμιση απαιτούν την τεκμηριωμένη επέκταση YaRN, της οποίας το παράδειγμα χρησιμοποιεί συντελεστή 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Ο δημιουργός προειδοποιεί ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα και συνιστά να ενεργοποιείται όταν χρειάζεται επεξεργασία μεγάλου πλαισίου.
Για σύγκριση μεγάλων εγγράφων, προσδιορίστε τον ρόλο κάθε εγγράφου και ζητήστε ένα σαφώς καθορισμένο αποτέλεσμα: έναν πίνακα απαιτήσεων, μια λίστα αποκλίσεων ή μια αναθεωρημένη ενότητα. Διατηρήστε τις θέσεις πηγής δίπλα στα εξαγόμενα ευρήματα και αφήστε αρκετό χώρο απάντησης για την απαιτούμενη δομή. Η χωρητικότητα μεγάλου πλαισίου βοηθά να παραμείνει συγκεντρωμένο το σχετικό υλικό· δεν αντικαθιστά την ανάγκη να οριστεί τι πρέπει να συγκριθεί ή πώς θα χρησιμοποιηθεί το τελικό αποτέλεσμα.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Qwen/Qwen2.5-32B-Instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructΤο Qwen2.5-32B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για λεπτομερείς οδηγίες, προγραμματισμό, μαθηματικά και δομημένα δεδομένα. Η έκδοσή του με 32,5 δισεκατομμύρια παραμέτρους δίνει έμφαση στην κατανόηση πινάκων, στην έξοδο JSON και σε μεγάλα γραπτά αποτελέσματα, με τεκμηριωμένες ρυθμίσεις εκτεταμένου πλαισίου.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-32B-Instruct είναι το μοντέλο κειμένου μεγέθους 32B της γενικής οικογένειας Qwen2.5, προσαρμοσμένο σε οδηγίες. Συνδυάζει κατανόηση και παραγωγή γλώσσας με προγραμματισμό και μαθηματικά, χωρίς να είναι η χωριστά ονομασμένη εξειδικευμένη έκδοση Coder ή Math. Ο δημιουργός δίνει ιδιαίτερη έμφαση στην τήρηση λεπτομερών οδηγιών, στη συγγραφή μεγάλων κειμένων, στην κατανόηση πινάκων και στην παραγωγή δομημένου κειμένου, ιδιαίτερα JSON. Η οικογένεια προεκπαιδεύεται σε ένα σώμα δεδομένων που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token.
Δομημένα δεδομένα, μεγάλες απαντήσεις και πολυγλωσσική εργασία
Μια χρήσιμη εργασία εξαγωγής παρέχει ένα απόσπασμα πηγής και τα ακριβή πεδία που χρειάζονται για το επόμενο βήμα της εφαρμογής. Ορίστε τους τύπους των πεδίων, αν η διατύπωση πρέπει να αντιγραφεί ή να συνοψιστεί και πώς θα αναπαρίστανται οι πληροφορίες που λείπουν. Για παράδειγμα, μια εγγραφή προϊόντος μπορεί να ζητά ένα αναγνωριστικό, συνθήκες λειτουργίας και μια λίστα αναπάντητων ερωτημάτων. Ζητήστε μόνο την εγγραφή JSON όταν πρέπει να αναλυθεί από λογισμικό ή ζητήστε χωριστή εξήγηση όταν ένα άτομο χρειάζεται να εξετάσει τον συλλογισμό πίσω από τα πεδία που εξάγονται.
Η κατανόηση πινάκων είναι μια άλλη τεκμηριωμένη εστίαση. Δώστε τα ονόματα στηλών, τις μονάδες και τις σχετικές γραμμές μαζί με την ερώτηση. Ζητήστε από το μοντέλο να εντοπίσει τις γραμμές που ικανοποιούν μια προϋπόθεση, να εξηγήσει μια μεταβολή μεταξύ περιόδων ή να μετατρέψει έναν πίνακα σε γραπτή αναφορά. Μια πρακτική έξοδος μπορεί να διατηρεί το αναγνωριστικό κάθε γραμμής δίπλα στο εύρημα. Έτσι διατηρείται η σύνδεση μεταξύ των δεδομένων που παρέχονται και της απάντησης, αντί να παράγεται μια σύνοψη χωρίς ανιχνεύσιμη γραμμή πηγής.
Για τη συγγραφή μεγάλων κειμένων, προσδιορίστε το κοινό, τις ενότητες και τα γεγονότα της πηγής πριν ζητήσετε το έγγραφο. Μια τεχνική πρόταση μπορεί να απαιτεί διατύπωση προβλήματος, απαιτήσεις, εναλλακτικές και σύσταση, χρησιμοποιώντας μόνο το υλικό που παρέχεται. Προσδιορίστε ποιες προϋποθέσεις είναι υποχρεωτικές και ποιες είναι ερωτήματα προς επίλυση. Ο δημιουργός βελτιώνει επίσης την ανθεκτικότητα σε διαφορετικές συστημικές οδηγίες, υποστηρίζοντας έναν καθορισμένο ρόλο, τόνο και συνθήκες συνομιλίας.
Η οικογένεια υποστηρίζει περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γαλλικά, ισπανικά, πορτογαλικά, γερμανικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Για μια πολυγλωσσική εργασία, διαχωρίστε τη γλώσσα πηγής από την απαιτούμενη γλώσσα εξόδου και δώστε έναν κατάλογο ορολογίας όταν ονόματα ή τεχνικοί όροι πρέπει να παραμένουν συνεπείς. Μια δίγλωσση αναφορά μπορεί να ζητά τα ίδια γεγονότα της πηγής σε δύο εκδοχές, διατηρώντας αμετάβλητα τα αναγνωριστικά και τις μονάδες.
Λεπτομέρειες αυτής της έκδοσης
Η έκδοση 32B-Instruct έχει 32,5 δισεκατομμύρια παραμέτρους, με 31,0 δισεκατομμύρια παραμέτρους εκτός ενσωματώσεων, και 64 επίπεδα Transformer. Χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών. Πρόκειται για μια πυκνή έκδοση γλωσσικού μοντέλου μόνο με αποκωδικοποιητή, με προεκπαίδευση και μετέπειτα εκπαίδευση· το Instruct προσδιορίζει την έκδοση που εκπαιδεύτηκε για συνομιλία, αντί για το βασικό μοντέλο.
Η κάρτα αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Αυτά τα μεγέθη περιγράφουν διαφορετικά μέρη μιας εργασίας: το πλαίσιο διατηρεί την προτροπή και τη συνομιλία, ενώ το μέγεθος παραγωγής οριοθετεί τη γραπτή απάντηση. Τα 512 παραγόμενα token του οδηγού γρήγορης εκκίνησης είναι απλώς παράδειγμα μέσα στο μεγαλύτερο δηλωμένο όριο παραγωγής. Το μοντέλο δέχεται και επιστρέφει κείμενο· ένας σαρωμένος πίνακας ή ένα στιγμιότυπο οθόνης χρειάζεται να έχει το περιεχόμενό του διαθέσιμο ως κείμενο ή να χρησιμοποιηθεί χωριστό οπτικό μοντέλο.
Συνομιλία και εργαλεία
Η κάρτα του μοντέλου παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη, μορφοποιημένα με το κατάλληλο πρότυπο συνομιλίας. Τοποθετήστε τους σταθερούς κανόνες απάντησης του βοηθού στον κατάλληλο ρόλο συνομιλίας και το πραγματικό έγγραφο, τον πίνακα ή τον κώδικα μαζί με την εργασία του χρήστη. Σημειώστε το όριο μεταξύ παρατιθέμενου υλικού πηγής και οδηγιών, ώστε μια οδηγία που εμφανίζεται μέσα σε ένα έγγραφο να μη θεωρηθεί η εργασία που επιδιώκει η εφαρμογή.
Η επίσημη ανακοίνωση της οικογένειας τεκμηριώνει υποστήριξη κλήσεων εργαλείων μέσω συμβατών προτύπων συνομιλίας και ενσωματώσεων στην υποδομή εξυπηρέτησης. Σε μια τέτοια ροή εργασίας, η εφαρμογή παρέχει τις περιγραφές συναρτήσεων, λαμβάνει την προτεινόμενη κλήση, εκτελεί τη συνάρτηση και επιστρέφει το αποτέλεσμά της. Έτσι μπορεί να συνδεθεί μια ερώτηση κειμένου με έναν υπολογισμό ή μια αναζήτηση δεδομένων, αλλά η επιλογή αυτού του μοντέλου από μόνη της δεν παρέχει το εξωτερικό εργαλείο ή τα δεδομένα του. Η παραγωγή JSON και μια κλήση εργαλείου είναι επίσης διαφορετικά αποτελέσματα: η πρώτη μορφοποιεί κείμενο, ενώ η δεύτερη ζητά από την εφαρμογή που περιβάλλει το μοντέλο να εκτελέσει μια κατονομασμένη λειτουργία.
Προετοιμασία μεγάλου πλαισίου
Η διαμόρφωση που κυκλοφόρησε ξεκινά από 32.768 token. Οι είσοδοι πέρα από αυτή τη ρύθμιση απαιτούν την τεκμηριωμένη επέκταση YaRN, της οποίας το παράδειγμα χρησιμοποιεί συντελεστή 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Ο δημιουργός προειδοποιεί ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα και συνιστά να ενεργοποιείται όταν χρειάζεται επεξεργασία μεγάλου πλαισίου.
Για σύγκριση μεγάλων εγγράφων, προσδιορίστε τον ρόλο κάθε εγγράφου και ζητήστε ένα σαφώς καθορισμένο αποτέλεσμα: έναν πίνακα απαιτήσεων, μια λίστα αποκλίσεων ή μια αναθεωρημένη ενότητα. Διατηρήστε τις θέσεις πηγής δίπλα στα εξαγόμενα ευρήματα και αφήστε αρκετό χώρο απάντησης για την απαιτούμενη δομή. Η χωρητικότητα μεγάλου πλαισίου βοηθά να παραμείνει συγκεντρωμένο το σχετικό υλικό· δεν αντικαθιστά την ανάγκη να οριστεί τι πρέπει να συγκριθεί ή πώς θα χρησιμοποιηθεί το τελικό αποτέλεσμα.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια qwen2.5-32b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Συνομιλία κειμένου | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςcontrol_scope | ΣύμβασηΣυνομιλία κειμένου· το stream είναι λογική τιμή και έχει προεπιλογή false. |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Εναλλακτικά ονόματα μεθόδου: /chat/completions
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructΤο Qwen2.5-32B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για λεπτομερείς οδηγίες, προγραμματισμό, μαθηματικά και δομημένα δεδομένα. Η έκδοσή του με 32,5 δισεκατομμύρια παραμέτρους δίνει έμφαση στην κατανόηση πινάκων, στην έξοδο JSON και σε μεγάλα γραπτά αποτελέσματα, με τεκμηριωμένες ρυθμίσεις εκτεταμένου πλαισίου.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-32B-Instruct είναι το μοντέλο κειμένου μεγέθους 32B της γενικής οικογένειας Qwen2.5, προσαρμοσμένο σε οδηγίες. Συνδυάζει κατανόηση και παραγωγή γλώσσας με προγραμματισμό και μαθηματικά, χωρίς να είναι η χωριστά ονομασμένη εξειδικευμένη έκδοση Coder ή Math. Ο δημιουργός δίνει ιδιαίτερη έμφαση στην τήρηση λεπτομερών οδηγιών, στη συγγραφή μεγάλων κειμένων, στην κατανόηση πινάκων και στην παραγωγή δομημένου κειμένου, ιδιαίτερα JSON. Η οικογένεια προεκπαιδεύεται σε ένα σώμα δεδομένων που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token.
Δομημένα δεδομένα, μεγάλες απαντήσεις και πολυγλωσσική εργασία
Μια χρήσιμη εργασία εξαγωγής παρέχει ένα απόσπασμα πηγής και τα ακριβή πεδία που χρειάζονται για το επόμενο βήμα της εφαρμογής. Ορίστε τους τύπους των πεδίων, αν η διατύπωση πρέπει να αντιγραφεί ή να συνοψιστεί και πώς θα αναπαρίστανται οι πληροφορίες που λείπουν. Για παράδειγμα, μια εγγραφή προϊόντος μπορεί να ζητά ένα αναγνωριστικό, συνθήκες λειτουργίας και μια λίστα αναπάντητων ερωτημάτων. Ζητήστε μόνο την εγγραφή JSON όταν πρέπει να αναλυθεί από λογισμικό ή ζητήστε χωριστή εξήγηση όταν ένα άτομο χρειάζεται να εξετάσει τον συλλογισμό πίσω από τα πεδία που εξάγονται.
Η κατανόηση πινάκων είναι μια άλλη τεκμηριωμένη εστίαση. Δώστε τα ονόματα στηλών, τις μονάδες και τις σχετικές γραμμές μαζί με την ερώτηση. Ζητήστε από το μοντέλο να εντοπίσει τις γραμμές που ικανοποιούν μια προϋπόθεση, να εξηγήσει μια μεταβολή μεταξύ περιόδων ή να μετατρέψει έναν πίνακα σε γραπτή αναφορά. Μια πρακτική έξοδος μπορεί να διατηρεί το αναγνωριστικό κάθε γραμμής δίπλα στο εύρημα. Έτσι διατηρείται η σύνδεση μεταξύ των δεδομένων που παρέχονται και της απάντησης, αντί να παράγεται μια σύνοψη χωρίς ανιχνεύσιμη γραμμή πηγής.
Για τη συγγραφή μεγάλων κειμένων, προσδιορίστε το κοινό, τις ενότητες και τα γεγονότα της πηγής πριν ζητήσετε το έγγραφο. Μια τεχνική πρόταση μπορεί να απαιτεί διατύπωση προβλήματος, απαιτήσεις, εναλλακτικές και σύσταση, χρησιμοποιώντας μόνο το υλικό που παρέχεται. Προσδιορίστε ποιες προϋποθέσεις είναι υποχρεωτικές και ποιες είναι ερωτήματα προς επίλυση. Ο δημιουργός βελτιώνει επίσης την ανθεκτικότητα σε διαφορετικές συστημικές οδηγίες, υποστηρίζοντας έναν καθορισμένο ρόλο, τόνο και συνθήκες συνομιλίας.
Η οικογένεια υποστηρίζει περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γαλλικά, ισπανικά, πορτογαλικά, γερμανικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Για μια πολυγλωσσική εργασία, διαχωρίστε τη γλώσσα πηγής από την απαιτούμενη γλώσσα εξόδου και δώστε έναν κατάλογο ορολογίας όταν ονόματα ή τεχνικοί όροι πρέπει να παραμένουν συνεπείς. Μια δίγλωσση αναφορά μπορεί να ζητά τα ίδια γεγονότα της πηγής σε δύο εκδοχές, διατηρώντας αμετάβλητα τα αναγνωριστικά και τις μονάδες.
Λεπτομέρειες αυτής της έκδοσης
Η έκδοση 32B-Instruct έχει 32,5 δισεκατομμύρια παραμέτρους, με 31,0 δισεκατομμύρια παραμέτρους εκτός ενσωματώσεων, και 64 επίπεδα Transformer. Χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών. Πρόκειται για μια πυκνή έκδοση γλωσσικού μοντέλου μόνο με αποκωδικοποιητή, με προεκπαίδευση και μετέπειτα εκπαίδευση· το Instruct προσδιορίζει την έκδοση που εκπαιδεύτηκε για συνομιλία, αντί για το βασικό μοντέλο.
Η κάρτα αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Αυτά τα μεγέθη περιγράφουν διαφορετικά μέρη μιας εργασίας: το πλαίσιο διατηρεί την προτροπή και τη συνομιλία, ενώ το μέγεθος παραγωγής οριοθετεί τη γραπτή απάντηση. Τα 512 παραγόμενα token του οδηγού γρήγορης εκκίνησης είναι απλώς παράδειγμα μέσα στο μεγαλύτερο δηλωμένο όριο παραγωγής. Το μοντέλο δέχεται και επιστρέφει κείμενο· ένας σαρωμένος πίνακας ή ένα στιγμιότυπο οθόνης χρειάζεται να έχει το περιεχόμενό του διαθέσιμο ως κείμενο ή να χρησιμοποιηθεί χωριστό οπτικό μοντέλο.
Συνομιλία και εργαλεία
Η κάρτα του μοντέλου παρουσιάζει χωριστά μηνύματα συστήματος και χρήστη, μορφοποιημένα με το κατάλληλο πρότυπο συνομιλίας. Τοποθετήστε τους σταθερούς κανόνες απάντησης του βοηθού στον κατάλληλο ρόλο συνομιλίας και το πραγματικό έγγραφο, τον πίνακα ή τον κώδικα μαζί με την εργασία του χρήστη. Σημειώστε το όριο μεταξύ παρατιθέμενου υλικού πηγής και οδηγιών, ώστε μια οδηγία που εμφανίζεται μέσα σε ένα έγγραφο να μη θεωρηθεί η εργασία που επιδιώκει η εφαρμογή.
Η επίσημη ανακοίνωση της οικογένειας τεκμηριώνει υποστήριξη κλήσεων εργαλείων μέσω συμβατών προτύπων συνομιλίας και ενσωματώσεων στην υποδομή εξυπηρέτησης. Σε μια τέτοια ροή εργασίας, η εφαρμογή παρέχει τις περιγραφές συναρτήσεων, λαμβάνει την προτεινόμενη κλήση, εκτελεί τη συνάρτηση και επιστρέφει το αποτέλεσμά της. Έτσι μπορεί να συνδεθεί μια ερώτηση κειμένου με έναν υπολογισμό ή μια αναζήτηση δεδομένων, αλλά η επιλογή αυτού του μοντέλου από μόνη της δεν παρέχει το εξωτερικό εργαλείο ή τα δεδομένα του. Η παραγωγή JSON και μια κλήση εργαλείου είναι επίσης διαφορετικά αποτελέσματα: η πρώτη μορφοποιεί κείμενο, ενώ η δεύτερη ζητά από την εφαρμογή που περιβάλλει το μοντέλο να εκτελέσει μια κατονομασμένη λειτουργία.
Προετοιμασία μεγάλου πλαισίου
Η διαμόρφωση που κυκλοφόρησε ξεκινά από 32.768 token. Οι είσοδοι πέρα από αυτή τη ρύθμιση απαιτούν την τεκμηριωμένη επέκταση YaRN, της οποίας το παράδειγμα χρησιμοποιεί συντελεστή 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Ο δημιουργός προειδοποιεί ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα και συνιστά να ενεργοποιείται όταν χρειάζεται επεξεργασία μεγάλου πλαισίου.
Για σύγκριση μεγάλων εγγράφων, προσδιορίστε τον ρόλο κάθε εγγράφου και ζητήστε ένα σαφώς καθορισμένο αποτέλεσμα: έναν πίνακα απαιτήσεων, μια λίστα αποκλίσεων ή μια αναθεωρημένη ενότητα. Διατηρήστε τις θέσεις πηγής δίπλα στα εξαγόμενα ευρήματα και αφήστε αρκετό χώρο απάντησης για την απαιτούμενη δομή. Η χωρητικότητα μεγάλου πλαισίου βοηθά να παραμείνει συγκεντρωμένο το σχετικό υλικό· δεν αντικαθιστά την ανάγκη να οριστεί τι πρέπει να συγκριθεί ή πώς θα χρησιμοποιηθεί το τελικό αποτέλεσμα.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια qwen2.5-32b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.00036 / 1K token Έξοδος · Token εξόδου $0.00036 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Τεχνικό παράδειγμα στα αγγλικά
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.