μοντέλα

Qwen3 235B A22B FP8

Markdown · JSON

Qwen3 235B A22B FP8

Το Qwen3-235B-A22B-FP8 είναι το επίσημο σημείο ελέγχου λεπτομερούς κβαντισμού FP8 του μεγάλου μοντέλου μείγματος ειδικών της Qwen3. Διατηρεί τις υβριδικές δυνατότητες συλλογισμού κειμένου και διαλόγου, με τη δική του ταυτότητα κβαντισμού και παραμέτρους που πρέπει να λαμβάνονται υπόψη κατά την εκτέλεση.

Σχετικά με το μοντέλο

Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.

Το Qwen3-235B-A22B-FP8 είναι η επίσημη έκδοση FP8 του Qwen3-235B-A22B. Οι παρουσιαζόμενες δυνατότητες κειμένου του καλύπτουν μαθηματικό και λογικό συλλογισμό, παραγωγή κώδικα, δημιουργική γραφή, διάλογο βάσει ρόλων και τήρηση οδηγιών σε πολλούς γύρους σε περισσότερες από 100 γλώσσες και διαλέκτους. Συνδυάζει τη λειτουργία Thinking και τη λειτουργία άμεσης απάντησης. Χρησιμοποιήστε το για μια εργασία που συνδυάζει πολλούς περιορισμούς, όπως σύγκριση δύο υλοποιήσεων με την ίδια προδιαγραφή και μετατροπή της σύγκρισης σε συγκεκριμένη πρόταση αλλαγής.

Η υποκείμενη αρχιτεκτονική είναι μείγμα ειδικών: συνολικά 235 δισεκατομμύρια παράμετροι, 22 δισεκατομμύρια ενεργές κατά την επεξεργασία, 94 επίπεδα και 128 ειδικοί, με οκτώ επιλεγμένους ανά token. Η προσοχή ομαδοποιημένων ερωτημάτων χρησιμοποιεί 64 κεφαλές ερωτημάτων και τέσσερις κεφαλές κλειδιών/τιμών. Το επίθημα FP8 προσδιορίζει χωριστά δημοσιευμένο σημείο ελέγχου και όχι πρόσθετη μορφή απάντησης ή διαφορετικό αριθμό παραμέτρων. Το μοντέλο λαμβάνει κείμενο και παράγει κείμενο. Δώστε σε έναν βοηθό ελέγχου κώδικα την προδιαγραφή, τα σχετικά αρχεία πηγής και την αναμενόμενη συμπεριφορά· ζητήστε έναν πίνακα αποφάσεων, την επιλεγμένη τροποποίηση και παραδείγματα που δείχνουν το επιδιωκόμενο αποτέλεσμα.

Η αρχική ροή του κατασκευαστή μορφοποιεί την πηγή και τις οδηγίες ως συνομιλία. Για σύγκριση εγγράφων, επισημάνετε τις εκδόσεις, δηλώστε την ισχύ κάθε πηγής και προσδιορίστε τις απαιτήσεις που πρέπει να παραμείνουν αμετάβλητες. Για μαθηματική ερώτηση, συμπεριλάβετε την πλήρη εκφώνηση και την επιθυμητή μορφή τελικής απάντησης. Για εργασία υλοποίησης, προσδιορίστε τη γλώσσα, την πραγματική μορφή εισόδου, την περίπτωση αστοχίας και τις διεπαφές που πρέπει να διατηρηθούν. Ορίστε ρητά το τελικό παραδοτέο, ώστε μια μεγάλη απάντηση να επιλύει και πάλι το αρχικό αίτημα. Η δημοσιευμένη ενσωμάτωση αναμένει περιβάλλον εκτέλεσης που αναγνωρίζει το Qwen3· η κάρτα προειδοποιεί ότι εκδόσεις Transformers κάτω από 4.51.0 δεν αναγνωρίζουν την απαιτούμενη αρχιτεκτονική.

Αυτή η έκδοση έχει ειδική σημείωση FP8. Το σημείο ελέγχου χρησιμοποιεί λεπτομερή κβαντισμό FP8 με μέγεθος μπλοκ 128· η δημοσιευμένη διαμόρφωσή του καταγράφει το σχήμα κβαντισμού. Ο κατασκευαστής απαριθμεί τα Transformers, SGLang και vLLM ως επιλογές συμπερασμού, ενώ προειδοποιεί για προβλήματα με τον λεπτομερή FP8 σε κατανεμημένο συμπερασμό Transformers. Η χρήση πολλών συσκευών μπορεί να απαιτεί CUDA_LAUNCH_BLOCKING=1. Αυτή είναι λεπτομέρεια συμβατότητας της συγκεκριμένης έκδοσης, όχι λόγος να θεωρηθούν ταχύτητα, χρήση μνήμης ή ποιότητα εξόδου ίδιες σε όλα τα περιβάλλοντα εκτέλεσης. Διατηρήστε το πλήρες όνομα FP8 όταν συγκρίνετε ή καταγράφετε αποτελέσματα και αξιολογήστε το πραγματικό σημείο ελέγχου στο επιδιωκόμενο περιβάλλον.

Η λειτουργία Thinking είναι η προεπιλογή στο παρεχόμενο πρότυπο συνομιλίας και ένας ρητός διακόπτης μπορεί να την απενεργοποιεί. Με ενεργοποιημένη τη λειτουργία Thinking, τα /think και /no_think μπορούν να ελέγχουν επιμέρους γύρους· η πιο πρόσφατη οδηγία υπερισχύει. Οι ήπιες αλλαγές λειτουργίας δεν παρακάμπτουν μια ρητή απενεργοποίηση. Διατηρήστε την τελική απάντηση χωριστά από την παραγόμενη ενότητα συλλογισμού και μεταφέρετε την τελική απάντηση στο ιστορικό του μεταγενέστερου διαλόγου. Μια λεπτομερής ανάλυση αντιφάσεων μπορεί να ζητά τη λειτουργία Thinking, ενώ ένα επόμενο αίτημα που αναμορφοποιεί αποδεκτό συμπέρασμα μπορεί να ζητά άμεση απάντηση. Με ενεργοποιημένη τη λειτουργία Thinking, ακόμη και ένα αίτημα μέσω κειμένου για τη λειτουργία Non-Thinking διατηρεί μπλοκ συλλογισμού· το περιεχόμενό του μπορεί να είναι κενό. Η ρητή απενεργοποίηση αφαιρεί αυτό το μπλοκ.

Η κάρτα συνιστά Qwen-Agent για πρότυπα και ανάλυση κλήσεων εργαλείων. Σε έναν βοηθό μηχανικής, η εφαρμογή θα μπορούσε να εκθέτει έναν εκτελεστή δοκιμών ή αναζήτηση πηγής μόνο για ανάγνωση, να εκτελεί την αποδεκτή κλήση και να επιστρέφει στοιχεία για την επόμενη απάντηση. Προσδιορίστε τις εισόδους, τα δικαιώματα και τα πεδία αποτελέσματος του εργαλείου. Απαιτήστε ο βοηθός να συνδέει την προτεινόμενη αλλαγή του με το επιστρεφόμενο αποτέλεσμα και να διαχωρίζει μια δοκιμή που ζητά από μια δοκιμή που έχει πράγματι ολοκληρώσει η εφαρμογή. Οι δυνατότητες του μοντέλου που σχετίζονται με εργαλεία εξαρτώνται από αυτή τη ροή εκτέλεσης που το περιβάλλει. Ο οδηγός Qwen3 περιγράφει επίσης παράλληλες κλήσεις εργαλείων και κλήσεις πολλών βημάτων, με τα ορίσματα να αναπαρίστανται ως αντικείμενα και τα αποτελέσματα να επιστρέφονται στη συνομιλία.

Το εγγενές πλαίσιο είναι 32.768 token, με 131.072 να τεκμηριώνονται μέσω επέκτασης YaRN. Η είσοδος και η παραγόμενη έξοδος μοιράζονται το περιθώριο ακολουθίας. Το μεγαλύτερο παράθυρο απαιτεί τη σχετική διαμόρφωση και η στατική YaRN μπορεί να επηρεάζει μικρές εισόδους. Οργανώστε το μεγάλο υλικό πηγής ανά αρχείο ή ενότητα και κρατήστε χώρο για την τελική σύγκριση ή τον κώδικα. Τα μήκη εξόδου που εμφανίζονται στον οδηγό γρήγορης εκκίνησης και στις συστάσεις βέλτιστης πρακτικής είναι οδηγίες παραγωγής και όχι απόδειξη ανεξάρτητου μέγιστου εξόδου για ολόκληρη την υπηρεσία. Η τεκμηρίωση Qwen3 συζητά μήκη μηνυμάτων βοηθού 38.912 token στη λειτουργία Thinking και 16.384 στη λειτουργία Non-Thinking στην εξήγησή της για το μήκος εκπαίδευσης και συνιστά αξιολόγηση της ποιότητας μεγαλύτερης παραγωγής. Αυτά τα μεγέθη διαφέρουν από το συνολικό παράθυρο πλαισίου και δεν αποτελούν αυστηρό όριο συγκεκριμένης τελικής διεύθυνσης υπηρεσίας. Η κάρτα εξηγεί επίσης την προεπιλεγμένη κατανομή θέσεων 40.960 token ως 8.192 για τυπικές προτροπές συν 32.768 για έξοδο· πρόκειται για οδηγίες διαμόρφωσης του κατασκευαστή, χωριστές από το εγγενές πλαίσιο εκπαίδευσης και κάθε όριο τελικής διεύθυνσης υπηρεσίας.

Η συνιστώμενη δειγματοληψία στη λειτουργία Thinking είναι θερμοκρασία 0,6, top-p 0,95, top-k 20 και min-p 0· η άμεση λειτουργία χρησιμοποιεί 0,7, 0,8, 20 και 0. Η άπληστη αποκωδικοποίηση στη λειτουργία Thinking μπορεί να οδηγήσει σε επανάληψη και οι ισχυρότερες ποινές παρουσίας μπορεί να εισάγουν ανάμειξη γλωσσών. Ζητήστε μια τελική δομή που μπορεί να εξεταστεί, όπως πίνακα αποτελεσμάτων ακολουθούμενο από την αλλαγμένη συνάρτηση και τις σχετικές περιπτώσεις. Ελέγξτε τα αριθμητικά συμπεράσματα, εκτελέστε τον κώδικα στο περιβάλλον στόχο και εξετάστε τα αποτελέσματα εργαλείων πριν εφαρμόσετε μια προτεινόμενη αλλαγή. Η ταυτότητα του σημείου ελέγχου FP8 και οι επισημάνσεις του για το περιβάλλον εκτέλεσης πρέπει να παραμένουν συνδεδεμένες με αυτή την αξιολόγηση.

Πρακτική εργασία

Πρακτική εργασία

Τεχνικό παράδειγμα στα αγγλικά

Compare two normalizers to a contract

The contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.

Αναμενόμενο αποτέλεσμα

A two-implementation decision table, a selected implementation and two contract-focused tests.

Έλεγχος αποτελέσματος

Check that sorting is recognized as an order violation and Blue remains distinct from blue.
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen/qwen3-235b-a22b-fp8

qwen/qwen3-235b-a22b-fp8

Alibaba /qwen/qwen3-235b-a22b-fp8

Εισαγωγή

Το Qwen3-235B-A22B-FP8 είναι το επίσημο σημείο ελέγχου λεπτομερούς κβαντισμού FP8 του μεγάλου μοντέλου μείγματος ειδικών της Qwen3. Διατηρεί τις υβριδικές δυνατότητες συλλογισμού κειμένου και διαλόγου, με τη δική του ταυτότητα κβαντισμού και παραμέτρους που πρέπει να λαμβάνονται υπόψη κατά την εκτέλεση.

Αποδεκτές είσοδοι
Κείμενο
Αποτελέσματα
Κείμενο

Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
Είσοδος
text
Έξοδος
text
Μορφή εξόδου
json ή SSE
ΠεδίοΤύποςΑπαίτησηΤιμές και όριαΠροεπιλογή
ΠεδίοmodelΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
qwen/qwen3-235b-a22b-fp8
Προεπιλογή—
ΠεδίοmessagesΤύποςmessage[]ΑπαίτησηΥποχρεωτικόΤιμές και όρια
Ελάχιστο πλήθος στοιχείων: 1
Προεπιλογή—
Πεδίοmessages[].roleΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Παραδείγματα: system, user, assistant, tool, function
Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο.
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmessages[].contentΤύποςstring|content_part[]|nullΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_callsΤύποςtool_call[]ΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_call_idΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε
Προεπιλογή—
Πεδίοmessages[].nameΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].reasoning_contentΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί
Προεπιλογή—
Πεδίοmessages[].reasoning_detailsΤύποςobject|arrayΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_completion_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstreamΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογήfalse
Πεδίοstream_options.include_usageΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtemperatureΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtop_pΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstopΤύποςstring|string[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtoolsΤύποςfunction_tool[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].typeΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
function
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].function.nameΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης
Προεπιλογή—
Πεδίοtools[].function.descriptionΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtools[].function.parametersΤύποςJSON_schemaΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtool_choiceΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοparallel_tool_callsΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοresponse_formatΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοreasoning_effortΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοreasoningΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοservice_tierΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοinstructionsΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Πεδίο συμβατότητας
Προεπιλογή—
ΠεδίοfunctionsΤύποςfunction[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοfunction_callΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοprompt_cache_optionsΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοmodalitiesΤύποςstring[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
text
Προεπιλογή—
ΠεδίοproviderΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra
Προεπιλογή—
Πεδίοcache_control.ttlΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών
Προεπιλογή—
Συνδυασμοί υλικών εισόδου

Κείμενο · Κείμενο UTF8

messages[].content

Παράμετροι και κύκλος ζωής μεθόδου
ΠαράμετροςΣύμβαση
Παράμετροςcontent_typeΣύμβασηapplication/json
ΠαράμετροςrequiredΣύμβασηmodel, messages
Παράμετροςmaterial_typesΣύμβασηtext
ΠαράμετροςmessagesΣύμβασηΠίνακας μηνυμάτων με δομή role/content
Παράμετροςfile_materialΣύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου
Παράμετροςoptional_controlsΣύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice
Παράμετροςcontrol_scopeΣύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία
Παράμετροςoutput_modalitiesΣύμβασηtext
Παράμετροςhosted_operationsΣύμβασηfalse
Παράμετροςmultimodal_input_bindingΣύμβασηnull

Κύκλος ζωής: synchronous_or_streamed

Στείλτε το ακριβές ID μοντέλου μαζί με το messages.

Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.

Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.

Τιμολόγηση

Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.

Γρήγορη λειτουργία
Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
Λειτουργία flex
Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
Μέγιστη προσπάθεια συλλογισμού
Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default

Χρεώσεις Ailoot

Τιμές ανά διαμόρφωση

ΔιαμόρφωσηΠίνακας χρεώσεωνΧρέωση
ΔιαμόρφωσηΒασικές χρεώσεις ανά tokenΠίνακας χρεώσεωνΒασική χρέωσηΧρέωση
Είσοδος · Token εισόδου $0.0004 / 1K token
Έξοδος · Token εξόδου $0.0016 / 1K token
Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token
Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token
Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token

Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →

Παραδείγματα αιτημάτων

Ailoot Ultra · OpenAI Chat

curlPython SDKΡοή σε Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Λήψη και αποθήκευση αποτελεσμάτων

Ailoot Ultra · OpenAI Chat

json ή SSE

Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα

Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.

Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.

Αν χρειάζεται έλεγχος της αρχικής απάντησης

Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.

Πεδία απάντησης
ΠεδίοΤύπος
Πεδίοchoices[].indexΤύποςinteger
Πεδίοchoices[].message.contentΤύποςstring|null
Πεδίοchoices[].message.tool_callsΤύποςtool_call[]
Πεδίοchoices[].message.reasoning_contentΤύποςstring
Πεδίοchoices[].message.reasoning_detailsΤύποςobject|array
Πεδίοchoices[].finish_reasonΤύποςstring|null
ΠεδίοusageΤύποςobject
Σφάλματα και επόμενα βήματα
ΑπάντησηΣυνθήκηΕπόμενο βήμα
Απάντηση400 · invalid_request_errorΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρουΕπόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας.

Εναλλακτικά ονόματα

Εναλλακτικά ονόματα μοντέλου

Ailoot Ultra qwen/qwen3-235b-a22b-fp8

Εναλλακτικές διαδρομές μεθόδων

Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.

Σχετικά ID μοντέλων

qwen/qwen3-235b-a22b-fp8

Ailoot Ultra · Anthropic Messages POST /v1/messages qwen/qwen3-235b-a22b-fp8

qwen/qwen3-235b-a22b-fp8

Alibaba /qwen/qwen3-235b-a22b-fp8

Εισαγωγή

Το Qwen3-235B-A22B-FP8 είναι το επίσημο σημείο ελέγχου λεπτομερούς κβαντισμού FP8 του μεγάλου μοντέλου μείγματος ειδικών της Qwen3. Διατηρεί τις υβριδικές δυνατότητες συλλογισμού κειμένου και διαλόγου, με τη δική του ταυτότητα κβαντισμού και παραμέτρους που πρέπει να λαμβάνονται υπόψη κατά την εκτέλεση.

Αποδεκτές είσοδοι
Κείμενο
Αποτελέσματα
json · sse

Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι

Ailoot Ultra · Anthropic Messages POST /v1/messages
Είσοδος
text
Έξοδος
json, sse
Μορφή εξόδου
JSON ή SSE
ΠεδίοΤύποςΑπαίτησηΤιμές και όριαΠροεπιλογή
ΠεδίοmodelΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
qwen/qwen3-235b-a22b-fp8
Προεπιλογή—
ΠεδίοmessagesΤύποςmessage[]ΑπαίτησηΥποχρεωτικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].roleΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
user, assistant
Προεπιλογή—
Πεδίοmessages[].contentΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όριαΠροεπιλογή—
Πεδίοmax_tokensΤύποςintegerΑπαίτησηΥποχρεωτικόΤιμές και όριαΠροεπιλογή—
ΠεδίοstreamΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογήfalse
Συνδυασμοί υλικών εισόδου

Κείμενο · Κείμενο UTF-8

Συμβολοσειρά messages[].content

Παράμετροι και κύκλος ζωής μεθόδου
ΠαράμετροςΣύμβαση
Παράμετροςcontent_typeΣύμβασηapplication/json
ΠαράμετροςrequiredΣύμβασηmodel, messages, max_tokens
Παράμετροςoptional_controlsΣύμβασηstream
Παράμετροςmaterial_typesΣύμβασηtext
Παράμετροςtext_file_materialΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος.

Κύκλος ζωής: synchronous_or_streamed

Τιμολόγηση

Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.

Γρήγορη λειτουργία
Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
Λειτουργία flex
Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
Μέγιστη προσπάθεια συλλογισμού
Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default

Χρεώσεις Ailoot

Τιμές ανά διαμόρφωση

ΔιαμόρφωσηΠίνακας χρεώσεωνΧρέωση
ΔιαμόρφωσηΒασικές χρεώσεις ανά tokenΠίνακας χρεώσεωνΒασική χρέωσηΧρέωση
Είσοδος · Token εισόδου $0.0004 / 1K token
Έξοδος · Token εξόδου $0.0016 / 1K token
Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token
Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token
Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token

Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →

Παραδείγματα αιτημάτων

Ailoot Ultra · Anthropic Messages

Πλήρες ελάχιστο σώμα JSONcurl · χρησιμοποιήστε το έγγραφό σας σε UTF-8Python · αποθηκεύστε το πλήρες αποτέλεσμα
{
  "model": "qwen/qwen3-235b-a22b-fp8",
  "max_tokens": 128,
  "messages": [
    {
      "role": "user",
      "content": "Summarize the incident report."
    }
  ],
  "stream": false
}
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError

api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
    raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
    with urlopen(request, timeout=120) as response:
        raw = response.read()
        Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
    Path('result.json').write_bytes(error.read())
    Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
    raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))

Λήψη και αποθήκευση αποτελεσμάτων

Ailoot Ultra · Anthropic Messages

JSON ή SSE

Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα

Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.

Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.

Αν χρειάζεται έλεγχος της αρχικής απάντησης

Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.

Πεδία απάντησης
ΠεδίοΤύπος
ΠεδίοidΤύποςstring
ΠεδίοmodelΤύποςstring
Πεδίοcontent[]Τύποςtext|thinking|tool_use|other content block
Πεδίοstop_reasonΤύποςstring|null
ΠεδίοusageΤύποςobject
Σφάλματα και επόμενα βήματα
ΑπάντησηΣυνθήκηΕπόμενο βήμα
Απάντηση400 · invalid_request_errorΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρουΕπόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας.

Εναλλακτικά ονόματα

Εναλλακτικά ονόματα μοντέλου

Ailoot Ultra qwen/qwen3-235b-a22b-fp8

Εναλλακτικές διαδρομές μεθόδων

Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.

Σχετικά ID μοντέλων

qwen/qwen3-235b-a22b-fp8

FAQ · qwen/qwen3-235b-a22b-fp8
Ποιες είσοδοι και αποτελέσματα διατίθενται;

POST /v1/chat/completions · qwen/qwen3-235b-a22b-fp8: text → text

POST /v1/messages · qwen/qwen3-235b-a22b-fp8: text → json, sse

Ποια πεδία χρησιμοποιεί το αίτημα;

POST /v1/chat/completions · qwen/qwen3-235b-a22b-fp8: model, messages, stream, modalities, provider

POST /v1/messages · qwen/qwen3-235b-a22b-fp8: model, messages, max_tokens, stream

Ποια όρια ισχύουν;

POST /v1/chat/completions · qwen/qwen3-235b-a22b-fp8: messages.min_items: 1

Περισσότερες λεπτομέρειες

Συνδέστε το Ailoot με Claude Code, OpenCode, Hermes ή τη δική σας εφαρμογή.

Η εταιρεία και το χαρτοφυλάκιο έργων της

Η εταιρεία και το χαρτοφυλάκιο έργων της: εκατομμύρια πελάτες· μηνιαίες πωλήσεις δισεκατομμυρίων.

Αγοράστε token με έκπτωση.

Έκπτωση συνδρομής για τακτική χρήση. Προωθητικοί κωδικοί — έως 50% στην αγορά token.

Συνδρομή
Επιλέξτε πρόγραμμα με έκπτωση για τα τακτικά αιτήματά σας.
Προωθητικός κωδικός έως 50%
Εισαγάγετε τον κωδικό στην αγορά. Η τιμή επανυπολογίζεται σύμφωνα με την ενεργή προσφορά.
Δαπάνες στο ιστορικό
Μοντέλο, token και ποσό αποθηκεύονται για κάθε αίτημα.

Επιλέξτε συνδρομή · Δείτε τιμές μοντέλων

Συνδέστε το API με το προϊόν που πουλάτε.

SaaS, εφαρμογές και bot — σύμφωνα με τη δημόσια προσφορά και τη σύμβαση άδειας χρήσης Ailoot. Για μεταπώληση ζητήστε σχετική άδεια.

Εμπορική εφαρμογή
Ενσωματώστε δημιουργία κειμένου, εικόνων, βίντεο και ήχου στις πληρωμένες λειτουργίες της υπηρεσίας σας.
Άδεια για μεταπωλητή
Στείλτε περιγραφή έργου και τρόπο πρόσβασης. Ζητήστε γραπτούς όρους χρήσης και μεταπώλησης.
Έγγραφα στον ιστότοπο
Δημόσια προσφορά, σύμβαση άδειας χρήσης και πολιτική επεξεργασίας δεδομένων είναι διαθέσιμες πριν τη σύνδεση.

Ζητήστε άδεια μεταπώλησης · Δημόσια προσφορά και σύμβαση άδειας χρήσης