Qwen2.5 Coder 7B Instruct
Το Qwen2.5-Coder-7B-Instruct είναι μοντέλο κειμένου για παραγωγή, εξήγηση και επιδιόρθωση κώδικα από οδηγίες. Η κυκλοφορία του με 7.61 δισεκατομμύρια παραμέτρους υποστηρίζει εκτεταμένα συμφραζόμενα έως 131,072 tokens με την τεκμηριωμένη διαμόρφωση εκτεταμένων συμφραζομένων.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsqwen2.5-coder-7b-instruct - Ailoot Ultra · Anthropic Messages
POST /v1/messagesqwen2.5-coder-7b-instruct
Σχετικά με το μοντέλο
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-Coder-7B-Instruct είναι η κυκλοφορία μεγέθους 7B προσαρμοσμένη σε οδηγίες της οικογένειας Qwen που εστιάζει στον κώδικα και ήταν προηγουμένως γνωστή ως CodeQwen. Οι κεντρικές εργασίες του είναι παραγωγή κώδικα, συλλογιστική για τη συμπεριφορά προγραμμάτων και επιδιόρθωση κώδικα. Δέχεται κείμενο, συμπεριλαμβανομένων απαιτήσεων και πηγαίου κώδικα, και επιστρέφει κείμενο που μπορεί να περιέχει υλοποίηση, εξήγηση ή προτεινόμενη αλλαγή.
Δυνατότητες προγραμματισμού και εκπαίδευση
Ο κατασκευαστής περιγράφει 5.5 τρισεκατομμύρια tokens εκπαίδευσης, συμπεριλαμβανομένων πηγαίου κώδικα, υλικού που συνδέει κείμενο με κώδικα και συνθετικών παραδειγμάτων. Η οικογένεια διατηρεί μαθηματικές και γενικές γλωσσικές ικανότητες μαζί με την εξειδίκευσή της στον προγραμματισμό. Η ανακοίνωση κυκλοφορίας διακρίνει την παραγωγή προγράμματος, τη συλλογιστική για τον τρόπο εκτέλεσής του και την επιδιόρθωση υπάρχουσας υλοποίησης· αυτά απαιτούν διαφορετικές εισόδους και διαφορετικά τελικά τεχνουργήματα.
Για παραγωγή, δώστε τη γλώσσα προγραμματισμού, την υπογραφή συνάρτησης, τους τύπους εισόδου και την αναμενόμενη τιμή επιστροφής. Συμπεριλάβετε περιορισμούς όπως αν η συνάρτηση μπορεί να μεταβάλλει την είσοδό της ή να χρησιμοποιεί εξωτερική εξάρτηση. Ζητήστε την υλοποίηση και σύντομη εξήγηση του πώς ικανοποιεί κάθε απαίτηση. Για παράδειγμα, ένα αίτημα ταξινόμησης μπορεί να ορίζει ότι οι διπλότυπες τιμές πρέπει να διατηρούνται και η αρχική λίστα να μένει αμετάβλητη και έπειτα να ζητά συνάρτηση μαζί με παραδείγματα κλήσεων για κενή λίστα και λίστα με επαναλαμβανόμενες τιμές.
Για συλλογιστική κώδικα, δώστε το ακριβές απόσπασμα και τη συγκεκριμένη είσοδο προς ιχνηλάτηση. Ρωτήστε ποιοι κλάδοι εκτελούνται, πώς αλλάζουν οι ενδιάμεσες τιμές και τι επιστρέφει η συνάρτηση. Αυτό είναι πιο χρήσιμο από ένα ακατεύθυντο αίτημα εξήγησης ολόκληρου αρχείου: η απάντηση συνδέει συγκεκριμένη είσοδο με συγκεκριμένη διαδρομή στο πρόγραμμα. Κρατήστε μαζί με το απόσπασμα τις καλούμενες βοηθητικές συναρτήσεις ή τους σχετικούς ορισμούς τύπων.
Για επιδιόρθωση, δώστε τη συμπεριφορά αστοχίας, την αναμενόμενη συμπεριφορά και τον κώδικα που καθορίζει τη διαφορά. Ένα μήνυμα σφάλματος μόνο του μπορεί να αφήνει απροσδιόριστη τη σημαντική συνθήκη. Ζητήστε προτεινόμενη διόρθωση, εξήγηση της αιτίας και παραδείγματα που διακρίνουν την παλιά από την επιδιωκόμενη συμπεριφορά. Το επιστρεφόμενο patch είναι τεχνούργημα κειμένου· η μεταγλώττιση, εκτέλεση ή εφαρμογή του σε αποθετήριο απαιτεί το περιβάλλον ανάπτυξης που το περιβάλλει.
Η ονομασμένη έκδοση 7B
Το κυκλοφορημένο μοντέλο έχει 7.61 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 6.53 δισεκατομμυρίων παραμέτρων εκτός embeddings, και 28 επίπεδα Transformer. Χρησιμοποιεί περιστροφικά embeddings θέσεων, SwiGLU, RMSNorm και όρο πόλωσης QKV προσοχής. Η προσοχή ομαδοποιημένων ερωτημάτων του έχει 28 κεφαλές ερωτημάτων και 4 κεφαλές κλειδιών/τιμών. Αυτές οι λεπτομέρειες περιγράφουν αυτή την κυκλοφορία αντί για μεγαλύτερη έκδοση Coder.
Η οικογένεια παρέχει ξεχωριστά μοντέλα Base και Instruct. Το Instruct είναι ευθυγραμμισμένο για αιτήματα συνομιλίας· το Base είναι θεμέλιο συμπλήρωσης και περαιτέρω προσαρμογής. Αυτή η εγγραφή αφορά το μοντέλο 7B προσαρμοσμένο σε οδηγίες. Τα παραδείγματα της κυκλοφορίας και τα προβεβλημένα αποτελέσματα άλλων μεγεθών δεν ορίζουν τις δυνατότητες ή τις απαιτήσεις πόρων αυτής της έκδοσης.
Προετοιμασία οδηγίας
Η κάρτα μοντέλου επιδεικνύει συνομιλία με ξεχωριστά μηνύματα συστήματος και χρήστη και το αντίστοιχο πρότυπο συνομιλίας. Τοποθετήστε διαρκείς κανόνες απάντησης, όπως τον τρόπο παρουσίασης υλοποίησης και εξήγησης, ξεχωριστά από τον κώδικα και την εργασία. Σημάνετε ποιο απόσπασμα είναι υπάρχουσα πηγή, ποιο κείμενο είναι απαίτηση και ποια έξοδος πρέπει να επιστραφεί. Αυτό βοηθά στη διατήρηση αναγνωριστικών, διεπαφών και συμπεριφοράς που πρέπει να κρατήσει η ζητούμενη αλλαγή.
Μια χρήσιμη είσοδος βοηθού ανάπτυξης μπορεί να περιέχει σύντομο άρθρωμα, τον καλούντα του και την επιδιωκόμενη αλλαγή. Ζητήστε αναθεωρημένη συνάρτηση, κατάλογο παραδοχών και παραδείγματα εισόδων με τις αναμενόμενες εξόδους. Για παραγόμενο οπτικό τεχνούργημα, προσδιορίστε τα δεδομένα και τις αλληλεπιδράσεις προς υλοποίηση και ζητήστε το προκύπτον πηγαίο κείμενο· η οικογένεια με εστίαση στον κώδικα παρουσιάζει επίσης βοηθούς κώδικα και οπτικά τεχνουργήματα. Η οπτική απόδοση του τεχνουργήματος παραμένει ξεχωριστό βήμα από την παραγωγή της πηγής του.
Επεξεργασία εκτεταμένου κειμένου
Η κάρτα μοντέλου καταγράφει πλήρες παράθυρο συμφραζομένων 131,072 tokens, ενώ η κυκλοφορημένη διαμόρφωση έχει αρχικά οριστεί για 32,768 tokens. Η επεξεργασία εισόδων πέρα από αυτή τη ρύθμιση απαιτεί την τεκμηριωμένη επέκταση YaRN. Το παράδειγμα προσδιορίζει συντελεστή κλιμάκωσης 4.0 και αρχική ρύθμιση μέγιστων θέσεων 32,768. Ο κατασκευαστής σημειώνει ότι η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά μικρότερων κειμένων και συνιστά την προσθήκη επέκτασης όταν χρειάζονται εκτεταμένα συμφραζόμενα.
Χρησιμοποιήστε το μεγαλύτερο παράθυρο συμφραζομένων για να κρατήσετε σχετικό κώδικα και απαιτήσεις μαζί, αλλά προσδιορίστε την πραγματική ερώτηση: εντοπίστε ασύμβατη κλήση, εξηγήστε διαδρομή δεδομένων ή προτείνετε αλλαγή μέσα σε καθορισμένη διεπαφή. Συμπεριλάβετε τα μέρη που καθορίζουν τη συμπεριφορά αντί για άσχετο υλικό έργου. Τα 512 παραγόμενα tokens της γρήγορης εκκίνησης είναι ενδεικτική ρύθμιση· η κάρτα δεν καθιερώνει ξεχωριστή μέγιστη χωρητικότητα εξόδου από αυτή την τιμή.
Το τεκμηριωμένο αποτέλεσμα του μοντέλου είναι κείμενο. Ο ρόλος του σε πράκτορα κώδικα εξαρτάται από την εφαρμογή που παρέχει πρόσβαση αποθετηρίου, εκτέλεση και ανατροφοδότηση. Κρατήστε αυτές τις πράξεις ξεχωριστά από την ικανότητα του μοντέλου να προτείνει κώδικα και να εξηγεί τη συμπεριφορά του και κρατήστε ρητά την ακριβή έκδοση 7B-Instruct και τις ρυθμίσεις εκτεταμένων συμφραζομένων όταν σχεδιάζετε επαναλήψιμη εργασία.
Πρακτική εργασία
Πρακτική εργασία
Τεχνικό παράδειγμα στα αγγλικά
Repair integer averaging
Fix this Python function: def mean(values): return sum(values) // len(values). Requirement: return the arithmetic mean as a float, preserve fractional results and raise ValueError for empty input. Provide the corrected function and tests for [1, 2], [-2, 2] and []. Explain the two distinct defects.Αναμενόμενο αποτέλεσμα
A corrected function, three tests and separate explanations for floor division and empty-input behavior.Έλεγχος αποτελέσματος
Check that [1, 2] keeps its fractional mean and that empty input raises the specified exception.Ailoot Ultra · OpenAI Chat POST /v1/chat/completions qwen2.5-coder-7b-instruct
qwen2.5-coder-7b-instructΕισαγωγή
Το Qwen2.5-Coder-7B-Instruct είναι μοντέλο κειμένου για παραγωγή, εξήγηση και επιδιόρθωση κώδικα από οδηγίες. Η κυκλοφορία του με 7.61 δισεκατομμύρια παραμέτρους υποστηρίζει εκτεταμένα συμφραζόμενα έως 131,072 tokens με την τεκμηριωμένη διαμόρφωση εκτεταμένων συμφραζομένων.
- Αποδεκτές είσοδοι
- Κείμενο
- Αποτελέσματα
- Κείμενο
Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Είσοδος
text- Έξοδος
text- Μορφή εξόδου
- json ή SSE
| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια qwen2.5-coder-7b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Συνδυασμοί υλικών εισόδου
Κείμενο · Κείμενο UTF8
messages[].content
Παράμετροι και κύκλος ζωής μεθόδου
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Τιμολόγηση
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
- Γρήγορη λειτουργία
- Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
- Λειτουργία flex
- Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
- Μέγιστη προσπάθεια συλλογισμού
- Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default
Χρεώσεις Ailoot
Τιμές ανά διαμόρφωση
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.0001 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
Παραδείγματα αιτημάτων
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "qwen2.5-coder-7b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
from openai import OpenAI
import os
from pathlib import Path
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
with client.chat.completions.stream(model='qwen2.5-coder-7b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
for event in stream:
payload=event.to_dict(mode="json")
log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
print(json.dumps(payload,ensure_ascii=False))
final=stream.get_final_completion()
save_result(final.to_dict(mode="json"),"stream-result")
Λήψη και αποθήκευση αποτελεσμάτων
Ailoot Ultra · OpenAI Chat
json ή SSE
Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Αν χρειάζεται έλεγχος της αρχικής απάντησης
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
Πεδία απάντησης
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
Σφάλματα και επόμενα βήματα
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Εναλλακτικά ονόματα
Εναλλακτικά ονόματα μοντέλου
Ailoot Ultra qwen2.5-coder-7b-instruct
Εναλλακτικές διαδρομές μεθόδων
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Σχετικά ID μοντέλων
Ailoot Ultra · Anthropic Messages POST /v1/messages qwen2.5-coder-7b-instruct
qwen2.5-coder-7b-instructΕισαγωγή
Το Qwen2.5-Coder-7B-Instruct είναι μοντέλο κειμένου για παραγωγή, εξήγηση και επιδιόρθωση κώδικα από οδηγίες. Η κυκλοφορία του με 7.61 δισεκατομμύρια παραμέτρους υποστηρίζει εκτεταμένα συμφραζόμενα έως 131,072 tokens με την τεκμηριωμένη διαμόρφωση εκτεταμένων συμφραζομένων.
- Αποδεκτές είσοδοι
- Κείμενο
- Αποτελέσματα
- json · sse
Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Είσοδος
text- Έξοδος
json,sse- Μορφή εξόδου
- JSON ή SSE
| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια qwen2.5-coder-7b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Συνδυασμοί υλικών εισόδου
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
Παράμετροι και κύκλος ζωής μεθόδου
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Τιμολόγηση
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
- Γρήγορη λειτουργία
- Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
- Λειτουργία flex
- Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
- Μέγιστη προσπάθεια συλλογισμού
- Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default
Χρεώσεις Ailoot
Τιμές ανά διαμόρφωση
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.0001 / 1K token Έξοδος · Token εξόδου $0.0001 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
Παραδείγματα αιτημάτων
Ailoot Ultra · Anthropic Messages
{
"model": "qwen2.5-coder-7b-instruct",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'qwen2.5-coder-7b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Λήψη και αποθήκευση αποτελεσμάτων
Ailoot Ultra · Anthropic Messages
JSON ή SSE
Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Αν χρειάζεται έλεγχος της αρχικής απάντησης
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
Πεδία απάντησης
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
Σφάλματα και επόμενα βήματα
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Εναλλακτικά ονόματα
Εναλλακτικά ονόματα μοντέλου
Ailoot Ultra qwen2.5-coder-7b-instruct
Εναλλακτικές διαδρομές μεθόδων
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Σχετικά ID μοντέλων
FAQ · Pro/Qwen/Qwen2.5-Coder-7B-Instruct
- Ποιες είσοδοι και αποτελέσματα διατίθενται;
POST /v1/chat/completions·qwen2.5-coder-7b-instruct:text→textPOST /v1/messages·qwen2.5-coder-7b-instruct:text→json,sse- Ποια πεδία χρησιμοποιεί το αίτημα;
POST /v1/chat/completions·qwen2.5-coder-7b-instruct:model,messages,stream,modalities,providerPOST /v1/messages·qwen2.5-coder-7b-instruct:model,messages,max_tokens,stream- Ποια όρια ισχύουν;
POST /v1/chat/completions·qwen2.5-coder-7b-instruct:messages.min_items:1