gpt-4-32k
Το GPT-4 32K είναι το προφίλ κειμένου GPT-4 με διευρυμένο παράθυρο συμφραζομένων για εργασία με μεγαλύτερες συλλογές εγγράφων ή κώδικα. Το τεκμηριωμένο παράθυρο των 32.768 tokens υποστηρίζει σχετικό υλικό σε μία εργασία, με οδηγίες συστήματος που καθοδηγούν την απάντηση και κλήσεις συναρτήσεων που τεκμηριώνονται στην ενημερωμένη έκδοση 0613.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsgpt-4-32k - Ailoot Ultra · Anthropic Messages
POST /v1/messagesgpt-4-32k
Σχετικά με το μοντέλο
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το GPT-4 32K είναι το προφίλ κειμένου GPT-4 της OpenAI με διευρυμένο παράθυρο συμφραζομένων για εργασίες που χρειάζονται περισσότερο σχετικό υλικό σε ένα αίτημα. Ο κατασκευαστής τεκμηριώνει παράθυρο 32.768 tokens, σε σύγκριση με τα 8.192 tokens του αρχικού προφίλ GPT-4. Δέχεται κείμενο και επιστρέφει κείμενο, συμπεριλαμβανομένων εξηγήσεων σε φυσική γλώσσα, προσχεδίων και κώδικα. Η καθοριστική διάκρισή του είναι το μεγαλύτερο παράθυρο συμφραζομένων, και όχι το παράθυρο 128K ή οι πολυτροπικές δυνατότητες των μεταγενέστερων προφίλ GPT-4 Turbo.
Χρησιμοποιήστε το παράθυρο συμφραζομένων για σχετικά τεκμήρια
Παρέχετε τα έγγραφα ή τον κώδικα που σχετίζονται με μια σαφώς δηλωμένη εργασία. Μια σύγκριση απαιτήσεων μπορεί να συγκεντρώνει αρκετές προδιαγραφές και να ρωτά ποιες συνθήκες συμφωνούν, ποιες συγκρούονται και ποια πηγή διέπει μια απόφαση. Δώστε σε κάθε πηγή ένα αναγνωριστικό και ζητήστε το απόσπασμα που υποστηρίζει ένα σημαντικό εύρημα. Η συγκέντρωση σχετικών τεκμηρίων μπορεί να βοηθήσει το μοντέλο να τα συγκρίνει, ενώ το αποτέλεσμα εξακολουθεί να χρειάζεται να διατηρεί τη σύνδεση μεταξύ ενός συμπεράσματος και της πηγής του.
Για ένα ερώτημα σχετικά με μια βάση κώδικα, συμπεριλάβετε τις σχετικές συναρτήσεις, τον κώδικα που τις καλεί και τη συμπεριφορά που διερευνάται. Ζητήστε εξήγηση της εξάρτησης ή εστιασμένη αλλαγή που συνδέεται με αυτή τη συμπεριφορά. Το μεγαλύτερο παράθυρο συμφραζομένων μπορεί να περιέχει χρήσιμα γειτονικά τμήματα κώδικα, αλλά δεν καταργεί την ανάγκη να οριστεί το ερώτημα ή το κριτήριο ολοκλήρωσης. Μια πρόταση κώδικα πρέπει να προσδιορίζει την περίπτωση εισόδου που την αιτιολογεί και το αναμενόμενο αποτέλεσμα που μπορεί να ελεγχθεί.
Δηλώστε την εργασία και το ύφος απάντησης
Η έκδοση GPT-4 περιγράφει την καθοδήγηση μέσω μηνυμάτων συστήματος: ο προγραμματιστής μπορεί να προσδιορίζει την εργασία, τον τόνο και το ύφος του μοντέλου. Χρησιμοποιήστε αυτή την οδηγία για να καθορίσετε αν η απάντηση πρέπει να είναι σύντομη εξήγηση, σύγκριση, προσχέδιο ή εγγραφή με ονομασμένα πεδία. Ορίστε πώς πρέπει να εμφανίζονται οι πληροφορίες που λείπουν και διακρίνετε τα παρεχόμενα πραγματικά στοιχεία από τις παραδοχές. Μια εργασία επεξεργασίας εγγράφων μπορεί να ζητά λίστα συνθηκών, με το αναγνωριστικό της πηγής και το σχετικό απόσπασμα δίπλα σε κάθε συνθήκη.
Διατηρήστε αυτές τις οδηγίες καθώς εξελίσσεται η συνομιλία. Συμπεριλάβετε το πραγματικό προηγούμενο αποτέλεσμα όταν το επόμενο αίτημα το αναθεωρεί, και εντοπίστε τι πρέπει να αλλάξει. Ένα χρήσιμο επόμενο αίτημα εστιάζει σε συγκεκριμένο σημείο διαφωνίας κατά τη σύγκριση ή ζητά διόρθωση ενός μέρους προσχεδίου, αντί να θεωρεί ότι μια νέα μεμονωμένη προτροπή διατηρεί ολόκληρη την προηγούμενη εργασία.
Κλήσεις συναρτήσεων στην ενημερωμένη σειρά 32K
Η ενημέρωση 0613 του κατασκευαστή προσθέτει τις βελτιώσεις κλήσεων συναρτήσεων του GPT-4 στην έκδοση με διευρυμένο παράθυρο συμφραζομένων. Ο προγραμματιστής περιγράφει μια συνάρτηση και τις παραμέτρους της και το μοντέλο μπορεί να επιστρέφει αντικείμενο JSON που περιέχει ορίσματα για αυτή τη συνάρτηση. Η εφαρμογή εκτελεί τη λειτουργία και παρέχει το επιστρεφόμενο αποτέλεσμα. Η χρήσιμη δυνατότητα είναι ένα δομημένο αίτημα που συνδέεται με τη συμπεριφορά της εφαρμογής, και όχι η άμεση ολοκλήρωση μιας εξωτερικής ενέργειας από το μοντέλο.
Για έναν βοηθό πληροφοριών, μια συνάρτηση μπορεί να ανακτά την πραγματική εγγραφή που χρειάζεται για να απαντηθεί ένα ερώτημα. Κρατήστε συσχετισμένα το ζητούμενο αναγνωριστικό και την επιστρεφόμενη εγγραφή, και ζητήστε έπειτα απάντηση βασισμένη σε εκείνο το αποτέλεσμα. Ελέγξτε αν μια προτεινόμενη ενέργεια υποστηρίζεται από το αίτημα του χρήστη και αν η συνάρτηση την ολοκλήρωσε πραγματικά. Η ενημερωμένη διεπαφή συναρτήσεων διαφέρει από τη λειτουργία JSON και τις παράλληλες κλήσεις που προστέθηκαν αργότερα στο GPT-4 Turbo.
Ελέγξτε την απάντηση ως προς το υλικό
Η αρχική έκδοση GPT-4 εντοπίζει τις πραγματολογικές παραισθήσεις, τα σφάλματα συλλογιστικής και την περιορισμένη γνώση νεότερων γεγονότων ως ουσιαστικούς περιορισμούς. Εκείνη η έκδοση δηλώνει ότι το μεγαλύτερο μέρος των δεδομένων εκπαίδευσης του GPT-4 έχει χρονικό όριο τον Σεπτέμβριο του 2021. Παρέχετε τρέχοντα τεκμήρια για ένα ερώτημα του οποίου η απάντηση έχει αλλάξει και ελέγξτε τα σημαντικά αριθμητικά στοιχεία, τα ονόματα και τη συμπεριφορά του κώδικα ως προς την πηγή. Ακόμη και μια εξήγηση με βέβαιο τόνο μπορεί να παρερμηνεύει μια συνθήκη ή να εισάγει ένα ελάττωμα.
Κρατήστε το ζητούμενο παραδοτέο ανάλογο προς την εργασία και το διαθέσιμο παράθυρο συμφραζομένων. Η ένδειξη 32K είναι χωρητικότητα συμφραζομένων, και όχι υπόσχεση εξίσου μεγάλης ολοκληρωμένης απάντησης ή τέλειας κατανόησης κάθε αποσπάσματος που περιλαμβάνεται. Διατηρήστε μαζί το επιλεγμένο προφίλ μοντέλου, τις οδηγίες, το αρχικό υλικό και το αποτέλεσμα. Έτσι, μια σύγκριση μεγάλων εγγράφων, μια εξήγηση κώδικα ή ένα αναθεωρημένο προσχέδιο γίνεται αρκετά συγκεκριμένο παραδοτέο ώστε να είναι δυνατός ο έλεγχος και η περαιτέρω επεξεργασία του.
Πρακτική εργασία
Πρακτική εργασία
Τεχνικό παράδειγμα στα αγγλικά
Compare a specification and addendum
Compare these labelled terms for a project manager. Specification S: deliver 40 desks by 1 June; acceptance requires assembly. Addendum A: delivery moves to 8 June; all other terms remain unchanged. Addendum A has priority. Write the current obligations in three bullets and show which source establishes each. Do not treat the original deadline as still active.Αναμενόμενο αποτέλεσμα
Three source-linked obligations for quantity, revised delivery date and assembly at acceptance.Έλεγχος αποτελέσματος
Only the deadline changes; the answer retains 40 desks and the assembly requirement.Ailoot Ultra · OpenAI Chat POST /v1/chat/completions gpt-4-32k
gpt-4-32kΕισαγωγή
Το GPT-4 32K είναι το προφίλ κειμένου GPT-4 με διευρυμένο παράθυρο συμφραζομένων για εργασία με μεγαλύτερες συλλογές εγγράφων ή κώδικα. Το τεκμηριωμένο παράθυρο των 32.768 tokens υποστηρίζει σχετικό υλικό σε μία εργασία, με οδηγίες συστήματος που καθοδηγούν την απάντηση και κλήσεις συναρτήσεων που τεκμηριώνονται στην ενημερωμένη έκδοση 0613.
- Αποδεκτές είσοδοι
- Κείμενο
- Αποτελέσματα
- Κείμενο
Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Είσοδος
text- Έξοδος
text- Μορφή εξόδου
- json ή SSE
| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια gpt-4-32k | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Συνδυασμοί υλικών εισόδου
Κείμενο · Κείμενο UTF8
messages[].content
Παράμετροι και κύκλος ζωής μεθόδου
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Τιμολόγηση
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
- Γρήγορη λειτουργία
- Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
- Λειτουργία flex
- Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
- Μέγιστη προσπάθεια συλλογισμού
- Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default
Χρεώσεις Ailoot
Τιμές ανά διαμόρφωση
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.12 / 1K token Έξοδος · Token εξόδου $0.24 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
Παραδείγματα αιτημάτων
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "gpt-4-32k", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='gpt-4-32k',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
from openai import OpenAI
import os
from pathlib import Path
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
with client.chat.completions.stream(model='gpt-4-32k',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
for event in stream:
payload=event.to_dict(mode="json")
log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
print(json.dumps(payload,ensure_ascii=False))
final=stream.get_final_completion()
save_result(final.to_dict(mode="json"),"stream-result")
Λήψη και αποθήκευση αποτελεσμάτων
Ailoot Ultra · OpenAI Chat
json ή SSE
Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Αν χρειάζεται έλεγχος της αρχικής απάντησης
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
Πεδία απάντησης
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
Σφάλματα και επόμενα βήματα
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Εναλλακτικά ονόματα
Εναλλακτικά ονόματα μοντέλου
Ailoot Ultra gpt-4-32k
Εναλλακτικές διαδρομές μεθόδων
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Σχετικά ID μοντέλων
Ailoot Ultra · Anthropic Messages POST /v1/messages gpt-4-32k
gpt-4-32kΕισαγωγή
Το GPT-4 32K είναι το προφίλ κειμένου GPT-4 με διευρυμένο παράθυρο συμφραζομένων για εργασία με μεγαλύτερες συλλογές εγγράφων ή κώδικα. Το τεκμηριωμένο παράθυρο των 32.768 tokens υποστηρίζει σχετικό υλικό σε μία εργασία, με οδηγίες συστήματος που καθοδηγούν την απάντηση και κλήσεις συναρτήσεων που τεκμηριώνονται στην ενημερωμένη έκδοση 0613.
- Αποδεκτές είσοδοι
- Κείμενο
- Αποτελέσματα
- json · sse
Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Είσοδος
text- Έξοδος
json,sse- Μορφή εξόδου
- JSON ή SSE
| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια gpt-4-32k | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Συνδυασμοί υλικών εισόδου
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
Παράμετροι και κύκλος ζωής μεθόδου
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Τιμολόγηση
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
- Γρήγορη λειτουργία
- Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
- Λειτουργία flex
- Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
- Μέγιστη προσπάθεια συλλογισμού
- Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default
Χρεώσεις Ailoot
Τιμές ανά διαμόρφωση
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.12 / 1K token Έξοδος · Token εξόδου $0.24 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
Παραδείγματα αιτημάτων
Ailoot Ultra · Anthropic Messages
{
"model": "gpt-4-32k",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'gpt-4-32k', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'gpt-4-32k', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Λήψη και αποθήκευση αποτελεσμάτων
Ailoot Ultra · Anthropic Messages
JSON ή SSE
Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Αν χρειάζεται έλεγχος της αρχικής απάντησης
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
Πεδία απάντησης
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
Σφάλματα και επόμενα βήματα
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Εναλλακτικά ονόματα
Εναλλακτικά ονόματα μοντέλου
Ailoot Ultra gpt-4-32k
Εναλλακτικές διαδρομές μεθόδων
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Σχετικά ID μοντέλων
FAQ · gpt-4-32k
- Ποιες είσοδοι και αποτελέσματα διατίθενται;
POST /v1/chat/completions·gpt-4-32k:text→textPOST /v1/messages·gpt-4-32k:text→json,sse- Ποια πεδία χρησιμοποιεί το αίτημα;
POST /v1/chat/completions·gpt-4-32k:model,messages,stream,modalities,providerPOST /v1/messages·gpt-4-32k:model,messages,max_tokens,stream- Ποια όρια ισχύουν;
POST /v1/chat/completions·gpt-4-32k:messages.min_items:1