gpt-3.5-turbo-1106
Το OpenAI GPT-3.5 Turbo 1106 είναι η συγκεκριμένη έκδοση μοντέλου κειμένου με παράθυρο συμφραζομένων 16K, βελτιωμένη τήρηση οδηγιών, λειτουργία JSON και παράλληλη κλήση συναρτήσεων. Χρησιμοποιήστε το για συνομιλιακή βοήθεια, εξαγωγή κειμένου και εργασίες κώδικα ή περιεχομένου με σαφώς καθορισμένη έξοδο.
- Ailoot Ultra · OpenAI Chat
POST /v1/chat/completionsgpt-3.5-turbo-1106 - Ailoot Ultra · Anthropic Messages
POST /v1/messagesgpt-3.5-turbo-1106
Σχετικά με το μοντέλο
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το OpenAI GPT-3.5 Turbo 1106 είναι η συγκεκριμένη έκδοση GPT-3.5 Turbo με αναγνωριστικό gpt-3.5-turbo-1106. Κατανοεί και παράγει φυσική γλώσσα και κώδικα, με σχεδίαση προσανατολισμένη στη συνομιλία που υποστηρίζει και μη συνομιλιακές εργασίες κειμένου. Οι τεκμηριωμένες αλλαγές της έκδοσης περιλαμβάνουν προεπιλεγμένο παράθυρο συμφραζομένων 16K, βελτιωμένη τήρηση οδηγιών, λειτουργία JSON και παράλληλη κλήση συναρτήσεων. Η ρητή ταυτότητα 1106 διαχωρίζει αυτό το προφίλ από την έκδοση 0613, το μεταγενέστερο στιγμιότυπο 0125 και το GPT-3.5 Turbo Instruct.
Οδηγίες και πλαίσιο εισόδου
Προετοιμάστε την εργασία με το σχετικό κείμενο, τους κανόνες που πρέπει να ακολουθεί η απάντηση και την επιθυμητή μορφή αποτελέσματος. Για απάντηση υποστήριξης, συμπεριλάβετε το ερώτημα του πελάτη και τα ισχύοντα στοιχεία του προϊόντος. Για εξαγωγή, ονομάστε τα πεδία προς εντοπισμό και εξηγήστε τι γίνεται όταν λείπει κάποιο πεδίο. Για εργασία κώδικα, δώστε τον σχετικό κώδικα, την αναμενόμενη συμπεριφορά και το σφάλμα ή τον περιορισμό προς αντιμετώπιση. Το περιθώριο πλαισίου 16K προσφέρει χώρο για υποστηρικτικό υλικό· δεν υπόσχεται ότι κάθε λεπτομέρεια θα χρησιμοποιηθεί σωστά ή ότι η απάντηση μπορεί να έχει το μήκος της εισόδου.
Η OpenAI αναφέρει όριο γνώσεων τον Σεπτέμβριο του 2021 για την οικογένεια GPT-3.5 Turbo. Παρέχετε έγκυρο υλικό όταν η απάντηση εξαρτάται από νεότερες πληροφορίες ή στοιχεία ειδικά για το έργο σας. Ζητήστε από το μοντέλο να διακρίνει όσα υπάρχουν στο παρεχόμενο κείμενο από όσα συνάγει. Ένα αίτημα απάντησης σε συγκεκριμένη μορφή πρέπει να την ορίζει ρητά, αντί να βασίζεται στο μοντέλο για να μαντέψει πεδία, μονάδες ή συμβάσεις.
Λειτουργία JSON και έλεγχοι σχήματος
Η λειτουργία JSON στοχεύει στην παραγωγή συντακτικά έγκυρου JSON. Είναι χρήσιμη όταν η εξαγωγή ή ταξινόμηση κειμένου χρειάζεται αντικείμενο που μπορεί να αναλύσει μια εφαρμογή. Συμπεριλάβετε ρητή οδηγία παραγωγής JSON και δηλώστε τα απαιτούμενα κλειδιά, τους τύπους τιμών και τον χειρισμό άγνωστων πληροφοριών. Η OpenAI προειδοποιεί ότι η παράλειψη της οδηγίας JSON μπορεί να οδηγήσει σε παραγωγή κενών μέχρι να εξαντληθεί το όριο token. Πρέπει επίσης να διακρίνεται μια ολοκληρωμένη απάντηση από έξοδο που διακόπηκε πριν ολοκληρωθεί το αντικείμενο.
Το έγκυρο JSON από μόνο του δεν εγγυάται συμμόρφωση με συγκεκριμένο σχήμα ούτε την ορθότητα των τιμών του. Σε εργασία εξαγωγής εγγραφών, ελέγξτε ότι υπάρχουν τα απαιτούμενα κλειδιά και ότι κάθε εξαγόμενη τιμή υποστηρίζεται από την είσοδο. Η λειτουργία JSON δεν πρέπει να αντιμετωπίζεται ως η εγγύηση σχήματος της μεταγενέστερης δυνατότητας Structured Outputs. Αυτή η διάκριση έχει σημασία όταν η έξοδος θα συμπληρώσει μια φόρμα, θα επιλέξει ετικέτα ή θα γίνει είσοδος άλλης ροής εργασίας.
Παράλληλη κλήση συναρτήσεων
Η έκδοση 1106 υποστηρίζει παράλληλη κλήση συναρτήσεων, επιτρέποντας στο μοντέλο να προτείνει περισσότερες από μία κλήσεις σε μία απάντηση. Αυτό μπορεί να υποστηρίξει εργασία που χρειάζεται πολλές λειτουργίες ορισμένες από την εφαρμογή ή ανεξάρτητες αναζητήσεις πληροφοριών. Περιγράψτε σαφώς τον σκοπό και τις αναμενόμενες εισόδους κάθε συνάρτησης. Η περιβάλλουσα εφαρμογή εκτελεί τη λειτουργία και παρέχει το αποτέλεσμα· μια παραγόμενη κλήση συνάρτησης από μόνη της δεν αποδεικνύει ολοκλήρωση ενέργειας. Ελέγξτε τα προτεινόμενα ορίσματα και κρατήστε την απάντηση κειμένου συνδεδεμένη με τα αποτελέσματα που πράγματι επιστράφηκαν.
Πρόσθετη εκπαίδευση και πρακτική χρήση
Η ανακοίνωση της έκδοσης από την OpenAI τεκμηριώνει τη δυνατότητα fine-tuning για το νέο μοντέλο GPT-3.5 Turbo 16K. Ένα μοντέλο που έχει υποστεί fine-tuning είναι χωριστά προετοιμασμένη παραλλαγή, όχι αυτόματη ιδιότητα κάθε αιτήματος προς αυτή τη βασική έκδοση. Για συνήθη χρήση, ξεκινήστε με σαφή οδηγία και σχετικά παραδείγματα της επιθυμητής απάντησης. Κατά την προετοιμασία αιτήματος εξαγωγής ή αναδιατύπωσης, τα παραδείγματα πρέπει να δείχνουν τις ουσιώδεις διακρίσεις, όπως μια απούσα τιμή ή μια φράση που πρέπει να παραμείνει αμετάβλητη.
Χρήσιμες έξοδοι περιλαμβάνουν απάντηση υποστήριξης που βασίζεται σε παρεχόμενες πληροφορίες προϊόντος, ελεγμένη εγγραφή JSON, σύντομη εξήγηση κώδικα ή αναδιατυπωμένο απόσπασμα με δηλωμένους περιορισμούς. Συγκρίνετε το αποτέλεσμα με το κείμενο πηγής και τη ζητούμενη μορφή. Για κώδικα, ελέγξτε την προτεινόμενη αλλαγή στο έργο στόχο· για εξαγωγή, ελέγξτε τις τιμές και τον χειρισμό ελλιπών πεδίων. Η αξία αυτής της έκδοσης έγκειται στις συγκεκριμένες δυνατότητες κειμένου, τήρησης μορφής και κλήσης συναρτήσεων, εφαρμοσμένες σε είσοδο με σαφές επιδιωκόμενο αποτέλεσμα.
Πρακτική εργασία
Πρακτική εργασία
Τεχνικό παράδειγμα στα αγγλικά
Request an extraction object
Extract an appointment record from: "Visit V-17 is on 12 December at 10:30 with Morgan. No room assigned." Return only a JSON object with keys visit_id, date_text, time_text, contact and room. Use strings for known values and null for the missing room. Do not infer a year or location.Αναμενόμενο αποτέλεσμα
One requested JSON object with five keys; room is null and the date remains textual.Έλεγχος αποτελέσματος
Parse the returned JSON and compare every value with the sentence; formatting alone does not establish correctness.Ailoot Ultra · OpenAI Chat POST /v1/chat/completions gpt-3.5-turbo-1106
gpt-3.5-turbo-1106Εισαγωγή
Το OpenAI GPT-3.5 Turbo 1106 είναι η συγκεκριμένη έκδοση μοντέλου κειμένου με παράθυρο συμφραζομένων 16K, βελτιωμένη τήρηση οδηγιών, λειτουργία JSON και παράλληλη κλήση συναρτήσεων. Χρησιμοποιήστε το για συνομιλιακή βοήθεια, εξαγωγή κειμένου και εργασίες κώδικα ή περιεχομένου με σαφώς καθορισμένη έξοδο.
- Αποδεκτές είσοδοι
- Κείμενο
- Αποτελέσματα
- Κείμενο
Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι
Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
- Είσοδος
text- Έξοδος
text- Μορφή εξόδου
- json ή SSE
| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια gpt-3.5-turbo-1106 | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Συνδυασμοί υλικών εισόδου
Κείμενο · Κείμενο UTF8
messages[].content
Παράμετροι και κύκλος ζωής μεθόδου
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Τιμολόγηση
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
- Γρήγορη λειτουργία
- Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
- Λειτουργία flex
- Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
- Μέγιστη προσπάθεια συλλογισμού
- Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default
Χρεώσεις Ailoot
Τιμές ανά διαμόρφωση
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.002 / 1K token Έξοδος · Token εξόδου $0.004 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
Παραδείγματα αιτημάτων
Ailoot Ultra · OpenAI Chat
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "gpt-3.5-turbo-1106", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
from openai import OpenAI
import os
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='gpt-3.5-turbo-1106',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
save_result(result.to_dict(mode="json"))
from openai import OpenAI
import os
from pathlib import Path
if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path
def save_result(data, stem="result"):
# Keep every field, including usage, IDs, reasoning and tool requests.
Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
print(json.dumps(data, ensure_ascii=False, indent=2))
def save_blob(encoded, suffix, label):
raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
file = Path(stem + "-" + label + "." + ext)
file.write_bytes(raw)
print("Saved", file)
for index, block in enumerate(data.get("content") or []):
print("Content", index, json.dumps(block, ensure_ascii=False))
for choice in data.get("choices") or []:
print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
for index, item in enumerate(data.get("output") or []):
print("Output", index, json.dumps(item, ensure_ascii=False))
if item.get("type") == "image_generation_call" and item.get("result"):
save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
for ci, candidate in enumerate(data.get("candidates") or []):
for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
blob = part.get("inlineData") or part.get("inline_data")
if blob and blob.get("data"):
mime = blob.get("mimeType") or blob.get("mime_type")
suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))
with client.chat.completions.stream(model='gpt-3.5-turbo-1106',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
for event in stream:
payload=event.to_dict(mode="json")
log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
print(json.dumps(payload,ensure_ascii=False))
final=stream.get_final_completion()
save_result(final.to_dict(mode="json"),"stream-result")
Λήψη και αποθήκευση αποτελεσμάτων
Ailoot Ultra · OpenAI Chat
json ή SSE
Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Αν χρειάζεται έλεγχος της αρχικής απάντησης
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
Πεδία απάντησης
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
Σφάλματα και επόμενα βήματα
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Εναλλακτικά ονόματα
Εναλλακτικά ονόματα μοντέλου
Ailoot Ultra gpt-3.5-turbo-1106
Εναλλακτικές διαδρομές μεθόδων
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Σχετικά ID μοντέλων
Ailoot Ultra · Anthropic Messages POST /v1/messages gpt-3.5-turbo-1106
gpt-3.5-turbo-1106Εισαγωγή
Το OpenAI GPT-3.5 Turbo 1106 είναι η συγκεκριμένη έκδοση μοντέλου κειμένου με παράθυρο συμφραζομένων 16K, βελτιωμένη τήρηση οδηγιών, λειτουργία JSON και παράλληλη κλήση συναρτήσεων. Χρησιμοποιήστε το για συνομιλιακή βοήθεια, εξαγωγή κειμένου και εργασίες κώδικα ή περιεχομένου με σαφώς καθορισμένη έξοδο.
- Αποδεκτές είσοδοι
- Κείμενο
- Αποτελέσματα
- json · sse
Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι
Ailoot Ultra · Anthropic Messages POST /v1/messages
- Είσοδος
text- Έξοδος
json,sse- Μορφή εξόδου
- JSON ή SSE
| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια gpt-3.5-turbo-1106 | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Συνδυασμοί υλικών εισόδου
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
Παράμετροι και κύκλος ζωής μεθόδου
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Τιμολόγηση
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
- Γρήγορη λειτουργία
- Δεν έχει οριστεί Όταν επιλέγεται η γρήγορη λειτουργία
- Λειτουργία flex
- Δεν έχει οριστεί Όταν επιλέγεται η λειτουργία flex
- Μέγιστη προσπάθεια συλλογισμού
- Δεν έχει οριστεί Όταν η μέγιστη προσπάθεια συλλογισμού χρησιμοποιεί την προσαρμογή default
Χρεώσεις Ailoot
Τιμές ανά διαμόρφωση
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.002 / 1K token Έξοδος · Token εξόδου $0.004 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
Παραδείγματα αιτημάτων
Ailoot Ultra · Anthropic Messages
{
"model": "gpt-3.5-turbo-1106",
"max_tokens": 128,
"messages": [
{
"role": "user",
"content": "Summarize the incident report."
}
],
"stream": false
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'gpt-3.5-turbo-1106', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
-H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
import json, os
from pathlib import Path
source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
raise SystemExit('Choose a document containing text')
payload = {'model': 'gpt-3.5-turbo-1106', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError
api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
with urlopen(request, timeout=120) as response:
raw = response.read()
Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
Path('result.json').write_bytes(error.read())
Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path
result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
Λήψη και αποθήκευση αποτελεσμάτων
Ailoot Ultra · Anthropic Messages
JSON ή SSE
Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Αν χρειάζεται έλεγχος της αρχικής απάντησης
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
Πεδία απάντησης
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
Σφάλματα και επόμενα βήματα
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Εναλλακτικά ονόματα
Εναλλακτικά ονόματα μοντέλου
Ailoot Ultra gpt-3.5-turbo-1106
Εναλλακτικές διαδρομές μεθόδων
Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.
Σχετικά ID μοντέλων
FAQ · gpt-3.5-turbo-1106
- Ποιες είσοδοι και αποτελέσματα διατίθενται;
POST /v1/chat/completions·gpt-3.5-turbo-1106:text→textPOST /v1/messages·gpt-3.5-turbo-1106:text→json,sse- Ποια πεδία χρησιμοποιεί το αίτημα;
POST /v1/chat/completions·gpt-3.5-turbo-1106:model,messages,stream,modalities,providerPOST /v1/messages·gpt-3.5-turbo-1106:model,messages,max_tokens,stream- Ποια όρια ισχύουν;
POST /v1/chat/completions·gpt-3.5-turbo-1106:messages.min_items:1