Το Qwen2.5-14B-Instruct είναι η έκδοση μεγέθους 14B της γενικής οικογένειας Qwen2.5, προσαρμοσμένη σε οδηγίες. Δέχεται μια συνομιλία κειμένου και επιστρέφει κείμενο: μια εξήγηση, ένα έγγραφο, κώδικα προγράμματος ή δομημένα πεδία. Ο δημιουργός του δίνει έμφαση στην τήρηση οδηγιών, στον προγραμματισμό, στα μαθηματικά, στην κατανόηση δομημένων δεδομένων όπως πίνακες και στην παραγωγή δομημένων απαντήσεων, ιδιαίτερα JSON.
Τι βελτιώνει η οικογένεια
Ο δημιουργός περιγράφει ευρύτερη γνώση και ισχυρότερες ικανότητες προγραμματισμού και μαθηματικών από την προηγούμενη γενιά Qwen2, μαζί με παραγωγή μεγάλων απαντήσεων και καλύτερη διαχείριση διαφορετικών συστημικών οδηγιών. Η οικογένεια χρησιμοποιεί ένα σώμα προεκπαίδευσης που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token. Αυτές οι δυνατότητες υποστηρίζουν έναν βοηθό για συγκεκριμένο αντικείμενο, του οποίου ο ρόλος και η έξοδος ορίζονται από την εργασία. Αυτό το μοντέλο παραμένει η γενική έκδοση Instruct· οι χωριστά ονομασμένες σειρές Qwen2.5-Coder και Qwen2.5-Math έχουν τις δικές τους εξειδικεύσεις.
Ένας βοηθός διαδικασιών μπορεί να λάβει μια διαδικασία και μια ερώτηση για ένα στάδιό της. Ορίστε τον ρόλο του αναγνώστη, ζητήστε τις ενέργειες που σχετίζονται με αυτό το στάδιο και απαιτήστε η απάντηση να διατηρεί τις αρχικές προϋποθέσεις της διαδικασίας. Μια χρήσιμη έξοδος μπορεί να διαχωρίζει την επόμενη ενέργεια, την προϋπόθεση που την καθιστά εφαρμόσιμη και τις πληροφορίες που χρειάζονται ακόμη. Έτσι, ένα γενικό αίτημα για συμβουλές γίνεται απάντηση συνδεδεμένη με τη διαδικασία που παρέχεται.
Για μια εξήγηση κώδικα, δώστε τη συνάρτηση, τους σχετικούς ορισμούς βοηθητικών συναρτήσεων και την είσοδο που προκαλεί σύγχυση. Ζητήστε τη σειρά των λειτουργιών και την τιμή που επιστρέφεται για αυτή την είσοδο. Για μια μαθηματική εξήγηση, δηλώστε τα σύμβολα, τις παραδοχές και την επιθυμητή έκφραση πριν ζητήσετε την παραγωγή της. Και οι δύο εργασίες χρησιμοποιούν κείμενο· η εκτέλεση του προγράμματος ή η διάθεση χωριστού αριθμητικού εργαλείου αποτελεί εργασία της εφαρμογής που περιβάλλει το μοντέλο.
Πίνακες και JSON
Για μια ερώτηση πίνακα, διατηρήστε τις επικεφαλίδες των στηλών και τις μονάδες, κατονομάστε τις σχετικές γραμμές και προσδιορίστε τη σύγκριση. Η επιθυμητή έξοδος μπορεί να απαριθμεί τα αναγνωριστικά των γραμμών που ταιριάζουν και να εξηγεί ποια παρεχόμενη προϋπόθεση ικανοποιεί κάθε γραμμή. Αν ο πίνακας έχει τιμές που λείπουν, δηλώστε αν η απάντηση πρέπει να τις αφήσει απούσες ή να τις αναπαραστήσει ρητά.
Για δομημένη εξαγωγή, δείξτε τα ονόματα των πεδίων και τους απαιτούμενους τύπους. Μια είσοδος όπως ένα αναγνωριστικό είδους, μια ποσότητα αποθέματος και μια ετικέτα αποθήκης μπορεί να μετατραπεί σε εγγραφή με τα ίδια πεδία. Ζητήστε μόνο την εγγραφή όταν μια εφαρμογή θα την αναλύσει· ζητήστε χωριστή εξήγηση σε πεζό λόγο όταν ο χρήστης χρειάζεται να εξετάσει την ερμηνεία της πηγής. Η τεκμηριωμένη ικανότητα παραγωγής JSON του μοντέλου είναι διαφορετική από την επιβολή ενός σχήματος από συγκεκριμένο περιβάλλον επικοινωνίας.
Υποστηρίζεται πολυγλωσσική συνομιλία σε περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γερμανικά, γαλλικά, ισπανικά, πορτογαλικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Ορίστε την τελική γλώσσα και δώστε την ορολογία που πρέπει να παραμείνει αμετάβλητη. Για μεταφρασμένη τεχνική εξήγηση, ζητήστε από το μοντέλο να διατηρεί ονόματα μεταβλητών, ετικέτες σε εισαγωγικά και μονάδες, προσαρμόζοντας παράλληλα το περιβάλλον κείμενο στον αναγνώστη.
Η συγκεκριμένη έκδοση 14B
Η κάρτα αναφέρει 14,7 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 13,1 δισεκατομμυρίων παραμέτρων εκτός ενσωματώσεων, και 48 επίπεδα Transformer. Η αρχιτεκτονική της χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή, με 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών στην προσοχή ομαδοποιημένων ερωτημάτων. Η προεκπαίδευση και η μετέπειτα εκπαίδευση παράγουν αυτή την έκδοση Instruct. Ο αριθμός παραμέτρων και επιπέδων της διαφέρει από την έκδοση 32B, ακόμη και όταν οι δυνατότητες της οικογένειας και τα δημοσιευμένα μεγέθη πλαισίου συμπίπτουν.
Η κάρτα του μοντέλου αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Το πρώτο αφορά τη συνομιλία και το υλικό που διατηρούνται για μια εργασία· το δεύτερο αφορά την παραγόμενη απάντηση. Η ρύθμιση παραγωγής 512 token του οδηγού γρήγορης εκκίνησης είναι μόνο παράδειγμα και δεν αντικαθιστά τη δηλωμένη χωρητικότητα απάντησης της κάρτας. Η κατανόηση εικόνων, βίντεο και ήχου ανήκει σε χωριστά ονομασμένες πολυτροπικές εκδόσεις, όχι σε αυτό το μοντέλο κειμένου.
Μορφή εισόδου και εργασίες με εργαλεία
Το παράδειγμα του δημιουργού εφαρμόζει την κατάλληλη πρότυπη μορφή συνομιλίας σε χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τους κανόνες απάντησης χωριστά από το υλικό που εξετάζεται. Δώστε μια πλήρη ερώτηση και επισημάνετε το κείμενο της πηγής, ώστε μια οδηγία που παρατίθεται μέσα στην πηγή να μη συγχέεται με την εργασία που δίνει η εφαρμογή.
Η επίσημη ανακοίνωση Qwen2.5 περιγράφει επίσης πρότυπα κλήσης εργαλείων και συμβατές ενσωματώσεις. Μια εργασία με εργαλεία χρειάζεται την εφαρμογή που περιβάλλει το μοντέλο για να παρέχει περιγραφές συναρτήσεων, να εκτελεί την επιλεγμένη λειτουργία και να δίνει το αποτέλεσμά της για την επόμενη απάντηση. Για παράδειγμα, μια συνομιλία μπορεί να ζητήσει έναν υπολογισμό με ένα παρεχόμενο εργαλείο υπολογισμών· το αποτέλεσμα της συνάρτησης γίνεται έπειτα πληροφορία που το μοντέλο μπορεί να εξηγήσει. Η διαθεσιμότητα και η εκτέλεση εργαλείων προέρχονται από αυτή την ενσωμάτωση, ενώ αυτή η έκδοση παρέχει τη συμπεριφορά συνομιλίας κειμένου.
Διαμόρφωση μεγάλου κειμένου
Η δημοσιευμένη διαμόρφωση καλύπτει αρχικά 32.768 token. Η τεκμηριωμένη επέκταση για μεγαλύτερες εισόδους χρησιμοποιεί YaRN, με ενδεικτικό συντελεστή κλιμάκωσης 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα, οπότε ο δημιουργός συνιστά την προσθήκη της όταν χρειάζονται μεγάλα πλαίσια.
Όταν προετοιμάζετε μια μεγάλη πηγή, προσδιορίστε την ενότητα που πρέπει να αναθεωρηθεί ή την ερώτηση που πρέπει να απαντηθεί και διατηρήστε μαζί τα υποστηρικτικά μέρη. Ένα σαφές αίτημα μπορεί να ζητά ένα διορθωμένο απόσπασμα, έναν πίνακα αλλαγών και τις αρχικές αναφορές ενοτήτων. Έτσι χρησιμοποιείται το εκτεταμένο πλαίσιο για ένα συγκεκριμένο αποτέλεσμα, διατηρώντας την απάντηση μέσα στο χωριστό όριο παραγωγής.
", "aboutText": "Το Qwen2.5-14B-Instruct είναι η έκδοση μεγέθους 14B της γενικής οικογένειας Qwen2.5, προσαρμοσμένη σε οδηγίες. Δέχεται μια συνομιλία κειμένου και επιστρέφει κείμενο: μια εξήγηση, ένα έγγραφο, κώδικα προγράμματος ή δομημένα πεδία. Ο δημιουργός του δίνει έμφαση στην τήρηση οδηγιών, στον προγραμματισμό, στα μαθηματικά, στην κατανόηση δομημένων δεδομένων όπως πίνακες και στην παραγωγή δομημένων απαντήσεων, ιδιαίτερα JSON.\n\nΤι βελτιώνει η οικογένεια\n\nΟ δημιουργός περιγράφει ευρύτερη γνώση και ισχυρότερες ικανότητες προγραμματισμού και μαθηματικών από την προηγούμενη γενιά Qwen2, μαζί με παραγωγή μεγάλων απαντήσεων και καλύτερη διαχείριση διαφορετικών συστημικών οδηγιών. Η οικογένεια χρησιμοποιεί ένα σώμα προεκπαίδευσης που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token. Αυτές οι δυνατότητες υποστηρίζουν έναν βοηθό για συγκεκριμένο αντικείμενο, του οποίου ο ρόλος και η έξοδος ορίζονται από την εργασία. Αυτό το μοντέλο παραμένει η γενική έκδοση Instruct· οι χωριστά ονομασμένες σειρές Qwen2.5-Coder και Qwen2.5-Math έχουν τις δικές τους εξειδικεύσεις.\n\nΈνας βοηθός διαδικασιών μπορεί να λάβει μια διαδικασία και μια ερώτηση για ένα στάδιό της. Ορίστε τον ρόλο του αναγνώστη, ζητήστε τις ενέργειες που σχετίζονται με αυτό το στάδιο και απαιτήστε η απάντηση να διατηρεί τις αρχικές προϋποθέσεις της διαδικασίας. Μια χρήσιμη έξοδος μπορεί να διαχωρίζει την επόμενη ενέργεια, την προϋπόθεση που την καθιστά εφαρμόσιμη και τις πληροφορίες που χρειάζονται ακόμη. Έτσι, ένα γενικό αίτημα για συμβουλές γίνεται απάντηση συνδεδεμένη με τη διαδικασία που παρέχεται.\n\nΓια μια εξήγηση κώδικα, δώστε τη συνάρτηση, τους σχετικούς ορισμούς βοηθητικών συναρτήσεων και την είσοδο που προκαλεί σύγχυση. Ζητήστε τη σειρά των λειτουργιών και την τιμή που επιστρέφεται για αυτή την είσοδο. Για μια μαθηματική εξήγηση, δηλώστε τα σύμβολα, τις παραδοχές και την επιθυμητή έκφραση πριν ζητήσετε την παραγωγή της. Και οι δύο εργασίες χρησιμοποιούν κείμενο· η εκτέλεση του προγράμματος ή η διάθεση χωριστού αριθμητικού εργαλείου αποτελεί εργασία της εφαρμογής που περιβάλλει το μοντέλο.\n\nΠίνακες και JSON\n\nΓια μια ερώτηση πίνακα, διατηρήστε τις επικεφαλίδες των στηλών και τις μονάδες, κατονομάστε τις σχετικές γραμμές και προσδιορίστε τη σύγκριση. Η επιθυμητή έξοδος μπορεί να απαριθμεί τα αναγνωριστικά των γραμμών που ταιριάζουν και να εξηγεί ποια παρεχόμενη προϋπόθεση ικανοποιεί κάθε γραμμή. Αν ο πίνακας έχει τιμές που λείπουν, δηλώστε αν η απάντηση πρέπει να τις αφήσει απούσες ή να τις αναπαραστήσει ρητά.\n\nΓια δομημένη εξαγωγή, δείξτε τα ονόματα των πεδίων και τους απαιτούμενους τύπους. Μια είσοδος όπως ένα αναγνωριστικό είδους, μια ποσότητα αποθέματος και μια ετικέτα αποθήκης μπορεί να μετατραπεί σε εγγραφή με τα ίδια πεδία. Ζητήστε μόνο την εγγραφή όταν μια εφαρμογή θα την αναλύσει· ζητήστε χωριστή εξήγηση σε πεζό λόγο όταν ο χρήστης χρειάζεται να εξετάσει την ερμηνεία της πηγής. Η τεκμηριωμένη ικανότητα παραγωγής JSON του μοντέλου είναι διαφορετική από την επιβολή ενός σχήματος από συγκεκριμένο περιβάλλον επικοινωνίας.\n\nΥποστηρίζεται πολυγλωσσική συνομιλία σε περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γερμανικά, γαλλικά, ισπανικά, πορτογαλικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Ορίστε την τελική γλώσσα και δώστε την ορολογία που πρέπει να παραμείνει αμετάβλητη. Για μεταφρασμένη τεχνική εξήγηση, ζητήστε από το μοντέλο να διατηρεί ονόματα μεταβλητών, ετικέτες σε εισαγωγικά και μονάδες, προσαρμόζοντας παράλληλα το περιβάλλον κείμενο στον αναγνώστη.\n\nΗ συγκεκριμένη έκδοση 14B\n\nΗ κάρτα αναφέρει 14,7 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 13,1 δισεκατομμυρίων παραμέτρων εκτός ενσωματώσεων, και 48 επίπεδα Transformer. Η αρχιτεκτονική της χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή, με 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών στην προσοχή ομαδοποιημένων ερωτημάτων. Η προεκπαίδευση και η μετέπειτα εκπαίδευση παράγουν αυτή την έκδοση Instruct. Ο αριθμός παραμέτρων και επιπέδων της διαφέρει από την έκδοση 32B, ακόμη και όταν οι δυνατότητες της οικογένειας και τα δημοσιευμένα μεγέθη πλαισίου συμπίπτουν.\n\nΗ κάρτα του μοντέλου αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Το πρώτο αφορά τη συνομιλία και το υλικό που διατηρούνται για μια εργασία· το δεύτερο αφορά την παραγόμενη απάντηση. Η ρύθμιση παραγωγής 512 token του οδηγού γρήγορης εκκίνησης είναι μόνο παράδειγμα και δεν αντικαθιστά τη δηλωμένη χωρητικότητα απάντησης της κάρτας. Η κατανόηση εικόνων, βίντεο και ήχου ανήκει σε χωριστά ονομασμένες πολυτροπικές εκδόσεις, όχι σε αυτό το μοντέλο κειμένου.\n\nΜορφή εισόδου και εργασίες με εργαλεία\n\nΤο παράδειγμα του δημιουργού εφαρμόζει την κατάλληλη πρότυπη μορφή συνομιλίας σε χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τους κανόνες απάντησης χωριστά από το υλικό που εξετάζεται. Δώστε μια πλήρη ερώτηση και επισημάνετε το κείμενο της πηγής, ώστε μια οδηγία που παρατίθεται μέσα στην πηγή να μη συγχέεται με την εργασία που δίνει η εφαρμογή.\n\nΗ επίσημη ανακοίνωση Qwen2.5 περιγράφει επίσης πρότυπα κλήσης εργαλείων και συμβατές ενσωματώσεις. Μια εργασία με εργαλεία χρειάζεται την εφαρμογή που περιβάλλει το μοντέλο για να παρέχει περιγραφές συναρτήσεων, να εκτελεί την επιλεγμένη λειτουργία και να δίνει το αποτέλεσμά της για την επόμενη απάντηση. Για παράδειγμα, μια συνομιλία μπορεί να ζητήσει έναν υπολογισμό με ένα παρεχόμενο εργαλείο υπολογισμών· το αποτέλεσμα της συνάρτησης γίνεται έπειτα πληροφορία που το μοντέλο μπορεί να εξηγήσει. Η διαθεσιμότητα και η εκτέλεση εργαλείων προέρχονται από αυτή την ενσωμάτωση, ενώ αυτή η έκδοση παρέχει τη συμπεριφορά συνομιλίας κειμένου.\n\nΔιαμόρφωση μεγάλου κειμένου\n\nΗ δημοσιευμένη διαμόρφωση καλύπτει αρχικά 32.768 token. Η τεκμηριωμένη επέκταση για μεγαλύτερες εισόδους χρησιμοποιεί YaRN, με ενδεικτικό συντελεστή κλιμάκωσης 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα, οπότε ο δημιουργός συνιστά την προσθήκη της όταν χρειάζονται μεγάλα πλαίσια.\n\nΌταν προετοιμάζετε μια μεγάλη πηγή, προσδιορίστε την ενότητα που πρέπει να αναθεωρηθεί ή την ερώτηση που πρέπει να απαντηθεί και διατηρήστε μαζί τα υποστηρικτικά μέρη. Ένα σαφές αίτημα μπορεί να ζητά ένα διορθωμένο απόσπασμα, έναν πίνακα αλλαγών και τις αρχικές αναφορές ενοτήτων. Έτσι χρησιμοποιείται το εκτεταμένο πλαίσιο για ένα συγκεκριμένο αποτέλεσμα, διατηρώντας την απάντηση μέσα στο χωριστό όριο παραγωγής.", "editorialOverlay": { "copy_fields": { "practical_html": "Τεχνικό παράδειγμα στα αγγλικά
Filter a stock table with missing values\n\nUse this stock table: item_id | stock | reorder_at; A7 | 3 | 5; B2 | 8 | 4; C9 | unknown | 6. Return the identifiers requiring reorder under stock < reorder_at, then list rows that cannot be decided. Preserve identifiers and explain the condition for each selected or unresolved row.A reorder list and a separate unresolved-row list, each with a short source-based reason.Check that equality would not trigger reorder and that unknown stock is not treated as zero.Qwen/Qwen2.5-14B-InstructΤο Qwen2.5-14B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για βοηθούς που λειτουργούν με οδηγίες, κώδικα και μαθηματικά. Η δική του έκδοση με 14,7 δισεκατομμύρια παραμέτρους υποστηρίζει ερμηνεία πινάκων, παραγωγή JSON και όριο απάντησης 8.192 token, με διαμόρφωση εκτεταμένου πλαισίου για μεγάλες εισόδους.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-14B-Instruct είναι η έκδοση μεγέθους 14B της γενικής οικογένειας Qwen2.5, προσαρμοσμένη σε οδηγίες. Δέχεται μια συνομιλία κειμένου και επιστρέφει κείμενο: μια εξήγηση, ένα έγγραφο, κώδικα προγράμματος ή δομημένα πεδία. Ο δημιουργός του δίνει έμφαση στην τήρηση οδηγιών, στον προγραμματισμό, στα μαθηματικά, στην κατανόηση δομημένων δεδομένων όπως πίνακες και στην παραγωγή δομημένων απαντήσεων, ιδιαίτερα JSON.
Τι βελτιώνει η οικογένεια
Ο δημιουργός περιγράφει ευρύτερη γνώση και ισχυρότερες ικανότητες προγραμματισμού και μαθηματικών από την προηγούμενη γενιά Qwen2, μαζί με παραγωγή μεγάλων απαντήσεων και καλύτερη διαχείριση διαφορετικών συστημικών οδηγιών. Η οικογένεια χρησιμοποιεί ένα σώμα προεκπαίδευσης που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token. Αυτές οι δυνατότητες υποστηρίζουν έναν βοηθό για συγκεκριμένο αντικείμενο, του οποίου ο ρόλος και η έξοδος ορίζονται από την εργασία. Αυτό το μοντέλο παραμένει η γενική έκδοση Instruct· οι χωριστά ονομασμένες σειρές Qwen2.5-Coder και Qwen2.5-Math έχουν τις δικές τους εξειδικεύσεις.
Ένας βοηθός διαδικασιών μπορεί να λάβει μια διαδικασία και μια ερώτηση για ένα στάδιό της. Ορίστε τον ρόλο του αναγνώστη, ζητήστε τις ενέργειες που σχετίζονται με αυτό το στάδιο και απαιτήστε η απάντηση να διατηρεί τις αρχικές προϋποθέσεις της διαδικασίας. Μια χρήσιμη έξοδος μπορεί να διαχωρίζει την επόμενη ενέργεια, την προϋπόθεση που την καθιστά εφαρμόσιμη και τις πληροφορίες που χρειάζονται ακόμη. Έτσι, ένα γενικό αίτημα για συμβουλές γίνεται απάντηση συνδεδεμένη με τη διαδικασία που παρέχεται.
Για μια εξήγηση κώδικα, δώστε τη συνάρτηση, τους σχετικούς ορισμούς βοηθητικών συναρτήσεων και την είσοδο που προκαλεί σύγχυση. Ζητήστε τη σειρά των λειτουργιών και την τιμή που επιστρέφεται για αυτή την είσοδο. Για μια μαθηματική εξήγηση, δηλώστε τα σύμβολα, τις παραδοχές και την επιθυμητή έκφραση πριν ζητήσετε την παραγωγή της. Και οι δύο εργασίες χρησιμοποιούν κείμενο· η εκτέλεση του προγράμματος ή η διάθεση χωριστού αριθμητικού εργαλείου αποτελεί εργασία της εφαρμογής που περιβάλλει το μοντέλο.
Πίνακες και JSON
Για μια ερώτηση πίνακα, διατηρήστε τις επικεφαλίδες των στηλών και τις μονάδες, κατονομάστε τις σχετικές γραμμές και προσδιορίστε τη σύγκριση. Η επιθυμητή έξοδος μπορεί να απαριθμεί τα αναγνωριστικά των γραμμών που ταιριάζουν και να εξηγεί ποια παρεχόμενη προϋπόθεση ικανοποιεί κάθε γραμμή. Αν ο πίνακας έχει τιμές που λείπουν, δηλώστε αν η απάντηση πρέπει να τις αφήσει απούσες ή να τις αναπαραστήσει ρητά.
Για δομημένη εξαγωγή, δείξτε τα ονόματα των πεδίων και τους απαιτούμενους τύπους. Μια είσοδος όπως ένα αναγνωριστικό είδους, μια ποσότητα αποθέματος και μια ετικέτα αποθήκης μπορεί να μετατραπεί σε εγγραφή με τα ίδια πεδία. Ζητήστε μόνο την εγγραφή όταν μια εφαρμογή θα την αναλύσει· ζητήστε χωριστή εξήγηση σε πεζό λόγο όταν ο χρήστης χρειάζεται να εξετάσει την ερμηνεία της πηγής. Η τεκμηριωμένη ικανότητα παραγωγής JSON του μοντέλου είναι διαφορετική από την επιβολή ενός σχήματος από συγκεκριμένο περιβάλλον επικοινωνίας.
Υποστηρίζεται πολυγλωσσική συνομιλία σε περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γερμανικά, γαλλικά, ισπανικά, πορτογαλικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Ορίστε την τελική γλώσσα και δώστε την ορολογία που πρέπει να παραμείνει αμετάβλητη. Για μεταφρασμένη τεχνική εξήγηση, ζητήστε από το μοντέλο να διατηρεί ονόματα μεταβλητών, ετικέτες σε εισαγωγικά και μονάδες, προσαρμόζοντας παράλληλα το περιβάλλον κείμενο στον αναγνώστη.
Η συγκεκριμένη έκδοση 14B
Η κάρτα αναφέρει 14,7 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 13,1 δισεκατομμυρίων παραμέτρων εκτός ενσωματώσεων, και 48 επίπεδα Transformer. Η αρχιτεκτονική της χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή, με 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών στην προσοχή ομαδοποιημένων ερωτημάτων. Η προεκπαίδευση και η μετέπειτα εκπαίδευση παράγουν αυτή την έκδοση Instruct. Ο αριθμός παραμέτρων και επιπέδων της διαφέρει από την έκδοση 32B, ακόμη και όταν οι δυνατότητες της οικογένειας και τα δημοσιευμένα μεγέθη πλαισίου συμπίπτουν.
Η κάρτα του μοντέλου αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Το πρώτο αφορά τη συνομιλία και το υλικό που διατηρούνται για μια εργασία· το δεύτερο αφορά την παραγόμενη απάντηση. Η ρύθμιση παραγωγής 512 token του οδηγού γρήγορης εκκίνησης είναι μόνο παράδειγμα και δεν αντικαθιστά τη δηλωμένη χωρητικότητα απάντησης της κάρτας. Η κατανόηση εικόνων, βίντεο και ήχου ανήκει σε χωριστά ονομασμένες πολυτροπικές εκδόσεις, όχι σε αυτό το μοντέλο κειμένου.
Μορφή εισόδου και εργασίες με εργαλεία
Το παράδειγμα του δημιουργού εφαρμόζει την κατάλληλη πρότυπη μορφή συνομιλίας σε χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τους κανόνες απάντησης χωριστά από το υλικό που εξετάζεται. Δώστε μια πλήρη ερώτηση και επισημάνετε το κείμενο της πηγής, ώστε μια οδηγία που παρατίθεται μέσα στην πηγή να μη συγχέεται με την εργασία που δίνει η εφαρμογή.
Η επίσημη ανακοίνωση Qwen2.5 περιγράφει επίσης πρότυπα κλήσης εργαλείων και συμβατές ενσωματώσεις. Μια εργασία με εργαλεία χρειάζεται την εφαρμογή που περιβάλλει το μοντέλο για να παρέχει περιγραφές συναρτήσεων, να εκτελεί την επιλεγμένη λειτουργία και να δίνει το αποτέλεσμά της για την επόμενη απάντηση. Για παράδειγμα, μια συνομιλία μπορεί να ζητήσει έναν υπολογισμό με ένα παρεχόμενο εργαλείο υπολογισμών· το αποτέλεσμα της συνάρτησης γίνεται έπειτα πληροφορία που το μοντέλο μπορεί να εξηγήσει. Η διαθεσιμότητα και η εκτέλεση εργαλείων προέρχονται από αυτή την ενσωμάτωση, ενώ αυτή η έκδοση παρέχει τη συμπεριφορά συνομιλίας κειμένου.
Διαμόρφωση μεγάλου κειμένου
Η δημοσιευμένη διαμόρφωση καλύπτει αρχικά 32.768 token. Η τεκμηριωμένη επέκταση για μεγαλύτερες εισόδους χρησιμοποιεί YaRN, με ενδεικτικό συντελεστή κλιμάκωσης 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα, οπότε ο δημιουργός συνιστά την προσθήκη της όταν χρειάζονται μεγάλα πλαίσια.
Όταν προετοιμάζετε μια μεγάλη πηγή, προσδιορίστε την ενότητα που πρέπει να αναθεωρηθεί ή την ερώτηση που πρέπει να απαντηθεί και διατηρήστε μαζί τα υποστηρικτικά μέρη. Ένα σαφές αίτημα μπορεί να ζητά ένα διορθωμένο απόσπασμα, έναν πίνακα αλλαγών και τις αρχικές αναφορές ενοτήτων. Έτσι χρησιμοποιείται το εκτεταμένο πλαίσιο για ένα συγκεκριμένο αποτέλεσμα, διατηρώντας την απάντηση μέσα στο χωριστό όριο παραγωγής.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Qwen/Qwen2.5-14B-Instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Παραδείγματα: system, user, assistant, tool, function Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο. Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring|content_part[]|null | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_calls | Τύποςtool_call[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].tool_call_id | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε | Προεπιλογή— |
Πεδίοmessages[].name | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].reasoning_content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί | Προεπιλογή— |
Πεδίοmessages[].reasoning_details | Τύποςobject|array | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmax_completion_tokens | Τύποςinteger | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Ελάχιστο: 1 Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Πεδίοstream_options.include_usage | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtemperature | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtop_p | Τύποςnumber | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοstop | Τύποςstring|string[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools | Τύποςfunction_tool[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].type | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια function Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοtools[].function.name | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης | Προεπιλογή— |
Πεδίοtools[].function.description | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtools[].function.parameters | ΤύποςJSON_schema | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοtool_choice | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοparallel_tool_calls | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοresponse_format | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning_effort | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοreasoning | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοservice_tier | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοinstructions | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Πεδίο συμβατότητας | Προεπιλογή— |
Πεδίοfunctions | Τύποςfunction[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοfunction_call | Τύποςstring|object | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοprompt_cache_options | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmodalities | Τύποςstring[] | ΑπαίτησηΠροαιρετικό | Τιμές και όρια text | Προεπιλογή— |
Πεδίοprovider | Τύποςobject | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το provider.options απορρίπτεται σε αυτή τη διαδρομή κειμένου Ultra | Προεπιλογή— |
Πεδίοcache_control.ttl | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Συνθήκες: Το 1h απορρίπτεται στα πραγματικά πεδία κρυφής μνήμης προτροπών | Προεπιλογή— |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Παράμετροςcontrol_scope | Σύμβασηεξαρτάται από το μοντέλο· τα εργαλεία συναρτήσεων του χρήστη διαφέρουν από τα φιλοξενούμενα εργαλεία |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.0002 / 1K token Έξοδος · Token εξόδου $0.0002 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-14B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-14B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-14B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
Qwen/Qwen2.5-14B-InstructΤο Qwen2.5-14B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για βοηθούς που λειτουργούν με οδηγίες, κώδικα και μαθηματικά. Η δική του έκδοση με 14,7 δισεκατομμύρια παραμέτρους υποστηρίζει ερμηνεία πινάκων, παραγωγή JSON και όριο απάντησης 8.192 token, με διαμόρφωση εκτεταμένου πλαισίου για μεγάλες εισόδους.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-14B-Instruct είναι η έκδοση μεγέθους 14B της γενικής οικογένειας Qwen2.5, προσαρμοσμένη σε οδηγίες. Δέχεται μια συνομιλία κειμένου και επιστρέφει κείμενο: μια εξήγηση, ένα έγγραφο, κώδικα προγράμματος ή δομημένα πεδία. Ο δημιουργός του δίνει έμφαση στην τήρηση οδηγιών, στον προγραμματισμό, στα μαθηματικά, στην κατανόηση δομημένων δεδομένων όπως πίνακες και στην παραγωγή δομημένων απαντήσεων, ιδιαίτερα JSON.
Τι βελτιώνει η οικογένεια
Ο δημιουργός περιγράφει ευρύτερη γνώση και ισχυρότερες ικανότητες προγραμματισμού και μαθηματικών από την προηγούμενη γενιά Qwen2, μαζί με παραγωγή μεγάλων απαντήσεων και καλύτερη διαχείριση διαφορετικών συστημικών οδηγιών. Η οικογένεια χρησιμοποιεί ένα σώμα προεκπαίδευσης που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token. Αυτές οι δυνατότητες υποστηρίζουν έναν βοηθό για συγκεκριμένο αντικείμενο, του οποίου ο ρόλος και η έξοδος ορίζονται από την εργασία. Αυτό το μοντέλο παραμένει η γενική έκδοση Instruct· οι χωριστά ονομασμένες σειρές Qwen2.5-Coder και Qwen2.5-Math έχουν τις δικές τους εξειδικεύσεις.
Ένας βοηθός διαδικασιών μπορεί να λάβει μια διαδικασία και μια ερώτηση για ένα στάδιό της. Ορίστε τον ρόλο του αναγνώστη, ζητήστε τις ενέργειες που σχετίζονται με αυτό το στάδιο και απαιτήστε η απάντηση να διατηρεί τις αρχικές προϋποθέσεις της διαδικασίας. Μια χρήσιμη έξοδος μπορεί να διαχωρίζει την επόμενη ενέργεια, την προϋπόθεση που την καθιστά εφαρμόσιμη και τις πληροφορίες που χρειάζονται ακόμη. Έτσι, ένα γενικό αίτημα για συμβουλές γίνεται απάντηση συνδεδεμένη με τη διαδικασία που παρέχεται.
Για μια εξήγηση κώδικα, δώστε τη συνάρτηση, τους σχετικούς ορισμούς βοηθητικών συναρτήσεων και την είσοδο που προκαλεί σύγχυση. Ζητήστε τη σειρά των λειτουργιών και την τιμή που επιστρέφεται για αυτή την είσοδο. Για μια μαθηματική εξήγηση, δηλώστε τα σύμβολα, τις παραδοχές και την επιθυμητή έκφραση πριν ζητήσετε την παραγωγή της. Και οι δύο εργασίες χρησιμοποιούν κείμενο· η εκτέλεση του προγράμματος ή η διάθεση χωριστού αριθμητικού εργαλείου αποτελεί εργασία της εφαρμογής που περιβάλλει το μοντέλο.
Πίνακες και JSON
Για μια ερώτηση πίνακα, διατηρήστε τις επικεφαλίδες των στηλών και τις μονάδες, κατονομάστε τις σχετικές γραμμές και προσδιορίστε τη σύγκριση. Η επιθυμητή έξοδος μπορεί να απαριθμεί τα αναγνωριστικά των γραμμών που ταιριάζουν και να εξηγεί ποια παρεχόμενη προϋπόθεση ικανοποιεί κάθε γραμμή. Αν ο πίνακας έχει τιμές που λείπουν, δηλώστε αν η απάντηση πρέπει να τις αφήσει απούσες ή να τις αναπαραστήσει ρητά.
Για δομημένη εξαγωγή, δείξτε τα ονόματα των πεδίων και τους απαιτούμενους τύπους. Μια είσοδος όπως ένα αναγνωριστικό είδους, μια ποσότητα αποθέματος και μια ετικέτα αποθήκης μπορεί να μετατραπεί σε εγγραφή με τα ίδια πεδία. Ζητήστε μόνο την εγγραφή όταν μια εφαρμογή θα την αναλύσει· ζητήστε χωριστή εξήγηση σε πεζό λόγο όταν ο χρήστης χρειάζεται να εξετάσει την ερμηνεία της πηγής. Η τεκμηριωμένη ικανότητα παραγωγής JSON του μοντέλου είναι διαφορετική από την επιβολή ενός σχήματος από συγκεκριμένο περιβάλλον επικοινωνίας.
Υποστηρίζεται πολυγλωσσική συνομιλία σε περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γερμανικά, γαλλικά, ισπανικά, πορτογαλικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Ορίστε την τελική γλώσσα και δώστε την ορολογία που πρέπει να παραμείνει αμετάβλητη. Για μεταφρασμένη τεχνική εξήγηση, ζητήστε από το μοντέλο να διατηρεί ονόματα μεταβλητών, ετικέτες σε εισαγωγικά και μονάδες, προσαρμόζοντας παράλληλα το περιβάλλον κείμενο στον αναγνώστη.
Η συγκεκριμένη έκδοση 14B
Η κάρτα αναφέρει 14,7 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 13,1 δισεκατομμυρίων παραμέτρων εκτός ενσωματώσεων, και 48 επίπεδα Transformer. Η αρχιτεκτονική της χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή, με 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών στην προσοχή ομαδοποιημένων ερωτημάτων. Η προεκπαίδευση και η μετέπειτα εκπαίδευση παράγουν αυτή την έκδοση Instruct. Ο αριθμός παραμέτρων και επιπέδων της διαφέρει από την έκδοση 32B, ακόμη και όταν οι δυνατότητες της οικογένειας και τα δημοσιευμένα μεγέθη πλαισίου συμπίπτουν.
Η κάρτα του μοντέλου αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Το πρώτο αφορά τη συνομιλία και το υλικό που διατηρούνται για μια εργασία· το δεύτερο αφορά την παραγόμενη απάντηση. Η ρύθμιση παραγωγής 512 token του οδηγού γρήγορης εκκίνησης είναι μόνο παράδειγμα και δεν αντικαθιστά τη δηλωμένη χωρητικότητα απάντησης της κάρτας. Η κατανόηση εικόνων, βίντεο και ήχου ανήκει σε χωριστά ονομασμένες πολυτροπικές εκδόσεις, όχι σε αυτό το μοντέλο κειμένου.
Μορφή εισόδου και εργασίες με εργαλεία
Το παράδειγμα του δημιουργού εφαρμόζει την κατάλληλη πρότυπη μορφή συνομιλίας σε χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τους κανόνες απάντησης χωριστά από το υλικό που εξετάζεται. Δώστε μια πλήρη ερώτηση και επισημάνετε το κείμενο της πηγής, ώστε μια οδηγία που παρατίθεται μέσα στην πηγή να μη συγχέεται με την εργασία που δίνει η εφαρμογή.
Η επίσημη ανακοίνωση Qwen2.5 περιγράφει επίσης πρότυπα κλήσης εργαλείων και συμβατές ενσωματώσεις. Μια εργασία με εργαλεία χρειάζεται την εφαρμογή που περιβάλλει το μοντέλο για να παρέχει περιγραφές συναρτήσεων, να εκτελεί την επιλεγμένη λειτουργία και να δίνει το αποτέλεσμά της για την επόμενη απάντηση. Για παράδειγμα, μια συνομιλία μπορεί να ζητήσει έναν υπολογισμό με ένα παρεχόμενο εργαλείο υπολογισμών· το αποτέλεσμα της συνάρτησης γίνεται έπειτα πληροφορία που το μοντέλο μπορεί να εξηγήσει. Η διαθεσιμότητα και η εκτέλεση εργαλείων προέρχονται από αυτή την ενσωμάτωση, ενώ αυτή η έκδοση παρέχει τη συμπεριφορά συνομιλίας κειμένου.
Διαμόρφωση μεγάλου κειμένου
Η δημοσιευμένη διαμόρφωση καλύπτει αρχικά 32.768 token. Η τεκμηριωμένη επέκταση για μεγαλύτερες εισόδους χρησιμοποιεί YaRN, με ενδεικτικό συντελεστή κλιμάκωσης 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα, οπότε ο δημιουργός συνιστά την προσθήκη της όταν χρειάζονται μεγάλα πλαίσια.
Όταν προετοιμάζετε μια μεγάλη πηγή, προσδιορίστε την ενότητα που πρέπει να αναθεωρηθεί ή την ερώτηση που πρέπει να απαντηθεί και διατηρήστε μαζί τα υποστηρικτικά μέρη. Ένα σαφές αίτημα μπορεί να ζητά ένα διορθωμένο απόσπασμα, έναν πίνακα αλλαγών και τις αρχικές αναφορές ενοτήτων. Έτσι χρησιμοποιείται το εκτεταμένο πλαίσιο για ένα συγκεκριμένο αποτέλεσμα, διατηρώντας την απάντηση μέσα στο χωριστό όριο παραγωγής.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Qwen/Qwen2.5-14B-Instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.0002 / 1K token Έξοδος · Token εξόδου $0.0002 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "Qwen/Qwen2.5-14B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-14B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-14B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
qwen2.5-14b-instructΤο Qwen2.5-14B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για βοηθούς που λειτουργούν με οδηγίες, κώδικα και μαθηματικά. Η δική του έκδοση με 14,7 δισεκατομμύρια παραμέτρους υποστηρίζει ερμηνεία πινάκων, παραγωγή JSON και όριο απάντησης 8.192 token, με διαμόρφωση εκτεταμένου πλαισίου για μεγάλες εισόδους.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-14B-Instruct είναι η έκδοση μεγέθους 14B της γενικής οικογένειας Qwen2.5, προσαρμοσμένη σε οδηγίες. Δέχεται μια συνομιλία κειμένου και επιστρέφει κείμενο: μια εξήγηση, ένα έγγραφο, κώδικα προγράμματος ή δομημένα πεδία. Ο δημιουργός του δίνει έμφαση στην τήρηση οδηγιών, στον προγραμματισμό, στα μαθηματικά, στην κατανόηση δομημένων δεδομένων όπως πίνακες και στην παραγωγή δομημένων απαντήσεων, ιδιαίτερα JSON.
Τι βελτιώνει η οικογένεια
Ο δημιουργός περιγράφει ευρύτερη γνώση και ισχυρότερες ικανότητες προγραμματισμού και μαθηματικών από την προηγούμενη γενιά Qwen2, μαζί με παραγωγή μεγάλων απαντήσεων και καλύτερη διαχείριση διαφορετικών συστημικών οδηγιών. Η οικογένεια χρησιμοποιεί ένα σώμα προεκπαίδευσης που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token. Αυτές οι δυνατότητες υποστηρίζουν έναν βοηθό για συγκεκριμένο αντικείμενο, του οποίου ο ρόλος και η έξοδος ορίζονται από την εργασία. Αυτό το μοντέλο παραμένει η γενική έκδοση Instruct· οι χωριστά ονομασμένες σειρές Qwen2.5-Coder και Qwen2.5-Math έχουν τις δικές τους εξειδικεύσεις.
Ένας βοηθός διαδικασιών μπορεί να λάβει μια διαδικασία και μια ερώτηση για ένα στάδιό της. Ορίστε τον ρόλο του αναγνώστη, ζητήστε τις ενέργειες που σχετίζονται με αυτό το στάδιο και απαιτήστε η απάντηση να διατηρεί τις αρχικές προϋποθέσεις της διαδικασίας. Μια χρήσιμη έξοδος μπορεί να διαχωρίζει την επόμενη ενέργεια, την προϋπόθεση που την καθιστά εφαρμόσιμη και τις πληροφορίες που χρειάζονται ακόμη. Έτσι, ένα γενικό αίτημα για συμβουλές γίνεται απάντηση συνδεδεμένη με τη διαδικασία που παρέχεται.
Για μια εξήγηση κώδικα, δώστε τη συνάρτηση, τους σχετικούς ορισμούς βοηθητικών συναρτήσεων και την είσοδο που προκαλεί σύγχυση. Ζητήστε τη σειρά των λειτουργιών και την τιμή που επιστρέφεται για αυτή την είσοδο. Για μια μαθηματική εξήγηση, δηλώστε τα σύμβολα, τις παραδοχές και την επιθυμητή έκφραση πριν ζητήσετε την παραγωγή της. Και οι δύο εργασίες χρησιμοποιούν κείμενο· η εκτέλεση του προγράμματος ή η διάθεση χωριστού αριθμητικού εργαλείου αποτελεί εργασία της εφαρμογής που περιβάλλει το μοντέλο.
Πίνακες και JSON
Για μια ερώτηση πίνακα, διατηρήστε τις επικεφαλίδες των στηλών και τις μονάδες, κατονομάστε τις σχετικές γραμμές και προσδιορίστε τη σύγκριση. Η επιθυμητή έξοδος μπορεί να απαριθμεί τα αναγνωριστικά των γραμμών που ταιριάζουν και να εξηγεί ποια παρεχόμενη προϋπόθεση ικανοποιεί κάθε γραμμή. Αν ο πίνακας έχει τιμές που λείπουν, δηλώστε αν η απάντηση πρέπει να τις αφήσει απούσες ή να τις αναπαραστήσει ρητά.
Για δομημένη εξαγωγή, δείξτε τα ονόματα των πεδίων και τους απαιτούμενους τύπους. Μια είσοδος όπως ένα αναγνωριστικό είδους, μια ποσότητα αποθέματος και μια ετικέτα αποθήκης μπορεί να μετατραπεί σε εγγραφή με τα ίδια πεδία. Ζητήστε μόνο την εγγραφή όταν μια εφαρμογή θα την αναλύσει· ζητήστε χωριστή εξήγηση σε πεζό λόγο όταν ο χρήστης χρειάζεται να εξετάσει την ερμηνεία της πηγής. Η τεκμηριωμένη ικανότητα παραγωγής JSON του μοντέλου είναι διαφορετική από την επιβολή ενός σχήματος από συγκεκριμένο περιβάλλον επικοινωνίας.
Υποστηρίζεται πολυγλωσσική συνομιλία σε περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γερμανικά, γαλλικά, ισπανικά, πορτογαλικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Ορίστε την τελική γλώσσα και δώστε την ορολογία που πρέπει να παραμείνει αμετάβλητη. Για μεταφρασμένη τεχνική εξήγηση, ζητήστε από το μοντέλο να διατηρεί ονόματα μεταβλητών, ετικέτες σε εισαγωγικά και μονάδες, προσαρμόζοντας παράλληλα το περιβάλλον κείμενο στον αναγνώστη.
Η συγκεκριμένη έκδοση 14B
Η κάρτα αναφέρει 14,7 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 13,1 δισεκατομμυρίων παραμέτρων εκτός ενσωματώσεων, και 48 επίπεδα Transformer. Η αρχιτεκτονική της χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή, με 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών στην προσοχή ομαδοποιημένων ερωτημάτων. Η προεκπαίδευση και η μετέπειτα εκπαίδευση παράγουν αυτή την έκδοση Instruct. Ο αριθμός παραμέτρων και επιπέδων της διαφέρει από την έκδοση 32B, ακόμη και όταν οι δυνατότητες της οικογένειας και τα δημοσιευμένα μεγέθη πλαισίου συμπίπτουν.
Η κάρτα του μοντέλου αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Το πρώτο αφορά τη συνομιλία και το υλικό που διατηρούνται για μια εργασία· το δεύτερο αφορά την παραγόμενη απάντηση. Η ρύθμιση παραγωγής 512 token του οδηγού γρήγορης εκκίνησης είναι μόνο παράδειγμα και δεν αντικαθιστά τη δηλωμένη χωρητικότητα απάντησης της κάρτας. Η κατανόηση εικόνων, βίντεο και ήχου ανήκει σε χωριστά ονομασμένες πολυτροπικές εκδόσεις, όχι σε αυτό το μοντέλο κειμένου.
Μορφή εισόδου και εργασίες με εργαλεία
Το παράδειγμα του δημιουργού εφαρμόζει την κατάλληλη πρότυπη μορφή συνομιλίας σε χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τους κανόνες απάντησης χωριστά από το υλικό που εξετάζεται. Δώστε μια πλήρη ερώτηση και επισημάνετε το κείμενο της πηγής, ώστε μια οδηγία που παρατίθεται μέσα στην πηγή να μη συγχέεται με την εργασία που δίνει η εφαρμογή.
Η επίσημη ανακοίνωση Qwen2.5 περιγράφει επίσης πρότυπα κλήσης εργαλείων και συμβατές ενσωματώσεις. Μια εργασία με εργαλεία χρειάζεται την εφαρμογή που περιβάλλει το μοντέλο για να παρέχει περιγραφές συναρτήσεων, να εκτελεί την επιλεγμένη λειτουργία και να δίνει το αποτέλεσμά της για την επόμενη απάντηση. Για παράδειγμα, μια συνομιλία μπορεί να ζητήσει έναν υπολογισμό με ένα παρεχόμενο εργαλείο υπολογισμών· το αποτέλεσμα της συνάρτησης γίνεται έπειτα πληροφορία που το μοντέλο μπορεί να εξηγήσει. Η διαθεσιμότητα και η εκτέλεση εργαλείων προέρχονται από αυτή την ενσωμάτωση, ενώ αυτή η έκδοση παρέχει τη συμπεριφορά συνομιλίας κειμένου.
Διαμόρφωση μεγάλου κειμένου
Η δημοσιευμένη διαμόρφωση καλύπτει αρχικά 32.768 token. Η τεκμηριωμένη επέκταση για μεγαλύτερες εισόδους χρησιμοποιεί YaRN, με ενδεικτικό συντελεστή κλιμάκωσης 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα, οπότε ο δημιουργός συνιστά την προσθήκη της όταν χρειάζονται μεγάλα πλαίσια.
Όταν προετοιμάζετε μια μεγάλη πηγή, προσδιορίστε την ενότητα που πρέπει να αναθεωρηθεί ή την ερώτηση που πρέπει να απαντηθεί και διατηρήστε μαζί τα υποστηρικτικά μέρη. Ένα σαφές αίτημα μπορεί να ζητά ένα διορθωμένο απόσπασμα, έναν πίνακα αλλαγών και τις αρχικές αναφορές ενοτήτων. Έτσι χρησιμοποιείται το εκτεταμένο πλαίσιο για ένα συγκεκριμένο αποτέλεσμα, διατηρώντας την απάντηση μέσα στο χωριστό όριο παραγωγής.
POST /v1/chat/completionstexttext| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια qwen2.5-14b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Ελάχιστο πλήθος στοιχείων: 1 | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια Εξαρτάται από το μοντέλο | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΠροαιρετικό | Τιμές και όρια Εφαρμόζεται όταν: Συνομιλία κειμένου | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF8
messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςmessages | ΣύμβασηΠίνακας μηνυμάτων με δομή role/content |
Παράμετροςfile_material | Σύμβασηπραγματικό έγγραφο UTF-8 που εισάγεται ως αυτούσιο κείμενο· δεν συνάγεται ID αρχείου |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςcontrol_scope | ΣύμβασηΣυνομιλία κειμένου· το stream είναι λογική τιμή και έχει προεπιλογή false. |
Παράμετροςoutput_modalities | Σύμβασηtext |
Παράμετροςhosted_operations | Σύμβασηfalse |
Παράμετροςmultimodal_input_binding | Σύμβασηnull |
Εναλλακτικά ονόματα μεθόδου: /chat/completions
Κύκλος ζωής: synchronous_or_streamed
Στείλτε το ακριβές ID μοντέλου μαζί με το messages.
Το μήκος συμφραζομένων δεν είναι ανώτατο όριο εξόδου.
Ένα αρχείο κειμένου μπορεί να παρέχει αυτούσιο κείμενο· οι είσοδοι εικόνας/ήχου/αντικειμένων αρχείων χρειάζονται ακριβή αντιστοίχιση.
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.0002 / 1K token Έξοδος · Token εξόδου $0.0002 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-14b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-14b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοchoices[].index | Τύποςinteger |
Πεδίοchoices[].message.content | Τύποςstring|null |
Πεδίοchoices[].message.tool_calls | Τύποςtool_call[] |
Πεδίοchoices[].message.reasoning_content | Τύποςstring |
Πεδίοchoices[].message.reasoning_details | Τύποςobject|array |
Πεδίοchoices[].finish_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
qwen2.5-14b-instructΤο Qwen2.5-14B-Instruct είναι ένα πολυγλωσσικό μοντέλο κειμένου για βοηθούς που λειτουργούν με οδηγίες, κώδικα και μαθηματικά. Η δική του έκδοση με 14,7 δισεκατομμύρια παραμέτρους υποστηρίζει ερμηνεία πινάκων, παραγωγή JSON και όριο απάντησης 8.192 token, με διαμόρφωση εκτεταμένου πλαισίου για μεγάλες εισόδους.
Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.
Το Qwen2.5-14B-Instruct είναι η έκδοση μεγέθους 14B της γενικής οικογένειας Qwen2.5, προσαρμοσμένη σε οδηγίες. Δέχεται μια συνομιλία κειμένου και επιστρέφει κείμενο: μια εξήγηση, ένα έγγραφο, κώδικα προγράμματος ή δομημένα πεδία. Ο δημιουργός του δίνει έμφαση στην τήρηση οδηγιών, στον προγραμματισμό, στα μαθηματικά, στην κατανόηση δομημένων δεδομένων όπως πίνακες και στην παραγωγή δομημένων απαντήσεων, ιδιαίτερα JSON.
Τι βελτιώνει η οικογένεια
Ο δημιουργός περιγράφει ευρύτερη γνώση και ισχυρότερες ικανότητες προγραμματισμού και μαθηματικών από την προηγούμενη γενιά Qwen2, μαζί με παραγωγή μεγάλων απαντήσεων και καλύτερη διαχείριση διαφορετικών συστημικών οδηγιών. Η οικογένεια χρησιμοποιεί ένα σώμα προεκπαίδευσης που περιγράφεται ότι φτάνει τα 18 τρισεκατομμύρια token. Αυτές οι δυνατότητες υποστηρίζουν έναν βοηθό για συγκεκριμένο αντικείμενο, του οποίου ο ρόλος και η έξοδος ορίζονται από την εργασία. Αυτό το μοντέλο παραμένει η γενική έκδοση Instruct· οι χωριστά ονομασμένες σειρές Qwen2.5-Coder και Qwen2.5-Math έχουν τις δικές τους εξειδικεύσεις.
Ένας βοηθός διαδικασιών μπορεί να λάβει μια διαδικασία και μια ερώτηση για ένα στάδιό της. Ορίστε τον ρόλο του αναγνώστη, ζητήστε τις ενέργειες που σχετίζονται με αυτό το στάδιο και απαιτήστε η απάντηση να διατηρεί τις αρχικές προϋποθέσεις της διαδικασίας. Μια χρήσιμη έξοδος μπορεί να διαχωρίζει την επόμενη ενέργεια, την προϋπόθεση που την καθιστά εφαρμόσιμη και τις πληροφορίες που χρειάζονται ακόμη. Έτσι, ένα γενικό αίτημα για συμβουλές γίνεται απάντηση συνδεδεμένη με τη διαδικασία που παρέχεται.
Για μια εξήγηση κώδικα, δώστε τη συνάρτηση, τους σχετικούς ορισμούς βοηθητικών συναρτήσεων και την είσοδο που προκαλεί σύγχυση. Ζητήστε τη σειρά των λειτουργιών και την τιμή που επιστρέφεται για αυτή την είσοδο. Για μια μαθηματική εξήγηση, δηλώστε τα σύμβολα, τις παραδοχές και την επιθυμητή έκφραση πριν ζητήσετε την παραγωγή της. Και οι δύο εργασίες χρησιμοποιούν κείμενο· η εκτέλεση του προγράμματος ή η διάθεση χωριστού αριθμητικού εργαλείου αποτελεί εργασία της εφαρμογής που περιβάλλει το μοντέλο.
Πίνακες και JSON
Για μια ερώτηση πίνακα, διατηρήστε τις επικεφαλίδες των στηλών και τις μονάδες, κατονομάστε τις σχετικές γραμμές και προσδιορίστε τη σύγκριση. Η επιθυμητή έξοδος μπορεί να απαριθμεί τα αναγνωριστικά των γραμμών που ταιριάζουν και να εξηγεί ποια παρεχόμενη προϋπόθεση ικανοποιεί κάθε γραμμή. Αν ο πίνακας έχει τιμές που λείπουν, δηλώστε αν η απάντηση πρέπει να τις αφήσει απούσες ή να τις αναπαραστήσει ρητά.
Για δομημένη εξαγωγή, δείξτε τα ονόματα των πεδίων και τους απαιτούμενους τύπους. Μια είσοδος όπως ένα αναγνωριστικό είδους, μια ποσότητα αποθέματος και μια ετικέτα αποθήκης μπορεί να μετατραπεί σε εγγραφή με τα ίδια πεδία. Ζητήστε μόνο την εγγραφή όταν μια εφαρμογή θα την αναλύσει· ζητήστε χωριστή εξήγηση σε πεζό λόγο όταν ο χρήστης χρειάζεται να εξετάσει την ερμηνεία της πηγής. Η τεκμηριωμένη ικανότητα παραγωγής JSON του μοντέλου είναι διαφορετική από την επιβολή ενός σχήματος από συγκεκριμένο περιβάλλον επικοινωνίας.
Υποστηρίζεται πολυγλωσσική συνομιλία σε περισσότερες από 29 γλώσσες, όπως αγγλικά, κινεζικά, ρωσικά, γερμανικά, γαλλικά, ισπανικά, πορτογαλικά, ιταλικά, ιαπωνικά, κορεατικά, βιετναμέζικα, ταϊλανδικά και αραβικά. Ορίστε την τελική γλώσσα και δώστε την ορολογία που πρέπει να παραμείνει αμετάβλητη. Για μεταφρασμένη τεχνική εξήγηση, ζητήστε από το μοντέλο να διατηρεί ονόματα μεταβλητών, ετικέτες σε εισαγωγικά και μονάδες, προσαρμόζοντας παράλληλα το περιβάλλον κείμενο στον αναγνώστη.
Η συγκεκριμένη έκδοση 14B
Η κάρτα αναφέρει 14,7 δισεκατομμύρια παραμέτρους, συμπεριλαμβανομένων 13,1 δισεκατομμυρίων παραμέτρων εκτός ενσωματώσεων, και 48 επίπεδα Transformer. Η αρχιτεκτονική της χρησιμοποιεί περιστροφικές ενσωματώσεις θέσης, SwiGLU, RMSNorm και πόλωση QKV στην προσοχή, με 40 κεφαλές ερωτημάτων και 8 κεφαλές κλειδιών/τιμών στην προσοχή ομαδοποιημένων ερωτημάτων. Η προεκπαίδευση και η μετέπειτα εκπαίδευση παράγουν αυτή την έκδοση Instruct. Ο αριθμός παραμέτρων και επιπέδων της διαφέρει από την έκδοση 32B, ακόμη και όταν οι δυνατότητες της οικογένειας και τα δημοσιευμένα μεγέθη πλαισίου συμπίπτουν.
Η κάρτα του μοντέλου αναφέρει πλήρες πλαίσιο 131.072 token και παραγωγή έως 8.192 token. Το πρώτο αφορά τη συνομιλία και το υλικό που διατηρούνται για μια εργασία· το δεύτερο αφορά την παραγόμενη απάντηση. Η ρύθμιση παραγωγής 512 token του οδηγού γρήγορης εκκίνησης είναι μόνο παράδειγμα και δεν αντικαθιστά τη δηλωμένη χωρητικότητα απάντησης της κάρτας. Η κατανόηση εικόνων, βίντεο και ήχου ανήκει σε χωριστά ονομασμένες πολυτροπικές εκδόσεις, όχι σε αυτό το μοντέλο κειμένου.
Μορφή εισόδου και εργασίες με εργαλεία
Το παράδειγμα του δημιουργού εφαρμόζει την κατάλληλη πρότυπη μορφή συνομιλίας σε χωριστά μηνύματα συστήματος και χρήστη. Ορίστε τον ρόλο του βοηθού και τους κανόνες απάντησης χωριστά από το υλικό που εξετάζεται. Δώστε μια πλήρη ερώτηση και επισημάνετε το κείμενο της πηγής, ώστε μια οδηγία που παρατίθεται μέσα στην πηγή να μη συγχέεται με την εργασία που δίνει η εφαρμογή.
Η επίσημη ανακοίνωση Qwen2.5 περιγράφει επίσης πρότυπα κλήσης εργαλείων και συμβατές ενσωματώσεις. Μια εργασία με εργαλεία χρειάζεται την εφαρμογή που περιβάλλει το μοντέλο για να παρέχει περιγραφές συναρτήσεων, να εκτελεί την επιλεγμένη λειτουργία και να δίνει το αποτέλεσμά της για την επόμενη απάντηση. Για παράδειγμα, μια συνομιλία μπορεί να ζητήσει έναν υπολογισμό με ένα παρεχόμενο εργαλείο υπολογισμών· το αποτέλεσμα της συνάρτησης γίνεται έπειτα πληροφορία που το μοντέλο μπορεί να εξηγήσει. Η διαθεσιμότητα και η εκτέλεση εργαλείων προέρχονται από αυτή την ενσωμάτωση, ενώ αυτή η έκδοση παρέχει τη συμπεριφορά συνομιλίας κειμένου.
Διαμόρφωση μεγάλου κειμένου
Η δημοσιευμένη διαμόρφωση καλύπτει αρχικά 32.768 token. Η τεκμηριωμένη επέκταση για μεγαλύτερες εισόδους χρησιμοποιεί YaRN, με ενδεικτικό συντελεστή κλιμάκωσης 4,0 και αρχική ρύθμιση μέγιστων θέσεων 32.768. Η στατική κλιμάκωση μπορεί να επηρεάσει τη συμπεριφορά σε μικρότερα κείμενα, οπότε ο δημιουργός συνιστά την προσθήκη της όταν χρειάζονται μεγάλα πλαίσια.
Όταν προετοιμάζετε μια μεγάλη πηγή, προσδιορίστε την ενότητα που πρέπει να αναθεωρηθεί ή την ερώτηση που πρέπει να απαντηθεί και διατηρήστε μαζί τα υποστηρικτικά μέρη. Ένα σαφές αίτημα μπορεί να ζητά ένα διορθωμένο απόσπασμα, έναν πίνακα αλλαγών και τις αρχικές αναφορές ενοτήτων. Έτσι χρησιμοποιείται το εκτεταμένο πλαίσιο για ένα συγκεκριμένο αποτέλεσμα, διατηρώντας την απάντηση μέσα στο χωριστό όριο παραγωγής.
POST /v1/messagestextjson, sse| Πεδίο | Τύπος | Απαίτηση | Τιμές και όρια | Προεπιλογή |
|---|---|---|---|---|
Πεδίοmodel | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια qwen2.5-14b-instruct | Προεπιλογή— |
Πεδίοmessages | Τύποςmessage[] | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmessages[].role | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια user, assistant | Προεπιλογή— |
Πεδίοmessages[].content | Τύποςstring | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοmax_tokens | Τύποςinteger | ΑπαίτησηΥποχρεωτικό | Τιμές και όρια | Προεπιλογή— |
Πεδίοstream | Τύποςboolean | ΑπαίτησηΠροαιρετικό | Τιμές και όρια | Προεπιλογήfalse |
Κείμενο · Κείμενο UTF-8
Συμβολοσειρά messages[].content
| Παράμετρος | Σύμβαση |
|---|---|
Παράμετροςcontent_type | Σύμβασηapplication/json |
Παράμετροςrequired | Σύμβασηmodel, messages, max_tokens |
Παράμετροςoptional_controls | Σύμβασηstream |
Παράμετροςmaterial_types | Σύμβασηtext |
Παράμετροςtext_file_material | ΣύμβασηΔιαβάστε το πραγματικό έγγραφο UTF-8 και τοποθετήστε το κείμενό του στην υποδεικνυόμενη συμβολοσειρά εισόδου ή περιεχομένου του μηνύματος. |
Κύκλος ζωής: synchronous_or_streamed
Οι τιμολογιακές αναφορές δεν προσθέτουν επιλογές αιτήματος. Οι υποστηριζόμενες παράμετροι αναφέρονται στην επιλεγμένη μέθοδο.
| Διαμόρφωση | Πίνακας χρεώσεων | Χρέωση |
|---|---|---|
| ΔιαμόρφωσηΒασικές χρεώσεις ανά token | Πίνακας χρεώσεωνΒασική χρέωση | Χρέωση Είσοδος · Token εισόδου $0.0002 / 1K token Έξοδος · Token εξόδου $0.0002 / 1K token Είσοδος · Ανάγνωση από την κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη $0 / 1K token Είσοδος · Εγγραφή στην κρυφή μνήμη, 1 ώρα — / 1K token |
Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →
{\n "model": "qwen2.5-14b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ή SSE
Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.
Διατηρήστε όλα τα μπλοκ περιεχομένου, τις υπογραφές συλλογιστικής και τα πραγματικά ID χρήσης εργαλείων. Συνθέστε όλες τις διαφορικές ενημερώσεις μπλοκ SSE· το πρώτο μπλοκ κειμένου δεν είναι η πλήρης έξοδος.
Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.
| Πεδίο | Τύπος |
|---|---|
Πεδίοid | Τύποςstring |
Πεδίοmodel | Τύποςstring |
Πεδίοcontent[] | Τύποςtext|thinking|tool_use|other content block |
Πεδίοstop_reason | Τύποςstring|null |
Πεδίοusage | Τύποςobject |
| Απάντηση | Συνθήκη | Επόμενο βήμα |
|---|---|---|
Απάντηση400 · invalid_request_error | ΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρου | Επόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
Τεχνικό παράδειγμα στα αγγλικά
Filter a stock table with missing values\n\nUse this stock table: item_id | stock | reorder_at; A7 | 3 | 5; B2 | 8 | 4; C9 | unknown | 6. Return the identifiers requiring reorder under stock < reorder_at, then list rows that cannot be decided. Preserve identifiers and explain the condition for each selected or unresolved row.A reorder list and a separate unresolved-row list, each with a short source-based reason.Check that equality would not trigger reorder and that unknown stock is not treated as zero.