ERNIE 4.5 0.3B

Το ERNIE 4.5 0.3B δέχεται συνομιλίες κειμένου μέσω του Ailoot Ultra. Το ακριβές ID του μοντέλου είναι baidu/ernie-4.5-0.3b. Τοποθετήστε το αρχικό υλικό απευθείας στα μηνύματά σας και περιγράψτε το αποτέλεσμα που χρειάζεστε. Αυτό το προφίλ κειμένου είναι κατάλληλο για εργασίες όπως η μετατροπή σημειώσεων πελάτη σε απάντηση, η σύνοψη αποσπάσματος εγγράφου ή η εξαγωγή συγκεκριμένων στοιχείων σε συμφωνημένη διάταξη.

Ένα χρήσιμο αίτημα συνδυάζει το υλικό, την εργασία και τις απαιτήσεις της απάντησης. Για μια απάντηση υποστήριξης, παρέχετε το μήνυμα του πελάτη και το κείμενο της πολιτικής που πρέπει να ακολουθήσει η απάντηση. Για μια σύνοψη, προσδιορίστε τον αναγνώστη στον οποίο απευθύνεται και ζητήστε τις αποφάσεις, τα εκκρεμή ερωτήματα και τις ενέργειες που πρέπει να γίνουν. Για εξαγωγή πληροφοριών, ορίστε τα ονόματα των πεδίων και εξηγήστε στο μοντέλο πώς να αναπαριστά στοιχεία που απουσιάζουν από την πηγή. Αυτές οι οδηγίες δίνουν ένα αποτέλεσμα που μπορείτε να ελέγξετε σε σχέση με το υλικό που παρείχατε.

Με το Chat Completions, στείλτε POST /v1/chat/completions με model και έναν μη κενό πίνακα messages. Κάθε μήνυμα παρέχει role και περιεχόμενο κειμένου. Συμπεριλάβετε τις σχετικές προηγούμενες ανταλλαγές όταν η απάντηση εξαρτάται από τη συνομιλία. Για να εργαστείτε πάνω σε έγγραφο, διαβάστε το πραγματικό του κείμενο και τοποθετήστε το σχετικό περιεχόμενο στο μήνυμα· το όνομα του αρχείου από μόνο του δεν παρέχει το έγγραφο.

Με το Messages, στείλτε POST /v1/messages με model, messages και max_tokens. Χρησιμοποιήστε μηνύματα user και assistant, με προαιρετική ξεχωριστή οδηγία system. Το περιεχόμενο μπορεί να είναι συμβολοσειρά κειμένου ή μπλοκ κειμένου. Το max_tokens είναι ακέραιος τουλάχιστον 1. Το δημοσιευμένο προφίλ του μοντέλου αναφέρει ανώτατο όριο παραγόμενης απάντησης 8 000 tokens και παράθυρο συμφραζομένων 120 000 tokens· αφήστε χώρο για την επιθυμητή απάντηση όταν προετοιμάζετε τη συνομιλία. Το μέγεθος του παραθύρου συμφραζομένων δεν σημαίνει ότι μια απάντηση μπορεί να περιέχει 120 000 tokens.

Και οι δύο διεπαφές παρέχουν τον έλεγχο stream τύπου boolean, με προεπιλογή false. Για μια πλήρη απάντηση JSON, διατηρήστε κάθε επιστρεφόμενο πεδίο αποτελέσματος και εγγραφή χρήσης. Για παράδοση σε ροή, συλλέξτε τα συμβάντα και συναρμολογήστε όλο το περιεχόμενο της απάντησης πριν τη θεωρήσετε ολοκληρωμένη. Το Chat Completions τοποθετεί τη συνήθη απάντηση στο choices[].message.content· το Messages επιστρέφει μπλοκ περιεχομένου μαζί με stop_reason και usage. Διατηρήστε την ταυτότητα του αρχικού αιτήματος και κάθε απάντηση που έχει ληφθεί αν η σύνδεση τερματιστεί πριν από την ολοκλήρωση, ώστε να διερευνήσετε μια ελλιπή απάντηση χωρίς να στείλετε ξανά στα τυφλά το ίδιο αίτημα.