inclusionAI: Ling 3.0 Flash

Το Ling 3.0 Flash είναι μοντέλο μετατροπής κειμένου σε κείμενο της inclusionAI. Η δημοσιευμένη αρχιτεκτονική του είναι μείγμα ειδικών, με 124 δισεκατομμύρια συνολικές παραμέτρους και περίπου 5.1 δισεκατομμύρια ενεργές παραμέτρους ανά token. Επιλέξτε inclusionai/ling-3.0-flash μέσω POST /v1/chat/completions με model και έναν πίνακα messages. Οι οδηγίες, το αρχικό υλικό και οι προηγούμενες ανταλλαγές της συνομιλίας τοποθετούνται στο κείμενο των μηνυμάτων.

Χρησιμοποιήστε ένα εστιασμένο prompt για να μετατρέψετε το παρεχόμενο υλικό σε συγκεκριμένο παραδοτέο. Για μια απάντηση σε πελάτη, παρέχετε την ερώτηση του πελάτη και το κείμενο προϊόντος ή πολιτικής που πρέπει να χρησιμοποιήσει η απάντηση και στη συνέχεια ορίστε τον τόνο και το επόμενο βήμα. Για μια σύνοψη εγγράφου, κατονομάστε τις ενότητες που χρειάζεστε, όπως αποφάσεις, αναπάντητα ερωτήματα και ενέργειες. Για εξαγωγή πληροφοριών, ορίστε τα ζητούμενα πεδία και πώς πρέπει να αναπαρίστανται στοιχεία που απουσιάζουν από την πηγή. Για εργασία με κώδικα, συμπεριλάβετε τη σχετική συνάρτηση ή απόσπασμα αρχείου και ζητήστε εξήγηση, προτεινόμενη αλλαγή ή έλεγχο με βάση μια ρητή απαίτηση.

Το δημοσιευμένο παράθυρο συμφραζομένων είναι 262 144 tokens, ενώ για το μοντέλο αναφέρονται έως 32 768 tokens παραγόμενης απάντησης. Υπολογίστε μαζί το αρχικό κείμενο, τις οδηγίες, το ιστορικό συνομιλίας και τη ζητούμενη απάντηση. Χρησιμοποιήστε max_tokens για να ορίσετε το επιτρεπόμενο μέγεθος της ζητούμενης εξόδου. Ένα έγγραφο πρέπει να παρέχεται ως πραγματικό κείμενο όταν θέλετε η απάντηση να εξαρτάται από το περιεχόμενό του· αναφερθείτε ρητά στις σχετικές ενότητες όταν ένα αίτημα συνδυάζει πολλά αποσπάσματα.

Η λίστα υποστηριζόμενων παραμέτρων περιλαμβάνει tools και tool_choice για κλήσεις συναρτήσεων. Ορίστε τις διαθέσιμες συναρτήσεις και τις περιγραφές των ορισμάτων τους στο αίτημα. Η εφαρμογή σας επικυρώνει την επιστρεφόμενη κλήση, εκτελεί την επιλεγμένη συνάρτηση και παρέχει το αποτέλεσμά της στη συνομιλία πριν ζητήσει επόμενη απάντηση. Για παράδειγμα, μια ροή υποστήριξης μπορεί να διαθέτει μια στενά ορισμένη αναζήτηση παραγγελίας και να χρησιμοποιεί τα επιστρεφόμενα στοιχεία κατά τη σύνταξη της απάντησης. Κρατήστε τα αποτελέσματα των εργαλείων συνδεδεμένα με τη σωστή ανταλλαγή της συνομιλίας, ώστε το μοντέλο να τα διακρίνει από το αρχικό αίτημα του χρήστη.

Το μοντέλο υποστηρίζει response_format για έξοδο JSON, χωρίς επιβολή σχήματος JSON. Δηλώστε τα επιθυμητά πεδία και επικυρώστε το επιστρεφόμενο αντικείμενο στην εφαρμογή σας πριν το χρησιμοποιήσετε. Άλλοι δημοσιευμένοι έλεγχοι περιλαμβάνουν temperature, top_p, top_k, min_p, stop, seed και τις αναφερόμενες ποινές επανάληψης, συχνότητας και παρουσίας. Η λίστα παραμέτρων περιλαμβάνει επίσης reasoning και include_reasoning· επιλέξτε την υποστηριζόμενη αναπαράστασή τους από την προδιαγραφή του αιτήματος, αντί να θεωρείτε δεδομένες τιμές από διαφορετική έκδοση.

Το Chat Completions μπορεί να επιστρέψει πλήρη απάντηση ή κείμενο σε ροή. Για μια πλήρη απάντηση, διαβάστε το επιστρεφόμενο περιεχόμενο μηνύματος και διατηρήστε τα choices και το usage της απάντησης. Με ροή, συνδυάστε τις τμηματικές ενημερώσεις πριν θεωρήσετε την απάντηση ολοκληρωμένη και διατηρήστε τυχόν επιστρεφόμενες κλήσεις εργαλείων μαζί με τα ορίσματά τους. Το αποτέλεσμα είναι κείμενο ή αίτημα κλήσης συνάρτησης για το επόμενο βήμα της εφαρμογής· η περιβάλλουσα εφαρμογή αναλαμβάνει την εκτέλεση και τη χρήση της ολοκληρωμένης απάντησης.