Mistral: Mistral Embed 2312

Το Mistral Embed 2312 είναι το μοντέλο embeddings κειμένου της Mistral AI για αριθμητική αναπαράσταση νοήματος. Δέχεται συμβολοσειρά κειμένου ή λίστα συμβολοσειρών και επιστρέφει embedding για κάθε είσοδο. Το αποτέλεσμα είναι διάνυσμα που χρησιμοποιεί η εφαρμογή για ομοιότητα, ανάκτηση, ταξινόμηση ή ομαδοποίηση αντί για εξήγηση συνομιλίας. Η σταθερή σελίδα μοντέλου του κατασκευαστή προσδιορίζει το mistral-embed-2312.

Είσοδος, συμφραζόμενα και σχήμα διανύσματος

Η ακριβής σελίδα μοντέλου τεκμηριώνει ετικέτα συμφραζομένων 8k. Προετοιμάστε κάθε στοιχείο κειμένου μέσα στην εφαρμοστέα χωρητικότητα εισόδου και κρατήστε την ταυτότητα του στοιχείου με το διάνυσμά του. Ένα μεγάλο έγγραφο πηγής μπορεί να διαιρεθεί σε χρήσιμα αποσπάσματα, διατηρώντας τον τίτλο εγγράφου, την ενότητα και τη θέση πηγής που χρειάζονται για να επιστραφεί αργότερα το σωστό υλικό.

Ο οδηγός Mistral Embed του κατασκευαστή ορίζει 1024 διαστάσεις για κάθε embedding κειμένου, ανεξάρτητα από το ορατό μήκος της εισόδου. Ένα σύντομο ερώτημα και ένα μεγαλύτερο απόσπασμα έχουν επομένως το ίδιο σχήμα διανύσματος παρότι διαφέρουν τα περιεχόμενα και τα πλήθη tokens τους. Αυτή είναι διάσταση αναπαράστασης εξόδου, όχι όριο tokens απάντησης ή μέτρο του πόσες λέξεις πηγής διατηρούνται.

Η τεκμηριωμένη απόκριση περιλαμβάνει τα embeddings και πληροφορίες χρήσης tokens· το παράδειγμα endpoint συνδέει κάθε διάνυσμα με δείκτη εισόδου. Διατηρήστε αυτή τη σύνδεση όταν επεξεργάζεστε πολλά κείμενα. Η εφαρμογή χρειάζεται το αρχικό κείμενο και τα αναγνωριστικά του, καθώς και το αριθμητικό αποτέλεσμα, για να δείξει χρήσιμο αποτέλεσμα αναζήτησης ή να παρέχει υλικό πηγής σε μεταγενέστερο βήμα.

Σημασιολογική ομοιότητα

Ο οδηγός εξηγεί ότι σχετικά κείμενα τείνουν να βρίσκονται κοντά στον χώρο embeddings. Αυτό υποστηρίζει την εύρεση αποσπασμάτων που χρησιμοποιούν διαφορετικές λέξεις για να εκφράσουν το ίδιο θέμα ή απαίτηση. Ένα ενδεικτικό ερώτημα βάσης γνώσης μπορεί να ρωτά πώς ανακτάται η πρόσβαση, ενώ η σχετική διαδικασία χρησιμοποιεί διαφορετική φράση για την ίδια ενέργεια. Η εφαρμογή μπορεί να συγκρίνει το διάνυσμα του ερωτήματος με αποθηκευμένα διανύσματα αποσπασμάτων αντί να βασίζεται μόνο σε ακριβή αντιστοίχιση λέξεων.

Τα παραδείγματα του κατασκευαστή χρησιμοποιούν embeddings κανονικοποιημένα σε μοναδιαίο μήκος. Για τέτοια διανύσματα, η ομοιότητα συνημιτόνου, το εσωτερικό γινόμενο και η ευκλείδεια απόσταση δίνουν συνεπείς κατατάξεις ομοιότητας, παρότι οι αριθμητικές τιμές τους δεν είναι ίδιες. Επιλέξτε μία κατάλληλη μέθοδο σύγκρισης και εφαρμόστε τη με συνέπεια στις αναπαραστάσεις ερωτήματος και εγγράφου.

Η ομοιότητα δεν αποδεικνύει ότι δύο δηλώσεις είναι εναλλάξιμες. Κρατήστε το κείμενο πηγής και εξετάστε τη συνθήκη, την ημερομηνία ή το αναγνωριστικό που έχει σημασία για το ερώτημα. Δύο αποσπάσματα μπορεί να αφορούν το ίδιο θέμα ενώ περιγράφουν διαφορετικές διαδικασίες ή εξαιρέσεις. Το embedding παρέχει σήμα ανάκτησης· η ερμηνεία του επιλεγμένου αποσπάσματος είναι χωριστό μέρος της εργασίας.

Ανάκτηση και απαντήσεις βασισμένες σε πηγές

Μια πρακτική ροή εγγράφων προετοιμάζει διανύσματα για αποσπάσματα βάσης γνώσης, αποθηκεύει τα αναγνωριστικά και το αρχικό κείμενό τους και έπειτα συγκρίνει ένα νέο ερώτημα με αυτή τη συλλογή. Επιστρέψτε τα σχετικά αποσπάσματα με τις θέσεις πηγής τους. Η εφαρμογή μπορεί να δείξει αυτά τα αποσπάσματα απευθείας ή να τα δώσει σε μοντέλο παραγωγής κειμένου που γράφει απάντηση θεμελιωμένη στο ανακτημένο υλικό.

Για χρήσιμο αποτέλεσμα αναζήτησης, κρατήστε τον τίτλο εγγράφου, την ενότητα, το απόσπασμα και το αναγνωριστικό που χρησιμοποιήθηκε για να βρεθεί. Ένας βοηθός υποστήριξης μπορεί κατόπιν να ανακτά τη διαδικασία που σχετίζεται με το ερώτημα χρήστη και να τη δίνει στο στάδιο σύνταξης απάντησης. Το Mistral Embed εκτελεί το βήμα αριθμητικής αναπαράστασης· δεν συντάσσει από μόνο του την τελική εξήγηση ούτε εκτελεί εξωτερική ενέργεια.

Άλλες τεκμηριωμένες χρήσεις

Ο κατασκευαστής αναφέρει επίσης ανίχνευση παραφράσεων, ταξινόμηση, ομαδοποίηση και επεξεργασία παρτίδων μεταξύ των ροών embeddings. Μια εργασία σύγκρισης μπορεί να ανακτά αποσπάσματα με σχετικό νόημα για έλεγχο. Μια ροή ταξινόμησης μπορεί να συγκρίνει είσοδο με παραδείγματα με ετικέτες ή να χρησιμοποιεί τα διανύσματα ως χαρακτηριστικά για χωριστό ταξινομητή. Μια ροή ομαδοποίησης μπορεί να συγκεντρώνει παρόμοια στοιχεία για μεταγενέστερη περιγραφή από άνθρωπο ή στο επίπεδο εφαρμογής.

Ορίστε τον σκοπό της αναπαράστασης πριν προετοιμάσετε τα δεδομένα. Ένα απόσπασμα για σημασιολογική αναζήτηση πρέπει να διατηρεί την πληροφορία που θα χρειαστεί κάποιος μετά την ανάκτηση· ένα παράδειγμα ταξινόμησης πρέπει να περιλαμβάνει τη διατύπωση που διακρίνει την κλάση. Κρατήστε την προετοιμασία συνεπή ώστε ένα ερώτημα και ένα αποθηκευμένο στοιχείο να αναπαριστούν συγκρίσιμο υλικό.

Όρια έκδοσης και εξόδου

Χρησιμοποιήστε την ίδια έκδοση μοντέλου και συμβατή αναπαράσταση για τα έγγραφα και τα ερωτήματά τους. Ένα διάνυσμα με ίδιο πλήθος συντεταγμένων από διαφορετικό μοντέλο δεν βρίσκεται αυτόματα στον ίδιο σημασιολογικό χώρο. Η αντικατάσταση μοντέλου ή αναπαράστασης απαιτεί τα αποθηκευμένα στοιχεία και τα ερωτήματα να παραμένουν ευθυγραμμισμένα.

Αυτή η εγγραφή περιγράφει είσοδο κειμένου και έξοδο αριθμητικού διανύσματος, με τα συμφραζόμενα 8k του κατασκευαστή και την τεκμηριωμένη αναπαράσταση 1024 διαστάσεων του Mistral Embed. Οι διαμορφώσιμες διαστάσεις και κβαντισμένες μορφές του Codestral Embed ανήκουν σε εκείνο το χωριστά ονομασμένο μοντέλο κώδικα και δεν πρέπει να θεωρούνται δεδομένες εδώ. Εικόνες, ήχος, παραγόμενο πεζό κείμενο και εκτέλεση εργαλείων είναι χωριστές δυνατότητες έξω από αυτό το αποτέλεσμα embeddings κειμένου.