Sentence Transformers: multi-qa-mpnet-base-dot-v1

Το multi-qa-mpnet-base-dot-v1 είναι μοντέλο Sentence Transformers σχεδιασμένο για ανάκτηση αποσπασμάτων κειμένου για ένα ερώτημα ή αναζήτηση. Η εκπαίδευσή του χρησιμοποίησε περίπου 215 εκατομμύρια ζεύγη ερωτήματος και απάντησης. Κάθε είσοδος γίνεται πυκνό διάνυσμα 768 διαστάσεων, με το CLS pooling και τη βαθμολόγηση με εσωτερικό γινόμενο να ορίζουν αυτή την ακριβή έκδοση.

Προετοιμάστε ένα ερώτημα και υποψήφια αποσπάσματα

Γράψτε το ερώτημα αναζήτησης ως ανάγκη πληροφορίας και προετοιμάστε τις εγγραφές του corpus ως ευανάγνωστα αποσπάσματα κειμένου. Για παράδειγμα, ένα ερώτημα για αλλαγή διεύθυνσης παράδοσης μπορεί να συγκριθεί με χωριστές παραγράφους για αλλαγές διεύθυνσης, ακύρωση παραγγελίας και παρακολούθηση παράδοσης. Κρατήστε τις σχετικές συνθήκες στο απόσπασμα αλλαγής διεύθυνσης, συμπεριλαμβανομένου του αν η παραγγελία έχει ήδη αποσταλεί.

Κωδικοποιήστε το ερώτημα και τα αποσπάσματα με αυτό το ίδιο μοντέλο. Το δημοσιευμένο παράδειγμα το κάνει απευθείας, χωρίς πρόθεμα ερωτήματος/εγγράφου, και ταξινομεί τα αποσπάσματα βάσει των βαθμολογιών εσωτερικού γινομένου τους. Κρατήστε κάθε διάνυσμα συνδεδεμένο με το αρχικό απόσπασμα και το αναγνωριστικό εγγράφου, ώστε το καταταγμένο αποτέλεσμα να δείχνει το υλικό που πράγματι ευρετηριάστηκε.

CLS pooling και η έκδοση εσωτερικού γινομένου

Η συνταγή αναφοράς του μοντέλου παίρνει την αναπαράσταση του πρώτου token, γνωστή ως CLS pooling. Ο τεχνικός πίνακάς του δηλώνει ρητά ότι τα embeddings δεν είναι κανονικοποιημένα και αναφέρει το εσωτερικό γινόμενο ως κατάλληλη συνάρτηση βαθμολόγησης. Διατηρήστε αυτή τη συνταγή όταν ρυθμίζετε τη συλλογή και την πλευρά του ερωτήματος.

Η κανονικοποίηση L2 αυτών των διανυσμάτων αλλάζει τη γεωμετρία βαθμολόγησής τους. Το κανονικοποιημένο προφίλ all-mpnet-base-v2 χρησιμοποιεί διαφορετική συνταγή και είναι χωριστό checkpoint, παρότι μοιράζεται την οικογένεια MPNet και έξοδο 768 συνιστωσών. Κρατήστε την ακριβή έκδοση και τη συνάρτηση σύγκρισης μαζί με την αποθηκευμένη συλλογή αντί να τις επιλέγετε μόνο από το μήκος διανύσματος.

Όριο μήκους και μεγαλύτερα αποσπάσματα

Το δηλωμένο όριο εισόδου είναι 512 τμήματα λέξεων, ή word pieces· το μεγαλύτερο κείμενο περικόπτεται. Ο κατασκευαστής σημειώνει επίσης ότι οι είσοδοι εκπαίδευσης έφταναν μόνο τα 250 τμήματα λέξεων και ότι μεγαλύτερο κείμενο μπορεί να λειτουργεί λιγότερο καλά. Το αποδεκτό μήκος του tokenizer και η επιφύλαξη για το μήκος εκπαίδευσης περιγράφουν επομένως διαφορετικά πρακτικά όρια.

Για ένα εκτενές άρθρο βοήθειας, προετοιμάστε σύντομες ενότητες που απαντούν σε συγκεκριμένα ερωτήματα. Κρατήστε μια επικεφαλίδα όταν προσδιορίζει το θέμα και διατηρήστε έναν κανόνα μαζί με την εξαίρεση που χρειάζεται για τη σωστή ανάγνωσή του. Μία είσοδος ολόκληρης σελίδας μπορεί να χάσει μεταγενέστερο υλικό λόγω περικοπής, ενώ ένα υπερβολικά μικρό τμήμα μπορεί να χάσει τη συνθήκη που το κάνει χρήσιμο.

Χρησιμοποιήστε την κατάταξη στην ανάκτηση και στο RAG

Τα πυκνά διανύσματα υποστηρίζουν ένα πρώτο στάδιο ανάκτησης. Επιστρέψτε τα υποψήφια αποσπάσματα με τις υψηλότερες βαθμολογίες μαζί με τις αναφορές πηγής τους και κατόπιν εξετάστε αν απαντούν στο πραγματικό ερώτημα. Σε μια ροή RAG, δώστε αυτά τα αποσπάσματα στο στάδιο σύνταξης απάντησης ως υλικό πηγής· η ανάκτηση από μόνη της δεν συνθέτει την απάντηση.

Χρησιμοποιήστε αντιπροσωπευτικά ερωτήματα με γνωστά σχετικά αποσπάσματα για να επιλέξετε το πλήθος αποτελεσμάτων και να αξιολογήσετε την κατάταξη. Συμπεριλάβετε παραδείγματα με παρόμοιο λεξιλόγιο αλλά διαφορετική πρόθεση, όπως αλλαγή διεύθυνσης έναντι προβολής της τρέχουσας διεύθυνσης. Ερμηνεύστε τις βαθμολογίες σχετικά με τους υποψηφίους υπό το ίδιο μοντέλο και ρύθμιση βαθμολόγησης, όχι ως βαθμονομημένες πιθανότητες ορθότητας.

Η χρήσιμη έξοδος αυτού του checkpoint είναι ένας χώρος embeddings ερωτημάτων και αποσπασμάτων για σημασιολογική αναζήτηση. Τα μη κανονικοποιημένα διανύσματά του, το CLS pooling, η βαθμολογία εσωτερικού γινομένου και η δημοσιευμένη επιφύλαξη για μεγάλες εισόδους είναι οι λεπτομέρειες που πρέπει να διατηρούνται κατά την προετοιμασία και χρήση αποτελεσμάτων.