VoyageAI by MongoDB: rerank-2.5

Το rerank-2.5 είναι ο reranker της Voyage AI που ακολουθεί οδηγίες, σχεδιασμένος για βελτίωση συνόλου υποψηφίων αναζήτησης. Εξετάζει μαζί ερώτημα και κάθε έγγραφο ως cross-encoder και επιστρέφει σειρά συνάφειας. Η κυκλοφορία του κατασκευαστή τονίζει έλεγχο φυσικής γλώσσας στο τι θεωρείται σχετικό, πολύγλωσση ανάκτηση και μεγαλύτερο παράθυρο ερωτήματος–εγγράφου από το προηγούμενο rerank-2.

Δώστε στο μοντέλο τους υποψηφίους προς σύγκριση

Η είσοδος είναι ερώτημα και λίστα υποψήφιων εγγράφων κειμένου. Μπορεί να είναι αποσπάσματα επιλεγμένα από αναζήτηση embeddings ή λεξική αναζήτηση πρώτου σταδίου. Ο reranker αξιολογεί το παρεχόμενο κείμενο αντί να δημιουργεί embeddings σώματος εγγράφων, οπότε ο πρακτικός του ρόλος είναι να βελτιώνει τους υποψηφίους που βρήκε ήδη η αρχική αναζήτηση.

Διατηρήστε την αρχική σειρά υποψηφίων και τα αναγνωριστικά πηγών κατά την προετοιμασία της λίστας. Οι επιστρεφόμενοι δείκτες αναφέρονται σε αυτές τις θέσεις εισόδου. Για εργασία RAG, δώστε τα αποσπάσματα που μπορεί πράγματι να χρησιμοποιήσει το στάδιο απάντησης, μαζί με τίτλο ή προϋποθέσεις που χρειάζονται για ερμηνεία. Σχετικό έγγραφο που απουσιάζει από το υποβαλλόμενο σύνολο δεν μπορεί να εμφανιστεί ως νεοευρεθέν αποτέλεσμα ανακατάταξης.

Προσδιορίστε την επιθυμητή έννοια συνάφειας

Οι οδηγίες μπορούν να προστεθούν πριν ή μετά το ερώτημα. Η κυκλοφορία περιγράφει τρεις χρήσιμους ρόλους: έμφαση σε συγκεκριμένο μέρος εγγράφου, προτίμηση τύπου πηγής και αποσαφήνιση ερωτήματος με συμφραζόμενα εφαρμογής. Αυτά μεταβάλλουν την εργασία συνάφειας που παρουσιάζεται στο μοντέλο.

Για τεχνική αναζήτηση, ενδεικτική οδηγία είναι «Δώστε προτεραιότητα σε αποσπάσματα που εξηγούν τη συμπεριφορά αποτυχίας και αποκατάστασης· οι εισαγωγικές επισκοπήσεις είναι δευτερεύουσες». Για ερευνητική συλλογή, ορίστε αν μετρά περισσότερο τίτλος, μέθοδος ή αποτέλεσμα. Για αμφίσημο όρο, δηλώστε το θεματικό πεδίο αναζήτησης. Κρατήστε συμβατές ερώτηση και οδηγία, ώστε η μία να μη ζητά ευρύ θέμα ενώ η άλλη αλλάζει σιωπηρά την εργασία.

Αυτές οι προτιμήσεις καθοδηγούν τη βαθμολόγηση συνάφειας. Αν η εφαρμογή έχει αυστηρές απαιτήσεις επιλεξιμότητας — όπως έκδοση πηγής, ημερομηνία ή πεδίο πρόσβασης — προετοιμάστε χωριστά το επιλέξιμο σύνολο υποψηφίων. Η οδηγία συνάφειας του μοντέλου και ένας ντετερμινιστικός περιορισμός συλλογής εξυπηρετούν διαφορετικούς σκοπούς.

Ταξινομημένη έξοδος και μεταγενέστερη χρήση

Τα αποτελέσματα έχουν φθίνουσα σειρά συνάφειας και περιλαμβάνουν βαθμολογία κινητής υποδιαστολής και τον αρχικό δείκτη εισόδου του υποψηφίου. Η επιλογή top-k επιλέγει πόσα κορυφαία αποτελέσματα επιστρέφονται· χωρίς αυτή, η προδιαγραφή του κατασκευαστή επιστρέφει όλους τους υποβαλλόμενους υποψηφίους. Μια προαιρετική ρύθμιση επιστροφής εγγράφων περιλαμβάνει το αντίστοιχο αρχικό κείμενο· διαφορετικά η απόκριση περιέχει δείκτες και βαθμολογίες.

Χρησιμοποιήστε τη σειρά για επιλογή αποσπασμάτων προς εμφάνιση ή μεταγενέστερο στάδιο απάντησης, διατηρώντας άθικτη την ταυτότητα πηγής. Εξετάστε το πραγματικό κείμενο όταν αξιολογείτε την κατάταξη: η βαθμολογία μετρά συνάφεια προς το υποβαλλόμενο ερώτημα, όχι παραγόμενη απάντηση ή επαλήθευση ορθότητας ισχυρισμών εγγράφου. Έτσι το μοντέλο χρησιμεύει για βελτίωση τεχνικού, νομικού, χρηματοοικονομικού, ιατρικού, συνομιλιακού και πολύγλωσσου υλικού αναζήτησης χωρίς να μετατρέπει κατάταξη σε συμπέρασμα πεδίου.

Παράθυρο, συνολικός προϋπολογισμός token και περικοπή

Το τεκμηριωμένο όριο ερωτήματος είναι 8.000 token, μαζί με οδηγίες στο ερώτημα. Το ερώτημα με οποιοδήποτε υποψήφιο έγγραφο πρέπει να χωρά σε 32.000 token και η λίστα μπορεί να περιέχει έως 1.000 στοιχεία. Η συνολική διάθεση είναι 600.000 token, μετρημένη ως token ερωτήματος επί αριθμό εγγράφων, συν όλα τα token εγγράφων. Μια μακρά οδηγία επομένως μετριέται επανειλημμένα στα ζεύγη υποψηφίων.

Το πλήθος top-k εξόδου δεν αλλάζει τον αριθμό υποψηφίων στον υπολογισμό token εισόδου. Η προεπιλεγμένη περικοπή συντομεύει υπερμεγέθη ερωτήματα ή έγγραφα για συμμόρφωση με το όριο παραθύρου· η απενεργοποίησή της κάνει υπερμεγέθες ερώτημα ή ζεύγος να επιστρέφει σφάλμα. Προετοιμάστε σκόπιμα αποσπάσματα που περιέχουν την απάντηση και κρατήστε τη σχετική προϋπόθεση μέσα στο κείμενο που θα δει το μοντέλο. Αξιολογήστε τη βελτιωμένη σειρά σε αντιπροσωπευτικές ερωτήσεις και οδηγίες και προωθήστε τα επιλεγμένα αρχικά αποσπάσματα στο επόμενο στάδιο.