Cohere: Rerank 4 Fast

Το Cohere Rerank 4 Fast είναι η ελαφρύτερη έκδοση Rerank 4, προσανατολισμένη σε εργασίες ανάκτησης χαμηλότερης καθυστέρησης και υψηλότερου ρυθμού επεξεργασίας. Δέχεται ερώτημα και υποψήφια έγγραφα και κατόπιν επιστρέφει τη σειρά συνάφειας και τις βαθμολογίες τους. Είναι χρήσιμο για διαδραστική αναζήτηση, επαναλαμβανόμενη επιλογή στοιχείων και εφαρμογές που χρειάζονται αναδιάταξη υπάρχουσας λίστας αποτελεσμάτων. Το Fast παραμένει ξεχωριστή έκδοση από το Rerank 4 Pro, το οποίο προορίζεται για πιο σύνθετες περιπτώσεις όπου προτεραιότητα έχει η ποιότητα ανάκτησης.

Ο κωδικός του δημιουργού είναι rerank-v4.0-fast. Όπως το Pro, έχει παράθυρο συμφραζομένων 32.768 token και πολύγλωσση κάλυψη περισσότερων από 100 γλωσσών. Το ερώτημα και ένα έγγραφο μοιράζονται το παράθυρο συμφραζομένων· δεν είναι διάσταση διανύσματος ούτε προϋπολογισμός για ολόκληρο ευρετηριασμένο σώμα κειμένων. Παρέχετε τα υποψήφια κείμενα που πρέπει να συγκριθούν, αντί να περιμένετε από το μοντέλο να ανακτήσει έγγραφα από πηγή που δεν του έχει δοθεί.

Το τεκμηριωμένο αποτέλεσμα περιλαμβάνει τον αρχικό δείκτη εγγράφου και ένα relevance_score. Το top_n επιλέγει πόσα αποτελέσματα επιστρέφονται, ενώ η παράλειψή του επιστρέφει την πλήρη καταταγμένη λίστα. Κρατήστε αναγνωριστικά πηγών δίπλα στις εισόδους, ώστε η νέα σειρά να μπορεί να συνδεθεί με τα πραγματικά αποσπάσματα. Για αναζήτηση προϊόντος, περιγράψτε στο ερώτημα τα απαιτούμενα χαρακτηριστικά προϊόντος και ανακατατάξτε τις υποψήφιες περιγραφές· μια υψηλότερη θέση πρέπει να παραμένει συνδεδεμένη με την εγγραφή προϊόντος που την παρήγαγε.

Το μοντέλο μπορεί να δουλεύει με αγγλικά και μη αγγλικά έγγραφα και ημιδομημένες εγγραφές. Στη ροή V2, οι είσοδοι εγγράφων είναι συμβολοσειρές και η Cohere προτείνει αναπαράσταση δομημένων δεδομένων ως YAML. Βάλτε πρώτα τα σημαντικά πεδία και διατηρήστε τη σειρά τους, ώστε μια περικοπή να μη χάσει το περιεχόμενο που χρειάζεται για την κρίση συνάφειας. Μια εγγραφή υποστήριξης μπορεί να περιέχει τίτλο, προϊόν και κείμενο διαδικασίας· ένα μήνυμα μπορεί να περιέχει θέμα και σώμα. Αυτές οι ρητές σχέσεις δίνουν στο μοντέλο κατάταξης πληροφορίες πέρα από μια λίστα λέξεων-κλειδιών που ταιριάζουν.

Το όριο ερωτήματος του συγκεκριμένου μοντέλου στον οδηγό προετοιμασίας της Cohere είναι 16.384 token, με το ερώτημα και το έγγραφο να καταναλώνουν το κοινό παράθυρο συμφραζομένων. Ο οδηγός περιγράφει επεξεργασία τμημάτων μεγαλύτερων εγγράφων, ενώ η αναφορά V2 ορίζει χωριστά προεπιλεγμένη περικοπή εγγράφου στα 4096 token μέσω του max_tokens_per_doc. Ελέγξτε αυτή την πραγματική ρύθμιση εγγράφου, αντί να υποθέτετε ότι χρησιμοποιείται πάντα ολόκληρο το παράθυρο μοντέλου 32K. Ετοιμάστε σχετικά αποσπάσματα ή κατάλληλο προϋπολογισμό εγγράφου για την πραγματική εργασία ανάκτησης.

Για συνιστώμενη απόδοση, η Cohere συμβουλεύει να μην περιλαμβάνονται περισσότερα από 1.000 έγγραφα σε ένα αίτημα. Χωρίστε μεγαλύτερα σύνολα υποψηφίων σε διαχειρίσιμες ομάδες, διατηρώντας τα αναγνωριστικά τους. Οι βαθμολογίες εξόδου κανονικοποιούνται από 0 έως 1 και εξαρτώνται από το ερώτημα και τα αποσπάσματα. Η σειρά τους είναι το βασικό αποτέλεσμα· μια βαθμολογία δεν είναι γραμμικό πολλαπλάσιο συνάφειας ούτε απόδειξη ότι ένα απόσπασμα είναι σωστό. Καθορίστε κάθε κατώφλι φιλτραρίσματος με αντιπροσωπευτικά ερωτήματα και οριακά συναφή αποσπάσματα του πεδίου.

Ένα χρήσιμο αποτέλεσμα Fast είναι μια καταταγμένη λίστα που μπορεί αμέσως να τροφοδοτήσει προβολή αναζήτησης ή να επιλέξει στοιχεία για στάδιο σύνταξης απάντησης. Διατηρήστε το πηγαίο κείμενο μαζί με τη βαθμολογία και ελέγξτε αν τα πρώτα αποτελέσματα καλύπτουν πραγματικά τις ζητούμενες συνθήκες. Ο ρόλος του Fast είναι η κατάταξη ανάκτησης και όχι η παραγωγή νέας εξήγησης ή διανύσματος ενσωμάτωσης. Κρατήστε σταθερά την ονομασμένη έκδοση και την προετοιμασία εισόδου όταν βελτιώνετε τη συμπεριφορά συνάφειας.