Qwen: Qwen3 Embedding 8B

Το Qwen3-Embedding-8B είναι το μοντέλο embeddings κειμένου 8B της Qwen, κατασκευασμένο από το πυκνό βασικό μοντέλο Qwen3. Αναπαριστά κείμενο ως αριθμητικά διανύσματα αντί να παράγει απαντήσεις συνομιλίας. Η Qwen αναφέρει ανάκτηση κειμένου, ανάκτηση κώδικα, ταξινόμηση, ομαδοποίηση και εξόρυξη δίγλωσσων κειμένων μεταξύ των υποστηριζόμενων πεδίων εφαρμογής. Ένα σύστημα αναζήτησης μπορεί να χρησιμοποιεί αυτά τα διανύσματα για σύγκριση ερωτήματος με σχετικά αποσπάσματα· μια συλλογή εγγράφων μπορεί να τα χρησιμοποιεί για εύρεση σημασιολογικά σχετικού υλικού ή οργάνωση εγγραφών σε ομάδες.

Το ακριβές μοντέλο υποστηρίζει μήκος ακολουθίας 32K tokens και embeddings έως 4096 διαστάσεων. Υποστηρίζει επίσης διαστάσεις εξόδου ορισμένες από τον χρήστη από 32 έως 4096 μέσω Matryoshka Representation Learning. Αυτό κάνει το μήκος διανύσματος συνειδητή επιλογή σχεδιασμού: ένα μικρότερο διάνυσμα αλλάζει το μέγεθος αναπαράστασης, ενώ η πλήρης έξοδος διατηρεί τη μέγιστη διάσταση του μοντέλου. Κρατήστε την επιλεγμένη διάσταση συνεπή για τα έγγραφα και τα ερωτήματα που συγκρίνονται σε ένα ευρετήριο. Το Qwen3-Embedding-4B είναι χωριστή έκδοση με διαφορετική μέγιστη διάσταση, όχι εναλλάξιμη πηγή διανυσμάτων για υπάρχουσα συλλογή 8B.

Ο παραγωγός περιγράφει υποστήριξη για περισσότερες από 100 γλώσσες, συμπεριλαμβανομένων γλωσσών προγραμματισμού, και πολυγλωσσική, διαγλωσσική ανάκτηση και ανάκτηση κώδικα. Μια πρακτική συλλογή μπορεί να περιέχει έγγραφα σε πολλές γλώσσες ενώ τα ερωτήματα αναζητούν το σχετικό νόημα, ή αποσπάσματα πηγαίου κώδικα ευρετηριασμένα για ερώτημα φυσικής γλώσσας. Διατηρήστε σημαντικά αναγνωριστικά, τίτλους και όρους πεδίου στην είσοδο. Για κώδικα, κρατήστε την εξήγηση γύρω από τη συνάρτηση ή τη μονάδα μαζί με το απόσπασμα όταν αυτά τα συμφραζόμενα αποτελούν μέρος του ερωτήματος. Η έξοδος παραμένει διανυσματική αναπαράσταση· η επιστροφή του αντίστοιχου κειμένου εγγράφου είναι το επόμενο βήμα της εφαρμογής αναζήτησης.

Το μοντέλο λαμβάνει υπόψη οδηγίες. Η Qwen συνιστά οδηγία μίας πρότασης προσαρμοσμένη στην εργασία ανάκτησης και, για πολυγλωσσική χρήση, συνιστά να γράφεται αυτή η οδηγία στα αγγλικά. Το άμεσο παράδειγμά της μορφοποιεί ερώτημα με Instruct: ακολουθούμενο από την περιγραφή εργασίας και Query: ακολουθούμενο από το ερώτημα. Τα έγγραφα ανάκτησης δεν χρειάζονται το ίδιο πρόθεμα οδηγίας σε εκείνο το παράδειγμα. Μια κατάλληλη αρχική περιγραφή μπορεί να αφορά εύρεση τεχνικών αποσπασμάτων που εξηγούν ένα σφάλμα χρήστη και στη συνέχεια να τοποθετεί την περιγραφή του συγκεκριμένου σφάλματος στο ερώτημα. Η οδηγία περιγράφει τι είδους σημασιολογική σχέση πρέπει να ευνοεί η αναζήτηση.

Τα παραδείγματα της Qwen κωδικοποιούν ερωτήματα και έγγραφα χωριστά, συγκρίνουν τα διανύσματά τους με ομοιότητα συνημιτόνου και δείχνουν διαδικασία χαμηλότερου επιπέδου που συγκεντρώνει με pooling την κρυφή κατάσταση του τελικού token και κανονικοποιεί το embedding πριν από σύγκριση εσωτερικού γινομένου. Μια χρήσιμη ροή κρατά το διάνυσμα κάθε αποσπάσματος συνδεδεμένο με το αναγνωριστικό πηγής του, συγκρίνει προετοιμασμένο ερώτημα με τα αποθηκευμένα διανύσματα και επιστρέφει τα αντίστοιχα αποσπάσματα σε σειρά ομοιότητας. Η ρύθμιση περικοπής 8192 tokens του παραδείγματος είναι επιλεγμένη ρύθμιση επεξεργασίας εισόδου, διακριτή από το τεκμηριωμένο μήκος ακολουθίας 32K του μοντέλου. Ελέγξτε τι διατηρείται όταν προετοιμάζετε μεγάλες εισόδους.

Τα μοντέλα embeddings και επανακατάταξης είναι διαφορετικά στοιχεία στην έκδοση της Qwen. Ένα μοντέλο embeddings αναπαριστά ένα τμήμα κειμένου και επιτρέπει αρχική αναζήτηση ομοιότητας. Ένας χωριστός reranker αξιολογεί τη σχέση μεταξύ ερωτήματος και υποψήφιων αποσπασμάτων και μπορεί να βελτιώνει τη σειρά τους. Η Qwen περιγράφει συνδυασμό των δύο μονάδων, αλλά το Qwen3-Embedding-8B επιστρέφει το ίδιο embeddings αντί για κρίση συνάφειας reranker ή γραπτή απάντηση. Για ανάκτηση που ακολουθείται από απάντηση, κρατήστε το αντίστοιχο κείμενο πηγής και δώστε αυτά τα στοιχεία στο στάδιο απάντησης. Επιλέξτε μοντέλο, διάσταση και οδηγία ερωτήματος και διατηρήστε αυτές τις επιλογές σταθερές για τη συλλογή στην οποία γίνεται αναζήτηση.