Qwen: Qwen3 Embedding 4B

Το Qwen3-Embedding-4B είναι η έκδοση 4B παραγωγής διανυσματικών αναπαραστάσεων κειμένου στην οικογένεια μοντέλων διανυσματικών αναπαραστάσεων και ανακατάταξης της Qwen. Βασίζεται στο πυκνό μοντέλο θεμελίωσης Qwen3 και μετατρέπει ένα τμήμα κειμένου σε αριθμητική αναπαράσταση του νοήματός του. Η Qwen αναφέρει ως πεδία εφαρμογής την ανάκτηση κειμένου, την ανάκτηση κώδικα, την ταξινόμηση, την ομαδοποίηση και την εξόρυξη παράλληλων κειμένων. Είναι χρήσιμο όταν μια εφαρμογή χρειάζεται να βρει συναφή αποσπάσματα, να ομαδοποιήσει παρόμοιες εγγραφές ή να συγκρίνει κείμενα μεταξύ γλωσσών. Η έξοδος του μοντέλου είναι ένα διάνυσμα αναπαράστασης, όχι απάντηση συνομιλίας ή αναδιατυπωμένο έγγραφο.

Η συγκεκριμένη έκδοση έχει μήκος ακολουθίας 32K tokens και διάσταση αναπαράστασης έως 2.560. Υποστηρίζει προσαρμοσμένες διαστάσεις εξόδου από 32 έως 2.560 μέσω του Matryoshka Representation Learning. Το επιλεγμένο μήκος διανύσματος επηρεάζει τον τρόπο αποθήκευσης και σύγκρισης της αναπαράστασης, οπότε διατηρήστε το ίδιο μήκος στα διανύσματα ερωτημάτων και εγγράφων μιας συλλογής. Το Qwen3-Embedding-8B έχει διαφορετικό μέγεθος μοντέλου και μέγιστη διάσταση 4.096· ούτε αυτό το μέγεθος εξόδου ούτε η ταυτότητα του μοντέλου 8B μεταφέρονται σε αυτή την έκδοση 4B. Ένα υπάρχον ευρετήριο πρέπει να διατηρεί τις δικές του συνεπείς επιλογές αναπαράστασης.

Ο κατασκευαστής περιγράφει υποστήριξη για περισσότερες από 100 γλώσσες, συμπεριλαμβανομένων γλωσσών προγραμματισμού, με πολύγλωσση, διαγλωσσική ανάκτηση και ανάκτηση κώδικα. Μια ενδεικτική αναζήτηση σε κέντρο βοήθειας μπορεί να συγκρίνει την ερώτηση ενός χρήστη με αποσπάσματα γραμμένα σε πολλές γλώσσες και έπειτα να επιστρέψει τα πρωτότυπα αποσπάσματα που ταιριάζουν στο θέμα. Μια αναζήτηση κώδικα μπορεί να συγκρίνει περιγραφή σε φυσική γλώσσα με σχετικές συναρτήσεις και την τεκμηρίωσή τους. Διατηρήστε τους ουσιαστικούς τίτλους, τους όρους του πεδίου και τα αναγνωριστικά κατά την προετοιμασία κειμένου και κρατήστε κάθε αναπαριστώμενο απόσπασμα συνδεδεμένο με την πηγή του, ώστε η εφαρμογή να εμφανίζει το αντίστοιχο υλικό.

Το Qwen3-Embedding-4B λαμβάνει υπόψη οδηγίες. Η Qwen συνιστά να συνοδεύετε κάθε ερώτημα με περιγραφή της εργασίας σε μία πρόταση, προσαρμοσμένη στην επιθυμητή σχέση ανάκτησης, και συνιστά αγγλικές οδηγίες για πολύγλωσσα σενάρια. Το άμεσο παράδειγμα τοποθετεί το Instruct: πριν από την περιγραφή της εργασίας και το Query: πριν από το κείμενο του ερωτήματος. Τα έγγραφα προς ανάκτηση κωδικοποιούνται χωρίς αυτή την οδηγία ερωτήματος. Μια πρακτική οδηγία που θα διατυπώσετε μπορεί να προσδιορίζει την εύρεση αποσπασμάτων τεκμηρίωσης που εξηγούν ένα αναφερόμενο σφάλμα ή αποσπασμάτων πηγαίου κώδικα που υλοποιούν την περιγραφόμενη συμπεριφορά. Έτσι η αναπαράσταση κατευθύνεται προς το ερώτημα της εφαρμογής, αντί να ζητείται από το μοντέλο να γράψει απάντηση.

Τα επίσημα παραδείγματα κωδικοποιούν τα κείμενα ερωτημάτων και εγγράφων, συγκρίνουν τις διανυσματικές αναπαραστάσεις τους μέσω ομοιότητας συνημιτόνου και παρουσιάζουν τη συγκέντρωση (pooling) της κρυφής κατάστασης του τελευταίου token, ακολουθούμενη από κανονικοποίηση. Σε αυτό το παράδειγμα χαμηλότερου επιπέδου, η είσοδος περικόπτεται σε επιλεγμένη ρύθμιση 8.192 tokens· το τεκμηριωμένο μήκος ακολουθίας του μοντέλου παραμένει 32K. Για μεγάλο υλικό, αποφασίστε ποια αποσπάσματα θα αναπαραστήσετε και βεβαιωθείτε ότι η περικοπή δεν απορρίπτει σιωπηρά το μέρος που χρειάζεται το ερώτημα. Αποθηκεύστε τα διανύσματα με σταθερές αναφορές πηγής, συγκρίνετε το προετοιμασμένο ερώτημα με τη συλλογή και επιστρέψτε τα συνδεδεμένα αποσπάσματα κατά σειρά ομοιότητας.

Το μοντέλο διανυσματικών αναπαραστάσεων της Qwen χρησιμοποιεί προσέγγιση με δύο κωδικοποιητές (dual-encoder), ενώ τα ξεχωριστά μοντέλα ανακατάταξης χρησιμοποιούν cross-encoder για να αξιολογούν ζεύγη ερωτήματος–εγγράφου. Η ανακοίνωση περιγράφει τη συνδυασμένη χρήση αυτών των μονάδων: οι διανυσματικές αναπαραστάσεις εντοπίζουν αρχικούς υποψηφίους και ένα μοντέλο ανακατάταξης μπορεί στη συνέχεια να βελτιώσει τη σειρά τους. Το ίδιο το Qwen3-Embedding-4B παρέχει την αναπαράσταση ενός μεμονωμένου κειμένου. Το διάνυσμά του δεν είναι βαθμολογία ανακατάταξης, επαληθευμένος ισχυρισμός ή παραγόμενη απάντηση. Αν η τελική ροή απαντά σε ερωτήματα από ανακτημένο υλικό, τα επιλεγμένα αποσπάσματα πηγής παραμένουν τα τεκμήρια που περνούν σε αυτό το επόμενο στάδιο.