Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B — тығыз Qwen3 негіз моделінен жасалған Qwen 8B мәтіндік embedding моделі. Ол әңгімелесу жауаптарын жасамай, мәтінді сандық векторлармен көрсетеді. Qwen қолдау табатын қолдану бағыттарына мәтін алу, код алу, жіктеу, кластерлеу және параллель екітілді мәтіндерді табуды жатқызады. Іздеу жүйесі бұл векторлармен сұрақты тиісті үзінділермен салыстыра алады; құжат жинағы олармен семантикалық байланысты материалды тауып, жазбаларды топтарға ұйымдастыра алады.

Нақты модель 32K токендік тізбек ұзындығын және 4 096 өлшемге дейін embedding қолдайды. Matryoshka Representation Learning арқылы 32-ден 4 096-ға дейін пайдаланушы анықтайтын шығыс өлшемдерін де қолдайды. Бұл вектор ұзындығын саналы дизайн таңдауы етеді: қысқарақ вектор деректердің векторлық көрінісінің көлемін өзгертеді, ал толық шығыс модельдің ең көп өлшемділігін сақтайды. Бір индексте салыстырылатын құжаттар мен сұрауларға таңдалған өлшемді бірізді ұстаңыз. Qwen3-Embedding-4B — бар 8B жинағына алмастырылатын вектор көзі емес, ең көп өлшемі өзгеше бөлек нұсқа.

Өндіруші бағдарламалау тілдерін қоса алғанда 100-ден астам тілді, сондай-ақ көптілді, тілдер аралық және код іздеуді қолдауды сипаттайды. Практикалық жинақ бірнеше тілдегі құжаттарды қамтып, сұраулар тиісті мағынаны іздей алады немесе табиғи тіл сұрағына арналған бастапқы код үзінділерін индекстей алады. Кірісте маңызды идентификаторларды, тақырыптарды және сала терминдерін сақтаңыз. Кодта сол контекст сұрақтың бөлігі болса, функция немесе модуль айналасындағы түсіндірмені үзіндімен бірге ұстаңыз. Шығыс деректердің векторлық көрінісі болып қалады; сәйкес құжат мәтінін қайтару — іздеу қолданбасының келесі қадамы.

Модель нұсқауды ескереді. Qwen іздеу тапсырмасына бейімделген бір сөйлемдік нұсқауды және көптілді қолдануда оны ағылшын тілінде жазуды ұсынады. Тікелей мысалы сұрауды Instruct: белгісінен кейін тапсырма сипаттамасы және Query: белгісінен кейін сұрақ берілетін түрде пішімдейді. Сол мысалда ізделетін құжаттарға бірдей нұсқау префиксі қажет емес. Тиісті бастапқы тапсырма пайдаланушы қатесін түсіндіретін техникалық үзінділерді табуды сипаттап, нақты қате сипаттамасын сұрауға орналастыра алады. Нұсқау іздеу қай семантикалық қатынасты басым етуі керектігін сипаттайды.

Qwen мысалдары сұраулар мен құжаттарды бөлек кодтап, векторларын косинустық ұқсастықпен салыстырады және соңғы токеннің жасырын күйін жинақтап, скаляр көбейтіндімен салыстыруға дейін embedding-ті нормалайтын төменірек деңгейдегі рәсімді көрсетеді. Пайдалы жұмыс процесі әр үзінді векторын дереккөз идентификаторымен байланысты сақтап, дайындалған сұрауды сақталған векторлармен салыстырып, сәйкес үзінділерді ұқсастық ретімен қайтарады. Мысалдағы 8 192 токендік қысқарту баптауы — модельдің құжатталған 32K тізбек ұзындығынан бөлек таңдалған кіріс өңдеу баптауы. Ұзын кірістерді дайындағанда не сақталатынын қараңыз.

Embedding және қайта ранжирлеу модельдері — Qwen шығарылымындағы бөлек компоненттер. Embedding моделі бір мәтін сегментін көрсетіп, бастапқы ұқсастық іздеуіне мүмкіндік береді. Бөлек reranker сұрау мен кандидат үзінділердің қатынасын бағалап, ретін нақтылай алады. Qwen екі модульді біріктіруді сипаттайды, бірақ Qwen3-Embedding-8B өзі reranker сәйкестік бағасын немесе жазбаша жауап емес, embedding қайтарады. Іздеуден кейін жауап беру үшін сәйкес бастапқы мәтінді сақтап, сол дәлелді жауап беру кезеңіне беріңіз. Ізделетін жинаққа бірізді модельді, өлшемді және сұрау нұсқауын таңдап, сақтаңыз.