Qwen: Qwen3 Embedding 4B

Qwen3-Embedding-4B — Qwen’ning embedding va qayta saralash oilasidagi matn embeddingi uchun 4B nashr. Zich Qwen3 asos modeliga tayangan holda, u matn parchasini uning ma’nosining raqamli ifodasiga aylantiradi. Qwen matn qidiruvi, kod qidiruvi, tasniflash, klasterlash va parallel matnlarni ajratib topishni qo‘llanish yo‘nalishlari sifatida ko‘rsatadi. Ilovaga o‘zaro bog‘liq parchalarni topish, o‘xshash qaydlarni guruhlash yoki turli tillardagi matnlarni taqqoslash kerak bo‘lganda foydali. Model chiqishi — embedding vektori, suhbat javobi yoki qayta yozilgan hujjat emas.

Aniq shu nashrning ketma-ketlik uzunligi 32K token, embedding o‘lchami esa 2 560 tagacha. U Matryoshka Representation Learning orqali 32 dan 2 560 gacha maxsus chiqish o‘lchamlarini qo‘llaydi. Tanlangan vektor uzunligi ifodaning qanday saqlanishi va taqqoslanishiga ta’sir qiladi, shuning uchun bir to‘plamdagi so‘rov va hujjat vektorlarida uni bir xil saqlang. Qwen3-Embedding-8B boshqa model hajmiga va ko‘pi bilan 4 096 o‘lchamga ega; na shu chiqish hajmini, na 8B modelining o‘zini ushbu 4B nashrga tegishli deb hisoblash mumkin. Mavjud indeks o‘zining izchil ifodalash tanlovlarini saqlashi kerak.

Ishlab chiqaruvchi dasturlash tillari ham kiradigan 100 dan ortiq tilni, ko‘p tilli, tillararo va kod qidiruvini qo‘llashni tavsiflaydi. Yordam markazidagi namunaviy qidiruv foydalanuvchi savolini bir nechta tilda yozilgan parchalar bilan taqqoslab, mavzuga mos keladigan asl parchalarni qaytarishi mumkin. Kod qidiruvi tabiiy tildagi tavsifni tegishli funksiyalar va ularning hujjatlari bilan solishtirishi mumkin. Matn tayyorlashda mazmunli sarlavhalar, soha atamalari va identifikatorlarni saqlang; ilova mos materialni ko‘rsata olishi uchun har bir ifodalangan parchani o‘z manbasiga bog‘lang.

Qwen3-Embedding-4B ko‘rsatmalarni hisobga oladi. Qwen har bir so‘rovga ko‘zlangan qidiruv munosabatiga moslashtirilgan, vazifani bir jumlada tasvirlovchi ko‘rsatma berishni, ko‘p tilli holatlarda esa ingliz tilidagi ko‘rsatmalardan foydalanishni tavsiya qiladi. Bevosita misolda vazifa tavsifidan oldin Instruct:, so‘rov matnidan oldin Query: qo‘yiladi. Qidiriladigan hujjatlar esa shu so‘rov ko‘rsatmasisiz kodlanadi. Mustaqil amaliy ko‘rsatma bildirilgan xatoni tushuntiruvchi hujjat parchalarini yoki tavsiflangan ishlash tartibini amalga oshiruvchi manba kodi qismlarini topishni belgilashi mumkin. Bu modeldan javob yozishni so‘rash o‘rniga, ifodalashni ilovaning savoliga yo‘naltiradi.

Rasmiy misollar so‘rov va hujjat matnlarini kodlaydi, ularning embeddinglarini kosinus o‘xshashligi bilan taqqoslaydi va oxirgi tokenning yashirin holatini pooling qilish, so‘ng normallashtirishni namoyish etadi. Shu quyi darajadagi misolda kirish tanlangan 8 192 tokenlik sozlamada qisqartiriladi; modelning hujjatlashtirilgan ketma-ketlik uzunligi esa 32K bo‘lib qoladi. Uzun materialda qaysi parchalarni ifodalashni belgilang va qisqartirish so‘rovga kerakli qismni bildirmasdan tashlab yubormasligini ta’minlang. Vektorlarni barqaror manba havolalari bilan saqlang, tayyorlangan so‘rovni to‘plam bilan taqqoslang va bog‘langan parchalarni o‘xshashlik tartibida qaytaring.

Qwen embedding modeli dual-encoder yondashuvidan foydalanadi, alohida qayta saralash modellari esa so‘rov–hujjat juftliklarini baholash uchun cross-encoder’dan foydalanadi. Reliz bu modullarni birga ishlatishni tavsiflaydi: embeddinglar dastlabki nomzodlarni topadi, reranker esa keyin ularning tartibini aniqlashtirishi mumkin. Qwen3-Embedding-4B’ning o‘zi bitta matn ifodasini beradi. Uning vektori reranker bahosi, tasdiqlangan bayonot yoki yaratilgan javob emas. Yakuniy jarayon topilgan materialdan foydalanib savollarga javob bersa, tanlangan manba parchalari keyingi bosqichga uzatiladigan dalil bo‘lib qoladi.