Qwen: Qwen3 Embedding 4B

Qwen3-Embedding-4B je edice 4B pro textové embeddingy v řadě modelů Qwen pro embeddingy a přerovnávání výsledků. Vychází ze základního modelu Qwen3 s hustou architekturou a převádí textový úsek na číselnou reprezentaci jeho významu. Qwen mezi oblasti použití řadí vyhledávání textu, vyhledávání kódu, klasifikaci, shlukování a vyhledávání paralelních textů. Hodí se tehdy, když aplikace potřebuje najít související pasáže, seskupit podobné záznamy nebo porovnat text napříč jazyky. Výstupem modelu je embeddingový vektor, nikoli konverzační odpověď nebo přepracovaný dokument.

Tato konkrétní edice má délku sekvence 32K tokenů a až 2 560 rozměrů embeddingu. Pomocí metody Matryoshka Representation Learning podporuje volitelný počet výstupních rozměrů od 32 do 2 560. Zvolená délka vektoru ovlivňuje ukládání a porovnávání reprezentace, proto ji v jedné kolekci zachovejte shodnou pro vektory dotazů i dokumentů. Qwen3-Embedding-8B má jinou velikost modelu a maximum 4 096 rozměrů; tato velikost výstupu ani identita modelu 8B se nepřenášejí na edici 4B. Existující index by měl zachovat vlastní konzistentní volby reprezentace.

Výrobce popisuje podporu více než 100 jazyků včetně programovacích jazyků, s vícejazyčným vyhledáváním, vyhledáváním napříč jazyky a vyhledáváním kódu. Například vyhledávání v centru nápovědy může porovnat uživatelovu otázku s pasážemi napsanými v několika jazycích a poté vrátit původní pasáže odpovídající tématu. Vyhledávání kódu může porovnat popis v přirozeném jazyce s relevantními funkcemi a jejich dokumentací. Při přípravě textu zachovejte významové nadpisy, oborové výrazy a identifikátory a ponechte každou reprezentovanou pasáž propojenou s jejím zdrojem, aby aplikace mohla zobrazit odpovídající materiál.

Qwen3-Embedding-4B zohledňuje instrukce. Qwen doporučuje ke každému dotazu připojit jednovětý popis úlohy přizpůsobený zamýšlenému vztahu při vyhledávání a ve vícejazyčných scénářích doporučuje instrukce v angličtině. Přímý příklad umisťuje Instruct: před popis úlohy a Query: před text dotazu. Dokumenty určené k vyhledávání se kódují bez této instrukce pro dotaz. Praktická vlastní instrukce může požadovat vyhledání pasáží dokumentace, které vysvětlují hlášenou chybu, nebo úryvků zdrojového kódu, které implementují popsané chování. Tím se reprezentace zaměřuje na otázku aplikace, místo aby model dostal požadavek napsat odpověď.

Oficiální příklady kódují texty dotazů a dokumentů, porovnávají jejich embeddingy pomocí kosinové podobnosti a předvádějí získání skrytého stavu posledního tokenu s následnou normalizací. V tomto příkladu na nižší úrovni se vstup zkracuje při zvoleném nastavení 8 192 tokenů; dokumentovaná délka sekvence modelu zůstává 32K. U dlouhého materiálu rozhodněte, které pasáže budete reprezentovat, a ověřte, že zkrácení bez upozornění neodstraní část potřebnou pro dotaz. Vektory ukládejte se stabilními odkazy na zdroj, připravený dotaz porovnejte s kolekcí a vraťte přidružené pasáže v pořadí podle podobnosti.

Embeddingový model Qwen používá přístup se dvěma enkodéry, zatímco jeho samostatné modely pro přerovnávání výsledků používají k hodnocení dvojic dotaz–dokument křížový enkodér. Oznámení vydání popisuje společné použití těchto modulů: embeddingy najdou počáteční kandidáty a model pro přerovnávání pak může zpřesnit jejich pořadí. Samotný Qwen3-Embedding-4B dodává reprezentaci jednotlivého textu. Jeho vektor není skóre přerovnávání, ověřené tvrzení ani vygenerovaná odpověď. Pokud výsledný postup odpovídá na otázky z vyhledaného materiálu, vybrané zdrojové pasáže zůstávají podkladem předaným do této následující fáze.