Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B je textový embeddingový model Qwen velikosti 8B, vytvořený z hustého základního modelu Qwen3. Reprezentuje text jako číselné vektory namísto generování konverzačních odpovědí. Qwen mezi podporovanými oblastmi použití uvádí vyhledávání textu, vyhledávání kódu, klasifikaci, shlukování a získávání paralelních textů. Vyhledávací systém může tyto vektory používat k porovnání otázky s relevantními pasážemi; sbírka dokumentů je může používat k hledání sémanticky souvisejícího materiálu nebo uspořádání záznamů do skupin.

Přesný model podporuje délku sekvence 32K tokenů a embeddingy až o 4 096 rozměrech. Podporuje také uživatelsky definované rozměry výstupu od 32 do 4 096 prostřednictvím Matryoshka Representation Learning. Délka vektoru je tak záměrnou návrhovou volbou: kratší vektor mění velikost reprezentace, zatímco plný výstup zachovává maximální rozměrnost modelu. Zvolený rozměr udržujte konzistentní pro dokumenty a dotazy porovnávané v jednom indexu. Qwen3-Embedding-4B je samostatná edice s odlišným maximálním rozměrem, nikoli zaměnitelný zdroj vektorů pro existující sbírku 8B.

Výrobce popisuje podporu více než 100 jazyků včetně programovacích jazyků a vícejazyčné, mezijazykové a kódové vyhledávání. Praktická sbírka může obsahovat dokumenty v několika jazycích, zatímco dotazy hledají relevantní význam, nebo pasáže zdrojového kódu indexované pro otázku v přirozeném jazyce. Ve vstupu zachovejte důležité identifikátory, názvy a oborové termíny. U kódu ponechte s úryvkem okolní vysvětlení funkce nebo modulu, pokud je tento kontext součástí otázky. Výstup zůstává vektorovou reprezentací; vrácení textu odpovídajícího dokumentu je dalším krokem vyhledávací aplikace.

Model zohledňuje instrukce. Qwen doporučuje jednovětou instrukci přizpůsobenou vyhledávací úloze a pro vícejazyčné použití doporučuje napsat ji anglicky. Jeho přímý příklad formátuje dotaz pomocí Instruct: následovaného popisem úlohy a Query: následovaného otázkou. Vyhledávané dokumenty v tomto příkladu stejný instrukční prefix nepotřebují. Vhodné původní zadání může popsat hledání technických pasáží, které vysvětlují uživatelovu chybu, a potom vložit konkrétní popis chyby do dotazu. Instrukce popisuje, jaký druh sémantického vztahu má vyhledávání upřednostňovat.

Příklady Qwen kódují dotazy a dokumenty odděleně, porovnávají jejich vektory pomocí kosinové podobnosti a ukazují postup na nižší úrovni, který agreguje skrytý stav posledního tokenu a normalizuje embedding před porovnáním pomocí skalárního součinu. Užitečný postup ponechává vektor každé pasáže spojený s jejím zdrojovým identifikátorem, porovnává připravený dotaz s uloženými vektory a vrací odpovídající pasáže v pořadí podobnosti. Nastavení zkrácení na 8 192 tokenů v příkladu je zvolené nastavení zpracování vstupu, odlišné od zdokumentované délky sekvence modelu 32K. Při přípravě dlouhých vstupů prověřte, co se zachová.

Embeddingové a rerankingové modely jsou v rámci vydání Qwen odlišné komponenty. Embeddingový model reprezentuje jeden textový segment a umožňuje počáteční vyhledávání podle podobnosti. Samostatný reranker hodnotí vztah mezi dotazem a kandidátními pasážemi a může zpřesnit jejich pořadí. Qwen popisuje kombinování obou modulů, ale samotný Qwen3-Embedding-8B vrací embeddingy, nikoli hodnocení relevance rerankeru nebo písemnou odpověď. Pro vyhledání následované odpovědí uchovejte nalezený zdrojový text a předejte tyto podklady fázi odpovídání. Pro prohledávanou sbírku zvolte a udržujte konzistentní model, rozměr a instrukci dotazu.