Qwen: Qwen3 Embedding 8B

A Qwen3-Embedding-8B a Qwen 8B méretű szövegbeágyazási modellje, amely a sűrű Qwen3 alapmodellre épül. Szöveget reprezentál numerikus vektorokként, ahelyett, hogy társalgási válaszokat generálna. A Qwen a támogatott alkalmazási területek között szövegkeresést, kódkeresést, osztályozást, klaszterezést és párhuzamos szövegek bányászatát sorolja fel. Egy keresőrendszer ezekkel a vektorokkal hasonlíthat össze egy kérdést releváns szövegrészletekkel; egy dokumentumgyűjtemény szemantikailag kapcsolódó anyagokat kereshet vagy csoportokba rendezheti a rekordokat.

Ez a konkrét modell 32K tokenes szekvenciahosszt és legfeljebb 4096 dimenziós beágyazásokat támogat. A Matryoshka Representation Learning révén 32-től 4096-ig terjedő, felhasználó által meghatározott kimeneti dimenziókat is támogat. Így a vektorhossz tudatos tervezési döntés: a rövidebb vektor a reprezentáció méretét változtatja meg, míg a teljes kimenet megőrzi a modell maximális dimenziószámát. Egy indexben az összehasonlított dokumentumoknál és lekérdezéseknél következetesen ugyanazt a kiválasztott dimenziót használja. A Qwen3-Embedding-4B külön kiadás, eltérő maximális dimenzióval, nem pedig egy meglévő 8B gyűjtemény felcserélhető vektorforrása.

A gyártó több mint 100 nyelv támogatását írja le, beleértve a programozási nyelveket is, valamint többnyelvű, nyelvek közötti és kódkeresést. Egy gyakorlati gyűjtemény több nyelven tartalmazhat dokumentumokat, miközben a lekérdezések a releváns jelentést keresik, vagy természetes nyelvű kérdéshez indexelt forráskódrészleteket tartalmazhat. A bemenetben őrizze meg a fontos azonosítókat, címeket és szakterületi kifejezéseket. Kódnál a részlet mellett tartsa meg a függvényt vagy modult körülvevő magyarázatot, ha ez a kontextus a kérdés része. A kimenet továbbra is vektorreprezentáció; az egyező dokumentumszöveg visszaadása a keresőalkalmazás következő lépése.

A modell figyelembe veszi az utasításokat. A Qwen a keresési feladathoz igazított, egymondatos utasítást javasol, többnyelvű használatnál pedig azt ajánlja, hogy ezt az utasítást angolul írják meg. Közvetlen példája a lekérdezést Instruct: előtaggal, utána a feladatleírással, majd Query: előtaggal és a kérdéssel formázza. Ebben a példában a keresendő dokumentumoknak nincs szükségük ugyanarra az utasításelőtagra. Egy megfelelő saját feladatleírás szólhat a felhasználó hibáját magyarázó műszaki részletek megtalálásáról, majd a konkrét hibaleírás a lekérdezésbe kerülhet. Az utasítás azt írja le, hogy milyen szemantikai kapcsolatot részesítsen előnyben a keresés.

A Qwen példái külön kódolják a lekérdezéseket és a dokumentumokat, koszinuszhasonlósággal hasonlítják össze a vektoraikat, és bemutatnak egy alacsonyabb szintű eljárást, amely az utolsó token rejtett állapotát vonja össze, majd skalárszorzatos összehasonlítás előtt normalizálja a beágyazást. Egy hasznos munkafolyamat minden szövegrészlet vektorát a forrásazonosítójához kapcsolva tartja, egy előkészített lekérdezést összehasonlít a tárolt vektorokkal, és hasonlósági sorrendben adja vissza a megfelelő részleteket. A példa 8192 tokenes csonkolási beállítása választott bemenetfeldolgozási beállítás, amely különbözik a modell dokumentált 32K szekvenciahosszától. Hosszú bemenetek előkészítésekor vizsgálja meg, mi marad meg.

A beágyazási és újrarangsorolási modellek a Qwen kiadásának eltérő komponensei. Egy beágyazási modell egyetlen szövegszegmenst reprezentál, és lehetővé teszi a kezdeti hasonlósági keresést. Egy külön újrarangsoroló értékeli a lekérdezés és a jelölt szövegrészletek kapcsolatát, és finomíthatja a sorrendjüket. A Qwen leírja a két modul kombinálását, de a Qwen3-Embedding-8B önmagában beágyazásokat ad vissza, nem egy újrarangsoroló relevanciaítéletét vagy írott választ. Válaszadással követett keresésnél őrizze meg az egyező forrásszöveget, és ezt a bizonyítékot adja át a válaszadási lépésnek. Válasszon és tartson meg egységes modellt, dimenziót és lekérdezési utasítást a keresett gyűjteményhez.