Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B är Qwens 8B-modell för textinbäddningar, byggd på den täta grundmodellen Qwen3. Den representerar text som numeriska vektorer i stället för att generera samtalssvar. Qwen anger textsökning, kodsökning, klassificering, klustring och utvinning av parallella texter bland de stödda användningsområdena. Ett söksystem kan använda vektorerna för att jämföra en fråga med relevanta textstycken; en dokumentsamling kan använda dem för att hitta semantiskt relaterat material eller ordna poster i grupper.

Just denna modell stöder en sekvenslängd på 32K token och inbäddningar med upp till 4 096 dimensioner. Den stöder också användardefinierade utdatadimensioner från 32 till 4 096 genom Matryoshka Representation Learning. Det gör vektorlängden till ett medvetet designval: en kortare vektor ändrar representationens storlek, medan fullständiga utdata bevarar modellens maximala dimensionalitet. Håll den valda dimensionen konsekvent för dokument och frågor som jämförs i ett index. Qwen3-Embedding-4B är en separat utgåva med en annan maximal dimension, snarare än en utbytbar vektorkälla för en befintlig 8B-samling.

Tillverkaren beskriver stöd för fler än 100 språk, inklusive programmeringsspråk, samt flerspråkig sökning, sökning mellan språk och kodsökning. En praktisk samling kan innehålla dokument på flera språk medan frågor söker efter relevant betydelse, eller källkodsstycken indexerade för en fråga på naturligt språk. Bevara viktiga identifierare, titlar och domäntermer i indata. För kod bevaras den omgivande förklaringen till funktionen eller modulen tillsammans med utdraget när den kontexten ingår i frågan. Utdata förblir en vektorrepresentation; att returnera den matchande dokumenttexten är sökapplikationens nästa steg.

Modellen tar hänsyn till instruktioner. Qwen rekommenderar en instruktion på en mening anpassad till sökuppgiften och rekommenderar vid flerspråkig användning att instruktionen skrivs på engelska. Det direkta exemplet formaterar en fråga med Instruct: följt av uppgiftsbeskrivningen och Query: följt av frågan. Dokument för sökningen behöver inte samma instruktionsprefix i det exemplet. En lämplig egen uppgiftsbeskrivning kan handla om att hitta tekniska textstycken som förklarar användarens fel, och därefter placera den specifika felbeskrivningen i frågan. Instruktionen beskriver vilken sorts semantisk relation sökningen ska prioritera.

Qwens exempel kodar frågor och dokument separat, jämför deras vektorer med cosinuslikhet och visar en procedur på lägre nivå som poolar den sista tokenens dolda tillstånd och normaliserar inbäddningen före en jämförelse med skalärprodukten. Ett användbart arbetsflöde håller varje textstyckes vektor kopplad till dess källidentifierare, jämför en förberedd fråga med de lagrade vektorerna och returnerar motsvarande textstycken i ordning efter likhet. Exemplets trunkeringsinställning på 8 192 token är en vald inställning för indatabearbetning, skild från modellens dokumenterade sekvenslängd på 32K. Granska vad som behålls när långa indata förbereds.

Inbäddnings- och omrangeringsmodellerna är olika komponenter i Qwens utgåva. En inbäddningsmodell representerar ett textsegment och möjliggör en inledande likhetssökning. En separat omrangeringsmodell bedömer relationen mellan en fråga och kandidattextstycken och kan förfina deras ordning. Qwen beskriver en kombination av de två modulerna, men Qwen3-Embedding-8B returnerar själv inbäddningar snarare än en omrangeringsmodells relevansbedömning eller ett skriftligt svar. För sökning följd av ett svar bevaras den matchande källtexten och dessa belägg förs vidare till svarsstadiet. Välj och behåll en konsekvent modell, dimension och frågeinstruktion för samlingen som genomsöks.