Qwen: Qwen3 Embedding 4B

Qwen3-Embedding-4B är 4B-versionen för textembeddings i Qwens familj för embeddings och omrangering. Den bygger på den täta basmodellen Qwen3 och omvandlar ett textsegment till en numerisk representation av dess betydelse. Qwen anger textsökning, kodsökning, klassificering, klustring och utvinning av parallella texter som användningsområden. Modellen är användbar när en applikation behöver hitta relaterade textavsnitt, gruppera liknande poster eller jämföra text mellan språk. Modellens utdata är en embeddingvektor, inte ett konversationssvar eller ett omskrivet dokument.

Den exakta versionen har en sekvenslängd på 32K token och en embeddingdimension på upp till 2 560. Den stöder valbara utdatadimensioner från 32 till 2 560 genom Matryoshka Representation Learning. Den valda vektorlängden påverkar hur representationen lagras och jämförs, så håll den konsekvent mellan fråge- och dokumentvektorer i samma samling. Qwen3-Embedding-8B har en annan modellstorlek och högst 4 096 dimensioner; varken den utdatastorleken eller 8B-modellens identitet överförs till denna 4B-version. Ett befintligt index bör behålla konsekventa val av representation.

Tillverkaren beskriver stöd för fler än 100 språk, inklusive programmeringsspråk, med flerspråkig sökning, sökning mellan språk och kodsökning. Ett exempel på sökning i ett hjälpcenter kan jämföra användarens fråga med avsnitt skrivna på flera språk och sedan returnera de ursprungliga avsnitt som matchar ämnet. En kodsökning kan jämföra en beskrivning på naturligt språk med relevanta funktioner och deras dokumentation. Bevara meningsfulla rubriker, domäntermer och identifierare när du förbereder texten, och behåll kopplingen mellan varje representerat avsnitt och dess källa så att applikationen kan visa det matchande materialet.

Qwen3-Embedding-4B kan ta hänsyn till instruktioner. Qwen rekommenderar att varje fråga får en uppgiftsbeskrivning på en mening, anpassad till den avsedda sökrelationen, och rekommenderar instruktioner på engelska i flerspråkiga scenarier. Det direkta exemplet placerar Instruct: före uppgiftsbeskrivningen och Query: före frågetexten. Dokumenten som söks kodas utan denna frågeinstruktion. En egen praktisk instruktion kan ange att modellen ska hitta dokumentationsavsnitt som förklarar ett rapporterat fel eller källkodsutdrag som implementerar det beskrivna beteendet. Det riktar representationen mot applikationens fråga i stället för att be modellen skriva ett svar.

De officiella exemplen kodar fråge- och dokumenttexter, jämför deras embeddings med cosinuslikhet och visar poolning av den sista tokenens dolda tillstånd följt av normalisering. I det exemplet på lägre nivå trunkeras indata vid en vald inställning på 8 192 token; modellens dokumenterade sekvenslängd är fortfarande 32K. För långt material avgör du vilka avsnitt som ska representeras och säkerställer att trunkeringen inte tyst tar bort den del som frågan behöver. Lagra vektorer med stabila källreferenser, jämför den förberedda frågan med samlingen och returnera de tillhörande avsnitten i likhetsordning.

Qwens embeddingmodell använder en dual-encoder-metod, medan dess separata omrangeringsmodeller använder en cross-encoder för att bedöma fråge–dokument-par. Lanseringen beskriver hur dessa moduler används tillsammans: embeddings hittar de första kandidaterna, och en omrangeringsmodell kan sedan förfina deras ordning. Qwen3-Embedding-4B ger själv representationen av en enskild text. Dess vektor är inte ett poängvärde från en omrangeringsmodell, ett verifierat påstående eller ett genererat svar. Om det slutliga arbetsflödet besvarar frågor utifrån hämtat material förblir de valda källavsnitten underlaget som skickas till det senare steget.