Qwen: Qwen3 Embedding 4B

Qwen3-Embedding-4B er 4B-udgaven til tekst-embeddings i Qwens familie til embeddings og reranking. Den er bygget på den dense Qwen3-grundmodel og omdanner et tekstsegment til en numerisk repræsentation af dets betydning. Qwen angiver tekstsøgning, kodesøgning, klassificering, klyngedannelse og udvinding af parallelle tekstpar som anvendelsesområder. Den er nyttig, når en applikation skal finde relaterede tekstpassager, gruppere lignende poster eller sammenligne tekst på tværs af sprog. Modellens output er en embeddingvektor og ikke et samtalesvar eller et omskrevet dokument.

Denne præcise udgave har en sekvenslængde på 32K tokens og en embeddingdimension på op til 2.560. Den understøtter valg af outputdimensioner fra 32 til 2.560 gennem Matryoshka Representation Learning. Den valgte vektorlængde påvirker, hvordan repræsentationen lagres og sammenlignes, så hold den ens for forespørgsels- og dokumentvektorer i én samling. Qwen3-Embedding-8B har en anden modelstørrelse og en maksimal dimension på 4.096; hverken denne outputstørrelse eller 8B-modellens identitet overføres til denne 4B-udgave. Et eksisterende indeks skal bevare sine egne konsekvente valg af repræsentation.

Producenten beskriver understøttelse af mere end 100 sprog, herunder programmeringssprog, med flersproget søgning, søgning på tværs af sprog og kodesøgning. En illustrativ søgning i et hjælpecenter kan sammenligne en brugers spørgsmål med tekstpassager på flere sprog og derefter returnere de oprindelige passager, der passer til emnet. En kodesøgning kan sammenligne en beskrivelse på naturligt sprog med relevante funktioner og deres dokumentation. Bevar betydningsbærende overskrifter, fagudtryk og identifikatorer, når teksten forberedes, og bevar forbindelsen mellem hver repræsenteret tekstpassage og dens kilde, så applikationen kan vise det matchende materiale.

Qwen3-Embedding-4B tager højde for instruktioner. Qwen anbefaler at give hver forespørgsel en beskrivelse af opgaven på én sætning, tilpasset den tilsigtede relation mellem forespørgslen og søgeresultaterne, og anbefaler engelske instruktioner i flersprogede scenarier. Det direkte eksempel placerer Instruct: før opgavebeskrivelsen og Query: før forespørgselsteksten. Dokumenterne til informationssøgning kodes uden denne forespørgselsinstruktion. En praktisk, selvstændig instruktion kan angive, at der skal findes dokumentationspassager, som forklarer en rapporteret fejl, eller kildekodeudsnit, som implementerer den beskrevne adfærd. Det retter repræsentationen mod applikationens spørgsmål frem for at bede modellen skrive et svar.

De officielle eksempler koder forespørgsels- og dokumenttekster, sammenligner deres embeddings med cosinuslighed og demonstrerer pooling af den skjulte tilstand for sidste token efterfulgt af normalisering. I dette eksempel på lavere niveau afkortes inputtet ved en valgt indstilling på 8.192 tokens; modellens dokumenterede sekvenslængde er fortsat 32K. For langt materiale skal du beslutte, hvilke tekstpassager der skal repræsenteres, og sikre, at afkortning ikke ubemærket kasserer den del, forespørgslen har brug for. Gem vektorer med stabile kildereferencer, sammenlign den forberedte forespørgsel med samlingen, og returnér de tilknyttede tekstpassager i lighedsrækkefølge.

Qwens embeddingmodel bruger en dual-encoder-tilgang, mens dens særskilte rerankingmodeller bruger en cross-encoder til at evaluere forespørgsels–dokument-par. Udgivelsen beskriver, hvordan modulerne bruges sammen: embeddings finder de første kandidater, og en reranker kan derefter forfine deres rækkefølge. Qwen3-Embedding-4B leverer selv repræsentationen af en enkelt tekst. Dens vektor er ikke en rerankerscore, et verificeret udsagn eller et genereret svar. Hvis det endelige forløb besvarer spørgsmål ud fra fundet materiale, er de valgte kildepassager fortsat den dokumentation, som sendes videre til næste trin.