Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B er Qwens 8B-tekstembeddingmodel, bygget på den tætte Qwen3-grundmodel. Den repræsenterer tekst som numeriske vektorer frem for at generere samtalesvar. Qwen angiver tekstsøgning, kodesøgning, klassifikation, klyngedannelse og udvinding af parallelle tekster blandt de understøttede anvendelsesområder. Et søgesystem kan bruge vektorerne til at sammenligne et spørgsmål med relevante passager; en dokumentsamling kan bruge dem til at finde semantisk beslægtet materiale eller organisere poster i grupper.

Netop denne model understøtter en sekvenslængde på 32K tokens og embeddings med op til 4.096 dimensioner. Den understøtter også brugerdefinerede outputdimensioner fra 32 til 4.096 gennem Matryoshka Representation Learning. Det gør vektorlængden til et bevidst designvalg: en kortere vektor ændrer repræsentationens størrelse, mens det fulde output bevarer modellens maksimale dimensionalitet. Hold den valgte dimension ensartet for de dokumenter og forespørgsler, der sammenlignes i ét indeks. Qwen3-Embedding-4B er en separat udgave med en anden maksimal dimension, frem for en udskiftelig vektorkilde til en eksisterende 8B-samling.

Producenten beskriver understøttelse af mere end 100 sprog, herunder programmeringssprog, samt flersproget søgning, søgning på tværs af sprog og kodesøgning. En praktisk samling kan indeholde dokumenter på flere sprog, mens forespørgsler søger den relevante betydning, eller kildekodepassager indekseret til et spørgsmål på naturligt sprog. Bevar vigtige identifikatorer, titler og fagudtryk i inputtet. Til kode bevares forklaringen omkring funktionen eller modulet sammen med uddraget, når den kontekst er en del af spørgsmålet. Outputtet er fortsat en vektorrepræsentation; at returnere den matchende dokumenttekst er søgeapplikationens næste trin.

Modellen tager hensyn til instruktioner. Qwen anbefaler en instruktion på én sætning, der er tilpasset søgeopgaven, og anbefaler til flersproget brug at skrive instruktionen på engelsk. Det direkte eksempel formaterer en forespørgsel med Instruct: efterfulgt af opgavebeskrivelsen og Query: efterfulgt af spørgsmålet. Dokumenter til søgning behøver ikke det samme instruktionspræfiks i dette eksempel. En passende oprindelig opgavebeskrivelse kan handle om at finde tekniske passager, der forklarer en brugers fejl, og derefter placere den konkrete fejlbeskrivelse i forespørgslen. Instruktionen beskriver, hvilken slags semantisk sammenhæng søgningen skal prioritere.

Qwens eksempler koder forespørgsler og dokumenter separat, sammenligner deres vektorer med cosinuslighed og viser en procedure på lavere niveau, der samler den sidste tokens skjulte tilstand og normaliserer embeddingvektoren før en sammenligning med skalarproduktet. Et nyttigt arbejdsforløb holder hver passages vektor knyttet til dens kildeidentifikator, sammenligner en forberedt forespørgsel med de lagrede vektorer og returnerer de tilhørende passager i rækkefølge efter lighed. Eksemplets afkortningsgrænse på 8.192 tokens er en valgt indstilling for inputbehandling, adskilt fra modellens dokumenterede sekvenslængde på 32K. Gennemgå, hvad der bevares, når lange input forberedes.

Embedding- og omrangeringsmodellerne er forskellige komponenter i Qwens udgivelse. En embeddingmodel repræsenterer ét tekstsegment og muliggør en indledende lighedssøgning. En separat omrangeringsmodel vurderer forholdet mellem en forespørgsel og kandidatpassager og kan forbedre deres rækkefølge. Qwen beskriver en kombination af de to moduler, men Qwen3-Embedding-8B returnerer selv embeddings frem for en omrangeringsmodels relevansvurdering eller et skriftligt svar. Til søgning efterfulgt af et svar bevares den matchende kildetekst, og disse belæg sendes videre til svartrinnet. Vælg og fasthold en ensartet model, dimension og forespørgselsinstruktion til den samling, der søges i.