Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B er Qwens 8B-modell for tekstembeddings, bygget på den tette Qwen3-grunnmodellen. Den representerer tekst som numeriske vektorer fremfor å generere samtalesvar. Qwen oppgir gjenfinning av tekst, gjenfinning av kode, klassifisering, klyngedannelse og utvinning av tospråklige tekstpar som støttede bruksområder. Et søkesystem kan bruke disse vektorene til å sammenligne et spørsmål med relevante avsnitt; en dokumentsamling kan bruke dem til å finne semantisk beslektet materiale eller organisere poster i grupper.

Den nøyaktige modellen støtter en sekvenslengde på 32K tokener og embeddings med opptil 4 096 dimensjoner. Den støtter også brukerdefinerte utdatadimensjoner fra 32 til 4 096 gjennom Matryoshka Representation Learning. Dermed blir vektorlengden et bevisst designvalg: en kortere vektor endrer representasjonens størrelse, mens fullstendige utdata bevarer modellens maksimale dimensjonalitet. Hold den valgte dimensjonen konsekvent for dokumentene og søkespørsmålene som sammenlignes i én indeks. Qwen3-Embedding-4B er en separat utgave med en annen maksimal dimensjon, ikke en utskiftbar vektorkilde for en eksisterende 8B-samling.

Produsenten beskriver støtte for mer enn 100 språk, inkludert programmeringsspråk, og flerspråklig gjenfinning, gjenfinning på tvers av språk og gjenfinning av kode. En praktisk samling kan inneholde dokumenter på flere språk mens spørsmål søker etter den relevante betydningen, eller kildekodeavsnitt som er indeksert for et spørsmål i naturlig språk. Behold viktige identifikatorer, titler og faguttrykk i inndataene. For kode bør du beholde forklaringen rundt funksjonen eller modulen sammen med utdraget når denne konteksten inngår i spørsmålet. Utdataene er fortsatt en vektorrepresentasjon; å returnere teksten fra dokumentet som samsvarer, er søkeapplikasjonens neste steg.

Modellen tar hensyn til instruksjoner. Qwen anbefaler en instruksjon på én setning tilpasset gjenfinningsoppgaven og anbefaler at denne skrives på engelsk ved flerspråklig bruk. Det direkte eksemplet formaterer et søkespørsmål med Instruct: etterfulgt av oppgavebeskrivelsen og Query: etterfulgt av spørsmålet. Dokumentene som skal gjenfinnes, trenger ikke det samme instruksjonsprefikset i dette eksemplet. En egnet original oppgavebeskrivelse kan beskrive å finne tekniske avsnitt som forklarer en brukers feil, og deretter plassere den konkrete feilbeskrivelsen i søkespørsmålet. Instruksjonen beskriver hva slags semantisk forbindelse søket skal prioritere.

Qwens eksempler koder søkespørsmål og dokumenter separat, sammenligner vektorene med cosinuslikhet og viser en prosedyre på lavere nivå som bruker pooling på den skjulte tilstanden til det siste tokenet og normaliserer embeddingvektoren før sammenligning med skalarprodukt. En nyttig arbeidsflyt holder hvert avsnitts vektor knyttet til kildeidentifikatoren, sammenligner et forberedt søkespørsmål med de lagrede vektorene og returnerer de tilsvarende avsnittene i likhetsrekkefølge. Eksemplets avkortingsinnstilling på 8 192 tokener er en valgt innstilling for behandling av inndata, forskjellig fra modellens dokumenterte sekvenslengde på 32K. Gjennomgå hva som beholdes når du forbereder lange inndata.

Embeddingmodellene og rerankingmodellene er forskjellige komponenter i Qwens utgivelse. En embeddingmodell representerer ett tekstsegment og muliggjør et innledende likhetssøk. En separat reranker vurderer forholdet mellom et søkespørsmål og kandidatavsnitt og kan forbedre rekkefølgen. Qwen beskriver å kombinere de to modulene, men Qwen3-Embedding-8B returnerer selv embeddings fremfor en rerankers relevansvurdering eller et skriftlig svar. For gjenfinning etterfulgt av et svar bør du beholde kildeteksten som samsvarer, og sende denne dokumentasjonen videre til svarsteget. Velg og behold en konsekvent modell, dimensjon og søkeinstruksjon for samlingen det søkes i.