Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B is Qwens 8B-model voor tekstembeddings, gebouwd op het dense Qwen3-basismodel. Het stelt tekst voor als numerieke vectoren in plaats van gespreksantwoorden te genereren. Qwen noemt tekstzoeken, codezoeken, classificatie, clustering en bitextmining als ondersteunde toepassingsgebieden. Een zoeksysteem kan deze vectoren gebruiken om een vraag met relevante passages te vergelijken; een documentverzameling kan ze gebruiken om semantisch verwant materiaal te vinden of records in groepen te ordenen.

Het exacte model ondersteunt een sequentielengte van 32K tokens en embeddings met maximaal 4.096 dimensies. Via Matryoshka Representation Learning ondersteunt het ook door de gebruiker gekozen uitvoerdimensies van 32 tot 4.096. Daardoor is vectorlengte een bewuste ontwerpkeuze: een kortere vector verandert de omvang van de representatie, terwijl de volledige uitvoer de maximale dimensionaliteit van het model behoudt. Houd de gekozen dimensie consistent voor documenten en zoekvragen die binnen één index worden vergeleken. Qwen3-Embedding-4B is een afzonderlijke editie met een andere maximale dimensie, geen uitwisselbare vectorbron voor een bestaande 8B-verzameling.

De producent beschrijft ondersteuning voor meer dan 100 talen, waaronder programmeertalen, en voor meertalig, taaloverstijgend en codezoeken. Een praktische verzameling kan documenten in verschillende talen bevatten terwijl zoekvragen de relevante betekenis zoeken, of broncodepassages die zijn geïndexeerd voor een vraag in natuurlijke taal. Behoud belangrijke identificatoren, titels en vaktermen in de invoer. Houd voor code de omliggende uitleg van de functie of module bij het fragment wanneer die context deel uitmaakt van de vraag. De uitvoer blijft een vectorrepresentatie; de tekst van het gevonden document teruggeven is de volgende stap van de zoektoepassing.

Het model houdt rekening met instructies. Qwen adviseert een instructie van één zin die op de zoektaak is afgestemd en raadt voor meertalig gebruik aan die instructie in het Engels te schrijven. Het directe voorbeeld maakt een zoekvraag op met Instruct: gevolgd door de taakbeschrijving en Query: gevolgd door de vraag. Zoekdocumenten hebben in dat voorbeeld niet hetzelfde instructievoorvoegsel nodig. Een geschikte originele opdracht kan het vinden van technische passages beschrijven die een gebruikersfout uitleggen en daarna de specifieke foutbeschrijving in de zoekvraag plaatsen. De instructie beschrijft welk soort semantische relatie de zoekopdracht moet bevoordelen.

De voorbeelden van Qwen coderen zoekvragen en documenten afzonderlijk, vergelijken hun vectoren met cosinusgelijkenis en tonen een procedure op een lager niveau die de verborgen toestand van het laatste token poolt en de embedding normaliseert vóór een vergelijking met het inwendige product. Een bruikbare workflow houdt de vector van elke passage gekoppeld aan zijn bronidentificator, vergelijkt een voorbereide zoekvraag met de opgeslagen vectoren en geeft de bijbehorende passages in volgorde van gelijkenis terug. De afkapinstelling van 8.192 tokens in het voorbeeld is een gekozen invoerverwerkingsinstelling, los van de gedocumenteerde sequentielengte van 32K van het model. Beoordeel bij het voorbereiden van lange invoer wat behouden blijft.

Embeddingmodellen en rerankingmodellen zijn verschillende componenten in de uitgave van Qwen. Een embeddingmodel representeert één tekstsegment en maakt een eerste zoekactie op gelijkenis mogelijk. Een afzonderlijke reranker beoordeelt de relatie tussen een zoekvraag en kandidaatpassages en kan hun volgorde verfijnen. Qwen beschrijft de combinatie van beide modules, maar Qwen3-Embedding-8B zelf geeft embeddings terug, geen relevantiebeoordeling van een reranker of geschreven antwoord. Behoud voor zoeken gevolgd door een antwoord de gevonden brontekst en geef die onderbouwing door aan de antwoordfase. Kies en behoud een consistent model, een consistente dimensie en een consistente zoekvraaginstructie voor de verzameling waarin wordt gezocht.