Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B ist Qwens 8B-Modell für Text-Embeddings auf Grundlage des dichten Qwen3-Basismodells. Es stellt Text als numerische Vektoren dar, statt Gesprächsantworten zu erzeugen. Qwen nennt Textabruf, Codeabruf, Klassifikation, Gruppierung und das Mining paralleler Texte als unterstützte Anwendungsbereiche. Ein Suchsystem kann mit diesen Vektoren eine Frage mit relevanten Passagen vergleichen; eine Dokumentsammlung kann semantisch verwandtes Material finden oder Datensätze in Gruppen ordnen.

Das genaue Modell unterstützt 32K Tokens Sequenzlänge und Embeddings mit bis zu 4’096 Dimensionen. Über Matryoshka Representation Learning unterstützt es auch benutzerdefinierte Ausgabedimensionen von 32 bis 4’096. Damit ist Vektorlänge eine bewusste Gestaltungsentscheidung: Ein kürzerer Vektor ändert die Grösse der Darstellung, während die vollständige Ausgabe die maximale Dimensionalität des Modells bewahrt. Halten Sie die gewählte Dimension für in einem Index verglichene Dokumente und Anfragen konsistent. Qwen3-Embedding-4B ist eine separate Edition mit anderer maximaler Dimension, keine austauschbare Vektorquelle für eine bestehende 8B-Sammlung.

Der Hersteller beschreibt Unterstützung für mehr als 100 Sprachen, einschliesslich Programmiersprachen, sowie mehrsprachigen, sprachübergreifenden und Codeabruf. Eine praktische Sammlung kann Dokumente mehrerer Sprachen enthalten, während Anfragen nach der relevanten Bedeutung suchen, oder Quellcodepassagen für eine natürlichsprachliche Frage indizieren. Bewahren Sie wichtige Kennungen, Titel und Fachbegriffe in der Eingabe. Halten Sie bei Code die umgebende Erklärung der Funktion oder des Moduls mit dem Auszug zusammen, wenn dieser Kontext zur Frage gehört. Die Ausgabe bleibt eine Vektordarstellung; den passenden Dokumenttext zurückzugeben ist der nächste Schritt der Suchanwendung.

Das Modell berücksichtigt Anweisungen. Qwen empfiehlt eine auf die Abrufaufgabe zugeschnittene Anweisung in einem Satz und für mehrsprachige Nutzung, diese Anweisung auf Englisch zu schreiben. Sein direktes Beispiel formatiert eine Anfrage mit Instruct: gefolgt von der Aufgabenbeschreibung und Query: gefolgt von der Frage. Abrufdokumente benötigen im Beispiel nicht dasselbe Anweisungspräfix. Ein geeigneter ursprünglicher Auftrag könnte die Suche nach technischen Passagen beschreiben, die einen Nutzerfehler erklären, und die konkrete Fehlerbeschreibung anschliessend in die Anfrage setzen. Die Anweisung beschreibt, welche semantische Beziehung die Suche bevorzugen soll.

Qwens Beispiele kodieren Anfragen und Dokumente getrennt, vergleichen ihre Vektoren über Kosinusähnlichkeit und zeigen einen tieferliegenden Ablauf, der den verborgenen Zustand des letzten Tokens entnimmt und das Embedding vor einem Skalarproduktvergleich normalisiert. Ein nützlicher Ablauf hält den Vektor jeder Passage mit ihrer Quellkennung verbunden, vergleicht eine vorbereitete Anfrage mit gespeicherten Vektoren und gibt die zugehörigen Passagen in Ähnlichkeitsreihenfolge zurück. Die Kürzungseinstellung von 8’192 Tokens im Beispiel ist eine gewählte Eingabeverarbeitungseinstellung, getrennt von der dokumentierten Sequenzlänge von 32K. Prüfen Sie bei der Vorbereitung langer Eingaben, was erhalten bleibt.

Embedding- und Reranking-Modelle sind unterschiedliche Komponenten der Qwen-Veröffentlichung. Ein Embedding-Modell stellt ein Textsegment dar und ermöglicht eine erste Ähnlichkeitssuche. Ein separater Reranker beurteilt die Beziehung zwischen einer Anfrage und Kandidatenpassagen und kann ihre Reihenfolge verbessern. Qwen beschreibt die Kombination beider Module; Qwen3-Embedding-8B selbst liefert jedoch Embeddings, weder das Relevanzurteil eines Rerankers noch eine schriftliche Antwort. Bewahren Sie für einen Abruf mit anschliessender Antwort den passenden Ausgangstext und geben Sie diese Belege an den Antwortschritt weiter. Wählen und bewahren Sie ein konsistentes Modell, eine konsistente Dimension und eine konsistente Anfrageanweisung für die durchsuchte Sammlung.