Sentence Transformers: paraphrase-MiniLM-L6-v2

paraphrase-MiniLM-L6-v2 ist ein Embedding-Modell von Sentence Transformers für Sätze und kurze Absätze. Es bildet jeden Text in einen 384-dimensionalen dichten Vektorraum ab; semantische Suche und Clustering gehören zu den vom Hersteller genannten Aufgaben. Die veröffentlichte Architektur kombiniert einen Transformer mit Mean-Pooling; die konfigurierte Sequenzlänge beträgt 128 Token.

Die zu vergleichende Passage darstellen

Bereiten Sie den tatsächlichen Satz oder kurzen Absatz vor und lassen Sie dabei das Thema und wichtige Bedingungen unverändert. Eine praxisnahe Sammlung kann unterschiedlich formulierte Fragen oder kurze Beschreibungen verwandter Themen enthalten. Erzeugen Sie für jeden Datensatz ein Embedding und bewahren Sie seinen ursprünglichen Wortlaut und seine Kennung auf, damit ein späterer Vergleich den Text selbst zurückgeben kann.

Beispielsweise können mehrere Hilfeanfragen dieselbe Schwierigkeit mit unterschiedlichen Begriffen beschreiben. Eine Ähnlichkeitsstufe kann diese Kandidaten zusammenführen; anschliessend lässt sich ihr Wortlaut auf das eigentliche Problem hin prüfen. Das Embedding ist die numerische Repräsentation, die bei diesem Vergleich verwendet wird; es formuliert selbst keine Paraphrase und vergibt keine endgültige Cluster-Bezeichnung.

Mean-Pooling und Verwendung der Vektoren

Das direkte Kodierungsbeispiel des Herstellers berücksichtigt beim Mitteln der Token-Repräsentationen die Attention-Maske und schliesst Padding-Positionen aus. Die Architektur wählt ausdrücklich Mean-Pooling und weder CLS- noch Max-Pooling. Behalten Sie dieses Pooling-Rezept zusammen mit dem Modell bei, wenn Sie vergleichbare Vektoren erzeugen.

Jede zurückgegebene Repräsentation hat 384 Komponenten. Eine Index- oder Clustering-Stufe arbeitet mit diesen Vektoren unter einer gewählten Ähnlichkeitskonfiguration, während der zugrunde liegende Quelldatensatz zur Prüfung verfügbar bleibt. Verwenden Sie für alle zu vergleichenden Elemente dasselbe Modell, dieselbe Eingabevorbereitung und dieselben Vergleichseinstellungen. Ein anderes Modell, das 384 Werte liefert, bildet allein aufgrund dieser Form nicht denselben Embedding-Raum.

Kurze Eingaben in der veröffentlichten Konfiguration

Die Referenzkonfiguration für Sentence Transformer verwendet eine maximale Sequenzlänge von 128 Token. Bereiten Sie eine lange Quelle als kurze, zusammenhängende Einheiten vor statt als einen übergrossen Absatz. Ein Satz mit einer Regel braucht unter Umständen die Ausnahme aus dem nächsten Satz; halten Sie diese kleine Einheit zusammen, wenn sie hineinpasst. Eine Wort- oder Zeichenzahl legt die Token-Länge nicht direkt fest.

Bewahren Sie bei einer Menge kurzer Beschreibungen Namen und unterscheidende Eigenschaften, die für den Vergleich wichtig sind. Ein Datensatz, der nur eine vage Kategorie enthält, lässt sich unter Umständen schwer von anderen Datensätzen dieser Art unterscheiden. Speichern Sie die Zuordnung zur Quelle ausserhalb des Vektors, damit ein zurückgegebener Kandidat mit dem Originalmaterial abgeglichen werden kann.

Ergebnisse von Suche und Clustering

Repräsentieren Sie bei der semantischen Suche die Anfrage und das Korpusmaterial mit genau diesem Modell und geben Sie Kandidaten-Datensätze zusammen mit ihrem Quelltext zurück. Beim Clustering bildet eine weitere Stufe aus den Vektoren Gruppen. Prüfen Sie die Datensätze nahe einer Clustergrenze, bevor Sie die Gruppierung als Produktentscheidung oder automatische Bezeichnung verwenden.

Das nützliche Ergebnis ist eine kompakte Repräsentation eines kurzen Textes, die mit ihrem ursprünglichen Datensatz verknüpft ist. Genau dieser Checkpoint paraphrase-MiniLM-L6-v2 hat seine eigene Pooling- und Sequenzkonfiguration. Die all-MiniLM-Varianten und die mehrsprachigen Paraphrase-Varianten sind eigenständige Modellprofile; ihr Training, ihr Sprachumfang oder ihre Eingabeeinstellungen ergeben sich nicht aus dem gemeinsamen Namen MiniLM.