Sentence Transformers: all-mpnet-base-v2

all-mpnet-base-v2 ist ein Sentence-Transformers-Modell, das Sätze und kurze Absätze als 768-dimensionale dichte Vektoren darstellt. Es wurde ausgehend vom MPNet-Basismodell mit kontrastivem Lernen auf einer Satzsammlung mit einer Milliarde Paaren feinabgestimmt. Als vorgesehene Einsatzzwecke nennt der Hersteller Informationsabruf, Clustering und Satzähnlichkeit.

Einen Satz oder kurzen Absatz kodieren

Bereiten Sie den zu vergleichenden Text vor und behalten Sie dabei die Hauptaussage und ihre unterscheidenden Details bei. In einer internen Dokumentensammlung kann ein kurzer Abschnitt beispielsweise beschreiben, wie ein Geräteaustausch beantragt wird oder welche Angaben ein Wartungsbericht enthalten muss. Halten Sie den Dokumenttitel und die Fundstelle in der Quelle neben dem Vektor verfügbar.

Eine mit demselben Modell eingebettete Anfrage kann verwandte Abschnitte auch dann abrufen, wenn sie anders formuliert sind. Prüfen Sie diese Abschnitte auf die konkrete Anweisung, die der Leser benötigt. Vergleichen Sie in einem Ähnlichkeits-Workflow nach dem Abruf die Kandidatensätze selbst, insbesondere wenn einer eine Ausnahme oder Bedingung enthält, die im anderen fehlt.

Mean-Pooling und Normalisierung

Das Referenzbeispiel zur Kodierung mittelt die kontextuellen Token-Repräsentationen mithilfe der Attention-Maske und schliesst Padding aus dem Mittelwert aus. Anschliessend werden die resultierenden Satz-Embeddings L2-normalisiert. Behalten Sie beide Schritte bei, wenn Sie Vektoren für eine Sammlung und für spätere Anfragen erzeugen.

Jeder Vektor hat 768 Komponenten. Die Kosinus-Ähnlichkeit kann diese normalisierten Repräsentationen vergleichen, während der Quelltext den Beleg für ein Ergebnis liefert. Die gleiche Komponentenzahl macht dieses Modell nicht kompatibel mit multi-qa-mpnet-base-dot-v1: Diese eigenständige Edition legt CLS-Pooling und nicht normalisierte Vektoren für die Bewertung per Skalarprodukt fest.

Standardmässiges Abschneiden und Vorbereitung von Passagen

Der Hersteller gibt an, dass Eingaben über 384 Wortteile hinaus standardmässig abgeschnitten werden. Halten Sie den relevanten Abschnitt innerhalb dieser Tokenizer-Grenze. Teilen Sie ein langes Verfahren an sinnvollen Abschnittsgrenzen und nehmen Sie genug lokalen Kontext auf, um zu erklären, worauf sich ein Schritt bezieht. Ein Fragment wie «Innerhalb von fünf Tagen einreichen» braucht das Ereignis oder den Vorgang, mit dem die Frist beginnt.

Das Trainingsverfahren begrenzte die Sequenzen auf 128 Token; das ist unabhängig vom veröffentlichten Kodierungsstandard von 384 Wortteilen. Nutzen Sie repräsentatives Material, wenn Sie längere Absätze oder sammlungsspezifisches Vokabular bewerten. Dass mehr Text in die Eingabe passt, bedeutet nicht, dass jedes Detail ein Abrufergebnis gleichermassen beeinflusst.

Abruf, Gruppierung und Vergleich

Behalten Sie für die Suche die Zuordnung zwischen Vektor und Dokument bei, damit gerankte Kandidaten die ursprünglichen Abschnitte zurückgeben können. In einem RAG-Workflow werden ausgewählte Abschnitte zum Kontext für die Stufe, die die Antwort formuliert. Das Modell liefert numerische Repräsentationen; es erzeugt keine Antwort mit Quellenangaben und entscheidet nicht, welches Dokument massgeblich ist.

Vergleichen Sie beim Clustering die Datensätze in jeder vorgeschlagenen Gruppe, bevor Sie Bezeichnungen vergeben. Eine Reihe von Wartungsnotizen kann ähnliche Formulierungen enthalten und sich dennoch auf unterschiedliche Geräte oder Fehlerbedingungen beziehen. Nehmen Sie diese unterscheidenden Details in den kodierten Text auf und prüfen Sie sie im zurückgegebenen Material, statt sich allein auf einen Wert zu verlassen.

Genau dieser Checkpoint all-mpnet-base-v2 ist ein englischsprachiges Satz-Embedding-Profil mit eigenen Einstellungen für Mean-Pooling, Normalisierung und standardmässiges Abschneiden. Bewahren Sie diese Einstellungen zusammen mit der indexierten Sammlung auf und nutzen Sie die Vektoren als Hilfsmittel, um die für die Aufgabe relevanten Quellpassagen zu finden und zu vergleichen.