Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 is een model van Sentence Transformers dat is ontworpen om tekstpassages bij een vraag of zoekopdracht op te halen. De training gebruikte ongeveer 215 miljoen vraag-antwoordparen. Elke invoer wordt een 768-dimensionale dense vector, waarbij CLS-pooling en inproductscoring deze exacte editie definiëren.

Bereid een vraag en kandidaatpassages voor

Schrijf de zoekvraag als de informatiebehoefte en bereid corpusitems voor als leesbare tekstpassages. Een vraag over het wijzigen van een afleveradres kan bijvoorbeeld worden vergeleken met afzonderlijke alinea's over adreswijziging, orderannulering en het volgen van de levering. Bewaar de relevante voorwaarden in de passage over adreswijziging, waaronder of de bestelling al is verzonden.

Codeer de zoekvraag en passages met hetzelfde model. Het gepubliceerde voorbeeld doet dit rechtstreeks, zonder query/document-prefix, en sorteert de passages op hun inproductscores. Houd elke vector gekoppeld aan de oorspronkelijke passage en documentidentifier, zodat het gerangschikte resultaat het materiaal kan tonen dat daadwerkelijk is geïndexeerd.

CLS-pooling en de inproducteditie

Het referentierecept van het model neemt de representatie van het eerste token, bekend als CLS-pooling. De technische tabel vermeldt expliciet dat de embeddings niet zijn genormaliseerd en noemt het inproduct als geschikte scoringsfunctie. Behoud dat recept bij het instellen van de verzameling en de zoekvraagzijde.

Deze vectoren L2-normaliseren verandert hun scoringsgeometrie. Het genormaliseerde all-mpnet-base-v2-profiel gebruikt een ander recept en is een afzonderlijk checkpoint, ondanks de gedeelde MPNet-familie en uitvoer met 768 componenten. Bewaar de exacte editie en vergelijkingsfunctie bij de opgeslagen verzameling in plaats van ze uitsluitend uit de vectorlengte te kiezen.

Lengtelimiet en langere passages

De genoemde invoerlimiet is 512 wordpieces; langere tekst wordt afgekapt. De maker merkt ook op dat trainingsinvoer maar tot 250 wordpieces reikte en dat langere tekst minder goed kan werken. De geaccepteerde tokenizerlengte en het voorbehoud over trainingslengte beschrijven dus verschillende praktische grenzen.

Bereid een groot hulpartikel voor als korte secties die specifieke vragen beantwoorden. Behoud een kop wanneer die het onderwerp identificeert en bewaar een regel met de uitzondering die nodig is om hem correct te lezen. Eén invoer van een volledige pagina kan later materiaal door afkappen verliezen, terwijl een te klein fragment de voorwaarde kan verliezen die het bruikbaar maakt.

Gebruik de rangschikking bij informatieopvraging en RAG

De dense vectoren ondersteunen een eerste zoekfase. Retourneer de kandidaatpassages met de hoogste scores en hun bronverwijzingen en onderzoek vervolgens of ze de daadwerkelijke vraag behandelen. Geef die passages in een RAG-workflow als bronmateriaal aan de antwoordschrijffase; de zoekfase zelf stelt het antwoord niet op.

Gebruik representatieve vragen met bekende relevante passages om het aantal resultaten te kiezen en de rangschikking te beoordelen. Neem voorbeelden op met vergelijkbare woordenschat maar verschillende intenties, zoals een adres wijzigen tegenover het huidige adres bekijken. Interpreteer scores relatief ten opzichte van kandidaten onder hetzelfde model en dezelfde scoringsopzet, in plaats van als gekalibreerde waarschijnlijkheden van juistheid.

De bruikbare uitvoer van dit checkpoint is een embeddingruimte voor vragen en passages voor semantisch zoeken. De niet-genormaliseerde vectoren, CLS-pooling, inproductscore en het gepubliceerde voorbehoud voor lange invoer zijn de details die bij het voorbereiden en gebruiken van resultaten behouden moeten blijven.