Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 är en Sentence Transformers-modell utformad för att hämta textpassager för en fråga eller sökfråga. Träningen använde ungefär 215 miljoner fråga–svar-par. Varje indatatext blir en tät vektor med 768 dimensioner, där CLS-poolning och skalärproduktspoängsättning definierar denna exakta utgåva.

Förbered en fråga och kandidatpassager

Skriv frågan som informationsbehovet och förbered korpusposter som läsbara textpassager. Till exempel kan en fråga om att ändra en leveransadress jämföras med separata stycken om adressändringar, orderavbokning och leveransspårning. Behåll de relevanta villkoren i passagen om adressändring, inklusive om beställningen redan har skickats.

Koda frågan och passagerna med samma modell. Det publicerade exemplet gör detta direkt utan ett query/document-prefix och sorterar passagerna efter deras skalärproduktspoäng. Håll varje vektor kopplad till dess ursprungliga passage och dokumentidentifierare så att det rangordnade resultatet kan visa materialet som faktiskt indexerades.

CLS-poolning och skalärproduktsutgåvan

Modellens referensrecept tar representationen av första token, vilket kallas CLS-poolning. Dess tekniska tabell anger uttryckligen att inbäddningarna inte är normaliserade och listar skalärprodukt som lämplig poängfunktion. Bevara receptet när samlingen och frågesidan ställs in.

L2-normalisering av dessa vektorer ändrar deras poänggeometri. Den normaliserade all-mpnet-base-v2-profilen använder ett annat recept och är en separat checkpoint, trots den gemensamma MPNet-familjen och ett resultat på 768 komponenter. Behåll den exakta utgåvan och jämförelsefunktionen tillsammans med den lagrade samlingen i stället för att välja dem enbart från vektorlängden.

Längdgräns och längre passager

Den angivna indatagränsen är 512 orddelar; längre text kapas. Tillverkaren påpekar också att träningsindata bara nådde 250 orddelar och att längre text kan fungera sämre. Den accepterade tokeniserarlängden och förbehållet om träningslängd beskriver därför olika praktiska gränser.

För en stor hjälpartikel förbereder du korta avsnitt som besvarar specifika frågor. Behåll en rubrik när den identifierar ämnet och håll en regel tillsammans med undantaget som behövs för att läsa den korrekt. En hel sida som ett enda indataobjekt kan förlora senare material genom kapning, medan ett för litet fragment kan förlora villkoret som gör det användbart.

Använd rangordningen för sökning och RAG

De täta vektorerna stöder ett första söksteg. Returnera kandidatpassagerna med högst poäng tillsammans med deras källhänvisningar och granska sedan om de besvarar den faktiska frågan. I ett RAG-arbetsflöde ger du dessa passager till svarsskrivningssteget som källmaterial; sökningen skriver inte svaret själv.

Använd representativa frågor med kända relevanta passager för att välja resultatantalet och bedöma rangordningen. Inkludera exempel med liknande ordförråd men olika avsikt, som att ändra en adress jämfört med att visa den aktuella adressen. Tolka poängen relativt till kandidater under samma modell och poänginställningar, inte som kalibrerade sannolikheter för korrekthet.

Det användbara resultatet från denna checkpoint är ett inbäddningsrum för frågor och passager för semantisk sökning. Dess onormaliserade vektorer, CLS-poolning, skalärproduktspoäng och publicerade förbehåll om långa indata är detaljerna att bevara när resultat förbereds och används.