Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 er en Sentence Transformers-model designet til at genfinde tekstpassager til et spørgsmål eller en forespørgsel. Træningen brugte cirka 215 millioner spørgsmål–svar-par. Hvert input bliver til en tæt vektor med 768 dimensioner, og CLS-pooling og prikproduktscoring definerer denne præcise udgave.

Forbered et spørgsmål og kandidatpassager

Skriv forespørgslen som informationsbehovet, og forbered korpusposter som læsbare tekstpassager. Et spørgsmål om ændring af en leveringsadresse kan eksempelvis sammenlignes med særskilte afsnit om adresseændringer, ordreannullering og leveringssporing. Bevar de relevante betingelser i passagen om adresseændring, herunder om ordren allerede er afsendt.

Kod forespørgslen og passagerne med samme model. Det offentliggjorte eksempel gør dette direkte uden et query/document-præfiks og sorterer passagerne efter deres prikproduktscorer. Hold hver vektor knyttet til sin oprindelige passage og dokumentidentifikator, så det rangerede resultat kan vise det materiale, der faktisk blev indekseret.

CLS-pooling og prikproduktudgaven

Modellens referenceopskrift tager repræsentationen af den første token, kendt som CLS-pooling. Den tekniske tabel siger udtrykkeligt, at embeddings ikke er normaliserede, og angiver prikprodukt som den passende scoringsfunktion. Bevar opskriften ved opsætning af samlingen og forespørgselssiden.

L2-normalisering af disse vektorer ændrer deres scoringsgeometri. Den normaliserede all-mpnet-base-v2-profil bruger en anden opskrift og er et særskilt checkpoint, selv om den deler MPNet-familien og et output på 768 komponenter. Gem den præcise udgave og sammenligningsfunktion sammen med den lagrede samling frem for at vælge dem alene ud fra vektorlængden.

Længdegrænse og længere passager

Den angivne inputgrænse er 512 orddele; længere tekst afkortes. Producenten bemærker også, at træningsinput kun nåede 250 orddele, og at længere tekst kan fungere mindre godt. Den accepterede tokenizerlængde og forbeholdet om træningslængde beskriver derfor forskellige praktiske grænser.

Ved en stor hjælpeartikel skal du forberede korte afsnit, som besvarer bestemte spørgsmål. Bevar en overskrift, når den identificerer emnet, og hold en regel sammen med den undtagelse, der er nødvendig for at læse den korrekt. Et enkelt helsideinput kan miste senere materiale gennem afkortning, mens et for lille fragment kan miste den betingelse, der gør det nyttigt.

Brug rangeringen til genfinding og RAG

De tætte vektorer understøtter et første genfindingstrin. Returnér de højest scorede kandidatpassager med deres kildehenvisninger, og undersøg derefter, om de adresserer det faktiske spørgsmål. I en RAG-arbejdsgang skal passagerne indsendes som kildemateriale til svarskrivningstrinnet; selve genfindingen formulerer ikke svaret.

Brug repræsentative spørgsmål med kendte relevante passager til at vælge antallet af resultater og vurdere rangeringen. Medtag eksempler med lignende ordforråd, men forskellig hensigt, såsom at ændre en adresse frem for at se den aktuelle adresse. Fortolk scorer relativt til kandidater under samme model og scoringsopsætning frem for som kalibrerede sandsynligheder for korrekthed.

Dette checkpoints nyttige output er et embeddingrum for spørgsmål og passager til semantisk søgning. De unormaliserede vektorer, CLS-pooling, prikproduktscoren og det offentliggjorte forbehold om lange input er de detaljer, der skal bevares ved forberedelse og brug af resultater.