Sentence Transformers: all-mpnet-base-v2

all-mpnet-base-v2 er en Sentence Transformers-modell for å representere setninger og korte avsnitt som tette vektorer med 768 dimensjoner. Den ble finjustert fra MPNet-grunnmodellen med kontrastiv læring på en samling med én milliard setningspar. Produsenten angir informasjonsgjenfinning, klyngedannelse og setningslikhet som tilsiktede bruksområder.

Kod en setning eller et kort avsnitt

Forbered teksten som skal sammenlignes, og behold hovedideen og detaljene som skiller den fra annet materiale. I en intern dokumentsamling kan en kort seksjon beskrive hvordan man ber om erstatningsutstyr, eller hvilke opplysninger en vedlikeholdsrapport må inneholde. Hold dokumenttittelen og kildeplasseringen tilgjengelig ved siden av vektoren.

En forespørsel embeddet med samme modell kan gjenfinne relaterte seksjoner selv om ordlyden er forskjellig. Undersøk seksjonene for den faktiske instruksjonen leseren trenger. I en likhetsarbeidsflyt sammenligner du selve kandidatsetningene etter gjenfinning, særlig når én inneholder et unntak eller en betingelse som mangler i den andre.

Gjennomsnittspooling og normalisering

Referanseeksemplet på koding beregner gjennomsnittet av kontekstuelle tokenrepresentasjoner med attention-masken og utelukker padding fra gjennomsnittet. Deretter L2-normaliseres de resulterende setningsembeddingene. Behold begge trinnene når du produserer vektorer for en samling og for senere forespørsler.

Hver vektor har 768 komponenter. Cosinuslikhet kan sammenligne disse normaliserte representasjonene, mens kildeteksten gir evidensen bak resultatet. Det felles komponentantallet gjør ikke modellen kompatibel med multi-qa-mpnet-base-dot-v1: Den separate utgaven angir CLS-pooling og unormaliserte vektorer for prikkproduktskåring.

Standardavkorting og passasjeforberedelse

Produsenten oppgir at inndata utover 384 orddeler avkortes som standard. Hold den relevante seksjonen innenfor denne tokenizergrensen. For en lang prosedyre deler du ved meningsfulle seksjonsgrenser og inkluderer nok lokal kontekst til å forklare hva et trinn gjelder. Et fragment som «Send inn innen fem dager» trenger hendelsen eller prosessen som starter fristen.

Treningsprosedyren begrenset sekvenser til 128 tokener, atskilt fra den publiserte kodingsstandarden på 384 orddeler. Bruk representativt materiale når du vurderer lengre avsnitt eller ordforråd som er spesifikt for samlingen. At mer tekst får plass i inndataene, fastslår ikke at hver detalj påvirker et gjenfinningsresultat like mye.

Gjenfinning, gruppering og sammenligning

For søk bevarer du koblingen mellom vektor og dokument, slik at rangerte kandidater kan returnere originalseksjonene. I en RAG-arbeidsflyt blir utvalgte seksjoner kontekst for svarskrivingstrinnet. Modellen gir numeriske representasjoner; den genererer ikke et kildebasert svar eller avgjør hvilket dokument som er autoritativt.

Ved klyngedannelse sammenligner du postene i hver foreslåtte gruppe før etiketter tildeles. Et sett vedlikeholdsnotater kan ha lignende språk, men vise til ulike enheter eller feilbetingelser. Inkluder disse skillende detaljene i den kodede teksten og undersøk dem i det returnerte materialet fremfor å stole på en skår alene.

Dette nøyaktige all-mpnet-base-v2-checkpointet er en engelsk setningsembeddingprofil med sine egne innstillinger for gjennomsnittspooling, normalisering og standardavkorting. Hold innstillingene med den indekserte samlingen, og bruk vektorene som hjelp til å finne og sammenligne kildepassasjene som er viktige for oppgaven.