Sentence Transformers: all-mpnet-base-v2

all-mpnet-base-v2 er en Sentence Transformers-model til at repræsentere sætninger og korte afsnit som tætte vektorer med 768 dimensioner. Den blev finjusteret fra MPNet-grundmodellen med kontrastiv læring på en samling på en milliard sætningspar. Producenten angiver informationsgenfinding, klyngedannelse og sætningslighed som tilsigtede anvendelser.

Kod en sætning eller et kort afsnit

Forbered den tekst, der skal sammenlignes, og bevar hovedideen og dens adskillende detaljer. Ved en intern dokumentsamling kan et kort afsnit beskrive, hvordan man anmoder om udskiftning af udstyr, eller hvilke oplysninger en vedligeholdelsesrapport skal indeholde. Hold dokumenttitlen og kildeplaceringen tilgængelige ved siden af vektoren.

En forespørgsel embeddet med samme model kan genfinde relaterede afsnit, selv når deres ordlyd er forskellig. Undersøg afsnittene for den faktiske instruktion, læseren har brug for. Ved en lighedsarbejdsgang skal selve kandidatsætningerne sammenlignes efter genfinding, især når den ene indeholder en undtagelse eller betingelse, som mangler i den anden.

Gennemsnitspooling og normalisering

Referenceeksemplet på kodning beregner gennemsnittet af kontekstuelle tokenrepræsentationer med attention-masken og udelukker padding fra gennemsnittet. Derefter L2-normaliseres de resulterende sætningsembeddings. Bevar begge trin ved produktion af vektorer til en samling og til senere forespørgsler.

Hver vektor har 768 komponenter. Cosinuslighed kan sammenligne de normaliserede repræsentationer, mens kildeteksten giver evidensen bag resultatet. Det fælles komponentantal gør ikke modellen kompatibel med multi-qa-mpnet-base-dot-v1: Den særskilte udgave angiver CLS-pooling og unormaliserede vektorer til prikproduktscoring.

Standardafkortning og passageforberedelse

Producenten oplyser, at input ud over 384 orddele afkortes som standard. Hold det relevante afsnit inden for denne tokenizergrænse. Ved en lang procedure skal du opdele ved meningsfulde afsnitsgrænser og medtage tilstrækkelig lokal kontekst til at forklare, hvad et trin gælder for. Et fragment såsom »Indsend inden fem dage« kræver den hændelse eller proces, der starter fristen.

Træningsproceduren begrænsede sekvenser til 128 tokens, hvilket er adskilt fra den offentliggjorte kodningsstandard på 384 orddele. Brug repræsentativt materiale ved vurdering af længere afsnit eller ordforråd, som er særligt for din samling. At mere tekst kan være i inputtet, fastslår ikke, at hver detalje påvirker et genfindingsresultat lige meget.

Genfinding, gruppering og sammenligning

Ved søgning skal tilknytningen mellem vektor og dokument bevares, så rangerede kandidater kan returnere de oprindelige afsnit. I en RAG-arbejdsgang bliver udvalgte afsnit kontekst til svarskrivningstrinnet. Modellen leverer numeriske repræsentationer; den genererer ikke et kildeunderbygget svar og afgør ikke, hvilket dokument der er autoritativt.

Ved klyngedannelse skal posterne i hver foreslået gruppe sammenlignes, før etiketter tildeles. Et sæt vedligeholdelsesnoter kan have lignende sprog, men vedrøre forskellige enheder eller fejlbetingelser. Medtag disse adskillende detaljer i den kodede tekst, og undersøg dem i det returnerede materiale frem for kun at stole på en score.

Dette præcise all-mpnet-base-v2-checkpoint er en engelsksproget profil til sætningsembeddings med sine egne indstillinger for gennemsnitspooling, normalisering og standardafkortning. Gem indstillingerne sammen med den indekserede samling, og brug vektorerne som hjælp til at finde og sammenligne de kildepassager, der er vigtige for opgaven.