Sentence Transformers: paraphrase-MiniLM-L6-v2

paraphrase-MiniLM-L6-v2 er en Sentence Transformers-embeddingmodel til sætninger og korte afsnit. Den afbilder hver tekst til et tæt vektorrum med 384 dimensioner, hvor semantisk søgning og klyngedannelse er blandt producentens angivne opgaver. Den offentliggjorte arkitektur kombinerer en transformer med gennemsnitspooling; den konfigurerede sekvenslængde er 128 tokens.

Repræsentér den passage, du vil sammenligne

Forbered den faktiske sætning eller det korte afsnit, og bevar emnet og vigtige betingelser intakte. En praktisk samling kan indeholde forskelligt formulerede spørgsmål eller korte beskrivelser af relaterede emner. Embed hver post, og gem dens oprindelige ordlyd og identifikator, så en senere sammenligning kan returnere selve teksten.

Flere hjælpespørgsmål kan eksempelvis beskrive samme vanskelighed med forskellige begreber. Et lighedstrin kan samle disse kandidater, hvorefter deres ordlyd kan undersøges for det faktiske problem. Embeddingvektoren er den numeriske repræsentation, der bruges i sammenligningen; den skriver ikke en parafrase og tildeler ikke selv en endelig klyngeetiket.

Gennemsnitspooling og vektorbrug

Producentens eksempel på direkte kodning tager højde for attention-masken ved gennemsnitsberegning af tokenrepræsentationer og udelukker paddingpositioner. Arkitekturen vælger eksplicit gennemsnitspooling og vælger ikke CLS- eller max-pooling. Bevar denne poolingopskrift sammen med modellen, når du forbereder sammenlignelige vektorer.

Hver returneret repræsentation har 384 komponenter. Et indeks eller et trin til klyngedannelse arbejder med vektorerne ud fra en valgt lighedskonfiguration, mens den underliggende kildepost forbliver tilgængelig til gennemgang. Hold samme model, inputforberedelse og sammenligningsindstillinger på tværs af de elementer, der sammenlignes. En anden model, der returnerer 384 værdier, har ikke alene på grund af formen samme embeddingrum.

Korte input i den offentliggjorte konfiguration

Referencekonfigurationen for Sentence Transformer bruger en maksimal sekvenslængde på 128 tokens. Forbered en lang kilde som korte sammenhængende enheder frem for ét for stort afsnit. En sætning med en regel kan have brug for næste sætnings undtagelse; bevar den lille enhed samlet, når den kan være der. Et antal ord eller tegn fastslår ikke direkte tokenlængden.

Ved et sæt korte beskrivelser skal navne og adskillende egenskaber, der har betydning for sammenligningen, bevares. En post, som kun indeholder en vag kategori, kan være vanskelig at skelne fra andre poster af den type. Gem kildetilknytningen uden for vektoren, så en returneret kandidat kan kontrolleres ud fra det oprindelige materiale.

Resultater fra søgning og klyngedannelse

Ved semantisk søgning skal forespørgslen og korpusmaterialet repræsenteres med samme model, og kandidatposter returneres med deres kildetekst. Ved klyngedannelse danner et andet trin grupper ud fra vektorerne. Undersøg poster nær en klyngegrænse, før grupperingen bruges som en produktbeslutning eller en automatisk etiket.

Det nyttige output er en kompakt repræsentation af kort tekst knyttet til dens oprindelige post. Dette præcise paraphrase-MiniLM-L6-v2-checkpoint har sin egen pooling- og sekvenskonfiguration. all-MiniLM- og flersprogede paraphrase-varianter er særskilte modelprofiler; deres træning, sproglige omfang eller inputindstillinger følger ikke automatisk af det fælles MiniLM-navn.