Sentence Transformers: all-MiniLM-L12-v2

all-MiniLM-L12-v2 er en Sentence Transformers-encoder for setninger og korte avsnitt. Den produserer én tett vektor med 384 dimensjoner per tekst for semantisk søk, informasjonsgjenfinning, klyngedannelse og setningslikhet. Modellen bruker MiniLM-L12-H384-uncased-grunnmodellen og ble finjustert med kontrastiv læring på en samling med én milliard setningspar.

Kod enheten du vil gjenfinne

Bruk en setning eller et kort avsnitt som uttrykker én nyttig idé. I en samling produktbeskrivelser beholder du egenskapen og betingelsen som skiller varen fra andre: «Adapteren kobler et kablet hodesett til en USB-C-port» er mer informativt enn «Lydtilbehør». Lagre postidentifikatoren og originalbeskrivelsen ved siden av vektoren.

En søkeforespørsel kan deretter sammenlignes med de kodede beskrivelsene. Undersøk de returnerte kandidatene for nøyaktige krav som kontakttype eller enhetskompatibilitet før du presenterer et endelig valg. Vektoren representerer tekstens betydning; søkeapplikasjonen rundt modellen gjenfinner de tilsvarende postene.

Gjennomsnittspooling og normaliserte vektorer

Det publiserte kodingseksemplet beregner gjennomsnittet av tokenrepresentasjonene med attention-masken, slik at paddingposisjoner ikke bidrar til gjennomsnittet. Deretter brukes L2-normalisering. Disse trinnene er en del av referanseoppskriften for å utlede setningsvektoren, ikke en instruksjon om å ta en vilkårlig token fra den underliggende transformeren.

Hold modell-, pooling- og normaliseringskonfigurasjonen konsekvent mellom indekserte tekster og nye forespørsler. De resulterende representasjonene på 384 komponenter kan sammenlignes med cosinuslikhet. Hold en oversikt over konfigurasjonen med samlingen; en annen 384-dimensjonal encoder blir ikke kompatibel bare fordi vektorene har samme lengde.

Standard inndatalengde og treningsomfang

Produsenten angir standardavkorting utover 256 orddeler. Dette er en tokenizergrense, ikke et antall vanlige ord eller tegn. For en lengre post velger du sammenhengende korte seksjoner og beholder overskriften eller identifiserende detalj som trengs for å tolke hver seksjon.

Modellens treningsprosedyre brukte sekvenser på opptil 128 tokener. Denne treningsinnstillingen er atskilt fra den publiserte standarden på 256 orddeler ved koding. En passasje som passer innenfor standarden, kan fortsatt avvike betydelig fra det korte setningsmaterialet som ble brukt under treningen, så vurder lange eller spesialiserte beskrivelser med representative eksempler.

Arbeidsflyter for likhet og klyngedannelse

For et sett supportmeldinger kan embeddinger gi numeriske inndata til et grupperingstrinn. Gjennomgå flere meldinger fra hver foreslåtte gruppe og meldingene nær grensen før du tildeler en lesbar etikett. Ved gjennomgang av duplikatinnhold gjenfinner du lignende poster og sammenligner den faktiske ordlyden; to passasjer kan omtale samme emne, men gi ulike instruksjoner.

Denne nøyaktige L12-v2-utgaven er en engelsk setningsembeddingprofil. Den er atskilt fra all-MiniLM-L6-v2 og paraphrase-MiniLM-checkpointene. Felles modellfamilienavn innebærer ikke at sekvenskonfigurasjonen eller poolingoppskriften kan overtas. Bruk de kompakte tette vektorene sammen med kildeposter og oppgavespesifikk evaluering fremfor å behandle en likhetsverdi som et bekreftet svar eller en endelig redaksjonell beslutning.