Sentence Transformers: all-MiniLM-L6-v2

all-MiniLM-L6-v2 is een encoder van Sentence Transformers voor zinnen en korte alinea's. Het zet elke tekst om in een 384-dimensionale dense vector voor informatieopvraging, clustering en zinsgelijkenis. Het model is vanuit de MiniLM-L6-H384-uncased-basisarchitectuur gefinetuned met contrastief leren op een verzameling van een miljard zinsparen.

Bereid beknopte, betekenisvolle records voor

Kies de zin of alinea die in een zoekresultaat moet verschijnen. Bewaar voor een FAQ-verzameling de vraag en de korte uitleg die het onderwerp onderscheidt. Een passage over het opnieuw instellen van een vergeten wachtwoord moet de resetprocedure behouden in plaats van te worden gereduceerd tot een los woord zoals “Account”.

Indexeer bij een lang artikel samenhangende korte secties en bewaar hun bronlocaties. Haal kandidaatsecties op door de vector van de zoekvraag met de opgeslagen representaties te vergelijken en toon daarna de oorspronkelijke passages, zodat de lezer de daadwerkelijke instructies kan onderzoeken.

Verkrijg de zinsrepresentatie

Het rechtstreekse codeerrecept van de maker middelt tokenrepresentaties met het attention-masker en sluit paddingposities van het gemiddelde uit. Vervolgens past het L2-normalisatie toe. Die stappen produceren de zinsembedding die voor vergelijking wordt gebruikt; individuele tokenrepresentaties uit de onderliggende transformer hebben een andere rol.

Elke uitvoer heeft 384 componenten. Gebruik hetzelfde checkpoint, dezelfde pooling en normalisatie bij het opbouwen van de verzameling en het coderen van latere zoekvragen. Cosinusgelijkenis kan de resulterende vectoren vergelijken. Een gelijkeniswaarde is bruikbaar om kandidaten onder die opzet te rangschikken, terwijl de oorspronkelijke tekst bepaalt of een kandidaat de vraag beantwoordt.

Lengte- en editiegrenzen

De gepubliceerde standaard kapt invoer langer dan 256 wordpieces af. Die tokenizereenheid komt niet rechtstreeks overeen met een gewoon woord of teken. Houd belangrijke voorwaarden binnen de geïndexeerde eenheid en splits een lange procedure vóór het coderen bij betekenisvolle grenzen.

Trainingssequenties waren beperkt tot 128 tokens. Die trainingsinstelling staat los van de standaard van 256 wordpieces die voor het coderen wordt gebruikt. Gebruik bij ongewoon lange of gespecialiseerde passages representatieve zoekvraag-passagevoorbeelden om het zoekgedrag te beoordelen in plaats van aan te nemen dat passen binnen de invoergrens een gelijke behandeling van elk detail garandeert.

De exacte L6-v2-editie is een Engels embeddingprofiel. De L12-v2- en paraphrase-MiniLM-edities hebben afzonderlijke modelidentiteiten en configuraties. Hun gedeelde MiniLM-naam of 384-dimensionale uitvoer stelt geen uitwisselbare vectoren vast.

Zoeken, gelijkenis en groepering

Haal voor beoordeling van dubbele vragen vergelijkbare vragen op en vergelijk de daadwerkelijke bewoordingen voordat u records samenvoegt. “Kan ik mijn wachtwoord opnieuw instellen?” en “Kan een beheerder het wachtwoord van een andere gebruiker opnieuw instellen?” betreffen verwante onderwerpen maar verschillende bevoegdheden. Behoud dat onderscheid in de gecodeerde tekst en in de beoordelingsfase.

Gebruik voor clustering de embeddings als numerieke invoer voor een groeperingsproces en onderzoek vervolgens representatieve records voordat u een groep een naam geeft. Dit model levert vectoren in plaats van geschreven clusterlabels of een gegenereerd FAQ-antwoord. Het bruikbare resultaat is een compacte representatie van een korte bronpassage die aan het oorspronkelijke record gekoppeld blijft.