Sentence Transformers: all-MiniLM-L6-v2

all-MiniLM-L6-v2 est un encodeur de phrases et de courts paragraphes de Sentence Transformers. Il projette chaque texte vers un vecteur dense de 384 dimensions pour la recherche d’information, le regroupement et la similarité entre phrases. Le modèle a été ajusté à partir de l’architecture MiniLM-L6-H384-uncased par apprentissage contrastif sur une collection d’un milliard de paires de phrases.

Préparer des enregistrements concis et porteurs de sens

Choisissez la phrase ou le paragraphe qui doit apparaître dans un résultat de recherche. Pour une collection de FAQ, conservez la question et la courte explication qui distingue son sujet. Un passage sur la réinitialisation d’un mot de passe oublié doit garder la procédure de réinitialisation, plutôt que d’être réduit à un mot isolé tel que « Account ».

Pour un long article, indexez des sections courtes et cohérentes et gardez leurs emplacements sources. Retrouvez les sections candidates en comparant le vecteur de la requête aux représentations stockées, puis affichez les passages d’origine pour que le lecteur puisse examiner les instructions réelles.

Obtenir la représentation de la phrase

La recette d’encodage direct du fabricant calcule la moyenne des représentations des tokens avec le masque d’attention, en excluant les positions de remplissage de cette moyenne. Elle applique ensuite une normalisation L2. Ces étapes produisent le plongement de phrase utilisé pour la comparaison ; les représentations individuelles des tokens du transformer sous-jacent jouent un rôle différent.

Chaque sortie possède 384 composantes. Utilisez la même version, la même agrégation et la même normalisation lorsque vous constituez la collection et encodez les requêtes ultérieures. La similarité cosinus peut comparer les vecteurs obtenus. Une valeur de similarité est utile pour classer les candidats dans cette configuration, tandis que le texte d’origine détermine si un candidat répond à la question.

Longueur et limites de l’édition

Le réglage par défaut publié tronque les entrées dépassant 256 sous-unités de mots. Cette unité du tokenizer ne correspond pas directement à un mot courant ou à un caractère. Gardez les conditions importantes dans l’unité indexée et découpez une longue procédure selon des limites porteuses de sens avant de l’encoder.

Les séquences d’entraînement étaient limitées à 128 tokens. Ce réglage d’entraînement est distinct du réglage par défaut de 256 sous-unités de mots utilisé pour l’encodage. Pour des passages exceptionnellement longs ou spécialisés, utilisez des exemples représentatifs de requêtes et de passages afin d’évaluer le comportement de recherche, plutôt que de supposer que le respect de la limite d’entrée garantit un traitement égal de chaque détail.

L’édition exacte L6-v2 est un profil anglophone de plongement. Les éditions L12-v2 et paraphrase-MiniLM possèdent des identités et des configurations distinctes. Leur nom MiniLM commun ou leur sortie de 384 dimensions n’établissent pas que leurs vecteurs sont interchangeables.

Recherche, similarité et regroupement

Pour vérifier des questions en double, retrouvez les questions similaires et comparez leur formulation réelle avant de fusionner les enregistrements. « Can I reset my password? » et « Can an administrator reset another user’s password? » concernent des sujets liés, mais des permissions différentes. Préservez cette distinction dans le texte encodé et lors de la vérification.

Pour le regroupement, utilisez les plongements comme entrées numériques d’un processus de formation de groupes, puis examinez des enregistrements représentatifs avant de nommer un groupe. Ce modèle fournit des vecteurs plutôt que des libellés de groupes écrits ou une réponse de FAQ générée. Son résultat utile est une représentation compacte d’un court passage source qui reste liée à l’enregistrement d’origine.