Sentence Transformers: all-mpnet-base-v2

all-mpnet-base-v2 est un modèle de Sentence Transformers pour représenter des phrases et de courts paragraphes sous forme de vecteurs denses de 768 dimensions. Il a été ajusté à partir du modèle de base MPNet par apprentissage contrastif sur une collection d’un milliard de paires de phrases. Le fabricant identifie la recherche d’information, le regroupement et la similarité entre phrases comme des usages visés.

Encoder une phrase ou un court paragraphe

Préparez le texte à comparer en gardant l’idée principale et les détails qui le distinguent. Pour une collection documentaire interne, une courte section pourrait décrire comment demander le remplacement d’un équipement ou les informations qu’un rapport de maintenance doit contenir. Gardez le titre du document et l’emplacement source disponibles avec le vecteur.

Une requête encodée avec le même modèle peut retrouver des sections liées, même lorsque leur formulation diffère. Examinez ces sections pour trouver l’instruction réelle dont le lecteur a besoin. Pour un processus de similarité, comparez les phrases candidates elles-mêmes après la recherche, particulièrement lorsque l’une contient une exception ou une condition absente de l’autre.

Agrégation par moyenne et normalisation

L’exemple d’encodage de référence calcule la moyenne des représentations contextuelles des tokens avec le masque d’attention, en excluant le remplissage de cette moyenne. Il normalise ensuite les plongements de phrases obtenus en norme L2. Préservez les deux étapes lorsque vous produisez des vecteurs pour une collection et pour les requêtes ultérieures.

Chaque vecteur possède 768 composantes. La similarité cosinus peut comparer ces représentations normalisées, tandis que le texte source fournit les éléments sous-jacents au résultat. Le même nombre de composantes ne rend pas ce modèle compatible avec multi-qa-mpnet-base-dot-v1 : cette édition distincte spécifie une agrégation CLS et des vecteurs non normalisés pour le calcul de scores par produit scalaire.

Troncature par défaut et préparation des passages

Le fabricant indique que les entrées dépassant 384 sous-unités de mots sont tronquées par défaut. Gardez la section pertinente dans cette limite du tokenizer. Pour une longue procédure, découpez selon des frontières de sections porteuses de sens et incluez assez de contexte local pour expliquer à quoi s’applique une étape. Un fragment tel que « Submit within five days » nécessite l’événement ou le processus qui fait commencer le délai.

La procédure d’entraînement limitait les séquences à 128 tokens, ce qui est distinct du réglage d’encodage par défaut publié de 384 sous-unités de mots. Utilisez du matériau représentatif lorsque vous évaluez des paragraphes plus longs ou un vocabulaire propre à votre collection. Le fait que davantage de texte tienne dans l’entrée n’établit pas que chaque détail influencera de manière égale un résultat de recherche.

Recherche, regroupement et comparaison

Pour la recherche, gardez l’association entre vecteur et document afin que les candidats classés puissent renvoyer les sections d’origine. Dans un processus RAG, les sections sélectionnées deviennent du contexte pour l’étape de rédaction de la réponse. Le modèle fournit des représentations numériques ; il ne génère pas de réponse sourcée et ne décide pas quel document fait autorité.

Pour le regroupement, comparez les enregistrements de chaque groupe proposé avant d’attribuer des libellés. Un ensemble de notes de maintenance peut contenir un langage similaire tout en concernant des appareils ou des conditions de défaillance différents. Incluez ces détails distinctifs dans le texte encodé et examinez-les dans le matériau renvoyé, plutôt que de vous appuyer uniquement sur un score.

Cette version exacte all-mpnet-base-v2 est un profil anglophone de plongement de phrases avec ses propres réglages d’agrégation par moyenne, de normalisation et de troncature par défaut. Gardez ces réglages avec la collection indexée et utilisez les vecteurs pour aider à trouver et à comparer les passages sources importants pour la tâche.