Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 est un modèle de Sentence Transformers conçu pour retrouver des passages textuels en réponse à une question ou à une requête. Son entraînement a utilisé environ 215 millions de paires question–réponse. Chaque entrée devient un vecteur dense de 768 dimensions, l’agrégation CLS et le calcul du score par produit scalaire définissant cette édition exacte.

Préparer une question et des passages candidats

Formulez la requête comme un besoin d’information et préparez les entrées du corpus sous forme de passages textuels lisibles. Par exemple, une question sur la modification d’une adresse de livraison peut être comparée à des paragraphes distincts couvrant les changements d’adresse, l’annulation de commande et le suivi de livraison. Gardez les conditions pertinentes dans le passage sur le changement d’adresse, notamment le fait que la commande ait déjà été expédiée ou non.

Encodez la requête et les passages avec ce même modèle. L’exemple publié le fait directement, sans préfixe de requête ou de document, et trie les passages selon leurs scores de produit scalaire. Gardez chaque vecteur attaché à son passage d’origine et à son identifiant de document, afin que le résultat classé puisse montrer le matériau réellement indexé.

Agrégation CLS et édition à produit scalaire

La recette de référence du modèle prend la représentation du premier token, ce que l’on appelle l’agrégation CLS. Son tableau technique indique explicitement que les plongements ne sont pas normalisés et désigne le produit scalaire comme fonction de score adaptée. Préservez cette recette lors de la configuration de la collection et du côté des requêtes.

Normaliser ces vecteurs en norme L2 modifie la géométrie de leurs scores. Le profil normalisé all-mpnet-base-v2 utilise une autre recette et constitue une version distincte, malgré la famille MPNet partagée et une sortie de 768 composantes. Gardez l’édition exacte et la fonction de comparaison avec la collection stockée, plutôt que de les choisir à partir de la seule longueur vectorielle.

Limite de longueur et passages plus longs

La limite d’entrée annoncée est de 512 sous-unités de mots ; les textes plus longs sont tronqués. Le fabricant précise aussi que les entrées d’entraînement n’atteignaient que 250 sous-unités de mots et que les textes plus longs peuvent moins bien fonctionner. La longueur acceptée par le tokenizer et la réserve concernant la longueur d’entraînement décrivent donc des limites pratiques différentes.

Pour un grand article d’aide, préparez des sections courtes répondant à des questions précises. Conservez un titre lorsqu’il identifie le sujet et gardez une règle avec l’exception nécessaire à sa bonne lecture. Une entrée constituée d’une page entière peut perdre les éléments ultérieurs par troncature, tandis qu’un fragment trop petit peut perdre la condition qui le rend utile.

Utiliser le classement pour la recherche et le RAG

Les vecteurs denses servent à une première étape de recherche. Renvoyez les passages candidats ayant les meilleurs scores avec leurs références sources, puis examinez s’ils répondent à la question réelle. Dans un processus RAG, fournissez ces passages comme sources à l’étape de rédaction de la réponse ; la recherche ne rédige pas elle-même la réponse.

Utilisez des questions représentatives avec des passages pertinents connus pour choisir le nombre de résultats et évaluer le classement. Incluez des exemples au vocabulaire similaire, mais d’intention différente, comme modifier une adresse ou consulter l’adresse actuelle. Interprétez les scores relativement aux candidats évalués avec le même modèle et la même configuration, plutôt que comme des probabilités calibrées de correction.

La sortie utile de cette version est un espace de plongement de questions et de passages pour la recherche sémantique. Ses vecteurs non normalisés, son agrégation CLS, son score de produit scalaire et sa réserve publiée concernant les entrées longues sont les détails à préserver lors de la préparation et de l’utilisation des résultats.