Sentence Transformers: multi-qa-mpnet-base-dot-v1

multi-qa-mpnet-base-dot-v1 to model Sentence Transformers zaprojektowany do wyszukiwania fragmentów tekstu dla pytania lub zapytania. W treningu wykorzystano około 215 milionów par pytanie–odpowiedź. Każde wejście staje się gęstym wektorem o 768 wymiarach, a agregacja CLS i ocenianie iloczynem skalarnym definiują to konkretne wydanie.

Przygotuj pytanie i proponowane fragmenty

Zapisz zapytanie jako potrzebę informacyjną i przygotuj wpisy korpusu jako czytelne fragmenty tekstu. Na przykład pytanie o zmianę adresu dostawy można porównać z osobnymi akapitami o zmianie adresu, anulowaniu zamówienia i śledzeniu dostawy. Zachowaj istotne warunki we fragmencie zmiany adresu, w tym informację, czy zamówienie zostało już wysłane.

Koduj zapytanie i fragmenty tym samym modelem. Opublikowany przykład robi to bezpośrednio, bez prefiksu query/document, i sortuje fragmenty według ocen iloczynu skalarnego. Zachowaj każdy wektor powiązany z oryginalnym fragmentem i identyfikatorem dokumentu, aby uporządkowany wynik mógł pokazać rzeczywiście zindeksowany materiał.

Agregacja CLS i wydanie z iloczynem skalarnym

Referencyjna receptura modelu bierze reprezentację pierwszego tokenu, co określa się jako agregację CLS. Tabela techniczna wyraźnie podaje, że osadzenia nie są normalizowane, i wskazuje iloczyn skalarny jako odpowiednią funkcję oceniania. Zachowaj tę recepturę podczas przygotowywania zbioru i strony zapytań.

Normalizowanie tych wektorów metodą L2 zmienia geometrię oceniania. Znormalizowany profil all-mpnet-base-v2 używa innej receptury i jest osobnym punktem kontrolnym, mimo wspólnej rodziny MPNet i wyjścia o 768 składowych. Zachowaj dokładne wydanie i funkcję porównania z przechowywanym zbiorem, zamiast wybierać je na podstawie samej długości wektora.

Limit długości i dłuższe fragmenty

Podany limit wejścia wynosi 512 fragmentów słów; dłuższy tekst jest przycinany. Producent zaznacza również, że wejścia treningowe sięgały jedynie 250 fragmentów słów i że dłuższy tekst może działać słabiej. Długość wejścia akceptowana przez tokenizer i zastrzeżenie dotyczące długości wejść treningowych opisują więc różne praktyczne granice.

Dla dużego artykułu pomocy przygotuj krótkie sekcje odpowiadające na konkretne pytania. Zachowaj nagłówek, gdy identyfikuje temat, i regułę z wyjątkiem potrzebnym do poprawnego odczytania. Jedno wejście obejmujące całą stronę może stracić późniejszy materiał przez przycięcie, a zbyt mały fragment — warunek, który czyni go użytecznym.

Wykorzystaj ranking w wyszukiwaniu i RAG

Gęste wektory wspierają pierwszy etap wyszukiwania. Zwróć proponowane fragmenty z najwyższymi ocenami i odniesieniami do źródeł, a następnie sprawdź, czy odpowiadają na rzeczywiste pytanie. W procesie RAG dostarcz je do etapu pisania odpowiedzi jako materiał źródłowy; samo wyszukiwanie nie pisze odpowiedzi.

Używaj reprezentatywnych pytań ze znanymi istotnymi fragmentami do wyboru liczby wyników i oceny rankingu. Uwzględnij przykłady o podobnym słownictwie, ale różnej intencji, na przykład modyfikację adresu i wyświetlenie aktualnego adresu. Interpretuj oceny względem kandydatów przy tym samym modelu i konfiguracji oceniania, a nie jako skalibrowane prawdopodobieństwa poprawności.

Użyteczne wyjście tego punktu kontrolnego to przestrzeń osadzeń pytań i fragmentów do wyszukiwania semantycznego. Nieznormalizowane wektory, agregacja CLS, ocena iloczynem skalarnym i opublikowane zastrzeżenie dotyczące długiego wejścia to szczegóły, które należy zachować przy przygotowaniu i używaniu wyników.