Sentence Transformers: multi-qa-mpnet-base-dot-v1

A multi-qa-mpnet-base-dot-v1 a Sentence Transformers modellje, amely kérdéshez vagy lekérdezéshez keres vissza szövegrészleteket. Tanításához körülbelül 215 millió kérdés–válasz-párt használtak. Minden bemenet 768 dimenziós sűrű vektorrá válik; ezt a pontos kiadást a CLS pooling és a skalárszorzatos pontozás határozza meg.

Készítsen elő kérdést és jelölt szövegrészleteket

A lekérdezést információigényként írja le, a korpusz bejegyzéseit pedig olvasható szövegrészletekként készítse elő. Például a kézbesítési cím módosításáról szóló kérdés külön bekezdésekkel hasonlítható össze címváltoztatásról, rendeléstörlésről és kézbesítéskövetésről. A címváltoztatási részletben őrizze meg a releváns feltételeket, beleértve azt, hogy a rendelést már feladták-e.

A lekérdezést és szövegrészleteket ugyanezzel a modellel kódolja. A közzétett példa ezt közvetlenül, query/document előtag nélkül végzi, és skalárszorzatos pontszámuk szerint rendezi a részleteket. Minden vektort tartson eredeti szövegrészletéhez és dokumentumazonosítójához kapcsolva, hogy a rangsorolt eredmény a ténylegesen indexelt anyagot mutathassa meg.

CLS pooling és a skalárszorzatos kiadás

A modell referenciareceptje az első token reprezentációját veszi, ezt nevezik CLS poolingnak. Műszaki táblázata kifejezetten közli, hogy a beágyazások nem normalizáltak, és a skalárszorzatot adja meg megfelelő pontozófüggvényként. Ezt a receptet őrizze meg a gyűjtemény és a lekérdezési oldal beállításakor.

E vektorok L2-normalizálása megváltoztatja a pontozás geometriáját. A normalizált all-mpnet-base-v2 profil eltérő receptet használ, és külön checkpoint, annak ellenére, hogy közös az MPNet család és a 768 komponensű kimenet. A pontos kiadást és összehasonlító függvényt tartsa a tárolt gyűjteménnyel együtt, ne pusztán a vektorhosszból válassza ki őket.

Hosszkorlát és hosszabb szövegrészletek

A megadott bemeneti korlát 512 szórész; a hosszabb szöveg csonkul. A gyártó azt is megjegyzi, hogy a tanítási bemenetek csak 250 szórészig terjedtek, és a hosszabb szöveg rosszabbul működhet. Az elfogadott tokenizálóhossz és a tanítási hosszra vonatkozó fenntartás tehát eltérő gyakorlati határokat ír le.

Nagy súgócikknél rövid, konkrét kérdéseket megválaszoló szakaszokat készítsen elő. Tartsa meg a címsort, ha az azonosítja a témát, és a szabály mellett az olvasásához szükséges kivételt. Egyetlen teljes oldalas bemenet a csonkítás során elveszítheti a későbbi anyagot, egy túl kicsi töredék pedig a hasznosságát biztosító feltételt veszítheti el.

A rangsor használata visszakeresésben és RAG-ban

A sűrű vektorok az első visszakeresési lépést támogatják. A legmagasabb pontszámú jelölt szövegrészleteket forráshivatkozásaikkal együtt adja vissza, majd ellenőrizze, hogy a tényleges kérdésre vonatkoznak-e. RAG-munkafolyamatban e részleteket forrásanyagként adja át a válaszíró lépésnek; a visszakeresés önmagában nem fogalmazza meg a választ.

Ismert releváns szövegrészletekkel rendelkező reprezentatív kérdésekkel válassza ki az eredményszámot és értékelje a rangsort. Szerepeltessen hasonló szókincsű, de eltérő szándékú példákat, például cím módosítását és az aktuális cím megtekintését. A pontszámokat azonos modell és pontozási beállítás mellett a jelöltekhez viszonyítva értelmezze, ne a helyesség kalibrált valószínűségeként.

E checkpoint hasznos kimenete kérdések és szövegrészletek beágyazási tere szemantikai kereséshez. A nem normalizált vektorok, a CLS pooling, a skalárszorzatos pontszám és a közzétett hosszúbemeneti fenntartás azok a részletek, amelyeket az eredmények előkészítésekor és használatakor meg kell őrizni.