BAAI: bge-m3

A BGE-M3 a BAAI többnyelvű visszakeresési modellje, amelyet a sokoldalúság három fajtája köré terveztek: többféle visszakeresési funkció, több nyelv és különböző bemeneti hosszok. A gyártó több mint száz nyelv és legfeljebb 8192 tokenes bemenet támogatását dokumentálja. Egységes modellje sűrű vektorokat, ritka lexikai súlyokat és többvektoros reprezentációkat adhat, így egy visszakeresési megoldás többféle bizonyíték közül választhat vagy kombinálhatja őket.

Három reprezentáció visszakereséshez

A sűrű mód egyetlen 1024 dimenziós vektorra képezi le a szöveget. Támogatja a lekérdezés és a szövegrészlet által reprezentált jelentés összehasonlítását. A ritka mód a szövegben jelen lévő tokenekhez súlyokat rendel lexikai egyeztetéshez. A többvektoros mód több vektorral reprezentál egy szöveget, és ColBERT-szerű interakciót használ a lekérdezés és a dokumentum finomabb szintű összehasonlítására.

Ezeknek a kimeneteknek eltérő szerepük van a keresési indexben. A sűrű vektor egy reprezentációt ad a szövegrészlethez; a ritka token–súly leképezés megőrzi a lexikai jelzéseket; több vektor eltérő összehasonlítási struktúrát ad. A gyártó példái bemutatják a kiválasztott reprezentációk visszaadását és a szövegpárok pontozását. A választott reprezentációt és pontozási módszert a visszakeresési feladat tudatos részeként kezelje.

Többnyelvű szöveg és bemenet-előkészítés

A BGE-M3 nem igényli a korábbi BGE-modellek által használt visszakeresési utasítás hozzáadását. A lekérdezést és a tényleges forrásszövegrészleteket közvetlenül készítse elő. Egy többnyelvű tudásgyűjtemény minden részletet az eredeti nyelvén tarthat meg, dokumentumazonosítóval és nyelvi változattal együtt. Az eredmények ellenőrzésekor a tervezett nyelvkeverék tényleges felhasználói kérdéseit használja.

Gyakorlati feladat lehet több nyelven tárolt szabálymagyarázatok, terméksúgók vagy műszaki dokumentáció keresése. Őrizze meg a kérdés szempontjából fontos neveket, modellszámokat és kifejezéseket. A lexikai reprezentáció segíthet az e kifejezésekre történő egyezés megőrzésében, míg a sűrű reprezentáció szemantikai bizonyítékot ad. A visszakeresett részlet tartalmazza a szöveget és a forráshelyet, amelyet az olvasó megvizsgálhat.

Hosszabb dokumentumok és részletezettség

A 8192 tokenes bemeneti ablak lehetővé teszi, hogy a modell rövid mondatoktól hosszabb dokumentumokig reprezentáljon anyagot. A részletezettséget ahhoz a válaszhoz válassza, amelyet a keresésnek vissza kell adnia. Egy teljes szakasz megőrizhet egy definíciót és kivételeit; egy kisebb részlet könnyebben megtalálhatóvá tehet egy konkrét utasítást. A hosszú ablak lehetővé teszi e választásokat, de a vektor továbbra is a ténylegesen kódolt anyaghoz kapcsolódik.

Minden szövegrészletet tartson a szülődokumentumához és verziójához kapcsolva. Hosszú jelentésnél őrizze meg a releváns számadat vagy következtetés címsorát és környező magyarázatát. Ne támaszkodjon kizárólag a keresési találat címére, ha a bizonyíték a törzsszövegben van. Ha a forrás változik, őrizzen meg elegendő metaadatot a megfelelő visszakeresési reprezentációk frissítéséhez.

Hibrid pontszámok és későbbi felhasználás

A gyártó hibrid visszakeresést, majd külön újrarangsorolási lépést ajánl. Példái sűrű, ritka és többvektoros pontszámokat számítanak, és súlyozott kombinációkat képeznek. A kombinációt a gyűjtemény kérdései és szókincse alapján válassza; a példában szereplő súly nem minden korpusz általános beállítása.

A hasznos eredmény olyan jelöltkészlet, amelynek forrásszövegrészletei elérhetők maradnak, és a reprezentációt, valamint rangsorolási módszert rögzítették. Egy külön újrarangsoroló finomíthatja e készletet, egy külön szöveggenerálási lépés pedig felhasználhatja a részletek tartalmát. A BGE-M3 ritka és többvektoros képességei a gyártó modelljének módjai; a sűrű beágyazás, a lexikai kimenet és a páronkénti pontszám különálló eredmények, nem felcserélhető tömbök.