BAAI: bge-large-en-v1.5

A bge-large-en-v1.5 a BAAI nagy, angol nyelvű sűrű beágyazási kiadása. Egy szöveget 1024 dimenziós vektorrá alakít szövegrészletek visszakereséséhez és szemantikai összehasonlításhoz. Az 1.5 verzió a gyártó frissítése, amely hasznosabb hasonlóságeloszlást és utasítás nélküli jobb visszakeresést céloz. A Large külön ellenőrzőpont marad a Base, Small, kínai kiadások és a többnyelvű BGE-M3 modell mellett.

Állítsa be a szövegrészletek visszakeresését

Hosszabb dokumentumokban végzett rövid keresési lekérdezéshez a gyártó a „Represent this sentence for searching relevant passages:” lekérdezési utasítást ajánlja. Ezt a lekérdezéshez adja; a korpusz részletei ezt az utasítást nem kapják meg, hanem saját forrásszövegüket őrzik. Más felhasználásnál elég a közvetlen szöveg. A BAAI a v1.5 esetében előtag nélküli visszakeresést is dokumentál, és azt javasolja, hogy a tényleges feladaton legjobban működő előkészítést válassza.

Egy gyakorlati tudásgyűjtemény egy angol műszaki kézikönyv szakaszait indexelheti. Azt a kérdést, hogy melyik beállítás módosítja a kimeneti formátumot, a beállítást és feltételeit magyarázó szakasszal kell megválaszolni. Minden részlettel együtt őrizze meg a címsort, a releváns magyarázatot és a forráshelyet. A modell a numerikus reprezentációt biztosítja; az olvasó vagy a későbbi RAG-lépés a visszaadott forrásszöveget használja.

Reprezentáció és egyezés

A gyártó közvetlen kódolási példája az első CLS token végső rejtett állapotát használja összevont beágyazásként, majd normalizálja a vektort. A normalizált vektorok skalárszorzata koszinuszos hasonlóságot ad. Így minden szövegrészlet egyszer előkészíthető és tárolható a beérkező lekérdezésvektorokkal való összehasonlításhoz, a megváltozott forrásanyag pedig frissített reprezentációt kap.

Az 1024 dimenzió a kimeneti vektor hosszát adja meg. Eltér a Base 768 dimenziós reprezentációjától, és nem igazol egy másik ellenőrzőponttal kompatibilis közös teret. A tárolt indexhez kapcsolja a modellt és az előkészítési konvenciót. A beágyazási kiadás változtatása megköveteli a korpusz- és lekérdezésreprezentációk együttes ellenőrzését.

Illessze a forrást az ablakba

A dokumentált szekvenciahossz 512 token. A hosszú kézikönyvet összefüggő szakaszokra bontva készítse elő egyetlen túlméretezett bemenet helyett. A feltételt vagy kivételt tartsa az általa módosított szabály mellett, és adjon elég kontextust ahhoz, hogy egy visszakeresett szakasz önmagában is értelmes legyen. A hozzáadott lekérdezési utasítás szintén bemeneti tokent használ, így a modell ablaka a teljes előkészített bemenetre vonatkozik.

Hasznos részlethatár lehet egy címsor és az egy felhasználói kérdésre válaszoló bekezdések együttese. A szülődokumentum azonosítóját és verzióját a vektoron kívül őrizze meg, hogy az eredmény a helyes forráshoz legyen visszakövethető. Összehasonlításnál a tényleges összevetendő szöveget használja, ne olyan független összefoglalókat, amelyek eltüntetik a keresett különbséget.

Értelmezze a pontszámot

A gyártó óva int attól, hogy az abszolút hasonlóságot a szemantikai azonosság univerzális szabályának tekintsük. Visszakeresésnél a relatív pontszámsorrend a meghatározó, és a küszöböt a feladat saját szövegeloszlásán kell kalibrálni. Ellenőrizzen jelölt szövegrészleteket ismert válaszú kérdésekre, illetve olyanokra, amelyek válasza nincs az anyagban. Ez megmutatja, hogy a visszaadott szakasz valóban tartalmazza-e a szükséges információt, vagy csak témájában hasonlít.

A bge-large-en-v1.5 angol sűrű vektorokat szolgáltat. Egy külön újrarangsoroló finomíthatja a jelöltek sorrendjét, és külön nyelvi modell állíthat össze választ a kiválasztott részletekből. Ennek a kiadásnak a hasznos kimenete a forrásszöveghez kapcsolt, kereshető reprezentáció, a pontos Large v1.5 modellválasztás és bemenet-előkészítés megőrzésével.