bge-reranker-v2-m3

BGE Reranker v2 M3 är en flerspråkig relevansmodell byggd på BGE-M3. Den tar emot en fråga och ett kandidatavsnitt tillsammans och returnerar ett värde för deras relation. BAAI positionerar denna utgåva som en effektiv flerspråkig omrangordningsmodell, bland annat för informationssökning på kinesiska och engelska, där en sökapplikation behöver förfina en befintlig kandidatlista.

Relevans från ett par av fråga och textavsnitt

En cross-encoder bearbetar båda texterna gemensamt, vilket gör att deras innehåll kan samspela innan relevansvärdet produceras. Det skiljer sig från en inbäddningsmodell, som kodar texterna oberoende för återanvändbar vektorjämförelse. Omrangordningsmodellens utdata är ett skalärt värde för ett visst par, snarare än en dokumentvektor eller ett skriftligt svar.

Använd modellen efter att en inledande sökning har valt ut rimliga textavsnitt. Para ihop frågan med varje kandidat och ordna kandidaterna efter de resulterande värdena. Det koncentrerar den mer detaljerade jämförelsen till ett hanterbart urval i stället för att be en cross-encoder granska varje avsnitt i en stor samling.

Utgåvan v2 M3

Tillverkaren anger BGE-M3 som basmodell och listar flerspråkigt stöd som en huvudfunktion. Inom dess v2-familj av omrangordningsmodeller är M3 det effektiva flerspråkiga alternativet; de Gemma-baserade varianterna och varianterna med lagerval är skilda modeller med andra implementationsval. Namnet M3 betyder här inte att omrangordningsmodellen returnerar den ursprungliga inbäddningsmodellens täta, glesa och flervektorsinbäddningar.

Den skillnaden är viktig när du väljer vilket resultat applikationen behöver. Välj en inbäddningsmodell för att representera och söka i en dokumentsamling. Välj denna omrangordningsmodell när du redan har kandidattext och behöver avgöra vilket avsnitt som är mest relevant för den aktuella frågan.

Förbered kandidater som kan rangordnas på ett användbart sätt

Tillhandahåll den faktiska frågan och hela den kandidattext som behövs för att tolka den. Behåll rubriker eller närliggande definitioner när de avgör ett avsnitts betydelse. I det publicerade Transformers-exemplet tokeniseras frågan och avsnittet tillsammans med trunkering och max_length=512. Det är en exempelinställning snarare än en gräns för hela modellen. Håll frågan och nödvändiga belägg inom den valda budgeten för paret och kontrollera vad trunkeringen tar bort. Ett resultat som nämner samma produkt som frågan kan fortfarande vara irrelevant om det handlar om fel åtgärd eller villkor; förbered exempel som skiljer dessa fall åt när du utvärderar sökkvaliteten.

För en dokumentassistent, behåll kandidatidentifierare tillsammans med texten, poängsätt paren av fråga och avsnitt och skicka de utvalda originalavsnitten vidare till svarsteget. Svarsmodellen får då beläggen i stället för ett relevansvärde utan källa. Det är ett illustrativt sökflöde; själva omrangordningsmodellen söker varken i en extern samling eller skriver svaret.

Läs och normalisera värden

Tillverkaren returnerar råa relevansvärden, där ett högre värde anger en närmare matchning. Den dokumenterade valfria normaliseringen använder en sigmoidfunktion för att placera värdet mellan 0 och 1. Ett normaliserat värde har ett praktiskt intervall, men enbart den omvandlingen fastställer inte en kalibrerad sannolikhet för att kandidaten är korrekt.

Välj trösklar för rangordning eller filtrering med representativa par av fråga och textavsnitt från din arbetsbelastning. Inkludera avsnitt som delar nyckelord men besvarar en annan fråga, liksom relevanta avsnitt med andra formuleringar. Det gör den valda tröskeln meningsfull för samlingen som genomsöks.

För ett Ailoot API-projekt, definiera vad den slutliga kontexten ska innehålla och hur många kandidater som kan granskas effektivt. Det användbara resultatet är en bättre ordnad uppsättning belägg för applikationens nästa steg. Håll denna utgåvas relevansutdata åtskilda från dokumentinbäddningar, genererad prosa och de reglage för lagerval som dokumenteras för andra omrangordningsmodeller.