VoyageAI by MongoDB: rerank-2.5-lite

rerank-2.5-lite – tai lengvasis „Voyage AI“ 2.5 perrikiavimo modelių leidimo narys. Gamintojas jį apibūdina kaip bendrosios paskirties modelį, derinantį delsą ir aktualumo kokybę, su natūralios kalbos nurodymų vykdymu ir daugiakalbiu palaikymu. Jo įvestis yra užklausa bei tekstai kandidatai, o išvestis – patikslinta šių kandidatų eilė su aktualumo balais.

Lengvasis antrojo etapo aktualumo sprendimas

Lite modelis kiekvieną užklausos ir dokumento porą apdoroja kartu kaip kryžminis koduotuvas. Jis gali veikti po pirmojo įterpinių ar leksinės paieškos etapo, patikslindamas to etapo pasirinktas ištraukas. Tai skiriasi nuo pakartotinai naudojamo įterpinių indekso parengimo: perrikiavimo modelis pateiktą užklausą ir dokumento tekstą kartu nagrinėja dabartiniam aktualumo sprendimui.

Interaktyviai pagalbos paieškai pateikite paaiškinimus kandidatus, kurie galėtų atsakyti į naudotojo klausimą. Kiekvienos ištraukos palikite pakankamai, kad būtų perteikta elgsena ir jos sąlygos, ir išsaugokite įvesties indekso sąsają su šaltinio elementu. Konkretus kandidatų rinkinys padeda aiškiai apibrėžti perrikiavimo užduotį, išlaikydamas surinktus įrodymus tinkamus rodyti ar vėlesniam atsakymui.

Nurodymai išreiškia naudotojo prioritetus

Kaip ir rerank-2.5, Lite priima natūralios kalbos nurodymus prieš užklausą ar po jos. Gamintojo pavyzdžiuose jie naudojami dokumento komponentams pabrėžti, pageidaujamam šaltinio tipui parinkti ar dviprasmiškam žodžiui pridėti kontekstą. Programa gali pateikti nuolatinę aktualumo nuostatą arba dabartiniame klausime gali būti konkretesnė.

Iliustracinė pagalbos užklausa gali klausti, kuri ištrauka paaiškina klaidą, ir nurodyti teikti pirmenybę trikčių šalinimo žingsniams, o ne bendriems produktų aprašymams. Dokumentų paieškoje galima prašyti originalios taisyklės formuluotės, o ne jos aptarimo. Aprašykite norimus įrodymus ir nurodymą išlaikykite glaustą. Nurodymai veikia aktualumo balus; griežtus versijos, datos ar leidimų apribojimus taikykite atrinkdami kandidatus, užuot aktualumo nuostatą laikę garantuotu filtru.

Perskaitykite reitingą ir grąžinkite šaltinio ištrauką

Išvestis surikiuota mažėjančio aktualumo tvarka. Kiekviename rezultate yra pradinis dokumento indeksas ir slankiojo kablelio balas; pasirenkamas dokumentų grąžinimo nustatymas taip pat grąžina atitinkamą įvesties tekstą. Parinktis top-k nustato grąžinamų pirmųjų rezultatų skaičių, o jos nenurodžius grąžinamas visų pateiktų kandidatų reitingas.

Šiais indeksais atkurkite šaltinio ištrauką ir jos identifikatorių. Perrikiuotas kandidatas gali tapti paieškos rezultatu ar įrodymu kitam RAG etapui, tačiau išvestis yra pateikto teksto eilė, o ne perrašytas atsakymas. Įvertinkite, ar pirmosios ištraukos atitinka ir klausimą, ir aktualumo nurodymą, taip pat tikrindami iš tikrųjų rinkinyje esančias kalbas bei dokumentų tipus.

Ribos ir praktinis kandidatų biudžetas

2.5 Lite leidimui dokumentuota didžiausia 8 000 žetonų užklausa ir 32 000 žetonų riba užklausai su kiekvienu atskiru dokumentu. Jis skiriasi nuo ankstesnio rerank-2-lite modelio ir jo mažesnio konteksto. Galima pateikti daugiausia 1 000 dokumentų, o bendra įvestis ribojama 600 000 žetonų pagal formulę: užklausos žetonai padauginti iš kandidatų skaičiaus ir pridėta dokumentų kandidatų žetonų suma.

Delsai jautriam naudojimui gamintojo DUK rekomenduoja rerank-2.5-lite su ne daugiau kaip 200 000 bendrų žetonų vienai užklausai. Tai praktinė gairė, mažesnė už nurodytą maksimalią ribą, o ne kitoks langas kiekvienam dokumentui. Ilgesnė užklausa ar nurodymas skaičiuojamas kartą kiekvienai kandidatų porai, todėl bendrą sumą veikia ir kandidatų skaičius, ir užklausos ilgis.

Nukirpimas įjungtas pagal numatytuosius nustatymus ir sutrumpina per ilgą užklausos ar dokumento įvestį, kad tilptų; jį išjungus per ilga užklausa ar pora grąžina klaidą. Glaustus, atsakymą pagrindžiančius kandidatus parenkite apgalvotai, kad naudingi įrodymai neliktų už nukirpimo ribos. Mažesnio išvesties rezultatų skaičiaus pasirinkimas per top-k nepašalina kitų pateiktų kandidatų iš žetonų skaičiavimo. Patikrinkite grąžintas šaltinių ištraukas ir įvesties parengimą tikslinkite pagal tikruosius klausimus, į kuriuos turi atsakyti paieškos sąsaja.