VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite — Voyage Rerank 3 сериясының кідіріске басымдық беретін шығарылымы. Ол мәтіндік сұрау мен үміткер құжаттарды қабылдап, әр сұрау-құжат жұбын бірге бағалайды және өзектілік ұпайларын реттелген түрде қайтарады. Ол іздеудің екінші кезеңіне қызмет етеді: эмбеддинг не кілтсөз іздеуі үміткерлерді табады, содан кейін Lite олардың ретін нақтылайды. Нәтиже — іздеуде немесе іздеумен толықтырылған генерация үдерісінде пайдаланылатын рейтинг.

Rerank 3 Lite нұсқасында не өзгерді Өндіруші rerank-2.5-lite нұсқасымен салыстырғанда ұзын құжаттар мен кодтан ақпарат табудың жақсарғанына басымдық береді. Rerank 3-тің екі шығарылымы да нұсқау орындауды және бірдей 32K контекст санатын сақтайды, ал Lite кідіріске сезімтал қолданбаларға арналған. Бұл оны пайдаланушыларға тиісті нәтижелер тез керек болғанда интерактивті білім базасы іздеуіне, қолдау құжаттарын табуға және код іздеуге практикалық үміткер етеді. Шағын шығарылымның контекст терезесі де шағын деп жорамалдамай, оны нақты жинақтың сапа және жауап уақыты талаптарына сай таңдаңыз.

Өзектілікті сұрау арқылы бағыттаңыз Табиғи тілдегі нұсқаулар сұраумен бірге беріліп, ненің тиісті саналатынын түсіндіре алады. Сұрақ пен өзектілік қалауын ықшам және бірізді ұстаңыз. Бағдарламалық қолдау іздеуі үшін: «Құрылғыны қалпына келтіру рәсімін табыңыз; көрсетілген аппараттық нұсқаға арналған нұсқауларға басымдық беріңіз» деп қолданыңыз. Өнім атауы көпмағыналы болса, қатысы жоқ мағыналар басым болмауы үшін өнім санатын қосыңыз. Сұраудағы қалау семантикалық бағалауды бағыттайды; үміткер тізімін құрмас бұрын дұрыс өнімді, құжат нұсқасын немесе қатынау ауқымын таңдау үшін жинақтың анық метадеректерін пайдаланыңыз.

Мәтіндік үміткерлердің қысқа тізімін дайындаңыз Кіріс құжаттар — жолдар. Бастапқы материалдан оқылатын мәтінді шығарып, пайдалы атауларды, тақырыптарды, идентификаторларды және айналасындағы контексті сақтаңыз. Әр кіріс орны мен бастапқы жазба арасындағы тұрақты сәйкестікті ұстаңыз. Ақауды жою мақаласы үшін жеке тұрған сөйлемді ғана емес, белгі мен тиісті рәсімді қосыңыз. Бастапқы код іздеуі үшін функцияны және оны ұқсас аталған функциялардан ажыратуға қажет маңайдағы ақпаратты қосыңыз. Қайталанатын навигация не үлгілік мәтін пайдалы үзіндіні ығыстырса, оны алып тастаңыз.

Қайта реттеуші тек өзі алған құжаттардың ретін өзгерте алады. Алғашқы іздеу тиісті мақаланы мүлде таппаса, бұл кезең жетіспейтін үміткерді қайтара алмайды. Нәтиже қате көрінсе, қысқа тізімді де, соңғы ретті де тексеріңіз. Ұзын құжат бірнеше тақырыпты қамтыса, тұтас бөлімдерге бөліп, олардың негізгі құжатқа сілтемелерін сақтаңыз, сонда тиісті бөлімді дереккөзін жоғалтпай таңдауға болады.

Контекст және сұрау шектері Өндірушінің ағымдағы нұсқаулығы сұраудың ең жоғары көлемін 8,000 токен, ал сұрау мен әр жеке құжаттың қосындысын ең көбі 32,000 токен деп белгілейді. Ол 1,000-ға дейін үміткер құжатқа және 600,000 токендік жалпы сұрау бюджетіне рұқсат береді; есептеу: сұрау токендері × құжат саны + барлық құжат токендері. Сондықтан ұзын сұрау әр жұпта орын алып, жиынтық бюджетке қайта-қайта қосылады. Таңбаларды, сөздерді және токендерді өзара алмастырылатын деп қарамай, жіберілген мәтінді тиісті модель токенизаторымен санаңыз.

Мысалы, 500 токендік сұрау және әрқайсысы 4,000 токен болатын 100 құжат осы формула бойынша 450,000 кіріс токенін құрайды. Бұл — ұсынылған қысқа тізім өлшемі не өлшенген жылдамдық нәтижесі емес, бюджеттеу мысалы. Құжатталған қысқарту параметрі әдепкіде қосылған; артық мәтін бағалауға дейін қысқаруы мүмкін. Сәйкестендіруге қажет үзінді қысқартылып қалмауы үшін маңызды бөлімдерді әдейі дайындаңыз.

Нәтижені оқыңыз және пайдаланыңыз Нәтижелер ең жоғары өзектілік ұпайынан төмен қарай сұрыпталады. Әр нәтиже құжаттың бастапқы кіріс орнын көрсетеді, сондықтан қолданба өз атауын, жазба идентификаторын және дереккөзін қоса алады. top_k параметрі қанша реттелген үміткер қайтарылатынын басқарады; онсыз барлық үміткер қайтарылады. Өндірушінің REST интерфейсі құжат мәтінін де қайтара алады. Іздеу бетін көрсеткенде немесе дәлелді жауап генерациялау кезеңіне бергенде бастапқы идентификаторларды таңдалған нәтижелермен бірге сақтаңыз.

Өзектілік ұпайы үміткердің сұрауға қаншалық сәйкес келетінін білдіреді; ол үміткер мәлімдемелерінің дұрыстығын бекітпейді. Жоғары тұрған элементтерді пайдаланушының нақты сұрағымен, соның ішінде алып тастаулармен және құжат нұсқаларының айырмаларымен салыстырыңыз. Барлық үміткер қатыссыз болса да, бірінші тұрған элемент болады. Жинақтың өкілдік сұрауларын қолданып, қолданбаның сол жағдайды қалай өңдейтінін шешіңіз.

Жаңарту және шығарылым таңдау Өндіруші rerank-3-lite нұсқасын API семантикасы өзгермеген және ұпайлары тиісті алдыңғы нұсқаның таралуына калибрленген rerank-2.5-lite жаңартуы ретінде сипаттайды. Бар жазба сәйкестігі мен іздеу кезеңін сақтап, орныққан ұпай шегіне сүйенбес бұрын мағыналы сұраулардағы нәтижелік ретті салыстырыңыз. Жауап уақыты маңызды іздеу үшін Lite қолданыңыз; күрделі үміткерлердің өзектілігі басымырақ болса, сапаға бағытталған rerank-3 шығарылымын салыстыруға пайдаланыңыз.