VoyageAI by MongoDB: rerank-3

A Voyage rerank-3 szöveges újrarangsoroló, amely a visszakeresett bizonyítékok minőségének javítására készült. Egy lekérdezés és jelölt dokumentumlista alapján minden párt együtt vizsgál meg, és relevancia szerinti sorrendben adja vissza a jelölteket. Az embeddingek és a kulcsszavas keresés először kezelhető rövid listára szűkíthetik a nagy gyűjteményt; a rerank-3 ezután részletesebb relevanciaértékelést alkalmaz erre a listára. Kimenete pontozott keresési bizonyíték, amelyet az alkalmazás megjeleníthet vagy külön válaszgenerálási lépésnek adhat át.

Minőségre összpontosító Rerank 3 A készítő a rerank-3 modellt pontosságközpontú, a rerank-3-lite modellt pedig késleltetésérzékeny keresésre szánt kiadásként pozicionálja. A harmadik generáció frissíti az alaparchitektúrát és a tanítási keveréket, különösen a hosszú dokumentumok és a forráskód visszakeresését javítva a megfelelő 2.5 elődökhöz képest. A készítő műszaki dokumentáción, kódon, többnyelvű anyagon és más dokumentumterületeken értékeli. Ezek az eredmények a visszakeresési szerepét támasztják alá; a kiadást a saját gyűjteményed szempontjából fontos kérdések és jelölt dokumentumok alapján válaszd.

Hosszú dokumentumok elegendő kontextussal Egy hosszú jelölt a nyitóbekezdésén jóval túl is tartalmazhat hasznos kontextust. Adj meg összefüggő szakaszt vagy dokumentumot a címével és a releváns környező anyaggal együtt, hogy a modell értékelhesse a tényleges kérdés és a tartalom kapcsolatát. Termékszabályzat keresésénél őrizd meg az érdekes szövegrészlet körüli címsorokat és kivételeket. Ha több visszakeresett szakasz azonos forrásból származik, tartsd meg a dokumentum- és szakaszazonosítóikat; így az alkalmazás megmutathatja a kiválasztott bizonyíték eredetét.

A kontextusablakon a lekérdezés és minden jelölt osztozik. A készítő jelenlegi útmutatója 32 000 tokent ad meg ehhez a párhoz, legfeljebb 8 000 tokenes lekérdezést is beleértve. Egy 3 000 tokenes lekérdezés ezért legfeljebb 29 000 tokent hagy az egyes dokumentumoknak. A bemenetet úgy készítsd elő, hogy a lényegi tartalom elférjen, különösen ha egy hosszú bevezető vagy ismétlődő sablonszöveg egyébként elfogyasztaná az ablakot. A dokumentált csonkolási lehetőség alapértelmezés szerint engedélyezett, és pontozás előtt rövidítheti a túlméretes lekérdezés- vagy dokumentumszöveget. Ha fontos a szövegrészlet elhelyezkedése, vizsgáld meg, mi marad meg.

Kód és műszaki információ visszakeresése Egy programozási asszisztens visszakeresési szakaszában a jelöltek függvénymegvalósításokat, API-dokumentációt vagy műszaki magyarázatokat tartalmazhatnak szövegként. Mellékeld a hasonló jelöltek megkülönböztetéséhez szükséges szimbólumokat, szignatúrákat és kontextust. Egy olyan lekérdezés, mint „Keresd meg azt a függvényt, amely normalizálja az útvonalakat, miközben megőrzi a záró elválasztójelet”, konkrét egyeztetendő viselkedést ad. Mellékeld a releváns nyelvi, platform- vagy verziófeltételeket. Rangsorolás után vizsgáld meg a kiválasztott kódot és függőségeit, mielőtt kontextusként használod; a relevanciapontszám nem bizonyítja, hogy a megvalósítás minden megadott követelményt teljesít.

Az utasítások határozzák meg a relevanciát A modell megtartja a Rerank 2.5-ben bevezetett utasításkövető újrarangsorolási képességet. A lekérdezés elé vagy mögé illessz tömör utasítást, ha a felhasználói szándék pontosítást igényel. Kutatási dokumentumok keresésénél magyarázd el, hogy a fókusz a címen, egy konkrét módszeren vagy alkalmazási területen van-e. Belső katalógusnál határozd meg, hogy a kérés telepítésre, hibaelhárításra vagy kompatibilitásra vonatkozik-e. Tartsd összhangban az utasítást a kérdéssel; a fő kéréssel ellentétes további preferenciák megváltoztathatják, mit próbál optimalizálni a rangsor.

Készítsd elő a jelölt dokumentumokat és a kereteket A bemenet szöveges karakterláncok listája. Nyerj ki használható szöveget a forrásdokumentumokból, őrizd meg az érdemi szakaszhatárokat, és tarts rendezett rekordmegfeleltetést a lista mellett. A készítő egy kérésben legfeljebb 1 000 dokumentumot enged. 600 000 tokenes összesített bemeneti plafont is megad: a lekérdezés tokenjei szorozva a dokumentumok számával, plusz az összes dokumentum tokenjeinek összege. Ez különbözik a páronkénti kontextuskorláttól. A felesleges lekérdezésszöveg csökkentése a párkapacitást és a teljes kérési keretet is megőrizheti.

A releváns modell tokenjeit számold, ne feltételezd, hogy a szó- vagy karakterszám egyben tokenszám. Nagy jelölteknél válassz összefüggő szövegrészleteket, vagy bontsd az anyagot hasznos címsorok mentén, az eredeti forrásra vonatkozó információ megtartásával. Az újrarangsorolás akkor a leghasznosabb, amikor az első keresés már hihető jelölteket hozott felszínre: nem rangsorolhat olyan hiányzó forrást, amely sosem került a listába.

Rangsorolt eredmények és további felhasználás Az eredmény relevanciapontszámokat és az eredeti bemeneti dokumentumokra utaló indexeket tartalmaz, csökkenő relevanciasorrendben. A top_k lehetőség korlátozza a visszaadott rangsorolt eredmények számát; egyébként minden bemeneti jelölt visszatér. A készítő REST-felülete a dokumentumszöveg mellékelését is lehetővé teszi. Az eredeti indexekkel keresd vissza a címet, a forrásazonosítót és az alkalmazásnak szükséges metaadatokat, majd jelenítsd meg a kiválasztott tételeket, vagy illeszd a releváns szöveget a válasz bizonyítékkontextusába.

Vizsgáld meg a legjobb eredményeket a kérdés alapján, és tartsd láthatóan a forrásazonosságot. A magas relatív helyezés nem igazolja a dokumentum ténybeli pontosságát, és a csak gyenge jelöltekből álló rövid listának is lesz első eleme. Különítsd el a relevancia szerinti kiválasztást attól a döntéstől, hogy a kiválasztott bizonyíték elegendő-e a felhasználó megválaszolásához.

Áttérés az új kiadásra A készítő a rerank-3 modellt a rerank-2.5 közvetlenül behelyettesíthető utódjaként írja le, azonos API-szemantikával és a megfelelő előd eloszlásához kalibrált pontszámokkal. Ez a kompatibilitás támogatja a meglévő visszakeresési szakasz és rekordmegfeleltetés megtartását. Az áttérésre hagyatkozás előtt hasonlítsd össze az érdemi eredménysorrendeket és az esetleges pontszámküszöböt a jelenlegi korpuszon. A rerank-3 és rerank-3-lite maradjon külön választás: a közös korlátok és utasításkövetés nem teszik azonossá a minőségi és késleltetési prioritásaikat.