VoyageAI by MongoDB: rerank-2.5

rerank-2.5 je model společnosti Voyage AI pro úpravu pořadí podle pokynů, navržený ke zpřesnění sady vyhledaných kandidátů. Společně zkoumá dotaz a každý dokument jako cross-encoder a poté vrací pořadí podle relevance. Vydání výrobce zdůrazňuje řízení toho, co se považuje za relevantní, přirozeným jazykem, vícejazyčné vyhledávání a delší kontext dvojice dotaz–dokument než u předchozí edice rerank-2.

Dodejte modelu kandidáty k porovnání

Vstupem je dotaz a seznam kandidátních textových dokumentů. Mohou to být pasáže vybrané embeddingovým vyhledáváním nebo lexikálním vyhledáváním první fáze. Model pro řazení podle relevance vyhodnocuje dodaný text místo vytváření embeddingů korpusu, takže jeho praktickou úlohou je zpřesnit kandidáty již nalezené počátečním vyhledáváním.

Při přípravě seznamu zachovejte původní pořadí kandidátů a identifikátory zdrojů. Vrácené indexy odkazují na tyto vstupní pozice. U úlohy RAG dodejte pasáže, které by fáze odpovědi mohla skutečně použít, včetně názvu nebo podmínek potřebných k jejich výkladu. Relevantní dokument, který v odeslané sadě kandidátů chybí, se nemůže objevit jako nově nalezený výsledek přehodnocení pořadí.

Určete zamýšlené pojetí relevance

Pokyny lze připojit za dotaz nebo před něj. Vydání popisuje tři užitečné role: zdůraznit konkrétní část dokumentu, upřednostnit typ zdroje a odstranit nejednoznačnost dotazu kontextem aplikace. Ty mění úlohu relevance předloženou modelu.

Pro technické vyhledávání je ilustračním pokynem „Upřednostněte pasáže, které vysvětlují chování při selhání a obnově; úvodní přehledy jsou vedlejší.“ U rešeršní sbírky určete, zda nejvíce záleží na názvu, metodě nebo výsledku. U nejednoznačného výrazu uveďte tematickou oblast vyhledávání. Otázku a pokyn udržujte slučitelné, aby jeden nežádal široké téma, zatímco druhý skrytě mění úlohu.

Tyto preference usměrňují hodnocení relevance. Pokud má aplikace přísné požadavky na způsobilost — například verzi zdroje, datum nebo rozsah přístupu — připravte způsobilou sadu kandidátů samostatně. Pokyn modelu k relevanci a deterministické omezení sbírky slouží různým účelům.

Seřazený výstup a pozdější použití výsledků

Výsledky jsou seřazeny sestupně podle relevance a obsahují skóre relevance ve formátu s plovoucí řádovou čárkou a původní vstupní index kandidáta. Volba top-k vybírá počet předních výsledků k vrácení; bez ní specifikace výrobce vrací výsledky pro všechny odeslané kandidáty. Volitelné nastavení return-documents zahrnuje odpovídající zdrojový text; jinak odpověď obsahuje indexy a skóre.

Pořadí použijte k výběru pasáží pro zobrazení nebo pozdější fázi odpovědi a zachovejte jejich zdrojovou identitu. Při hodnocení pořadí prozkoumejte skutečný text: skóre je mírou relevance k odeslanému dotazu, nikoli vygenerovanou odpovědí nebo ověřením správnosti tvrzení dokumentu. Model je tak užitečný pro zpřesňování technických, právních, finančních, zdravotnických, konverzačních i vícejazyčných vyhledávaných podkladů, aniž by se pořadí měnilo v odborný závěr.

Kontext, celkový rozpočet tokenů a zkracování

Dokumentovaný limit dotazu je 8 000 tokenů včetně pokynů vložených do dotazu. Dotaz a kterýkoli jednotlivý kandidátní dokument se musí vejít do 32 000 tokenů a seznam dokumentů může obsahovat nejvýše 1 000 položek. Celkový limit je 600 000 tokenů, počítaný jako tokeny dotazu násobené počtem dokumentů plus všechny tokeny dokumentů. Dlouhý pokyn se proto započítává opakovaně pro každou dvojici dotaz–dokument.

Počet výstupních výsledků top-k nemění počet kandidátů v tomto výpočtu vstupních tokenů. Výchozí zkracování zkrátí příliš dlouhé dotazy nebo dokumenty tak, aby splnily limit kontextu; jeho vypnutí způsobí u příliš dlouhého dotazu nebo dvojice chybu. Pasáže obsahující odpověď připravujte záměrně a příslušnou podmínku zachovejte v textu, který model uvidí. Zpřesněné pořadí posuďte na reprezentativních otázkách a pokynech a poté vybrané původní pasáže předejte do další fáze.