VoyageAI by MongoDB: rerank-3

Voyage rerank-3 je model pro přehodnocení pořadí textových výsledků navržený ke zlepšení kvality nalezených podkladů. Z dotazu a seznamu kandidátních dokumentů společně zkoumá každou dvojici a vrací kandidáty seřazené podle relevance. Embeddingy a vyhledávání podle klíčových slov mohou nejprve zúžit rozsáhlou sbírku na zvládnutelný užší seznam; rerank-3 poté tento seznam podrobněji posoudí z hlediska relevance. Jeho výstupem jsou ohodnocené vyhledané podklady, které aplikace zobrazí nebo předá do samostatné fáze generování odpovědi.

Rerank 3 zaměřený na kvalitu Výrobce představuje rerank-3 jako edici zaměřenou na přesnost a rerank-3-lite jako edici pro vyhledávání citlivé na latenci. Třetí generace aktualizuje páteřní síť a trénovací směs se zvláštním zlepšením vyhledávání v dlouhých dokumentech a zdrojovém kódu oproti odpovídajícím předchůdcům 2.5. Výrobce ji hodnotí na technické dokumentaci, kódu, vícejazyčných podkladech a dalších dokumentových oblastech. Tyto výsledky podporují její vyhledávací roli; edici vybírejte podle otázek a kandidátních dokumentů důležitých pro vlastní sbírku.

Dlouhé dokumenty s dostatečným kontextem Dlouhý kandidát může obsahovat užitečný kontext daleko za úvodním odstavcem. Dodejte soudržnou část nebo dokument s názvem a relevantními okolními podklady, aby model mohl posoudit vztah skutečné otázky k obsahu. Při vyhledávání produktových pravidel zachovejte nadpisy a výjimky kolem zájmové pasáže. Pochází-li několik nalezených částí ze stejného zdroje, zachovejte jejich identifikátory dokumentu i části; aplikace pak může ukázat původ vybraných podkladů.

Kontextové okno sdílejí dotaz a každý kandidát. Aktuální průvodce výrobce uvádí 32 000 tokenů pro tuto dvojici včetně dotazu o nejvýše 8 000 tokenech. Dotaz o 3 000 tokenech tedy ponechává pro každý dokument nanejvýš 29 000 tokenů. Vstup připravte tak, aby se jeho zásadní obsah vešel, zvláště pokud by jinak dlouhý úvod nebo opakující se šablonovitý text spotřeboval okno. Dokumentovaná volba zkracování je ve výchozím stavu zapnutá a může před hodnocením zkrátit příliš rozsáhlý dotaz či dokument. Záleží-li na umístění pasáže, zkontrolujte, co zůstalo zachováno.

Vyhledávání kódu a technických informací Ve vyhledávací fázi programovacího asistenta mohou kandidáti obsahovat implementace funkcí, dokumentaci API nebo technická vysvětlení jako text. Přiložte symboly, signatury a kontext potřebné k odlišení podobných kandidátů. Dotaz typu „Najděte funkci, která normalizuje cesty a zachovává koncový oddělovač“ určuje konkrétní chování k přiřazení. Připojte příslušná omezení jazyka, platformy nebo verze. Po seřazení prozkoumejte vybraný kód a jeho závislosti před použitím jako kontextu; skóre relevance nedokazuje, že implementace splňuje všechny uvedené požadavky.

Pokyny vymezují relevanci Model zachovává schopnost upravovat pořadí podle pokynů zavedenou v Rerank 2.5. Pokud záměr uživatele potřebuje upřesnit, vložte před dotaz nebo za něj stručný pokyn. Při vyhledávání rešeršních dokumentů vysvětlete, zda je důležitý název, konkrétní metoda nebo oblast použití. U interního katalogu určete, zda se požadavek týká instalace, řešení problémů nebo kompatibility. Pokyn udržujte v souladu s otázkou; dodatečné preference odporující hlavnímu požadavku mohou změnit to, co se pořadí snaží optimalizovat.

Příprava kandidátních dokumentů a rozpočtů Vstupem je seznam textových řetězců. Ze zdrojových dokumentů vytěžte použitelný text, zachovejte smysluplné hranice částí a vedle seznamu uchovávejte uspořádané mapování záznamů. Výrobce umožňuje až 1 000 dokumentů v jednom požadavku. Uvádí také souhrnný vstupní strop 600 000 tokenů: tokeny dotazu násobené počtem dokumentů plus součet všech tokenů dokumentů. To se liší od limitu kontextu pro jednotlivou dvojici. Omezení nadbytečného textu dotazu může zachovat kapacitu dvojice i celkový rozpočet požadavku.

Počítejte tokeny pro příslušný model místo předpokladu, že počet slov nebo znaků je počtem tokenů. U rozsáhlých kandidátů vyberte soudržné pasáže nebo rozdělte podklady podle užitečných nadpisů a zachovejte informace o nadřazeném zdroji. Přehodnocování pořadí je nejužitečnější poté, co první vyhledávání již našlo vhodné kandidáty: nemůže zařadit chybějící zdroj, který se nikdy nedostal do seznamu.

Seřazené výsledky a další použití Výsledek obsahuje skóre relevance a indexy odkazující na původní vstupní dokumenty, seřazené sestupně podle relevance. Volba top_k omezuje počet vrácených seřazených výsledků; jinak se vracejí všichni vstupní kandidáti. Rozhraní REST výrobce umožňuje přiložit také text dokumentu. Pomocí každého původního indexu dohledáte název, identifikátor zdroje a případná metadata potřebná pro aplikaci; poté vybrané položky zobrazte nebo vložte příslušný text do kontextu podkladů odpovědi.

Nejlepší výsledky porovnejte s otázkou a identitu zdroje ponechte viditelnou. Vysoké relativní pořadí neověřuje faktickou správnost dokumentu a užší seznam obsahující jen slabé kandidáty bude mít stále první položku. Výběr podle relevance oddělte od rozhodnutí, zda vybrané podklady stačí k zodpovězení otázky uživatele.

Přechod mezi edicemi Výrobce popisuje rerank-3 jako přímo zaměnitelného nástupce rerank-2.5 se stejnou sémantikou API a skóre kalibrovanými na rozdělení odpovídajícího předchůdce. Tato kompatibilita podporuje zachování stávající vyhledávací fáze a mapování záznamů. Než se na přechod spolehnete, porovnejte smysluplná pořadí výsledků a případný práh skóre na aktuálním korpusu. Rerank-3 a rerank-3-lite ponechte jako odlišné volby: společné limity a dodržování pokynů neznamenají totožné priority kvality a latence.