VoyageAI by MongoDB: rerank-3

Voyage rerank-3 to tekstowy reranker zaprojektowany do poprawy jakości znalezionych dowodów. Otrzymawszy zapytanie i listę dokumentów kandydujących, wspólnie bada każdą parę i zwraca kandydatów uporządkowanych według trafności. Embeddingi i wyszukiwanie według słów kluczowych mogą najpierw zawęzić duży zbiór do listy o rozsądnym rozmiarze; rerank-3 stosuje następnie dokładniejszą ocenę trafności do tej listy. Wyjściem jest oceniony materiał z wyszukiwania, który aplikacja może wyświetlić lub przekazać do osobnego etapu generowania odpowiedzi.

Rerank 3 nastawiony na jakość Producent pozycjonuje rerank-3 jako wydanie nastawione na dokładność, a rerank-3-lite jako wydanie do wyszukiwania wrażliwego na opóźnienia. Trzecia generacja aktualizuje architekturę bazową i mieszankę treningową, ze szczególną poprawą wyszukiwania w długich dokumentach i kodzie źródłowym względem odpowiednich poprzedników 2.5. Producent ocenia ją na dokumentacji technicznej, kodzie, materiale wielojęzycznym i innych dziedzinach dokumentów. Wyniki wspierają jej rolę w wyszukiwaniu; dobierz wydanie na podstawie pytań i dokumentów kandydujących ważnych dla własnego zbioru.

Długie dokumenty z wystarczającym kontekstem Długi kandydat może zawierać przydatny kontekst znacznie poza pierwszym akapitem. Dostarcz spójną sekcję lub dokument z tytułem i odpowiednim otaczającym materiałem, aby model mógł ocenić związek rzeczywistego pytania z treścią. W wyszukiwaniu zasad dotyczących produktu zachowaj nagłówki i wyjątki wokół interesującego fragmentu. Jeśli kilka pobranych sekcji pochodzi z tego samego źródła, zachowaj identyfikatory dokumentu i sekcji; aplikacja będzie mogła pokazać pochodzenie wybranych dowodów.

Okno kontekstu jest współdzielone przez zapytanie i każdego kandydata. Bieżący poradnik producenta podaje 32 000 tokenów dla tej pary, w tym zapytanie o maksymalnie 8 000 tokenach. Zapytanie o 3 000 tokenów pozostawia więc najwyżej 29 000 tokenów na każdy dokument. Przygotuj wejście tak, aby istotna treść się mieściła, zwłaszcza gdy długi wstęp lub powtarzalny tekst szablonowy zajmowałby okno. Udokumentowana opcja obcinania jest domyślnie włączona i może skracać zbyt obszerne zapytanie lub tekst dokumentu przed oceną. Sprawdź, co zostaje zachowane, gdy położenie fragmentu ma znaczenie.

Wyszukiwanie kodu i treści technicznych Na etapie wyszukiwania dla asystenta programowania kandydaci mogą zawierać implementacje funkcji, dokumentację API lub wyjaśnienia techniczne jako tekst. Uwzględnij symbole, sygnatury i kontekst potrzebne do odróżnienia podobnych kandydatów. Zapytanie takie jak „Znajdź funkcję normalizującą ścieżki z zachowaniem końcowego separatora” daje konkretne zachowanie do dopasowania. Dołącz istotne ograniczenia języka, platformy lub wersji. Po uporządkowaniu zbadaj wybrany kod i jego zależności przed użyciem go jako kontekstu; ocena trafności nie dowodzi, że implementacja spełnia wszystkie podane wymagania.

Instrukcje definiują trafność Model zachowuje możliwość ponownego porządkowania według instrukcji wprowadzoną w Rerank 2.5. Dodaj zwięzłą instrukcję przed zapytaniem lub po nim, gdy intencja użytkownika wymaga doprecyzowania. W wyszukiwaniu dokumentów badawczych wyjaśnij, czy najważniejszy jest tytuł, konkretna metoda czy obszar zastosowań. W katalogu wewnętrznym określ, czy prośba dotyczy instalacji, rozwiązywania problemów czy zgodności. Utrzymuj tę instrukcję w zgodzie z pytaniem; dodatkowe preferencje sprzeczne z główną prośbą mogą zmienić cel optymalizacji rankingu.

Przygotuj dokumenty kandydujące i budżety Wejściem jest lista ciągów tekstowych. Wyodrębnij użyteczny tekst z dokumentów źródłowych, zachowaj znaczące granice sekcji i utrzymuj uporządkowaną mapę rekordów przy liście. Producent dopuszcza do 1 000 dokumentów w jednym żądaniu. Podaje też łączny limit wejścia 600 000 tokenów: tokeny zapytania pomnożone przez liczbę dokumentów, plus suma tokenów wszystkich dokumentów. Różni się to od limitu kontekstu pojedynczej pary. Ograniczenie zbędnego tekstu zapytania może oszczędzić zarówno pojemność pary, jak i całkowity budżet żądania.

Licz tokeny dla odpowiedniego modelu, zamiast zakładać, że liczba słów lub znaków jest liczbą tokenów. Przy dużych kandydatach wybieraj spójne fragmenty lub dziel materiał według przydatnych nagłówków, zachowując informacje o źródle nadrzędnym. Ponowne porządkowanie jest najbardziej użyteczne, gdy pierwsze wyszukiwanie już ujawniło wiarygodnych kandydatów: nie może ocenić brakującego źródła, które nigdy nie trafiło na listę.

Wyniki rankingu i dalsze wykorzystanie Wynik zawiera oceny trafności i indeksy odnoszące się do oryginalnych dokumentów wejściowych, posortowane malejąco według trafności. Opcja top_k ogranicza liczbę zwracanych wyników rankingu; w przeciwnym razie zwracani są wszyscy kandydaci wejściowi. Interfejs REST producenta umożliwia również dołączenie tekstu dokumentu. Użyj każdego oryginalnego indeksu, aby odzyskać tytuł, identyfikator źródła i metadane potrzebne aplikacji, a następnie przedstaw wybrane pozycje lub umieść odpowiedni tekst w kontekście dowodowym odpowiedzi.

Sprawdź czołowe wyniki względem pytania i zachowuj widoczną tożsamość źródeł. Wysoka pozycja względna nie weryfikuje poprawności faktograficznej dokumentu, a lista zawierająca tylko słabych kandydatów nadal ma pierwszą pozycję. Oddziel wybór według trafności od decyzji, czy wybrane dowody wystarczają do odpowiedzi użytkownikowi.

Migracja wydania Producent opisuje rerank-3 jako bezpośredniego następcę rerank-2.5, z tą samą semantyką API i ocenami skalibrowanymi do rozkładu odpowiedniego poprzednika. Ta zgodność wspiera zachowanie istniejącego etapu wyszukiwania i mapowania rekordów. Porównaj znaczące kolejności wyników i ewentualny próg ocen na bieżącym korpusie, zanim oprzesz się na migracji. Traktuj rerank-3 i rerank-3-lite jako odrębne wybory: wspólne limity i wykonywanie instrukcji nie czynią ich priorytetów jakości i opóźnień identycznymi.