VoyageAI by MongoDB: rerank-2.5

rerank-2.5 ist der anweisungsfolgende Reranker von Voyage AI zur Verfeinerung einer Menge von Suchkandidaten. Er untersucht Anfrage und jedes Dokument gemeinsam als Cross-Encoder und gibt anschließend eine Relevanzreihenfolge zurück. Die Veröffentlichung des Herstellers betont natürlichsprachliche Kontrolle darüber, was als relevant zählt, mehrsprachigen Abruf und einen längeren Anfrage-Dokument-Kontext als bei der vorherigen Ausgabe rerank-2.

Dem Modell die zu vergleichenden Kandidaten geben

Die Eingabe ist eine Anfrage und eine Liste möglicher Textdokumente. Dies können Textstellen sein, die eine Embedding-Suche oder eine lexikalische erste Suchstufe ausgewählt hat. Der Reranker bewertet den bereitgestellten Text, statt Korpus-Embeddings zu erstellen; seine praktische Aufgabe ist somit, die von der ersten Suche bereits gefundenen Kandidaten zu verfeinern.

Bewahren Sie beim Vorbereiten dieser Liste die ursprüngliche Kandidatenreihenfolge und die Quellenkennungen. Die zurückgegebenen Indizes beziehen sich auf diese Eingabepositionen. Stellen Sie bei einer RAG-Aufgabe die Textstellen bereit, die die Antwortstufe tatsächlich verwenden könnte, einschließlich Titel oder Bedingungen, die zu ihrer Interpretation nötig sind. Ein relevantes Dokument, das in der eingereichten Kandidatenmenge fehlt, kann nicht als neu gefundenes Reranking-Ergebnis erscheinen.

Den gewünschten Relevanzbegriff festlegen

Anweisungen können der Anfrage vorangestellt oder angehängt werden. Die Veröffentlichung beschreibt drei hilfreiche Rollen: einen bestimmten Dokumentteil hervorheben, einen Quellentyp bevorzugen und die Anfrage mit Anwendungskontext eindeutig machen. Diese verändern die dem Modell gestellte Relevanzaufgabe.

Eine beispielhafte Anweisung für eine technische Suche lautet: „Priorisiere Textstellen, die Fehler- und Wiederherstellungsverhalten erklären; einführende Übersichten sind nachrangig.“ Geben Sie für eine Forschungssammlung an, ob Titel, Methode oder Ergebnis am wichtigsten sind. Nennen Sie bei einem mehrdeutigen Begriff das Themengebiet der Suche. Halten Sie Frage und Anweisung miteinander vereinbar, damit nicht die eine nach einem breiten Thema fragt, während die andere die Aufgabe stillschweigend verändert.

Diese Präferenzen steuern die Relevanzbewertung. Hat die Anwendung strikte Zulässigkeitsanforderungen – etwa Quellversion, Datum oder Zugriffsbereich –, bereiten Sie die zulässige Kandidatenmenge separat vor. Die Relevanzanweisung des Modells und eine deterministische Beschränkung der Sammlung dienen unterschiedlichen Zwecken.

Gereihte Ausgabe und spätere Ergebnisverwendung

Ergebnisse sind nach absteigender Relevanz geordnet und enthalten einen Gleitkomma-Relevanzwert sowie den ursprünglichen Eingabeindex des Kandidaten. Die Option top-k wählt, wie viele führende Ergebnisse zurückgegeben werden; ohne sie liefert die Herstellerspezifikation Ergebnisse für sämtliche eingereichten Kandidaten. Eine optionale Einstellung return-documents schließt den entsprechenden Quelltext ein; andernfalls enthält die Antwort Indizes und Werte.

Verwenden Sie die Reihenfolge zur Auswahl von Textstellen für die Anzeige oder eine spätere Antwortstufe und halten Sie ihre Quellenidentität intakt. Prüfen Sie bei der Bewertung des Rankings den tatsächlichen Text: Der Wert misst die Relevanz zur eingereichten Anfrage, er ist keine generierte Antwort und keine Bestätigung der Richtigkeit der Dokumentaussagen. Dadurch eignet sich das Modell zur Verfeinerung technischer, rechtlicher, finanzieller, medizinischer, dialogbezogener und mehrsprachiger Suchmaterialien, ohne aus dem Ranking eine fachliche Schlussfolgerung zu machen.

Kontext, Gesamttokenbudget und Kürzung

Die dokumentierte Anfragegrenze beträgt 8.000 Token einschließlich der in der Anfrage platzierten Anweisungen. Die Anfrage plus jedes einzelne Kandidatendokument muss innerhalb von 32.000 Token bleiben; die Dokumentliste darf höchstens 1.000 Elemente enthalten. Das Gesamtbudget beträgt 600.000 Token, gezählt als Anfrage-Token multipliziert mit der Dokumentanzahl plus sämtliche Dokument-Token. Eine lange Anweisung wird daher über die Kandidatenpaare hinweg wiederholt gezählt.

Die Ausgabeanzahl top-k verändert nicht die Zahl der Kandidaten in dieser Eingabe-Tokenberechnung. Die standardmäßige Kürzung verkürzt zu lange Anfragen oder Dokumente auf die Kontextgrenze; ihre Deaktivierung führt bei einer zu langen Anfrage oder einem zu langen Paar zu einem Fehler. Bereiten Sie antwortrelevante Textstellen gezielt vor und behalten Sie die relevante Bedingung innerhalb des Texts, den das Modell sehen wird. Bewerten Sie die verfeinerte Reihenfolge anhand repräsentativer Fragen und Anweisungen und geben Sie anschließend die ausgewählten ursprünglichen Textstellen an die nächste Stufe weiter.