VoyageAI by MongoDB: rerank-2.5

rerank-2.5 ist Voyage AIs anweisungsbefolgender Reranker zur Verfeinerung einer Menge von Suchkandidaten. Er untersucht Anfrage und jedes Dokument gemeinsam als Cross-Encoder und gibt anschliessend eine Relevanzreihenfolge zurück. Die Herstellerveröffentlichung betont die natürlichsprachliche Steuerung dessen, was als relevant gilt, den mehrsprachigen Abruf und einen längeren Anfrage-Dokument-Kontext als bei der vorangegangenen Ausgabe rerank-2.

Dem Modell die zu vergleichenden Kandidaten geben

Die Eingabe ist eine Anfrage und eine Liste von Textdokumentkandidaten. Das können Passagen sein, die durch Embedding-Suche oder eine lexikalische erste Suchstufe ausgewählt wurden. Der Reranker bewertet den bereitgestellten Text, statt Korpus-Embeddings zu erstellen. Seine praktische Aufgabe ist deshalb die Verfeinerung der Kandidaten, die die erste Suche bereits gefunden hat.

Bewahren Sie bei der Vorbereitung dieser Liste die ursprüngliche Kandidatenreihenfolge und Quellenkennungen. Die zurückgegebenen Indizes beziehen sich auf diese Eingabepositionen. Bei einer RAG-Aufgabe liefern Sie die Passagen, die die Antwortstufe tatsächlich nutzen könnte, einschliesslich Titel oder Bedingungen, die für ihre Interpretation nötig sind. Ein relevantes Dokument, das in der eingereichten Kandidatenmenge fehlt, kann nicht als neu gefundenes Reranking-Ergebnis erscheinen.

Die gewünschte Bedeutung von Relevanz festlegen

Anweisungen lassen sich der Anfrage voranstellen oder anhängen. Die Veröffentlichung beschreibt drei hilfreiche Rollen: einen bestimmten Dokumentteil hervorheben, einen Quellentyp bevorzugen und die Anfrage mit Anwendungskontext eindeutiger machen. Sie verändern die dem Modell vorgelegte Relevanzaufgabe.

Bei einer technischen Suche lautet eine beispielhafte Anweisung: «Priorisiere Passagen, die Fehler- und Wiederherstellungsverhalten erklären; einführende Übersichten sind zweitrangig.» Bei einer Recherchesammlung geben Sie an, ob Titel, Methode oder Ergebnis am wichtigsten ist. Bei einem mehrdeutigen Begriff nennen Sie das Themengebiet der Suche. Halten Sie Frage und Anweisung miteinander vereinbar, damit nicht die eine nach einem breiten Thema fragt, während die andere unbemerkt die Aufgabe verändert.

Diese Präferenzen lenken die Relevanzbewertung. Hat die Anwendung strikte Zulassungsanforderungen, etwa Quellversion, Datum oder Zugriffsbereich, bereiten Sie die zulässige Kandidatenmenge separat vor. Die Relevanzanweisung des Modells und eine deterministische Sammlungsbeschränkung dienen unterschiedlichen Zwecken.

Geordnete Ausgabe und spätere Ergebnisnutzung

Ergebnisse sind nach absteigender Relevanz geordnet und enthalten einen Gleitkomma-Relevanzwert sowie den ursprünglichen Eingabeindex des Kandidaten. Die Option top-k legt fest, wie viele führende Ergebnisse zurückgegeben werden; ohne sie liefert die Herstellerspezifikation Ergebnisse für alle eingereichten Kandidaten. Eine optionale Einstellung return-documents fügt den entsprechenden Quelltext hinzu; andernfalls enthält die Antwort Indizes und Werte.

Verwenden Sie die Reihenfolge, um Passagen für die Anzeige oder eine spätere Antwortstufe auszuwählen, und bewahren Sie ihre Quellenidentität. Prüfen Sie bei der Bewertung der Rangfolge den tatsächlichen Text: Der Wert misst die Relevanz zur eingereichten Anfrage, ist keine generierte Antwort und bestätigt nicht die Richtigkeit der Dokumentaussagen. Dadurch eignet sich das Modell zur Verfeinerung technischer, juristischer, finanzieller, medizinischer, dialogbezogener und mehrsprachiger Suchmaterialien, ohne die Rangfolge in eine fachliche Schlussfolgerung umzudeuten.

Kontext, Gesamt-Token-Budget und Kürzung

Die dokumentierte Anfragegrenze beträgt 8’000 Token einschliesslich der in die Anfrage eingefügten Anweisungen. Die Anfrage plus ein einzelnes Kandidatendokument muss innerhalb von 32’000 Token bleiben, und die Dokumentliste darf höchstens 1’000 Elemente enthalten. Das Gesamtbudget beträgt 600’000 Token, gezählt als Anfrage-Token multipliziert mit der Anzahl der Dokumente plus alle Dokument-Token. Eine lange Anweisung wird deshalb über die Kandidatenpaare hinweg mehrfach gezählt.

Die Anzahl der top-k-Ausgaben verändert die Kandidatenanzahl in dieser Eingabe-Token-Berechnung nicht. Standardmässige Kürzung verkürzt zu lange Anfragen oder Dokumente zur Einhaltung der Kontextgrenze; bei Deaktivierung liefert eine zu lange Anfrage oder ein zu langes Paar einen Fehler. Bereiten Sie antworttragende Passagen gezielt vor und halten Sie relevante Bedingungen innerhalb des Texts, den das Modell sieht. Bewerten Sie die verfeinerte Reihenfolge anhand repräsentativer Fragen und Anweisungen und übergeben Sie anschliessend die ausgewählten Originalpassagen an die nächste Stufe.