VoyageAI by MongoDB: rerank-3

Voyage rerank-3 ist ein Text-Reranker zur Verbesserung der Qualität abgerufener Belege. Es erhält eine Anfrage und eine Liste von Kandidatendokumenten, untersucht jedes Paar gemeinsam und gibt die Kandidaten nach Relevanz geordnet zurück. Embeddings und Stichwortsuche können eine große Sammlung zunächst auf eine handhabbare engere Auswahl begrenzen; rerank-3 bewertet deren Relevanz anschließend detaillierter. Seine Ausgabe sind bewertete Suchbelege, die eine Anwendung anzeigen oder an eine separate Antwortgenerierungsstufe weitergeben kann.

Qualitätsorientiertes Rerank 3 Der Hersteller positioniert rerank-3 als genauigkeitsorientierte Ausgabe und rerank-3-lite als Ausgabe für latenzempfindliche Suche. Die dritte Generation aktualisiert Grundarchitektur und Trainingsmischung, mit besonderen Verbesserungen beim Abruf langer Dokumente und von Quellcode gegenüber den jeweiligen 2.5-Vorgängern. Der Anbieter bewertet das Modell anhand von technischer Dokumentation, Code, mehrsprachigem Material und anderen Dokumentbereichen. Diese Ergebnisse stützen seine Abrufrolle; wählen Sie die Ausgabe anhand der Fragen und Kandidatendokumente, die für Ihre eigene Sammlung wichtig sind.

Lange Dokumente mit genügend Kontext Ein langer Kandidat kann weit über seinen einleitenden Absatz hinaus hilfreichen Kontext enthalten. Stellen Sie einen zusammenhängenden Abschnitt oder ein Dokument mit Titel und relevantem umgebendem Material bereit, damit das Modell beurteilen kann, wie die tatsächliche Frage zum Inhalt passt. Bewahren Sie bei einer Suche nach Produktrichtlinien die Überschriften und Ausnahmen rund um die betreffende Textstelle. Stammen mehrere abgerufene Abschnitte aus derselben Quelle, behalten Sie Dokument- und Abschnittskennungen bei; die Anwendung kann dann zeigen, woher die ausgewählten Belege stammen.

Das Kontextfenster wird von Anfrage und jedem Kandidaten gemeinsam genutzt. Der aktuelle Herstellerleitfaden nennt 32.000 Token für dieses Paar, einschließlich einer Anfrage mit höchstens 8.000 Token. Eine Anfrage mit 3.000 Token lässt somit höchstens 29.000 Token für jedes Dokument übrig. Bereiten Sie die Eingabe so vor, dass ihre wesentlichen Inhalte hineinpassen, besonders wenn eine lange Einleitung oder wiederholte Standardtexte sonst das Fenster belegen würden. Die dokumentierte Kürzungsoption ist standardmäßig aktiviert und kann übergroße Anfrage- oder Dokumenttexte vor der Bewertung kürzen. Prüfen Sie, was erhalten bleibt, wenn die Position einer Textstelle wichtig ist.

Code und technischer Abruf Für die Abrufstufe eines Programmierassistenten können Kandidaten Funktionsimplementierungen, API-Dokumentation oder technische Erklärungen als Text enthalten. Ergänzen Sie die Symbole, Signaturen und den Kontext, die zur Unterscheidung ähnlicher Kandidaten nötig sind. Eine Anfrage wie „Finde die Funktion, die Pfade normalisiert und dabei ein abschließendes Trennzeichen beibehält“ nennt ein konkretes abzugleichendes Verhalten. Fügen Sie relevante Sprach-, Plattform- oder Versionsbedingungen hinzu. Prüfen Sie nach dem Ranking den ausgewählten Code und seine Abhängigkeiten, bevor Sie ihn als Kontext verwenden; ein Relevanzwert belegt nicht, dass eine Implementierung jede genannte Anforderung erfüllt.

Anweisungen definieren Relevanz Das Modell behält die mit Rerank 2.5 eingeführte Fähigkeit zum anweisungsbasierten Reranking bei. Stellen Sie der Anfrage eine knappe Anweisung voran oder hängen Sie sie an, wenn die Nutzerabsicht präzisiert werden muss. Erklären Sie bei der Suche nach Forschungsdokumenten, ob Titel, eine bestimmte Methode oder ein Anwendungsbereich im Mittelpunkt stehen. Geben Sie für einen internen Katalog an, ob die Anfrage Installation, Fehlerbehebung oder Kompatibilität betrifft. Halten Sie diese Anweisung mit der Frage im Einklang; zusätzliche Präferenzen, die der Hauptanfrage widersprechen, können verändern, was das Ranking zu optimieren versucht.

Kandidatendokumente und Budgets vorbereiten Die Eingabe ist eine Liste von Textzeichenfolgen. Extrahieren Sie verwendbaren Text aus Quelldokumenten, bewahren Sie sinnvolle Abschnittsgrenzen und halten Sie neben der Liste eine geordnete Datensatzzuordnung vor. Der Hersteller erlaubt bis zu 1.000 Dokumente in einer Anfrage. Er nennt außerdem eine gesamte Eingabeobergrenze von 600.000 Token: Anfrage-Token multipliziert mit der Dokumentanzahl plus die Summe aller Dokument-Token. Dies unterscheidet sich von der Kontextgrenze pro Paar. Das Reduzieren redundanten Anfragetexts kann sowohl Paarkapazität als auch Gesamtbudget der Anfrage bewahren.

Zählen Sie Token für das betreffende Modell, statt Wort- oder Zeichenzahl mit Tokenzahl gleichzusetzen. Wählen Sie bei großen Kandidaten zusammenhängende Textstellen aus oder teilen Sie das Material nach hilfreichen Überschriften auf und behalten Sie Angaben zur übergeordneten Quelle bei. Reranking ist am hilfreichsten, nachdem die erste Suche bereits plausible Kandidaten gefunden hat: Es kann keine fehlende Quelle reihen, die nie in die Liste gelangt ist.

Gereihte Ergebnisse und nachgelagerte Nutzung Das Ergebnis enthält Relevanzwerte und Indizes, die sich auf die ursprünglichen Eingabedokumente beziehen, sortiert in absteigender Relevanzreihenfolge. Die Option top_k begrenzt die Anzahl der zurückgegebenen gereihten Ergebnisse; andernfalls werden alle Eingabekandidaten zurückgegeben. Die REST-Schnittstelle des Herstellers erlaubt außerdem, den Dokumenttext einzuschließen. Verwenden Sie jeden ursprünglichen Index, um Titel, Quellenkennung und alle von Ihrer Anwendung benötigten Metadaten wiederzufinden, und zeigen Sie anschließend die ausgewählten Elemente an oder nehmen Sie den relevanten Text in den Belegkontext einer Antwort auf.

Prüfen Sie die besten Ergebnisse anhand der Frage und halten Sie die Quellenidentität sichtbar. Ein hoher relativer Rang bestätigt nicht die sachliche Richtigkeit eines Dokuments, und eine engere Auswahl ausschließlich schlechter Kandidaten hat trotzdem ein erstes Element. Trennen Sie die Relevanzauswahl von der Entscheidung, ob die ausgewählten Belege zur Beantwortung der Nutzerfrage ausreichen.

Wechsel der Ausgabe Der Hersteller beschreibt rerank-3 als direkt einsetzbaren Nachfolger von rerank-2.5 mit derselben API-Semantik und Werten, die auf die Verteilung des jeweiligen Vorgängers kalibriert sind. Diese Kompatibilität unterstützt das Beibehalten einer vorhandenen Abrufstufe und Datensatzzuordnung. Vergleichen Sie aussagekräftige Ergebnisreihenfolgen und jeden Schwellenwert anhand des aktuellen Korpus, bevor Sie sich auf den Wechsel verlassen. Halten Sie rerank-3 und rerank-3-lite als getrennte Auswahlmöglichkeiten bei: Gemeinsame Grenzen und das Befolgen von Anweisungen machen ihre Qualitäts- und Latenzprioritäten nicht identisch.