VoyageAI by MongoDB: rerank-3

Voyage rerank-3 ist ein Text-Reranker zur Verbesserung der Qualität abgerufener Belege. Ausgehend von einer Anfrage und einer Liste von Dokumentkandidaten untersucht es jedes Paar gemeinsam und gibt die Kandidaten nach Relevanz geordnet zurück. Embeddings und Stichwortsuche können zunächst eine große Sammlung auf eine handhabbare engere Auswahl reduzieren; rerank-3 bewertet anschließend die Relevanz dieser Auswahl genauer. Seine Ausgabe sind bewertete Suchbelege, die eine Anwendung anzeigen oder an einen separaten Antwortgenerierungsschritt weitergeben kann.

Qualitätsorientiertes Rerank 3 Der Hersteller positioniert rerank-3 als genauigkeitsorientierte Ausgabe und rerank-3-lite als Ausgabe für latenzempfindliche Suche. Die dritte Generation aktualisiert Grundnetz und Trainingsmischung, mit besonderen Verbesserungen beim Abruf langer Dokumente und von Quellcode gegenüber den entsprechenden 2.5-Vorgängern. Der Hersteller bewertet das Modell anhand technischer Dokumentation, Code, mehrsprachigen Materials und anderer Dokumentbereiche. Diese Ergebnisse unterstützen seine Abrufrolle; wählen Sie die Ausgabe anhand der Fragen und Dokumentkandidaten aus, die für Ihre eigene Sammlung wichtig sind.

Lange Dokumente mit genügend Kontext Ein langer Kandidat kann weit über seinen ersten Absatz hinaus nützlichen Kontext enthalten. Stellen Sie einen zusammenhängenden Abschnitt oder ein Dokument mit Titel und relevantem umgebendem Material bereit, damit das Modell den Bezug der tatsächlichen Frage zum Inhalt bewerten kann. Erhalten Sie bei einer Suche nach Produktrichtlinien Überschriften und Ausnahmen rund um die interessante Textstelle. Stammen mehrere abgerufene Abschnitte aus derselben Quelle, bewahren Sie ihre Dokument- und Abschnittskennungen; die Anwendung kann dann zeigen, woher die ausgewählten Belege stammen.

Das Kontextfenster wird von der Anfrage und jedem Kandidaten gemeinsam genutzt. Der aktuelle Herstellerleitfaden nennt 32.000 Token für dieses Paar, einschließlich einer Anfrage mit höchstens 8.000 Token. Eine Anfrage mit 3.000 Token lässt daher höchstens 29.000 Token für jedes Dokument. Bereiten Sie die Eingabe so vor, dass ihr wesentlicher Inhalt hineinpasst, besonders wenn eine lange Einleitung oder wiederholter Standardtext sonst das Fenster belegen würde. Die dokumentierte Kürzungsoption ist standardmäßig aktiviert und kann übergroßen Anfrage- oder Dokumenttext vor der Bewertung kürzen. Prüfen Sie, was erhalten bleibt, wenn die Position einer Textstelle wichtig ist.

Code- und technischer Informationsabruf Für die Abrufstufe eines Programmierassistenten können Kandidaten Funktionsimplementierungen, API-Dokumentation oder technische Erklärungen als Text enthalten. Fügen Sie die zur Unterscheidung ähnlicher Kandidaten nötigen Symbole, Signaturen und Kontextinformationen bei. Eine Anfrage wie „Finde die Funktion, die Pfade normalisiert und dabei ein abschließendes Trennzeichen erhält“ nennt ein konkretes zuzuordnendes Verhalten. Ergänzen Sie relevante Sprach-, Plattform- oder Versionsbedingungen. Untersuchen Sie nach der Rangbildung den ausgewählten Code und seine Abhängigkeiten, bevor Sie ihn als Kontext verwenden; ein Relevanzwert beweist nicht, dass eine Implementierung jede genannte Anforderung erfüllt.

Anweisungen definieren Relevanz Das Modell behält die in Rerank 2.5 eingeführte Fähigkeit zum anweisungsgeführten Reranking bei. Stellen Sie der Anfrage eine kurze Anweisung voran oder hängen Sie sie an, wenn die Nutzerabsicht präzisiert werden muss. Erklären Sie bei der Suche in Forschungsdokumenten, ob der Schwerpunkt auf dem Titel, einer bestimmten Methode oder einem Anwendungsgebiet liegt. Geben Sie für einen internen Katalog an, ob die Anfrage Installation, Fehlerbehebung oder Kompatibilität betrifft. Halten Sie die Anweisung mit der Frage im Einklang; zusätzliche Präferenzen, die der Hauptanfrage widersprechen, können das Optimierungsziel der Rangfolge verändern.

Dokumentkandidaten und Budgets vorbereiten Die Eingabe ist eine Liste von Textzeichenfolgen. Extrahieren Sie nutzbaren Text aus Quelldokumenten, erhalten Sie sinnvolle Abschnittsgrenzen und führen Sie neben der Liste eine geordnete Datensatzzuordnung. Der Hersteller erlaubt bis zu 1.000 Dokumente in einer Anfrage. Außerdem nennt er eine gesamte Eingabeobergrenze von 600.000 Token: Anfrage-Token multipliziert mit der Dokumentanzahl plus die Summe aller Dokument-Token. Dies unterscheidet sich von der Kontextgrenze pro Paar. Weniger redundanter Anfragetext kann sowohl Paarkapazität als auch das gesamte Anfragebudget erhalten.

Zählen Sie Token für das relevante Modell, statt eine Wort- oder Zeichenzahl als Tokenzahl anzunehmen. Wählen Sie bei großen Kandidaten zusammenhängende Textstellen aus oder teilen Sie das Material nach nützlichen Überschriften auf und erhalten Sie Informationen zur übergeordneten Quelle. Reranking ist am nützlichsten, nachdem die erste Suche bereits plausible Kandidaten gefunden hat: Es kann keine fehlende Quelle einordnen, die nie in die Liste gelangt ist.

Eingeordnete Ergebnisse und nachgelagerte Nutzung Das Ergebnis enthält Relevanzwerte und Indizes, die auf die ursprünglichen Eingabedokumente verweisen, absteigend nach Relevanz sortiert. Die Option top_k begrenzt die Zahl zurückgegebener Ergebnisse; andernfalls werden alle Eingabekandidaten zurückgegeben. Die REST-Schnittstelle des Herstellers erlaubt auch die Aufnahme des Dokumenttexts. Verwenden Sie jeden ursprünglichen Index, um Titel, Quellenkennung und von Ihrer Anwendung benötigte Metadaten wiederzuerlangen, und zeigen Sie anschließend die ausgewählten Elemente an oder fügen Sie den relevanten Text in den Belegkontext einer Antwort ein.

Prüfen Sie die obersten Ergebnisse anhand der Frage und halten Sie die Quellenidentität sichtbar. Ein hoher relativer Rang verifiziert nicht die sachliche Richtigkeit eines Dokuments; auch eine engere Auswahl ausschließlich schlechter Kandidaten hat einen ersten Eintrag. Trennen Sie die Relevanzauswahl von der Entscheidung, ob die ausgewählten Belege zur Beantwortung der Nutzerfrage ausreichen.

Migration zwischen Ausgaben Der Hersteller beschreibt rerank-3 als direkt einsetzbaren Nachfolger von rerank-2.5, mit derselben API-Semantik und auf die Verteilung des entsprechenden Vorgängers kalibrierten Werten. Diese Kompatibilität unterstützt den Erhalt einer bestehenden Abrufstufe und Datensatzzuordnung. Vergleichen Sie aussagekräftige Ergebnisreihenfolgen und jeden Schwellenwert auf dem aktuellen Korpus, bevor Sie sich auf die Migration verlassen. Halten Sie rerank-3 und rerank-3-lite als eigenständige Optionen: Gemeinsame Grenzen und das Befolgen von Anweisungen machen ihre Qualitäts- und Latenzprioritäten nicht identisch.