VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite ist die auf geringe Latenz ausgerichtete Ausgabe der Rerank-3-Serie von Voyage. Es nimmt eine Textanfrage und Dokumentkandidaten entgegen, bewertet jedes Anfrage-Dokument-Paar gemeinsam und gibt Relevanzwerte in Rangfolge zurück. Es bildet die zweite Suchstufe: Ein Embedding- oder Stichwort-Retriever findet die Kandidaten, anschließend verfeinert Lite deren Reihenfolge. Das Ergebnis ist eine Rangfolge für die Suche oder einen Workflow mit Retrieval-Augmented Generation.

Was sich in Rerank 3 Lite ändert Der Hersteller betont einen stärkeren Abruf langer Dokumente und von Code gegenüber rerank-2.5-lite. Beide Rerank-3-Ausgaben behalten das Befolgen von Anweisungen und dieselbe 32K-Kontextklasse bei; Lite ist für latenzempfindliche Anwendungen ausgelegt. Das macht es zu einem praktischen Kandidaten für interaktive Wissensbasissuche, den Abruf von Supportdokumenten und Codesuche, wenn Nutzende zeitnah relevante Ergebnisse benötigen. Wählen Sie es anhand der Qualitäts- und Antwortzeitanforderungen der tatsächlichen Sammlung, statt anzunehmen, dass eine kleinere Ausgabe ein kleineres Kontextfenster bedeutet.

Relevanz mit der Suchanfrage steuern Natürlichsprachliche Anweisungen können die Anfrage ergänzen und erklären, was als relevant gilt. Halten Sie Frage und Relevanzpräferenz kurz und widerspruchsfrei. Verwenden Sie für eine Software-Supportsuche etwa: „Finde das Verfahren zum Zurücksetzen eines Geräts; priorisiere Anleitungen für die angegebene Hardwareversion.“ Ergänzen Sie bei einem mehrdeutigen Produktnamen die Produktkategorie, damit unverbundene Bedeutungen nicht überwiegen. Eine Präferenz in der Anfrage steuert die semantische Bewertung; verwenden Sie ausdrückliche Sammlungsmetadaten, um das richtige Produkt, die Dokumentversion oder den Zugriffsbereich auszuwählen, bevor Sie die Kandidatenliste aufbauen.

Eine engere Auswahl von Textkandidaten vorbereiten Die Eingabedokumente sind Zeichenfolgen. Extrahieren Sie lesbaren Text aus dem Ausgangsmaterial und erhalten Sie nützliche Titel, Überschriften, Kennungen und umgebenden Kontext. Halten Sie eine stabile Zuordnung jeder Eingabeposition zum ursprünglichen Datensatz aufrecht. Fügen Sie bei einem Fehlerbehebungsartikel das Symptom und das relevante Verfahren bei, nicht nur einen isolierten Satz. Nehmen Sie bei Quellcodesuche die Funktion und die benachbarten Informationen auf, die zur Unterscheidung von ähnlich benannten Funktionen nötig sind. Entfernen Sie wiederholte Navigation oder Standardtext, wenn sie die nützliche Textstelle verdrängen.

Der Reranker kann nur Dokumente neu ordnen, die er erhält. Ruft die erste Suche den relevanten Artikel nie ab, kann diese Stufe den fehlenden Kandidaten nicht wiederherstellen. Prüfen Sie sowohl die engere Auswahl als auch die endgültige Reihenfolge, wenn ein Ergebnis falsch erscheint. Deckt ein langes Dokument viele Themen ab, teilen Sie es in zusammenhängende Abschnitte auf und erhalten Sie deren Verweise auf das übergeordnete Dokument, damit ein relevanter Abschnitt ohne Verlust seiner Quelle ausgewählt werden kann.

Kontext- und Anfragegrenzen Der aktuelle Herstellerleitfaden nennt maximal 8.000 Token für die Anfrage und insgesamt maximal 32.000 Token für Anfrage plus jedes einzelne Dokument. Er erlaubt bis zu 1.000 Dokumentkandidaten und ein gesamtes Anfragebudget von 600.000 Token, berechnet als Anfrage-Token multipliziert mit der Dokumentanzahl plus alle Dokument-Token. Eine lange Anfrage belegt daher in jedem Paar Platz und trägt wiederholt zum Gesamtbudget bei. Zählen Sie den eingereichten Text mit dem passenden Modell-Tokenizer, statt Zeichen, Wörter und Token als austauschbar zu behandeln.

Beispielsweise ergibt eine Anfrage mit 500 Token und 100 Dokumenten mit jeweils 4.000 Token nach dieser Formel 450.000 Eingabe-Token. Dies veranschaulicht die Budgetplanung, keine empfohlene Größe der engeren Auswahl und kein gemessenes Geschwindigkeitsergebnis. Die dokumentierte Kürzungsoption ist standardmäßig aktiviert; übergroßer Text kann vor der Bewertung gekürzt werden. Bereiten Sie wichtige Abschnitte bewusst vor, damit die Kürzung nicht genau die Textstelle entfernt, die Sie zuordnen müssen.

Das Ergebnis lesen und verwenden Die Ergebnisse sind absteigend nach Relevanzwert geordnet. Jedes Ergebnis bezeichnet die ursprüngliche Eingabeposition des Dokuments, sodass die Anwendung ihren eigenen Titel, ihre Datensatzkennung und Quelle anhängen kann. Die Einstellung top_k steuert, wie viele eingeordnete Kandidaten zurückgegeben werden; ohne sie werden alle Kandidaten zurückgegeben. Die REST-Schnittstelle des Herstellers kann auch den Dokumenttext zurückgeben. Erhalten Sie die ursprünglichen Kennungen neben den ausgewählten Ergebnissen, wenn Sie eine Suchseite anzeigen oder Belege an eine Antwortgenerierungsstufe übergeben.

Ein Relevanzwert drückt aus, wie gut ein Kandidat zur Anfrage passt; er belegt nicht die Richtigkeit seiner Aussagen. Vergleichen Sie die höchstplatzierten Elemente mit der tatsächlichen Nutzerfrage, einschließlich Ausschlüssen und Unterschieden zwischen Dokumentversionen. Sind alle Kandidaten irrelevant, gibt es dennoch einen höchstplatzierten Eintrag. Entscheiden Sie anhand repräsentativer Anfragen aus der Sammlung, wie Ihre Anwendung mit diesem Fall umgeht.

Aktualisieren und die Ausgabe auswählen Der Hersteller beschreibt rerank-3-lite als Upgrade von rerank-2.5-lite mit unveränderter API-Semantik und auf die Verteilung des jeweiligen Vorgängers kalibrierten Werten. Erhalten Sie die vorhandene Datensatzzuordnung und Abrufstufe und vergleichen Sie anschließend die entstehende Reihenfolge für aussagekräftige Anfragen, bevor Sie sich auf einen etablierten Schwellenwert verlassen. Verwenden Sie Lite für eine Sucherfahrung, bei der die Antwortzeit zählt; ziehen Sie die qualitätsorientierte Ausgabe rerank-3 zum Vergleich heran, wenn Relevanz bei schwierigen Kandidaten die höhere Priorität hat.