VoyageAI by MongoDB: rerank-3-lite

Voyage rerank-3-lite ist die auf geringe Latenz ausgerichtete Ausgabe der Rerank-3-Serie von Voyage. Es nimmt eine Textanfrage und Kandidatendokumente entgegen, bewertet jedes Anfrage-Dokument-Paar gemeinsam und gibt Relevanzwerte in Rangfolge zurück. Es dient der zweiten Suchstufe: Ein Embedding- oder Stichwortabruf findet die Kandidaten, anschließend verfeinert Lite ihre Reihenfolge. Das Ergebnis ist eine Rangfolge zur Verwendung in der Suche oder einem Arbeitsablauf mit Retrieval-Augmented Generation.

Was sich mit Rerank 3 Lite ändert Der Anbieter betont einen stärkeren Abruf bei langen Dokumenten und Code im Vergleich zu rerank-2.5-lite. Beide Rerank-3-Ausgaben behalten das Befolgen von Anweisungen und dieselbe 32K-Kontextklasse bei; Lite ist für latenzempfindliche Anwendungen ausgelegt. Damit ist es ein praktischer Kandidat für interaktive Wissensbasissuche, den Abruf von Supportdokumenten und Codesuche, wenn Nutzende rasch relevante Ergebnisse benötigen. Wählen Sie es anhand der Qualitäts- und Antwortzeitanforderungen der tatsächlichen Sammlung, statt aus einer kleineren Ausgabe auf ein kleineres Kontextfenster zu schließen.

Relevanz mit der Anfrage steuern Natürlichsprachliche Anweisungen können die Anfrage ergänzen und erklären, was als relevant zählt. Halten Sie Frage und Relevanzpräferenz knapp und stimmig. Für eine Software-Supportsuche können Sie formulieren: „Finde die Vorgehensweise zum Zurücksetzen eines Geräts; priorisiere Anweisungen für die angegebene Hardware-Revision.“ Ergänzen Sie bei einem mehrdeutigen Produktnamen die Produktkategorie, damit sachfremde Bedeutungen nicht überwiegen. Eine Präferenz in der Anfrage steuert die semantische Bewertung; verwenden Sie ausdrückliche Sammlungsmetadaten, um vor dem Aufbau der Kandidatenliste das richtige Produkt, die Dokumentversion oder den Zugriffsbereich auszuwählen.

Eine engere Auswahl an Textkandidaten vorbereiten Die Eingabedokumente sind Zeichenfolgen. Extrahieren Sie lesbaren Text aus dem Ausgangsmaterial und erhalten Sie hilfreiche Titel, Überschriften, Kennungen und umgebenden Kontext. Bewahren Sie eine stabile Zuordnung jeder Eingabeposition zum ursprünglichen Datensatz. Bei einem Artikel zur Fehlerbehebung fügen Sie Symptom und relevante Vorgehensweise hinzu, nicht nur einen losgelösten Satz. Für die Quellcodesuche ergänzen Sie die Funktion und nahe gelegene Informationen, die sie von ähnlich benannten Funktionen unterscheiden. Entfernen Sie wiederholte Navigation oder Standardtexte, wenn sie die hilfreiche Textstelle verdrängen.

Der Reranker kann nur die Dokumente neu ordnen, die er erhält. Ruft die erste Suche den relevanten Artikel nie ab, kann diese Stufe den fehlenden Kandidaten nicht wiederherstellen. Prüfen Sie sowohl die engere Auswahl als auch die endgültige Reihenfolge, wenn ein Ergebnis falsch erscheint. Deckt ein langes Dokument viele Themen ab, trennen Sie zusammenhängende Abschnitte und erhalten Sie ihre Verweise auf das übergeordnete Dokument. So kann ein relevanter Abschnitt ausgewählt werden, ohne seine Quelle zu verlieren.

Kontext- und Anfragegrenzen Der aktuelle Leitfaden des Herstellers nennt maximal 8.000 Token für die Anfrage und insgesamt maximal 32.000 Token für die Anfrage plus jedes einzelne Dokument. Er erlaubt bis zu 1.000 Kandidatendokumente und ein Gesamtbudget von 600.000 Token pro Anfrage, berechnet als Anfrage-Token multipliziert mit der Dokumentanzahl plus sämtliche Dokument-Token. Eine lange Anfrage belegt somit Platz in jedem Paar und geht wiederholt in das Gesamtbudget ein. Zählen Sie den eingereichten Text mit dem passenden Modell-Tokenizer, statt Zeichen, Wörter und Token als austauschbar zu behandeln.

Eine Anfrage mit 500 Token und 100 Dokumenten mit jeweils 4.000 Token ergibt nach dieser Formel beispielsweise 450.000 Eingabe-Token. Dies veranschaulicht die Budgetierung, keine empfohlene Größe der engeren Auswahl und kein gemessenes Geschwindigkeitsergebnis. Die dokumentierte Kürzungsoption ist standardmäßig aktiviert; übergroßer Text kann vor der Bewertung gekürzt werden. Bereiten Sie wichtige Abschnitte gezielt vor, damit die Kürzung nicht genau die Textstelle entfernt, die abgeglichen werden soll.

Das Ergebnis lesen und verwenden Ergebnisse sind absteigend nach Relevanzwert sortiert. Jedes Ergebnis benennt die ursprüngliche Eingabeposition des Dokuments, sodass die Anwendung eigenen Titel, Datensatzkennung und Quelle zuordnen kann. Die Einstellung top_k steuert, wie viele gereihte Kandidaten zurückgegeben werden; ohne diese Angabe werden alle Kandidaten zurückgegeben. Die REST-Schnittstelle des Herstellers kann außerdem den Dokumenttext zurückgeben. Behalten Sie die ursprünglichen Kennungen neben den ausgewählten Ergebnissen bei, wenn Sie eine Suchseite anzeigen oder Belege an eine Antwortgenerierungsstufe weitergeben.

Ein Relevanzwert drückt aus, wie gut ein Kandidat zur Anfrage passt; er belegt nicht die Richtigkeit seiner Aussagen. Vergleichen Sie die bestgereihten Elemente mit der tatsächlichen Nutzerfrage einschließlich Ausschlüssen und Unterschieden zwischen Dokumentversionen. Sind alle Kandidaten irrelevant, existiert trotzdem ein bestgereihtes Element. Entscheiden Sie anhand repräsentativer Anfragen aus der Sammlung, wie Ihre Anwendung diesen Fall behandelt.

Aufrüsten und die Ausgabe wählen Der Hersteller beschreibt rerank-3-lite als Nachfolger von rerank-2.5-lite mit unveränderter API-Semantik und Werten, die auf die Verteilung des entsprechenden Vorgängers kalibriert sind. Bewahren Sie die bestehende Datensatzzuordnung und Abrufstufe und vergleichen Sie anschließend die resultierende Reihenfolge bei aussagekräftigen Anfragen, bevor Sie sich auf einen etablierten Schwellenwert verlassen. Verwenden Sie Lite für eine Suche, bei der die Antwortzeit zählt; ziehen Sie die qualitätsorientierte Ausgabe rerank-3 zum Vergleich heran, wenn die Relevanz bei schwierigen Kandidaten höhere Priorität hat.