Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast ist die leichtere Rerank-4-Edition für Suchaufgaben mit geringerer Latenz und höherem Durchsatz. Es nimmt eine Suchanfrage und Kandidatendokumente entgegen und gibt ihre Relevanzrangfolge und Werte zurück. Es ist für interaktive Suche, wiederholte Belegauswahl und Anwendungen nützlich, die eine bestehende Ergebnisliste neu ordnen müssen. Fast bleibt eine eigenständige Edition neben Rerank 4 Pro, das für komplexere Fälle positioniert ist, bei denen Suchqualität Vorrang hat.

Der Herstellercode lautet rerank-v4.0-fast. Wie Pro hat es einen Kontext von 32.768 Tokens und mehrsprachige Abdeckung in mehr als 100 Sprachen. Suchanfrage und ein Dokument teilen sich den Kontext; er ist weder eine Vektordimension noch ein Budget für einen gesamten indexierten Korpus. Stellen Sie die zu vergleichenden Kandidatentexte bereit, statt zu erwarten, dass das Modell Dokumente aus einer nicht bereitgestellten Quelle abruft.

Das dokumentierte Ergebnis enthält den ursprünglichen Dokumentindex und einen relevance_score. top_n legt fest, wie viele Ergebnisse zurückgegeben werden; ohne diese Angabe wird die vollständige sortierte Liste zurückgegeben. Bewahren Sie Quellenkennungen neben den Eingaben, damit die neue Reihenfolge den tatsächlichen Textstellen zugeordnet werden kann. Beschreiben Sie für eine Produktsuche die erforderlichen Produktattribute in der Suchanfrage und ordnen Sie die Kandidatenbeschreibungen neu; ein höherer Rang sollte mit dem Produktdatensatz verbunden bleiben, aus dem er entstanden ist.

Das Modell kann englische und nicht englische Dokumente sowie semistrukturierte Datensätze verarbeiten. Im V2-Ablauf sind Dokumenteingaben Zeichenfolgen; Cohere empfiehlt, strukturierte Daten als YAML darzustellen. Stellen Sie wichtige Felder voran und bewahren Sie ihre Reihenfolge, damit durch Abschneiden nicht der zur Relevanzbeurteilung nötige Inhalt verloren geht. Ein Supportdatensatz kann Titel, Produkt und Verfahrenstext enthalten; eine Nachricht kann Betreff und Nachrichtentext enthalten. Diese ausdrücklichen Beziehungen geben dem Ranker Informationen über eine Liste übereinstimmender Schlüsselwörter hinaus.

Die modellspezifische Suchanfragegrenze in Coheres Vorbereitungsleitfaden beträgt 16.384 Tokens, wobei Suchanfrage und Dokument den gemeinsamen Kontext belegen. Der Leitfaden beschreibt die abschnittsweise Verarbeitung längerer Dokumente, während die V2-Referenz die Dokumentkürzung durch max_tokens_per_doc separat standardmäßig auf 4.096 Tokens setzt. Prüfen Sie diese effektive Dokumenteinstellung, statt anzunehmen, das gesamte 32K-Modellfenster werde immer genutzt. Bereiten Sie relevante Textstellen oder ein geeignetes Dokumentbudget für die tatsächliche Suchaufgabe vor.

Für die empfohlene Leistung rät Cohere von mehr als 1.000 Dokumenten in einer Anfrage ab. Teilen Sie größere Kandidatenmengen in überschaubare Gruppen und bewahren Sie dabei ihre Kennungen. Die Ausgabewerte werden von 0 bis 1 normalisiert und hängen von Suchanfrage und Textstellen ab. Ihre Rangfolge ist das zentrale Ergebnis; ein Wert ist weder ein lineares Vielfaches der Relevanz noch ein Beweis für die Richtigkeit einer Textstelle. Legen Sie jede Filterschwelle anhand repräsentativer Anfragen und grenzwertig relevanter Textstellen aus dem Fachgebiet fest.

Ein hilfreiches Fast-Ergebnis ist eine sortierte Liste, die unmittelbar eine Suchanzeige steuern oder Belege für eine Antworterzeugungsstufe auswählen kann. Bewahren Sie den Quelltext gemeinsam mit dem Wert und prüfen Sie, ob die obersten Ergebnisse die gewünschten Bedingungen tatsächlich behandeln. Fast dient der Relevanzsortierung beim Informationsabruf, nicht dem Erzeugen einer neuen Erklärung oder eines Embedding-Vektors. Halten Sie die benannte Edition und die Eingabevorbereitung beim Verfeinern des Relevanzverhaltens konsistent.