Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast ist die leichtere Rerank-4-Version für Suchaufgaben mit geringerer Latenz und höherem Durchsatz. Es verarbeitet eine Anfrage und Kandidatendokumente und liefert deren Relevanzreihenfolge und Werte. Es eignet sich für interaktive Suche, wiederholte Belegauswahl und Anwendungen, die eine vorhandene Ergebnisliste neu ordnen müssen. Fast bleibt eigenständig gegenüber Rerank 4 Pro, das für komplexere Fälle mit Priorität auf Suchqualität positioniert ist.

Der Herstellercode lautet rerank-v4.0-fast. Wie Pro hat es einen Kontext von 32'768 Tokens und mehrsprachige Abdeckung über mehr als 100 Sprachen. Anfrage und ein Dokument teilen den Kontext; er ist weder eine Vektordimension noch ein Budget für einen gesamten indexierten Korpus. Stellen Sie die zu vergleichenden Kandidatentexte bereit, statt zu erwarten, dass das Modell Dokumente aus einer nicht bereitgestellten Quelle abruft.

Das dokumentierte Ergebnis enthält den ursprünglichen Dokumentindex und einen relevance_score. top_n legt fest, wie viele Ergebnisse zurückgegeben werden; ohne ihn wird die vollständige sortierte Liste geliefert. Bewahren Sie Quellenkennungen neben den Eingaben, damit die neue Reihenfolge den tatsächlichen Passagen zugeordnet werden kann. Beschreiben Sie für eine Produktsuche die erforderlichen Produktattribute in der Anfrage und sortieren Sie die Kandidatenbeschreibungen neu; ein höherer Rang sollte mit dem zugrunde liegenden Produktdatensatz verbunden bleiben.

Das Modell kann englische und nicht englische Dokumente sowie halbstrukturierte Datensätze verarbeiten. Im V2-Ablauf sind Dokumenteingaben Zeichenketten; Cohere empfiehlt die Darstellung strukturierter Daten als YAML. Setzen Sie wichtige Felder zuerst und bewahren Sie ihre Reihenfolge, damit Kürzung nicht den zur Relevanzbewertung nötigen Inhalt entfernt. Ein Supportdatensatz kann Titel, Produkt und Verfahrenstext enthalten; eine Nachricht Betreff und Text. Diese ausdrücklichen Beziehungen geben dem Ranker mehr Informationen als eine Liste übereinstimmender Schlüsselwörter.

Das modellspezifische Anfragelimit in Coheres Vorbereitungsleitfaden beträgt 16'384 Tokens; Anfrage und Dokument verbrauchen den gemeinsamen Kontext. Der Leitfaden beschreibt die abschnittsweise Verarbeitung längerer Dokumente, während die V2-Referenz Dokumentkürzung separat durch max_tokens_per_doc standardmässig auf 4096 Tokens setzt. Prüfen Sie diese effektive Dokumenteinstellung, statt anzunehmen, das gesamte 32K-Modellfenster werde immer genutzt. Bereiten Sie relevante Passagen oder ein geeignetes Dokumentbudget für die tatsächliche Suchaufgabe vor.

Für die empfohlene Leistung rät Cohere von mehr als 1'000 Dokumenten pro Anfrage ab. Teilen Sie grössere Kandidatenmengen in handhabbare Gruppen und bewahren Sie ihre Kennungen. Die Ausgabewerte sind von 0 bis 1 normalisiert und hängen von Anfrage und Passagen ab. Ihre Reihenfolge ist das wesentliche Ergebnis; ein Wert ist weder ein lineares Vielfaches der Relevanz noch ein Beweis für die Richtigkeit einer Passage. Legen Sie Filtergrenzen anhand repräsentativer Anfragen und grenzwertig relevanter Passagen des Fachgebiets fest.

Ein brauchbares Fast-Ergebnis ist eine sortierte Liste, die unmittelbar eine Suchanzeige steuern oder Belege für einen Antwortschritt auswählen kann. Bewahren Sie den Quelltext zusammen mit dem Wert und prüfen Sie, ob die obersten Ergebnisse die angeforderten Bedingungen tatsächlich behandeln. Fasts Rolle ist die Suchrangfolge statt der Erzeugung einer neuen Erklärung oder eines Embedding-Vektors. Halten Sie benannte Version und Eingabevorbereitung bei der Verfeinerung des Relevanzverhaltens konsistent.