Cohere: Rerank v3.5

Cohere Rerank 3.5 ist ein mehrsprachiges Modell zur Relevanzsortierung von Dokumentkandidaten und halbstrukturiertem Text. Es bewertet jeden Kandidaten in Bezug auf eine Anfrage und gibt eine neu geordnete Ergebnisliste mit Relevanzwerten zurück. Es kann Kandidaten aus einer Schlüsselwort- oder semantischen Suche verfeinern und Passagen für eine durch Suche ergänzte Antwort auswählen. Seine Aufgabe ist eine bessere Reihenfolge der Belege statt der Erzeugung einer frei formulierten Antwort oder eines neuen Korpusindex.

Die genaue Herstellerkennung lautet rerank-v3.5. Es verwendet einen Kontext von 4096 Tokens, getrennt vom 32K-Kontext von Rerank 4 Pro und Fast. Anfrage- und Dokumenttokens zählen gemeinsam gegen dieses Fenster je Kandidat. Die modellspezifische Vorbereitungsanleitung kürzt eine Anfrage nach ihren ersten 2048 Tokens und beschreibt Dokumentabschnitte von 4093 Tokens, bevor die Anfrage berücksichtigt wird. Halten Sie die Anfrage gezielt und bereiten Sie Kandidatenpassagen vor, die die zur Beurteilung der gewünschten Beziehung benötigten Informationen enthalten.

Stellen Sie die Anfrage und eine Liste von Kandidatentexten als Zeichenfolgen bereit. Jedes Ergebnis enthält einen Index auf die ursprüngliche Dokumentposition und einen Relevanzwert; top_n bestimmt, wie viele sortierte Ergebnisse behalten werden. Ohne diese Angabe gibt der dokumentierte Herstellerablauf alle Ergebnisse zurück. Bewahren Sie Dokumentkennungen unabhängig vom Wert, damit die oberste Passage weiterhin zur ursprünglichen Richtlinie, zum Produktdatensatz oder zur Nachricht zurückverfolgt werden kann.

Rerank 3.5 unterstützt mehr als 100 Sprachen, einschließlich englischer und nichtenglischer Materialien. Eine Anfrage kann mehrere Bedarfsaspekte enthalten, etwa Produkt, Nutzersituation und gewünschtes Verfahren. Für strukturierte Datensätze hat die V2-Version rohe Dokumentobjekte entfernt und empfiehlt YAML-Zeichenfolgen. Halten Sie nützliche Felder in einer bewusst gewählten Reihenfolge und stellen Sie entscheidende Inhalte vor weniger relevante Metadaten, da lange Zeichenfolgen gekürzt werden können. Dies eignet sich für Titel und Inhalt, Produktattribute oder Nachrichtenbetreff und -text.

Die V2-Herstellerreferenz verwendet max_tokens_per_doc zur Dokumentkürzung mit dem Standardwert 4096. Coheres Vorbereitungsanleitung beschreibt außerdem die Aufteilung langer Dokumente; die effektive Eingabe hängt vom gewählten Ablauf und seinen Dokumenteinstellungen ab. Bereiten Sie für mehr Kontrolle selbst identifizierbare Passagen vor, statt anzunehmen, dass jeder Abschnitt einer langen Quelle sichtbar bleibt. Bewahren Sie genügend umgebenden Kontext, um eine antworttragende Passage von einer Passage zu unterscheiden, die lediglich dasselbe Vokabular verwendet.

Für die Anfrageleistung empfiehlt die aktuelle Referenz, nicht mehr als 1.000 Dokumente auf einmal zu senden. Relevanzwerte sind zwischen 0 und 1 normalisiert, hängen jedoch von Anfrage und Kandidaten ab und bilden keine lineare Korrektheitsskala. Verwenden Sie die Rangfolge, um nützliche Belege zu finden. Wird ein Schwellenwert benötigt, wählen Sie repräsentative Fachanfragen und grenzwertig relevante Passagen, damit der Schwellenwert die tatsächliche Suchaufgabe widerspiegelt.

Ein praktischer Supportablauf kann mögliche Abschnitte einer Rückgaberichtlinie für eine Frage zu einem beschädigten Artikel neu sortieren und den ausgewählten Quelltext anschließend an einen Antwortschritt weitergeben. Eine E-Mail-Suche kann Nachrichten nach einem bestimmten Problem ordnen und bei jedem Ergebnis die ursprüngliche Nachrichtenkennung bewahren. Das nützliche Ergebnis ist die geordnete Belegliste. Halten Sie den kürzeren Kontext von Rerank 3.5 und die V2-Dokumentvorbereitung mit diesem Ergebnis verbunden, statt die Grenzen späterer Modelle einzusetzen.