Cohere: Rerank v3.5

Cohere Rerank 3.5 ist ein mehrsprachiges Modell zur Relevanzsortierung von Kandidatendokumenten und halbstrukturiertem Text. Es bewertet jeden Kandidaten im Verhältnis zu einer Anfrage und liefert eine neu geordnete Ergebnisliste mit Relevanzwerten. Es kann Kandidaten aus Schlüsselwort- oder semantischer Suche verfeinern und Passagen für eine suchgestützte Antwort auswählen. Seine Aufgabe ist eine bessere Belegreihenfolge statt der Generierung einer freien Antwort oder eines neuen Korpusindex.

Die genaue Herstellerkennung lautet rerank-v3.5. Es verwendet einen Kontext von 4096 Tokens, im Unterschied zum 32K-Kontext von Rerank 4 Pro und Fast. Anfrage- und Dokumenttokens zählen gemeinsam gegen dieses Fenster pro Kandidat. Der modellspezifische Vorbereitungsleitfaden kürzt eine Anfrage nach ihren ersten 2048 Tokens und beschreibt Dokumentabschnitte von 4093 Tokens vor Berücksichtigung der Anfrage. Halten Sie die Anfrage fokussiert und bereiten Sie Kandidatenpassagen mit den zur Bewertung der gewünschten Beziehung nötigen Informationen vor.

Stellen Sie die Anfrage und eine Liste von Kandidatentexten als Zeichenketten bereit. Jedes Ergebnis enthält einen Index auf die ursprüngliche Dokumentposition und einen Relevanzwert; top_n legt fest, wie viele sortierte Ergebnisse beibehalten werden. Ohne diesen Parameter liefert der dokumentierte Herstellerablauf alle Ergebnisse. Bewahren Sie Dokumentkennungen unabhängig vom Wert, damit die oberste Passage weiterhin auf die ursprüngliche Richtlinie, den Produktdatensatz oder die Nachricht zurückgeführt werden kann.

Rerank 3.5 unterstützt mehr als 100 Sprachen, einschliesslich englischem und nicht englischem Material. Eine Anfrage kann mehrere Bedarfsaspekte enthalten, etwa Produkt, Nutzersituation und gewünschtes Verfahren. Für strukturierte Datensätze entfernte die V2-Veröffentlichung rohe Dokumentobjekte und empfiehlt YAML-Zeichenketten. Halten Sie nützliche Felder in einer bewussten Reihenfolge, mit entscheidendem Inhalt vor weniger relevanten Metadaten, da lange Zeichenketten gekürzt werden können. Dies eignet sich für Titel und Inhalt, Produktattribute oder Betreff und Text einer Nachricht.

Die V2-Herstellerreferenz verwendet max_tokens_per_doc für Dokumentkürzung, standardmässig mit 4096. Coheres Vorbereitungsleitfaden beschreibt ausserdem die Aufteilung langer Dokumente; die effektive Eingabe hängt vom gewählten Ablauf und seinen Dokumenteinstellungen ab. Bereiten Sie für mehr Kontrolle selbst identifizierbare Passagen vor, statt anzunehmen, jeder Abschnitt einer langen Quelle bleibe sichtbar. Bewahren Sie genug Umfeld, um eine antworttragende Passage von einer Passage mit lediglich gleichem Vokabular zu unterscheiden.

Für die Anfrageleistung empfiehlt die aktuelle Referenz, nicht mehr als 1'000 Dokumente gleichzeitig zu senden. Relevanzwerte werden zwischen 0 und 1 normalisiert, hängen jedoch von Anfrage und Kandidaten ab und bilden keine lineare Korrektheitsskala. Nutzen Sie die Rangfolge zur Auswahl hilfreicher Belege. Falls eine Wertschwelle benötigt wird, wählen Sie repräsentative Fachanfragen und grenzwertig relevante Passagen, damit sie die tatsächliche Suchaufgabe widerspiegelt.

Ein praktischer Supportablauf kann Kandidatenabschnitte einer Rückgaberichtlinie für eine Frage zu einem beschädigten Artikel neu sortieren und den ausgewählten Quelltext anschliessend an einen Antwortschritt übergeben. Eine E-Mail-Suche kann Nachrichten nach einem konkreten Problem ordnen und die ursprüngliche Nachrichtenkennung mit jedem Ergebnis bewahren. Das nutzbare Ergebnis ist die geordnete Belegliste. Halten Sie den kürzeren Kontext von Rerank 3.5 und seine V2-Dokumentvorbereitung mit diesem Ergebnis verbunden, statt Grenzen späterer Modelle einzusetzen.