Cohere: Rerank v3.5

Cohere Rerank 3.5 ist ein mehrsprachiges Modell zur Relevanzsortierung von Kandidatendokumenten und semistrukturiertem Text. Es bewertet jeden Kandidaten im Verhältnis zu einer Suchanfrage und gibt eine neu geordnete Ergebnisliste mit Relevanzwerten zurück. Es kann Kandidaten aus schlüsselwortbasierter oder semantischer Suche verfeinern und Textstellen für eine durch abgerufene Informationen ergänzte Antwort auswählen. Seine Aufgabe ist die bessere Ordnung von Belegen, nicht das Erzeugen einer frei formulierten Antwort oder eines neuen Korpusindex.

Die genaue Herstellerkennung lautet rerank-v3.5. Es verwendet einen Kontext von 4.096 Tokens, im Unterschied zum 32K-Kontext von Rerank 4 Pro und Fast. Suchanfrage- und Dokumenttokens zählen gemeinsam gegen dieses Fenster pro Kandidat. Der modellspezifische Vorbereitungsleitfaden schneidet eine Suchanfrage nach ihren ersten 2.048 Tokens ab und beschreibt Dokumentabschnitte von 4.093 Tokens, bevor die Suchanfrage berücksichtigt wird. Halten Sie die Suchanfrage gezielt und bereiten Sie Kandidatentextstellen mit den Informationen vor, die zur Beurteilung der gewünschten Beziehung nötig sind.

Stellen Sie die Suchanfrage und eine Liste von Kandidatentextzeichenfolgen bereit. Jedes Ergebnis enthält einen Index auf die ursprüngliche Dokumentposition und einen Relevanzwert; top_n legt fest, wie viele sortierte Ergebnisse beibehalten werden. Ohne diese Angabe liefert der dokumentierte Herstellerablauf alle Ergebnisse zurück. Bewahren Sie Dokumentkennungen unabhängig vom Wert, damit die oberste Textstelle weiterhin auf die ursprüngliche Richtlinie, den Produktdatensatz oder die Nachricht zurückgeführt werden kann.

Rerank 3.5 unterstützt mehr als 100 Sprachen, einschließlich englischen und nicht englischen Materials. Eine Suchanfrage kann mehrere Aspekte des Bedarfs enthalten, etwa Produkt, Nutzersituation und gewünschtes Verfahren. Für strukturierte Datensätze hat die V2-Veröffentlichung rohe Dokumentobjekte entfernt und empfiehlt YAML-Zeichenfolgen. Halten Sie nützliche Felder in einer bewusst gewählten Reihenfolge, mit entscheidendem Inhalt vor weniger relevanten Metadaten, weil lange Zeichenfolgen abgeschnitten werden können. Das eignet sich für Titel und Inhalt, Produktattribute oder Betreff und Text einer Nachricht.

Die V2-Herstellerreferenz verwendet max_tokens_per_doc zum Abschneiden von Dokumenten mit einem Standardwert von 4.096. Coheres Vorbereitungsleitfaden beschreibt außerdem die Zerlegung langer Dokumente in Abschnitte; die effektive Eingabe hängt vom gewählten Ablauf und dessen Dokumenteinstellungen ab. Bereiten Sie für mehr Kontrolle selbst identifizierbare Textstellen vor, statt anzunehmen, jeder Abschnitt einer langen Quelle bleibe sichtbar. Bewahren Sie genügend umgebenden Kontext, um eine antworttragende Textstelle von einer zu unterscheiden, die lediglich dasselbe Vokabular verwendet.

Für die Anfrageleistung empfiehlt die aktuelle Referenz, nicht mehr als 1.000 Dokumente auf einmal zu senden. Relevanzwerte werden zwischen 0 und 1 normalisiert, hängen aber von Suchanfrage und Kandidaten ab und bilden keine lineare Korrektheitsskala. Verwenden Sie die Rangfolge, um hilfreiche Belege zu identifizieren. Ist ein Schwellenwert nötig, wählen Sie repräsentative Fachanfragen und grenzwertig relevante Textstellen, damit die Schwelle die tatsächliche Suchaufgabe widerspiegelt.

Ein praktischer Supportablauf kann Kandidatenabschnitte einer Rückgaberichtlinie für eine Frage zu einem beschädigten Artikel neu ordnen und den ausgewählten Quelltext dann an eine Antworterzeugungsstufe übergeben. Eine E-Mail-Suche kann Nachrichten nach einem konkreten Problem sortieren und die ursprüngliche Nachrichtenkennung bei jedem Ergebnis behalten. Das nützliche Ergebnis ist die geordnete Belegliste. Halten Sie den kürzeren Kontext von Rerank 3.5 und die V2-Dokumentvorbereitung mit diesem Ergebnis verbunden, statt Grenzen späterer Modelle einzusetzen.