Cohere: Rerank v3.5

Cohere Rerank 3.5 は、候補文書と半構造化テキストの関連度順位付けを行う多言語モデルです。クエリに対して各候補を評価し、関連度スコア付きの並べ替え済み結果一覧を返します。キーワード検索や意味検索から得た候補を改善し、検索拡張型の回答に使う文章を選べます。役割は、自由形式の回答を生成したり、新しいコーパス索引を作ったりすることではなく、根拠の並び順を改善することです。

開発元の正確な識別子は rerank-v3.5 です。4096 トークンのコンテキストを使い、Rerank 4 Pro と Fast の 32K コンテキストとは異なります。クエリと文書のトークンは、候補ごとのこのウィンドウに合算されます。モデル固有の準備ガイドでは、2048 トークンを超えるクエリを先頭部分に切り詰め、クエリを考慮する前の文書チャンクを 4093 トークンとして説明しています。クエリの焦点を絞り、求める関係を判断するのに必要な情報を含む候補文章を用意します。

クエリと候補テキスト文字列の一覧を提供します。各結果には、元の文書位置を指すインデックスと、関連度スコアが含まれます。top_n は、保持する順位付き結果の数を選びます。省略した場合、文書化された開発元ワークフローはすべての結果を返します。最上位の文章を元の方針、製品レコード、メッセージまでたどれるよう、文書識別子をスコアとは独立して保持してください。

Rerank 3.5 は、英語と英語以外の資料を含む、100 を超える言語に対応します。クエリには、製品、ユーザーの状況、必要な手順など、要望の複数の側面を含められます。構造化レコードについて、V2 リリースは生の文書オブジェクトを廃止し、YAML 文字列を推奨しています。長い文字列は切り詰められることがあるため、決定的な内容を関連度の低いメタデータより先に置き、有用なフィールドを意図した順序で保ちます。タイトルと本文、製品属性、メッセージの件名と本文などに使えます。

V2 の開発元リファレンスは、文書の切り詰めに max_tokens_per_doc を使い、既定値は 4096 です。Cohere の準備ガイドでは、長い文書のチャンク化も説明しています。有効な入力は、選んだワークフローと文書設定に依存します。より細かく制御するには、長い出典のすべての節が見えると仮定せず、自分で識別可能な文章を準備します。答えを含む文章と、単に同じ語彙を使う文章を区別できるだけの周辺文脈を保持してください。

リクエスト性能について、現在のリファレンスは、1度に 1,000 文書を超えて送らないことを推奨しています。関連度スコアは 0〜1 に正規化されますが、値はクエリと候補に依存し、正しさの線形尺度ではありません。順位を使って有用な根拠を特定します。スコア閾値が必要な場合は、分野を代表するクエリと、関連性が境界にある文章を選び、実際の検索タスクを反映した閾値にします。

実用的なサポートのワークフローでは、破損商品の質問に対し、候補となる返品方針の節を並べ替え、選んだ原文を回答作成の工程へ渡せます。メール検索では、特定の問題についてメッセージを順位付けし、各結果に元のメッセージ識別子を残せます。有用な成果物は、順序付けされた根拠の一覧です。その結果には、後発モデルの上限に置き換えるのではなく、Rerank 3.5 の短いコンテキストと V2 の文書準備条件を添えて保持します。