Cohere: Rerank 4 Fast

Cohere Rerank 4 Fast は、より低い遅延と高いスループットの検索タスク向けに位置付けられた、軽量な Rerank 4 エディションです。クエリと候補文書を受け取り、関連度の順位とスコアを返します。対話型検索、繰り返しの根拠選択、既存の結果一覧を並べ替える必要があるアプリケーションに役立ちます。Fast は、より複雑で検索品質を優先するケース向けの Rerank 4 Pro とは独立したエディションです。

開発元コードは rerank-v4.0-fast です。Pro と同様、32,768 トークンのコンテキストを持ち、100 を超える言語に対応します。クエリと1文書がコンテキストを共有します。これはベクトル次元でも、索引化されたコーパス全体の枠でもありません。渡していない出典からモデルが文書を取得すると期待せず、比較すべき候補テキストを提供してください。

文書化された結果には、元の文書インデックスと relevance_score が含まれます。top_n は返す結果数を選択し、省略時は順位付き一覧全体が返されます。新しい順位を実際の文章と結び付けられるよう、入力に出典識別子を添えます。製品検索では、クエリで必要な製品属性を説明し、候補の説明を並べ替えます。高い順位は、それを生んだ製品レコードとのつながりを保つ必要があります。

このモデルは、英語と英語以外の文書、および半構造化レコードを扱えます。V2 ワークフローの文書入力は文字列であり、Cohere は構造化データを YAML で表すことを推奨しています。切り詰めによって関連度の判断に必要な内容が失われないよう、重要なフィールドを先に置き、順序を保持します。サポートのレコードには、タイトル、製品、手順の文章を含められます。メッセージには、件名と本文を含められます。このような明示的な関係により、単なる一致キーワードの一覧を超える情報を順位付けモデルへ与えられます。

Cohere の準備ガイドでのモデル固有のクエリ上限は 16,384 トークンで、クエリと文書は共有コンテキストを消費します。ガイドは、長い文書のチャンク処理を説明しています。一方、V2 リファレンスは、それとは別に max_tokens_per_doc で文書を切り詰め、既定値を 4096 トークンとしています。32K のモデルウィンドウ全体が常に使われると仮定せず、この実効的な文書設定を確認してください。実際の検索タスクに合う関連文章や文書枠を用意します。

推奨性能のため、Cohere は1リクエストに 1,000 文書を超えて含めないよう助言しています。より大きな候補集合は、識別子を保持しながら扱いやすいグループに分けます。出力スコアは 0〜1 に正規化され、クエリと文章に依存します。重要な結果は順位です。スコアは、関連度の線形な倍率でも、文章が正しいことの証明でもありません。フィルタリングの閾値は、その分野を代表するクエリと、関連性が境界にある文章を使って決めます。

有用な Fast の結果は、検索表示にすぐ使えたり、回答作成工程の根拠を選べたりする順位付き一覧です。出典テキストをスコアとともに保持し、上位結果が要求された条件を実際に扱っているか確認します。Fast の役割は検索順位付けであり、新しい説明や埋め込みベクトルの生成ではありません。関連度の動作を改善するときは、名称付きエディションと入力準備を統一します。