VoyageAI by MongoDB: rerank-2.5

rerank-2.5 は、検索候補群を調整するために設計された Voyage AI の指示追従型リランカーです。クロスエンコーダーとしてクエリと各文書を一緒に調べ、関連性の順序を返します。開発元のリリースは、何を関連ありとするかの自然言語による制御、多言語検索、前の rerank-2 版より長いクエリ・文書コンテキストを重視しています。

比較する候補をモデルに渡す

入力は、クエリと候補テキスト文書の一覧です。埋め込み検索や語彙による第 1 段階の検索で選んだ文章を使えます。リランカーは資料群の埋め込みを作るのではなく、提供されたテキストを評価するため、実用上の役割は、最初の検索ですでに見つかった候補の調整です。

一覧の準備では、元の候補順序と出典識別子を保ってください。返されるインデックスは、それらの入力位置を指します。RAG の作業では、解釈に必要なタイトルや条件を含め、回答段階で実際に使い得る文章を渡します。送信した候補群にない関連文書が、再順位付けで新たに見つかった結果として現れることはありません。

意図する関連性の意味を指定する

指示はクエリの前後に追加できます。リリースは、文書の特定部分を強調する、出典の種類を優先する、アプリケーションの文脈でクエリのあいまいさを解消する、という 3 つの有用な役割を説明しています。これらは、モデルに提示する関連性判断の作業を変えます。

技術検索の指示例は、「失敗と復旧の挙動を説明する文章を優先してください。導入的な概要は二次的なものとします」です。調査資料群では、タイトル、手法、結果のどれが最も重要かを指定してください。あいまいな用語では、検索の対象分野を示します。一方が広い話題を求め、他方が知らないうちに作業を変えないよう、質問と指示を整合させてください。

これらの希望は、関連性の採点を導きます。アプリケーションに、出典のバージョン、日付、アクセス範囲など厳密な適格要件がある場合は、適格な候補群を別途用意してください。モデルへの関連性の指示と、決定論的な条件による候補集合の絞り込みは、異なる目的を持ちます。

順位付き出力と後での結果利用

結果は関連性の高い順に並び、浮動小数点の関連性スコアと、候補の元の入力インデックスを含みます。top-k オプションは返す上位結果数を選び、指定しなければ開発元の仕様では、送信した全候補の結果を返します。任意の return-documents 設定を使うと対応する元のテキストを含み、それ以外の応答はインデックスとスコアです。

その順序を使い、出典の識別情報を保ったまま、表示や後の回答段階に使う文章を選んでください。順位を評価する際は、実際の文章を確認します。スコアは、送信したクエリへの関連性の尺度であり、生成した回答や、文書の主張が正しいことの検証ではありません。このため、順位付けを専門分野の結論に変えることなく、技術、法律、金融、医療、会話、多言語の検索資料の調整に役立ちます。

コンテキスト、総トークン予算、切り詰め

文書化されたクエリ上限は、クエリ内に置いた指示を含めて 8,000 トークンです。クエリと 1 件の候補文書の合計は 32,000 トークン以内に収める必要があり、文書一覧は最大 1,000 件です。総枠は 600,000 トークンで、クエリのトークン数に文書数を掛け、すべての文書のトークン数を加えて数えます。したがって、長い指示は候補の組ごとに繰り返し数えられます。

出力の top-k 件数は、この入力トークン計算の候補数を変えません。デフォルトの切り詰めは、長すぎるクエリや文書をコンテキスト上限に合わせて短縮し、無効にすると長すぎるクエリや組でエラーが返ります。答えを含む文章を意識して用意し、モデルが見るテキストの中に関連する条件を残してください。代表的な質問と指示で調整後の順序を評価し、選んだ元の文章を次の段階に渡します。