Mistral: Mistral Embed 2312

Mistral Embed 2312は、意味を数値で表現するMistral AIのテキスト埋め込みモデルです。テキスト文字列または文字列のリストを受け取り、入力ごとに埋め込みを返します。結果は、会話形式の説明ではなく、アプリケーションが類似度比較、検索、分類、クラスタリングに使うベクトルです。メーカーの固定モデルページには、mistral-embed-2312というIDが示されています。

入力、コンテキスト、ベクトルの形

この正確なモデルページには、8kというコンテキスト表記が記載されています。各テキスト項目を適用される入力容量の範囲内で準備し、その項目の識別情報をベクトルとともに保持してください。長い原本文書は有用な文章単位に分割しながら、その後で正しい資料を返すために必要な文書タイトル、節、出典の位置を残せます。

メーカーのMistral Embedガイドは、入力の見た目の長さにかかわらず、各テキストの埋め込みを1,024次元と指定しています。したがって、短い質問と長めの文章は、内容やトークン数が異なっても同じ形のベクトルになります。これは出力表現の次元であり、回答トークンの上限や、保持される原文の単語数を示す尺度ではありません。

文書化された応答には、埋め込みとトークン使用量情報が含まれます。エンドポイントの例は、各ベクトルを入力インデックスに対応付けています。複数のテキストを処理する際は、その対応関係を維持してください。有用な検索結果を表示したり、後の工程に出典資料を提供したりするために、アプリケーションには数値結果に加えて元のテキストと識別子も必要です。

意味的な類似度

ガイドは、関連するテキストは埋め込み空間で近くなる傾向があると説明しています。これにより、同じ話題や要件を異なる言葉で表現した文章を見つけやすくなります。ナレッジベースのクエリの例なら、アクセスを回復する方法を質問し、関連手順では同じ操作に別の表現を使っている場合があります。アプリケーションは、完全な単語一致だけに頼らず、クエリのベクトルを保存済み文章のベクトルと比較できます。

メーカーの例では、単位長に正規化した埋め込みを使用しています。そのようなベクトルでは、コサイン類似度、内積、ユークリッド距離の数値は同一ではなくても、一貫した類似順位が得られます。適切な比較方法を1つ選び、クエリと文書の表現全体に一貫して適用してください。

類似していることは、2つの記述を置き換えられる証明ではありません。原文を残し、質問に重要な条件、日付、識別子を点検してください。2つの文章が同じ話題を扱いながら、異なる手順や例外を説明することもあります。埋め込みは検索信号を提供し、選ばれた文章の解釈はタスクの別の部分です。

検索と出典に基づく回答

実用的な文書ワークフローでは、ナレッジベースの文章にベクトルを準備し、その識別子と原文を保存して、新しい質問をそのコレクションと比較します。関連する文章を出典の位置とともに返してください。アプリケーションは、それらの文章を直接表示することも、検索資料に基づいて回答を書くテキスト生成モデルに渡すこともできます。

有用な検索結果のために、文書タイトル、節、文章、それを見つけるための識別子を残してください。そうすればサポートアシスタントは、ユーザーの質問に関連する手順を検索し、回答作成段階に渡せます。Mistral Embedが行うのは数値表現の段階です。最終的な説明を起草したり、外部の行動を実行したりするわけではありません。

その他の文書化された用途

メーカーは、埋め込みワークフローとして、言い換えの検出、分類、クラスタリング、バッチ処理も挙げています。比較タスクでは、確認のために意味の関連する文章を検索できます。分類ワークフローでは、入力をラベル付きの例と比較したり、ベクトルを別の分類器の特徴量として使ったりできます。クラスタリングのワークフローでは、似た項目をグループにまとめ、その後で人やアプリケーションの段階が説明を付けられます。

データを準備する前に、表現の目的を定義してください。意味検索に使う文章は、検索後に必要になる情報を残すべきです。分類の例には、そのクラスを区別する表現を含めるべきです。クエリと保存された項目が比較可能な資料を表現するよう、準備方式を一致させてください。

エディションと出力の境界

文書とそのクエリには、同じモデルエディションと互換性のある表現を使用してください。別のモデルから得た同じ座標数のベクトルが、自動的に同じ意味空間に属するわけではありません。モデルや表現を置き換える場合も、保存済みの項目とクエリの整合性を保つ必要があります。

この項目は、メーカーの8kコンテキストと、Mistral Embedで文書化された1,024次元表現を持つ、テキスト入力と数値ベクトル出力を説明しています。Codestral Embedの設定可能な次元や量子化形式は、別名のコードモデルに属し、ここで使えると想定するべきではありません。画像、音声、文章生成、ツール実行は、このテキスト埋め込み結果の範囲外にある別の機能です。