Amazon: Titan Embeddings G1 - Text
amazon/titan-embed-text-v1テキストを1,536次元のベクトルに変換し、意味検索、類似資料の抽出、文書のグループ分けに使えます。
テキストの意味を数値ベクトルに
Amazon Titan Embeddings G1は、V1とも呼ばれるAmazonのテキスト埋め込みモデルです。文章を1,536個の数値からなるベクトルに変換します。これにより、異なる言葉で書かれた語句や文書を意味に基づいて比較できます。例えば、支払い情報の変更についての質問から、振込先情報を変更する手順を見つける用途があります。
検索、ナレッジベース、グループ分け
G1は、テキストのインデックスの準備や、利用者の検索要求をベクトルで表現する処理に適しています。ナレッジベースを使うシステムではRAGの一段階となり、まず適切な文章を探し、次に別の言語モデルがそれを基に回答を作ります。Titanがこの段階で返すのはベクトルです。文書の保存、類似度の計算、回答の組み立てはアプリケーションが担当します。
文章のグループ分けにも利用できます。ベクトルを使って内容の近い問い合わせを探したり、資料を話題別にまとめたり、似た文書を選べます。具体的な分類や類似度のしきい値は処理手順の中で定めるもので、埋め込みに完成済みのラベルとして含まれているわけではありません。
資料の準備
- 文書群を節、段落、単独で理解できる回答などのまとまりに分けます。
- 各部分のベクトルを取得し、元の文章との対応を保存します。
- 検索要求も同じ方法で変換します。
- インデックスと比較し、見つかった資料を利用者や次の処理へ返します。
Ailootでは最大8,192トークンのテキストを入力でき、埋め込みが返されます。検索用の区切り方は内容に合わせて選ぶとよいでしょう。文書全体を一つの大きなベクトルにすると、文書内で扱う個々の質問の違いが埋もれることがあります。元の文章を更新した際は、インデックス内の表現も更新します。
G1の特徴
この世代のTitanは、固定の1,536次元表現を使用します。Amazonによると25の自然言語で学習しており、英語で最も詳しく評価されています。専門用語、曖昧な表現、その他の言語については、正解の文書が分かっている独自の検索例を少数用意して確認すると役立ちます。G1は主に自然言語の文章を対象とします。ソースコード検索については、次世代のTitanにプログラミング言語での学習に関する別の情報があります。
Ailoot APIで利用可能
POST /v1/embeddings- 入力の種類
text- 出力の種類
embedding- コンテキスト
- 8,192 トークン
- 最大出力
- カタログに記載なし
- 入力
- $0.0002 / 1K
amazon/titan-embed-text-v1 · JSON
{"about":"### テキストの意味を数値ベクトルに\n\nAmazon Titan Embeddings G1は、V1とも呼ばれるAmazonのテキスト埋め込みモデルです。文章を**1,536個の数値**からなるベクトルに変換します。これにより、異なる言葉で書かれた語句や文書を意味に基づいて比較できます。例えば、支払い情報の変更についての質問から、振込先情報を変更する手順を見つける用途があります。\n\n### 検索、ナレッジベース、グループ分け\n\nG1は、テキストのインデックスの準備や、利用者の検索要求をベクトルで表現する処理に適しています。ナレッジベースを使うシステムではRAGの一段階となり、まず適切な文章を探し、次に別の言語モデルがそれを基に回答を作ります。Titanがこの段階で返すのはベクトルです。文書の保存、類似度の計算、回答の組み立てはアプリケーションが担当します。\n\n文章のグループ分けにも利用できます。ベクトルを使って内容の近い問い合わせを探したり、資料を話題別にまとめたり、似た文書を選べます。具体的な分類や類似度のしきい値は処理手順の中で定めるもので、埋め込みに完成済みのラベルとして含まれているわけではありません。\n\n### 資料の準備\n\n1. 文書群を節、段落、単独で理解できる回答などのまとまりに分けます。\n2. 各部分のベクトルを取得し、元の文章との対応を保存します。\n3. 検索要求も同じ方法で変換します。\n4. インデックスと比較し、見つかった資料を利用者や次の処理へ返します。\n\nAilootでは最大**8,192トークン**のテキストを入力でき、埋め込みが返されます。検索用の区切り方は内容に合わせて選ぶとよいでしょう。文書全体を一つの大きなベクトルにすると、文書内で扱う個々の質問の違いが埋もれることがあります。元の文章を更新した際は、インデックス内の表現も更新します。\n\n### G1の特徴\n\nこの世代のTitanは、固定の1,536次元表現を使用します。Amazonによると25の自然言語で学習しており、英語で最も詳しく評価されています。専門用語、曖昧な表現、その他の言語については、正解の文書が分かっている独自の検索例を少数用意して確認すると役立ちます。G1は主に自然言語の文章を対象とします。ソースコード検索については、次世代のTitanにプログラミング言語での学習に関する別の情報があります。","alias_of":null,"aliases":[],"author":"Amazon","canonical_model":"amazon/titan-embed-text-v1","ctx":8192,"formats":["embeddings"],"id":"amazon/titan-embed-text-v1","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":8192,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.2,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"amazon/titan-embed-text-v1","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"amazon/titan-embed-text-v1","request_model_id":"amazon/titan-embed-text-v1","route_label":"Ultra"}],"name":"Amazon: Titan Embeddings G1 - Text","price":{"in":0.2,"in_label":null,"out":null,"out_label":null,"sort_in":0.2,"sort_out":null,"varies":false},"public_id":"amazon/titan-embed-text-v1","short":"テキストを1,536次元のベクトルに変換し、意味検索、類似資料の抽出、文書のグループ分けに使えます。"}