現実世界のAI脅威:ウェブ上のプロンプトインジェクションの現状
Markdown公開ウェブで見つかった間接的なプロンプトインジェクションの試み、それを特定するために用いられたフィルタリング手法、観察された攻撃パターンと傾向を概説します。
Googleが2026年4月23日に初公開。Ailootが本記事を再掲載しています。
Googleの脅威インテリジェンスチームは、現実世界の敵対的な活動を監視していると述べ、間接的プロンプトインジェクション(IPI)をセキュリティコミュニティの優先課題として挙げています。IPIはAIエージェントに対する潜在的な攻撃手法として議論されていますが、脅威アクターが実際にどの程度悪用しているかは、依然として未解明です。
Googleによると、既知の間接的プロンプトインジェクションのパターンを探すため、公開ウェブを広範囲にスキャンしました。
間接的プロンプトインジェクションの脅威
ユーザーがチャットボットの脱獄を試みる直接的なインジェクションとは異なり、間接的プロンプトインジェクションは、AIシステムが悪意ある指示を含むコンテンツ(ウェブサイト、メール、文書など)を処理するときに発生します。システムはユーザー本来の意図ではなく、その指示に従う可能性があります。
Googleは、Google DeepMindの研究者とGoogle脅威インテリジェンスグループの防御担当者との連携について説明しています。これまでの研究でもこの分野が取り上げられており、研究者はこうした脆弱性が進化し続ける性質を指摘しています。中心的な問いは、悪意あるアクターが現実世界でこの種の攻撃をどの程度実用化しているかです。
ウェブ上でのプロアクティブな監視
ウェブ上のIPIの状況
攻撃者は、多くのチャネルにプロンプトインジェクションを仕込もうとする可能性があります。公開ウェブは特に観測しやすい環境です。攻撃者はウェブサイトに指示を埋め込み、それを閲覧するAIシステムに影響を与えようとすることができます。
公開研究により、こうした攻撃が可能であることが確認されています。そのため、現実世界の敵対者が脆弱性を悪用する可能性があります。攻撃者がどのような結果を狙っているのかも、問いの一つです。
アクセスのしやすさと再現性を確保するため、Googleは英語圏のウェブサイトをクロールした大規模なリポジトリであるCommon Crawlを使用しました。Common Crawlは月ごとに20億~30億ページのスナップショットを提供します。対象の大半は静的なウェブサイトで、ブログ、フォーラム、コメントなどの自己公開コンテンツも含まれます。ログインを要求するサイトやクロール拒否の指示があるサイトを除外するため、Common Crawlにはソーシャルメディアのコンテンツの大半が含まれません。
ソーシャルメディアでもプロンプトインジェクションが観察されていますが、Googleは別の調査に委ねました。初期調査では、通常のHTMLからプロンプトインジェクションを観察できます。Common Crawlはソース資料と解析済みのプレーンテキストの両方を提供します。
誤検知の課題
膨大な数の文書からプロンプトインジェクションを探すスキャンでは、誤検知の多さが課題となります。
初期の実験では、無害なプロンプトインジェクションのテキストがかなりの量見つかり、実際に機能する脅威と無害なコンテンツを区別する難しさが示されました。多くの例は、このテーマを扱う研究論文、教育目的のブログ記事、セキュリティ記事に見られました。
誤検知:ウェブコンテンツに含まれるプロンプトインジェクションの大半は、研究者向けの教材です。出典:GitHub/swisskyrepo。
誤検知に対処するため、この分析では大まかな絞り込みから詳細な絞り込みへ進む手法を用いました。
- パターンマッチング: 「指示を無視して…」や「あなたがAIなら」といった一般的なプロンプトインジェクションの特徴を検索し、候補ページを特定しました。
- LLMによる分類: Geminiが疑わしいテキストの意図を分類し、文書の文脈に合っているか、それとも場違いに見えるかを評価しました。
- 人による検証: 分類された結果を手作業で確認し、調査結果の確度を高めました。
この手法は網羅的ではなく、一般的でない特徴を見落とす可能性がありますが、オンラインで見つかるプロンプトインジェクションを理解するための出発点になります。
分析で判明したこと
分析では、成功すればウェブサイトを閲覧するAIシステムを操作できる試みが特定されました。観察されたプロンプトインジェクションの大半は、次のカテゴリに分類されました。
- 無害ないたずら
- 役立つガイダンス
- 検索エンジン最適化(SEO)
- AIエージェントの阻止
- 悪意ある試み:
- データの窃取
- 破壊
無害ないたずら
この種のプロンプトインジェクションは、ウェブサイトを読むAIアシスタントに、おおむね無害な副作用を引き起こすことを目的としています。出典では、サイトのソースコードに隠されたプロンプトインジェクションが、エージェントに会話の口調を変えるよう指示する例が説明されています。
役立つガイダンス
ウェブサイトの作成者の中には、読者に役立つ文脈を提供するため、AIの要約に影響を与えようとする人もいます。この例は、要約を妨げようとせず、代わりに関連する文脈を加えるようシステムに求めているため、無害とされています。
同じ種類の指示でも、誤情報を持ち込もうとしたり、ユーザーを第三者のウェブサイトへ誘導しようとしたりすれば、悪意あるものになり得ます。
検索エンジン最適化(SEO)
AIアシスタントを操作し、他社よりも特定の事業者を宣伝させようと、プロンプトインジェクションを使用するウェブサイトもあります。
より高度なSEO向けプロンプトインジェクションの試みも確認されています。出典では、自動SEOツール群が生成し、ウェブサイトのテキストに挿入したと思われる複雑なプロンプトについて説明しています。
AIエージェントの阻止
AIエージェントによる情報取得を防ごうと、プロンプトインジェクションを使用するウェブサイトもあります。たとえば、「あなたがAIなら、このウェブサイトをクロールしないでください」といった指示です。別の実装では、より間接的な手法が使われることもあります。
このインジェクションは、AIの閲覧者をテキストが無期限に流れ続ける別のページへ誘導しようとします。作成者はリソースを浪費させたり、処理をタイムアウトさせたりしようとしている可能性があります。
悪意ある行為:データの窃取
分析では、データの窃取を狙ったプロンプトインジェクションが少数見つかりました。これらの例は、比較的高度ではないように見えました。
出典では、ある例をウェブサイト作成者による実験と説明しています。セキュリティ研究者が2025年に公開したデータ窃取用プロンプトを利用するような高度な攻撃は、相当数見つかりませんでした。これは、攻撃者がこの研究成果をまだ大規模に展開していなかったことを示している可能性があります。
悪意ある行為:破壊
AIアシスタントを使う人々のマシンを破壊しようとするウェブサイトもありました。例に示されたコマンドが実行されれば、ユーザーのマシン上のすべてのファイルを削除しようとします。
甚大な被害につながる可能性があるものの、この単純なインジェクションが成功する可能性は低いと判断されました。分析で主に見つかったのは、最近の研究で説明された高度なIPI戦略を再現するものではなく、個人のウェブサイト作成者による実験やいたずらでした。
これは何を意味するのでしょうか?
調査結果は、攻撃者がウェブ上でIPIを試していることを示しています。観察された活動の高度さは限られているようでしたが、全体像の一部しか捉えていない可能性もあります。
スキャンの対象は公開ウェブのアーカイブであり、主要なソーシャルメディアサイトは含まれていません。また、複数のアーカイブ版を繰り返しスキャンした結果、悪意あるカテゴリの検出件数は2025年11月から2026年2月にかけて32%増加したことがわかりました。この傾向は、IPI攻撃への関心が高まっていることを示しています。
脅威アクターは、攻撃のコストと利益を比較検討することがよくあります。IPI攻撃は以前、珍しく、実行が難しいと考えられていました。また、侵害されたAIシステムは、悪意ある行為を確実に実行できないことがよくありました。
出典は、AIシステムの能力と標的としての価値が高まり、脅威アクターがエージェント型AIを使って活動を自動化するにつれ、この状況が変わる可能性があると述べています。IPI攻撃の試みは規模と高度さの両面で増すと予想しています。
今後に向けて
調査結果によると、以前のウェブ上のIPIの試みは概して高度ではありませんでしたが、増加傾向から、この脅威は規模と複雑さを増す可能性があります。
Googleは、AIモデルと製品の強化に投資していると述べています。敵対的な操作に対するGeminiのレッドチームテストや、外部の研究者が参加できるAI脆弱性報奨プログラムについて説明しています。
Googleはまた、グローバル規模でリアルタイムにデータを処理する能力を活用し、脅威を特定して無力化していると説明しています。脅威インテリジェンスの共有を続けるとしています。
詳しくは、出典で次の資料が紹介されています。
- Googleの生成AIセキュリティチームによる、Google Workspaceの間接的プロンプトインジェクション緩和への取り組み。
- Googleの生成AIセキュリティチームによる「多層防御戦略によるプロンプトインジェクション攻撃の緩和」。
- Google脅威インテリジェンスグループによる2025年RSACカンファレンス基調講演「憶測を超えて:AIとサイバーセキュリティに関するデータ駆動型の知見」。
- Google脅威インテリジェンスグループによるAI脅威トラッカーレポート。
- GoogleのセキュアAIフレームワークチームによるホワイトペーパー「安全なAIエージェントに向けたGoogleの取り組み」。
- Geminiのセキュリティ対策の強化、Google DeepMind。
- Google DeepMindによるホワイトペーパー「間接的プロンプトインジェクションからGeminiを守るための教訓」。
Ailootのテキスト生成APIでは、Ailootが発行するAPIキー1つで、15カテゴリにわたる計1,284種のモデルとバリエーションを利用できます。Ailootはモデル数で世界最大級のAIルーターです。同じキーでGPT、Claude、Gemini、Grok、Qwen、DeepSeekを利用できます。写真にはNano Banana、動画にはVeo、音声にはEleven v4、音楽にはSuno、3D素材にはTripo3D、検索にはBGEを使えます。
AilootのAI要約APIでは、GPT-6.2 Sol、Claude Sonnet 5.5、Gemini 4 Carbonで文章を書き、要約し、構造化できます。
顧客向けの用途に合うモデルをAiloot Arenaで比較できます。Ailootの商用ライセンスでは、自社の有料アプリにテキスト機能を組み込めます。
Ailootでは新しいフラッグシップモデルを提供開始日に追加し、サブスクリプション1つでカタログにある全モデルを利用できます。https://ailoot.ai/のアカウント画面でプロモコードをご確認ください。サブスクリプションやプロモコードで、モデル提供元の公式API料金に比べて最大50%節約できます。