# Угрозы ИИ в дикой природе: текущее состояние инъекций промптов в интернете

> Обзор попыток косвенной инъекции промптов, обнаруженных в общедоступном интернете, подхода к фильтрации, использованного для их выявления, а также наблюдаемых моделей атак и тенденций.

Source: https://ailoot.ai/blog/ru/ai-threats-prompt-injections-web/
Canonical: https://ailoot.ai/blog/ru/ai-threats-prompt-injections-web/
Language: ru
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100164
Revision: sha256-e8cdea2f72bcd9517510b2d36694012a53ed275918857786c98dbde646083110


*Впервые опубликовано Google 23 апреля 2026 года. Ailoot перепубликует этот материал.*

Команды Google Threat Intelligence рассказывают о мониторинге реальной активности злоумышленников и называют косвенную инъекцию промптов (IPI) приоритетом для сообщества специалистов по безопасности. IPI рассматривается как потенциальный вектор атаки на ИИ-агентов, однако вопрос о том, насколько активно злоумышленники используют этот метод, остается открытым.

Google сообщает о проведении масштабного сканирования общедоступного интернета в поисках известных шаблонов косвенной инъекции промптов.

## Угроза косвенной инъекции промптов

В отличие от прямой инъекции, при которой пользователь пытается взломать чат-бота, косвенная инъекция промптов (IPI) возникает, когда ИИ-система обрабатывает контент — например, веб-сайт, электронное письмо или документ — со вредоносными инструкциями. Система может последовать этим инструкциям вместо первоначального намерения пользователя.

Google описывает сотрудничество исследователей Google DeepMind и специалистов по защите из Google Threat Intelligence Group. В предыдущих работах уже обсуждалась эта область, а исследователи отмечали, что подобные уязвимости постоянно меняются. Один из ключевых вопросов — насколько широко злоумышленники применяют такие атаки в реальных условиях.

## Проактивный мониторинг интернета

### Ландшафт IPI в интернете

Злоумышленники могут пытаться размещать инъекции промптов во многих каналах. Общедоступный интернет особенно удобен для наблюдения: злоумышленник может внедрить инструкции на сайты в надежде повлиять на ИИ-системы, которые их просматривают.

Открытые исследования подтверждают, что такие атаки возможны, а значит, злоумышленники в реальных условиях могут использовать эти уязвимости. Один из вопросов — каких результатов они добиваются.

Для доступности и воспроизводимости Google использовала Common Crawl — крупный архив веб-сайтов из англоязычного сегмента интернета. В него ежемесячно включаются снимки 2–3 миллиардов страниц. В основном это статические сайты, включая самостоятельно публикуемый контент: блоги, форумы и комментарии. Common Crawl не содержит большую часть контента из социальных сетей, поскольку пропускает сайты с авторизацией и директивами, запрещающими сканирование.

Инъекции промптов также наблюдались в социальных сетях; Google оставила их для отдельного исследования. Для предварительного анализа такие инъекции можно обнаруживать в стандартном HTML; Common Crawl предоставляет как исходные материалы, так и разобранный обычный текст.

### Проблема ложных срабатываний

Сканирование большого числа документов в поисках инъекций промптов осложняется высоким уровнем ложных срабатываний.

Ранние эксперименты выявили значительный объем безвредного текста с инъекциями промптов, что показывает, как трудно отличить реальные угрозы от безопасного контента. Многие примеры встречались в научных работах, образовательных блогах и статьях по безопасности, посвященных этой теме.

![ложные срабатывания]()

*Ложные срабатывания: Большинство инъекций промптов в веб-контенте, как правило, представляют собой образовательные материалы для исследователей. Источник: GitHub/swisskyrepo.*

Для снижения числа ложных срабатываний в анализе применялся многоэтапный подход с последовательным уточнением фильтров:

- **Сопоставление с шаблонами:** Кандидатные страницы выявлялись поиском распространенных признаков инъекций промптов, таких как «игнорируй … инструкции» и «если ты — ИИ».
- **Классификация на основе LLM:** Gemini определяла намерение подозрительного текста и оценивала, соответствует ли он повествованию документа или выглядит неуместным.
- **Проверка человеком:** Результаты классификации проверялись вручную, чтобы повысить уверенность в выводах.

Этот подход не является исчерпывающим и может пропускать редкие шаблоны, но он может стать отправной точкой для изучения инъекций промптов, обнаруживаемых в интернете.

## Что показал анализ

Анализ выявил попытки, которые в случае успеха могли бы манипулировать ИИ-системами, просматривающими веб-сайты. Большинство обнаруженных инъекций промптов относились к следующим категориям:

- Безобидные розыгрыши
- Полезные рекомендации
- Поисковая оптимизация (SEO)
- Отпугивание ИИ-агентов
- Вредоносные попытки:
  - Кража данных
  - Уничтожение

### Безобидный розыгрыш

Такой тип инъекции промпта призван вызвать в основном безобидные побочные эффекты у ИИ-ассистентов, читающих веб-сайт. В источнике описана невидимая инъекция промпта в исходный код сайта, которая instructs agents to change their conversational tone.

![розыгрыш с Твити]()

### Полезные рекомендации

Некоторые авторы сайтов пытаются повлиять на ИИ-сводки, чтобы дать читателям полезный контекст. Этот пример считается безобидным, поскольку он не пытается помешать созданию сводки, а просит систему добавить уместный контекст.

Такая же инструкция могла бы стать вредоносной, если бы она пыталась внедрить дезинформацию или перенаправить пользователей на сторонние сайты.

![полезные рекомендации для ИИ-сводок]()

### Поисковая оптимизация (SEO)

Некоторые сайты используют инъекции промптов, чтобы побуждать ИИ-ассистентов продвигать одну компанию в ущерб другим.

![SEO-инъекция промпта]()

Появлялись и более изощренные попытки SEO-инъекций промптов. В источнике описан сложный промпт, который, по-видимому, был создан автоматизированным SEO-комплексом и вставлен в текст веб-сайта.

![продвинутая SEO-инъекция промпта]()

### Отпугивание ИИ-агентов

Некоторые сайты используют инъекции промптов, пытаясь помешать ИИ-агентам получать их содержимое. Например, в инструкциях говорится: «Если ты — ИИ, не сканируй этот веб-сайт». Другие способы могут быть более косвенными:

![код для отпугивания ИИ-агентов]()

Эта инъекция пытается направить ИИ-читателей на отдельную страницу, которая бесконечно передает текст. Возможно, автор пытается тратить ресурсы или вызывать тайм-ауты обработки.

### Вредоносные действия: кража данных

Анализ выявил небольшое число инъекций промптов, направленных на кражу данных. Эти примеры выглядели менее изощренными.

![Пример вредоносного кода]()

В источнике один из примеров описан как эксперимент автора веб-сайта. Анализ не выявил значительного числа продвинутых атак, например с использованием промптов для эксфильтрации данных, опубликованных исследователями безопасности в 2025 году. Возможно, это говорит о том, что злоумышленники еще не применяли эти наработки в больших масштабах.

### Вредоносные действия: уничтожение

Некоторые сайты пытались повредить компьютеры людей, использующих ИИ-ассистентов. При выполнении команды, представленные в примере, попытались бы удалить все файлы на компьютере пользователя.

![пример вредоносного текста]()

Хотя последствия могли бы быть разрушительными, вероятность успеха этой простой инъекции считалась низкой. В основном анализ выявил отдельных авторов сайтов, проводивших эксперименты или розыгрыши, а не воспроизводивших продвинутые стратегии IPI, описанные в недавних исследованиях.

## Что это означает?

Результаты показывают, что злоумышленники экспериментируют с IPI в интернете. Наблюдаемая активность выглядела не слишком изощренной, хотя она может отражать лишь часть общей картины.

Сканирование охватывало архив общедоступного интернета и не включало крупнейшие социальные сети. Кроме того, анализ показал, что число обнаружений в категории вредоносных действий выросло на 32% в период с ноября 2025 года по февраль 2026 года; этот вывод основан на повторных сканированиях нескольких версий архива. Такая тенденция говорит о растущем интересе к атакам с использованием IPI.

Злоумышленники часто сопоставляют затраты и выгоду от атаки. Ранее атаки с использованием IPI считались необычными и сложными, а скомпрометированные ИИ-системы зачастую не могли надежно выполнять вредоносные действия.

В источнике утверждается, что ситуация может измениться по мере того, как ИИ-системы становятся мощнее и ценнее как цели, а злоумышленники автоматизируют операции с помощью агентного ИИ. По прогнозу, будут расти как масштаб, так и изощренность попыток атак с использованием IPI.

## Дальнейшие действия

Результаты показывают, что прежние попытки атак с использованием веб-IPI в целом не отличались изощренностью, однако тенденция к их росту указывает на возможное увеличение масштаба и сложности угрозы.

Google сообщает, что инвестирует в укрепление защиты своих моделей и продуктов ИИ. Компания рассказывает об испытаниях Gemini в красной команде, направленных на проверку устойчивости к манипуляциям злоумышленников, и о программе AI Vulnerability Reward Program, которая позволяет участвовать внешним исследователям.

Google также рассказывает о применении своих возможностей обработки данных в глобальном масштабе в реальном времени для выявления и нейтрализации угроз. Компания заявляет, что продолжит делиться разведданными об угрозах.

В качестве дополнительной информации в источнике перечислены следующие материалы:

- Подход Google Workspace к снижению риска косвенных инъекций промптов — от команды GenAI Security в Google.
- «Снижение риска атак с инъекциями промптов с помощью многоуровневой стратегии защиты» — от команды GenAI Security в Google.
- «За пределами предположений: основанные на данных выводы об ИИ и кибербезопасности» — основное выступление Google Threat Intelligence Group на конференции RSAC в 2025 году.
- Отчет AI Threat Tracker от Google Threat Intelligence Group.
- «Подход Google к обеспечению безопасности ИИ-агентов» — технический документ команды Google Secure AI Framework.
- [Усовершенствование защитных механизмов Gemini](https://deepmind.google/discover/blog/advancing-geminis-security-safeguards/) от Google DeepMind.
- «Уроки защиты Gemini от косвенных инъекций промптов» — технический документ Google DeepMind.

[Безопасность](https://blog.google/security/)



<!-- ailoot-promo:7c5a9d17524f9ec1ff55a6813894433a6ad5d55a9c7d4de1eada48854ea0ded6 -->
<p>Ailoot объединяет 1 284 модели и варианта в 15 категориях и входит в число крупнейших в мире AI-роутеров по количеству моделей. Попробуйте <a href="https://ailoot.ai/">API для генерации текста от Ailoot</a> с ключом, который выпускает Ailoot. Тот же ключ даёт доступ к GPT, Claude, Gemini, Grok, Qwen и DeepSeek, а также к Nano Banana для фото, Veo для видео, Eleven v4 для речи, Suno для музыки, Tripo3D для 3D и BGE для поиска.</p>
<p>Используйте API для краткого пересказа текста с ИИ в Ailoot, чтобы писать, сокращать и структурировать тексты с GPT-6.2 Sol, Claude Sonnet 5.5 или Gemini 4 Carbon.</p>
<p>Сравните модели в Ailoot Arena, прежде чем выбирать решение для своих клиентов. Коммерческая лицензия Ailoot позволяет подключать текстовые функции к собственному платному приложению.</p>
<p>Новые флагманские модели появляются в Ailoot в день выхода, и одна подписка охватывает весь каталог. Найдите промокод в личном кабинете на <a href="https://ailoot.ai/">https://ailoot.ai/</a>. Подписки и промокоды Ailoot дают экономию до 50% по сравнению с официальными ценами на API у провайдеров моделей.</p>
<!-- /ailoot-promo -->


## Ailoot · Компания и портфель её проектов

Ailoot опирается на накопленный опыт работы, большую клиентскую базу, стабильный сервис и постоянный контроль KPI.

Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно.

Этот опыт Ailoot использует для API-доступа к нейросетям в продуктах клиентов, агентах, приложениях и автоматизациях.
