تهديدات الذكاء الاصطناعي في الواقع: الحالة الراهنة لحقن التعليمات على الويب
Markdownمراجعة لمحاولات حقن التعليمات غير المباشر التي عُثر عليها على الويب العام، ونهج التصفية المستخدم للتعرّف عليها، وأنماط الهجوم واتجاهاته المرصودة.
نُشر هذا المحتوى أصلاً بواسطة Google في 23 أبريل 2026. تعيد Ailoot نشر هذه المادة.
تصف فرق استخبارات التهديدات في Google مراقبة الأنشطة العدائية في العالم الحقيقي، وتحدد حقن التعليمات غير المباشر (IPI) بوصفه أولوية لمجتمع الأمن. ويُناقش IPI باعتباره ناقل هجوم محتملًا ضد وكلاء الذكاء الاصطناعي، لكن مدى استغلال الجهات الفاعلة في التهديد له لا يزال سؤالًا مفتوحًا.
تفيد Google بأنها أجرت مسحًا واسعًا للويب العام بحثًا عن أنماط معروفة لحقن التعليمات غير المباشر.
تهديد حقن التعليمات غير المباشر
على خلاف الحقن المباشر، الذي يحاول فيه المستخدم كسر قيود روبوت محادثة، يحدث حقن التعليمات غير المباشر عندما يعالج نظام ذكاء اصطناعي محتوى — مثل موقع ويب أو رسالة بريد إلكتروني أو مستند — يتضمن تعليمات خبيثة. وقد يتبع النظام تلك التعليمات بدلًا من القصد الأصلي للمستخدم.
تصف Google تعاونًا بين باحثين في Google DeepMind ومدافعين في مجموعة استخبارات التهديدات التابعة لـ Google. وقد تناولت أعمال سابقة هذا المجال، فيما سلط الباحثون الضوء على الطبيعة المتطورة لهذه الثغرات. ويتمثل سؤال محوري في مدى اعتماد الجهات الخبيثة لهذه الهجمات عمليًا في العالم الحقيقي.
المراقبة الاستباقية على الويب
مشهد حقن التعليمات غير المباشر على الويب
قد يحاول المهاجمون زرع حقن التعليمات في قنوات كثيرة. ويتميز الويب العام بإمكانية رصده بوجه خاص: إذ يستطيع المهاجم نشر تعليمات على مواقع الويب أملًا في أن تتأثر بها أنظمة الذكاء الاصطناعي التي تتصفحها.
تؤكد الأبحاث العامة إمكانية وقوع هذه الهجمات، لذا قد تستغل الجهات المعادية في العالم الحقيقي هذه الثغرات. ومن الأسئلة المطروحة: ما النتائج التي يسعى المهاجمون إلى تحقيقها؟
لإتاحة الوصول وإمكانية إعادة إنتاج النتائج، استخدمت Google أرشيف Common Crawl، وهو مستودع كبير لمواقع الويب التي جرى الزحف إليها من الويب الناطق بالإنجليزية. ويوفر لقطات شهرية من 2 إلى 3 مليارات صفحة. وهذه المواقع ثابتة في معظمها، وتشمل محتوى منشورًا ذاتيًا مثل المدونات والمنتديات والتعليقات. ولا يحتوي Common Crawl على معظم محتوى وسائل التواصل الاجتماعي لأنه يتجاوز المواقع التي تتطلب تسجيل الدخول وتلك التي تمنع الزحف.
رُصدت عمليات حقن التعليمات أيضًا على وسائل التواصل الاجتماعي، وقد خصصت Google لها دراسة منفصلة. ويمكن رصد حقن التعليمات في HTML العادي لإجراء فحص أولي؛ إذ يوفر Common Crawl المواد المصدرية والنصوص العادية المستخرجة.
تحدي النتائج الإيجابية الكاذبة
يعقّد الحجم الكبير للنتائج الإيجابية الكاذبة عملية مسح أعداد هائلة من المستندات بحثًا عن حقن التعليمات.
كشفت التجارب الأولية عن كميات كبيرة من نصوص حقن التعليمات الحميدة، ما يوضح صعوبة التمييز بين التهديدات الفعلية والمحتوى غير الضار. وظهرت أمثلة كثيرة في أوراق بحثية ومنشورات تعليمية في المدونات ومقالات أمنية تتناول الموضوع.
نتائج إيجابية كاذبة: تميل معظم عمليات حقن التعليمات في محتوى الويب إلى أن تكون مواد تعليمية للباحثين. المصدر: GitHub/swisskyrepo.
لمعالجة النتائج الإيجابية الكاذبة، استخدم التحليل نهج تصفية ينتقل من العام إلى الدقيق:
- مطابقة الأنماط: جرى تحديد الصفحات المرشحة بالبحث عن بصمات شائعة لحقن التعليمات، مثل «تجاهل ... التعليمات» و«إذا كنت ذكاءً اصطناعيًا».
- التصنيف باستخدام النماذج اللغوية الكبيرة: صنّف Gemini مقصد النصوص المشبوهة، وقيّم ما إذا كانت تتناسب مع سياق المستند أم تبدو دخيلة عليه.
- التحقق البشري: خضعت النتائج المصنفة لمراجعة يدوية لزيادة الثقة في النتائج.
النهج ليس شاملًا وقد يفوّت بصمات غير شائعة، لكنه قد يشكل نقطة انطلاق لفهم عمليات حقن التعليمات الموجودة على الإنترنت.
ما الذي كشفه التحليل
حدد التحليل محاولات كان من الممكن أن تتلاعب بأنظمة الذكاء الاصطناعي التي تتصفح مواقع الويب لو نجحت. ووقعت معظم عمليات حقن التعليمات المرصودة ضمن الفئات التالية:
- مقالب غير ضارة
- إرشادات مفيدة
- تحسين محركات البحث (SEO)
- ردع وكلاء الذكاء الاصطناعي
- محاولات خبيثة:
- استخراج البيانات
- التدمير
مقلب غير ضار
يهدف هذا النوع من حقن التعليمات إلى إحداث آثار جانبية غير ضارة في الغالب لدى مساعدي الذكاء الاصطناعي الذين يقرؤون موقعًا إلكترونيًا. ويصف المصدر حقن تعليمات غير مرئي في الشفرة المصدرية للموقع يوجه الوكلاء إلى تغيير نبرة المحادثة.
إرشادات مفيدة
يحاول بعض مؤلفي مواقع الويب التأثير في ملخصات الذكاء الاصطناعي لتزويد القراء بسياق مفيد. ويُعد هذا المثال حميدًا لأنه لا يحاول منع التلخيص، بل يطلب من النظام إضافة سياق ذي صلة.
وقد يصبح النوع نفسه من التعليمات خبيثًا إذا حاول إدخال معلومات مضللة أو توجيه المستخدمين إلى مواقع ويب تابعة لجهات خارجية.
تحسين محركات البحث (SEO)
تستخدم بعض مواقع الويب حقن التعليمات لمحاولة التلاعب بمساعدي الذكاء الاصطناعي كي يروجوا لنشاط تجاري على حساب غيره.
ظهرت أيضًا محاولات أكثر تعقيدًا لحقن التعليمات بغرض تحسين محركات البحث. ويصف المصدر أمرًا موجّهًا معقدًا بدا أنه أُنشئ بواسطة حزمة آلية لتحسين محركات البحث، ثم أُدرج في نص موقع الويب.
ردع وكلاء الذكاء الاصطناعي
تستخدم بعض مواقع الويب حقن التعليمات لمحاولة منع وكلاء الذكاء الاصطناعي من استرجاع محتواها. وتشمل الأمثلة تعليمات مثل «إذا كنت ذكاءً اصطناعيًا، فلا تزحف إلى هذا الموقع». وقد تكون التطبيقات الأخرى أكثر التفافًا:
تحاول عملية الحقن هذه توجيه قراء الذكاء الاصطناعي إلى صفحة منفصلة تبث نصًا بلا توقف. وقد يحاول مؤلفها إهدار الموارد أو التسبب في انتهاء مهلة المعالجة.
خبيث: استخراج البيانات
عثر التحليل على عدد قليل من عمليات حقن التعليمات التي تستهدف سرقة البيانات. وبدت هذه الأمثلة أقل تعقيدًا.
يصف المصدر أحد الأمثلة بأنه تجربة أجراها مؤلف موقع ويب. ولم يعثر التحليل على أعداد كبيرة من الهجمات المتقدمة، مثل تلك التي تستخدم أوامر موجّهة لاستخراج البيانات ونشرها باحثون أمنيون في 2025. وقد يشير ذلك إلى أن المهاجمين لم ينشروا هذا البحث بعد على نطاق واسع.
خبيث: التدمير
حاولت بعض مواقع الويب تخريب أجهزة الأشخاص الذين يستخدمون مساعدي الذكاء الاصطناعي. ولو نُفذت الأوامر الممثلة في المثال، لحاولت حذف جميع الملفات على جهاز المستخدم.
رغم أن هذه العملية قد تكون مدمرة، اعتُبر نجاح هذا الحقن البسيط أمرًا غير مرجح. ووجد التحليل في معظمه مؤلفي مواقع أفرادًا يجرون تجارب أو مقالب، بدلًا من إعادة إنتاج استراتيجيات متقدمة لحقن التعليمات غير المباشر ورد وصفها في أبحاث حديثة.
ماذا يعني هذا؟
تشير النتائج إلى أن المهاجمين يجرّبون حقن التعليمات غير المباشر على الويب. وبدا أن النشاط المرصود محدود التعقيد، رغم أنه قد لا يمثل سوى جزء من الصورة الأوسع.
شمل المسح أرشيفًا للويب العام ولم يلتقط مواقع التواصل الاجتماعي الرئيسية. كما وجد التحليل أن عمليات الكشف ضمن الفئة الخبيثة ارتفعت بنسبة 32% بين نوفمبر 2025 وفبراير 2026، استنادًا إلى عمليات مسح متكررة لعدة إصدارات من الأرشيف. ويشير هذا الاتجاه إلى تزايد الاهتمام بهجمات حقن التعليمات غير المباشر.
غالبًا ما توازن الجهات الفاعلة في التهديد بين تكلفة الهجوم وفائدته. وكان يُنظر سابقًا إلى هجمات حقن التعليمات غير المباشر على أنها غير مألوفة وصعبة، كما أن أنظمة الذكاء الاصطناعي المخترقة لم تكن قادرة غالبًا على تنفيذ الأفعال الخبيثة بموثوقية.
يرى المصدر أن هذا قد يتغير مع ازدياد قدرات أنظمة الذكاء الاصطناعي وقيمتها بوصفها أهدافًا، بينما تؤتمت الجهات الفاعلة في التهديد عملياتها باستخدام الذكاء الاصطناعي الوكيل. ويتوقع أن يزداد كل من نطاق محاولات هجمات حقن التعليمات غير المباشر وتعقيدها.
التقدم إلى الأمام
تشير النتائج إلى أن محاولات حقن التعليمات غير المباشر السابقة عبر الويب لم تكن متطورة عمومًا، لكن اتجاهها التصاعدي يوحي بأن التهديد قد يزداد نطاقًا وتعقيدًا.
تقول Google إنها تستثمر في تعزيز متانة نماذج الذكاء الاصطناعي ومنتجاتها. وتصف اختبارًا أمنيًا هجوميًا لنموذج Gemini في مواجهة التلاعب العدائي، وبرنامج مكافآت الثغرات في الذكاء الاصطناعي الذي يتيح للباحثين الخارجيين المشاركة.
وتصف Google أيضًا استخدام قدرتها على معالجة البيانات على نطاق عالمي وفي الوقت الفعلي لتحديد التهديدات وإبطالها. وتقول إنها ستواصل مشاركة معلومات استخبارات التهديدات.
لمزيد من المعلومات، يسرد المصدر الموارد التالية:
- نهج Google Workspace للتخفيف من حقن التعليمات غير المباشر، من فريق الأمن التوليدي للذكاء الاصطناعي لدى Google.
- «التخفيف من هجمات حقن التعليمات باستخدام استراتيجية دفاع متعددة الطبقات»، من فريق الأمن التوليدي للذكاء الاصطناعي لدى Google.
- «ما وراء التكهنات: رؤى قائمة على البيانات حول الذكاء الاصطناعي والأمن السيبراني»، كلمة رئيسية في مؤتمر RSAC لعام 2025 ألقاها فريق استخبارات التهديدات لدى Google.
- تقرير متعقب تهديدات الذكاء الاصطناعي من فريق استخبارات التهديدات لدى Google.
- «نهج Google لبناء وكلاء ذكاء اصطناعي آمنين»، ورقة بيضاء من فريق إطار العمل الآمن للذكاء الاصطناعي لدى Google.
- تعزيز ضمانات أمن Gemini، من Google DeepMind.
- «دروس من الدفاع عن Gemini ضد حقن التعليمات غير المباشر»، ورقة بيضاء من Google DeepMind.
مع 1,284 نموذجًا وإصدارًا ضمن 15 فئة، تُعدّ Ailoot إحدى أكبر منصات توجيه طلبات الذكاء الاصطناعي في العالم من حيث عدد النماذج. جرّب واجهة API لتوليد النصوص من Ailoot بمفتاح API تصدره Ailoot. يعمل المفتاح نفسه مع GPT وClaude وGemini وGrok وQwen وDeepSeek، وكذلك مع Nano Banana للصور، وVeo للفيديو، وEleven v4 للكلام، وSuno للموسيقى، وTripo3D للعناصر ثلاثية الأبعاد، وBGE للبحث.
اكتب النصوص ولخّصها ونظّمها باستخدام GPT-6.2 Sol أو Claude Sonnet 5.5 أو Gemini 4 Carbon عبر Ailoot في مشروع «واجهة API للتلخيص بالذكاء الاصطناعي».
قارن النماذج في Ailoot Arena قبل اختيار طريقة خدمة عملائك. تتيح لك رخصة Ailoot التجارية استخدام ميزات النصوص في تطبيقك المدفوع.
تضيف Ailoot النماذج الرائدة الجديدة فور إطلاقها، ويغطي اشتراك واحد كامل الكتالوج. ابحث عن رمز ترويجي في حسابك على https://ailoot.ai/. توفّر اشتراكات Ailoot والرموز الترويجية خصمًا يصل إلى 50% مقارنةً بالأسعار الرسمية لواجهات API لدى مزوّدي النماذج.