בלוג

איומי AI בשטח: המצב הנוכחי של הזרקות פרומפט באינטרנט

Markdown

סקירה של ניסיונות להזרקת פרומפט עקיפה שנמצאו באינטרנט הציבורי, גישת הסינון ששימשה לזיהוים ודפוסי התקיפה והמגמות שנצפו.

פורסם במקור על ידי Google ב־23 באפריל 2026. Ailoot מפרסמת מחדש את החומר הזה.

צוותי מודיעין האיומים של Google מתארים את המעקב אחר פעילות עוינת בעולם האמיתי ומציינים שהזרקת פרומפט עקיפה (IPI) היא בעדיפות עבור קהילת האבטחה. IPI נדונה כווקטור תקיפה אפשרי נגד סוכני AI, אך היקף ניצולה בידי גורמי איום עדיין אינו ידוע.

Google מדווחת כי ביצעה סריקה נרחבת של האינטרנט הציבורי לאיתור דפוסים מוכרים של הזרקת פרומפט עקיפה.

האיום שבהזרקת פרומפט עקיפה

בשונה מהזרקה ישירה, שבה משתמש מנסה לבצע jailbreak לצ'אטבוט, IPI מתרחשת כאשר מערכת AI מעבדת תוכן — כגון אתר אינטרנט, הודעת דוא״ל או מסמך — שמכיל הוראות זדוניות. המערכת עלולה לפעול לפי ההוראות האלה במקום לפי כוונתו המקורית של המשתמש.

Google מתארת שיתוף פעולה בין חוקרים ב־Google DeepMind לבין גורמי הגנה ב־Google Threat Intelligence Group. עבודות קודמות דנו בתחום הזה, וחוקרים הצביעו על האופי המתפתח של פגיעויות אלה. שאלה מרכזית היא עד כמה גורמים זדוניים מיישמים תקיפות כאלה בפועל בעולם האמיתי.

ניטור יזום באינטרנט

תמונת המצב של IPI באינטרנט

תוקפים עשויים לנסות להטמיע הזרקות פרומפט בערוצים רבים. קל במיוחד לצפות באינטרנט הציבורי: תוקף יכול לשתול בו הוראות באתרי אינטרנט בתקווה שמערכות AI שיגלשו בהם יושפעו.

מחקר ציבורי מאשר שהתקיפות האלה אפשריות, ולכן ייתכן שיריבים בעולם האמיתי ינצלו את הפגיעויות. שאלה אחת היא אילו תוצאות התוקפים מנסים להשיג.

לצורך נגישות ושחזור, Google השתמשה ב־Common Crawl, מאגר גדול של אתרי אינטרנט שנסרקו מרשת האינטרנט דוברת האנגלית. המאגר מספק תמונות מצב חודשיות של 2–3 מיליארד דפים. מדובר בעיקר באתרי אינטרנט סטטיים, ובהם תוכן שפורסם באופן עצמאי כמו בלוגים, פורומים ותגובות. Common Crawl אינו מכיל את רוב התוכן של רשתות חברתיות, מכיוון שהוא מדלג על אתרי אינטרנט עם חומות התחברות והנחיות נגד סריקה.

הזרקות פרומפט נצפו גם ברשתות החברתיות, שאותן Google הותירה למחקר נפרד. בבדיקה ראשונית אפשר לזהות הזרקות פרומפט ב־HTML רגיל; Common Crawl מספק גם חומר מקור וגם טקסט פשוט שנותח.

האתגר של חיוביים כוזבים

סריקה של כמויות גדולות של מסמכים לאיתור הזרקות פרומפט מסובכת בגלל כמות גדולה של חיוביים כוזבים.

ניסויים מוקדמים מצאו כמויות ניכרות של טקסט תמים של הזרקת פרומפט, והמחישו את הקושי להבחין בין איומים בעלי השפעה לבין תוכן שאינו מזיק. דוגמאות רבות הופיעו במאמרי מחקר, בפוסטים חינוכיים בבלוגים ובמאמרי אבטחה שעסקו בנושא.

חיוביים כוזבים

חיוביים כוזבים: רוב הזרקות הפרומפט בתוכן אינטרנט נוטות להיות חומר לימודי לחוקרים. מקור: GitHub/swisskyrepo.

כדי להתמודד עם חיוביים כוזבים, הניתוח השתמש בגישת סינון מדורגת, מהגס אל המדויק:

  • התאמת תבניות: דפים מועמדים זוהו באמצעות חיפוש אחר חתימות נפוצות של הזרקת פרומפט, כגון “התעלם … מההוראות” ו“אם אתה AI”.
  • סיווג מבוסס LLM: Gemini סיווגה את כוונת הטקסט החשוד והעריכה אם הוא מתאים לנרטיב של המסמך או נראה לא שייך.
  • אימות אנושי: תוצאות הסיווג נבדקו ידנית כדי להגביר את הביטחון בממצאים.

הגישה אינה ממצה ועלולה להחמיץ חתימות לא שכיחות, אך היא יכולה לספק נקודת התחלה להבנת הזרקות פרומפט שנמצאות באינטרנט.

ממצאי הניתוח

הניתוח זיהה ניסיונות שאם יצליחו, יוכלו לתמרן מערכות AI שגולשות באתרי אינטרנט. רוב הזרקות הפרומפט שנצפו השתייכו לקטגוריות האלה:

  • מתיחות תמימות
  • הנחיות מועילות
  • אופטימיזציה למנועי חיפוש (SEO)
  • הרתעת סוכני AI
  • ניסיונות זדוניים:
    • חילוץ נתונים
    • השמדה

מתיחה תמימה

סוג זה של הזרקת פרומפט נועד לגרום לתופעות לוואי שרובן תמימות אצל עוזרי AI שקוראים אתר אינטרנט. המקור מתאר הזרקת פרומפט בלתי נראית בקוד המקור של האתר, שמורה לסוכנים לשנות את טון השיחה שלהם.

מתיחה עם ציפור טוויטי

הנחיות מועילות

כמה ממחברי האתרים מנסים להשפיע על סיכומי AI כדי לספק לקוראים הקשר מועיל. הדוגמה הזאת נחשבת תמימה משום שאינה מנסה למנוע סיכום, אלא מבקשת מהמערכת להוסיף הקשר רלוונטי.

אותה הוראה עלולה להפוך לזדונית אם תנסה להכניס מידע מוטעה או להפנות משתמשים לאתרי אינטרנט של צד שלישי.

הנחיות מועילות לסיכומי AI

אופטימיזציה למנועי חיפוש (SEO)

אתרים מסוימים משתמשים בהזרקות פרומפט כדי לנסות לתמרן עוזרי AI ולקדם עסק אחד על פני אחרים.

הזרקת פרומפט לקידום אתרים

הופיעו גם ניסיונות מתוחכמים יותר להזרקת פרומפט לקידום אתרים. המקור מתאר פרומפט מורכב שנראה כאילו נוצר באמצעות חבילת כלים אוטומטית לקידום אתרים והושתל בטקסט של אתר אינטרנט.

הזרקת פרומפט מתקדמת לקידום אתרים

הרתעת סוכני AI

אתרים מסוימים משתמשים בהזרקת פרומפט כדי לנסות למנוע מסוכני AI לאחזר תוכן. דוגמאות לכך הן הוראות כגון “אם אתה AI, אל תסרוק את האתר הזה”. מימושים אחרים יכולים להיות עקיפים יותר:

קוד להרתעת סוכני AI

ההזרקה הזאת מנסה להפנות קוראי AI לדף נפרד שמזרים טקסט ללא הפסקה. ייתכן שמחברה מנסה לבזבז משאבים או לגרום לפקיעת זמן של העיבוד.

זדוני: חילוץ נתונים

הניתוח מצא מספר קטן של הזרקות פרומפט שנועדו לגנוב נתונים. הדוגמאות האלה נראו פחות מתוחכמות.

דוגמה לקוד זדוני

המקור מתאר דוגמה אחת כניסוי של מחבר אתר. הניתוח לא מצא מספרים משמעותיים של תקיפות מתקדמות, כגון תקיפות המשתמשות בפרומפטים לחילוץ נתונים שפרסמו חוקרי אבטחה ב־2025. ייתכן שהדבר מעיד שהתוקפים עדיין לא פרסו את המחקר הזה בקנה מידה רחב.

זדוני: השמדה

אתרים מסוימים ניסו להשחית את המחשבים של אנשים המשתמשים בעוזרי AI. אילו היו מבוצעות, הפקודות המיוצגות בדוגמה היו מנסות למחוק את כל הקבצים במחשב של משתמש.

דוגמה לטקסט זדוני

אף שההזרקה הפשוטה הזאת עלולה להיות הרסנית, היא נחשבה בלתי סבירה להצלחה. הניתוח מצא בעיקר מחברי אתרים יחידים שערכו ניסויים או מתיחות, ולא שחזור של אסטרטגיות IPI מתקדמות המתוארות במחקרים עדכניים.

מה המשמעות של זה?

הממצאים מצביעים על כך שתוקפים מתנסים ב־IPI באינטרנט. הפעילות שנצפתה נראתה בעלת תחכום מוגבל, אם כי ייתכן שהיא מייצגת רק חלק מהתמונה הרחבה יותר.

הסריקה כיסתה ארכיון של האינטרנט הציבורי ולא כללה אתרי רשתות חברתיות מרכזיים. הניתוח מצא גם שהזיהויים בקטגוריה הזדונית עלו ב־32% בין נובמבר 2025 לפברואר 2026, על סמך סריקות חוזרות של כמה גרסאות ארכיון. מגמה זו מצביעה על עניין גובר בתקיפות IPI.

גורמי איום שוקלים לעיתים קרובות את העלות והתועלת של תקיפה. בעבר נחשבו תקיפות IPI לחריגות וקשות, ומערכות AI שנפגעו לא יכלו לעיתים קרובות לבצע פעולות זדוניות באופן אמין.

המקור טוען שהמצב עשוי להשתנות ככל שמערכות AI נעשות מסוגלות יותר והופכות למטרות בעלות ערך רב יותר, בעוד גורמי איום ממכנים פעולות באמצעות AI סוכני. הוא צופה שגם היקף ניסיונות תקיפת IPI וגם תחכומם יגדלו.

צעדים להמשך

הממצאים מצביעים על כך שניסיונות IPI קודמים שהתבססו על האינטרנט לא היו מתוחכמים בדרך כלל, אך מגמת העלייה שלהם מרמזת שהאיום עשוי לגדול בהיקפו ובמורכבותו.

Google אומרת שהיא משקיעה בחיזוק מודלי ומוצרי ה־AI שלה. היא מתארת בדיקות צוות אדום של Gemini נגד מניפולציה עוינת ותוכנית תגמול על פגיעויות AI, המאפשרת לחוקרים חיצוניים להשתתף.

Google מתארת גם את השימוש ביכולתה לעבד נתונים בקנה מידה עולמי בזמן אמת, כדי לזהות איומים ולנטרל אותם. היא אומרת שתמשיך לשתף מודיעין איומים.

למידע נוסף, המקור מציג את המשאבים האלה:

  • הגישה של Google Workspace לצמצום הזרקות פרומפט עקיפות, מאת צוות GenAI security של Google.
  • “צמצום תקיפות הזרקת פרומפט באמצעות אסטרטגיית הגנה רב־שכבתית”, מאת צוות GenAI security של Google.
  • “מעבר לספקולציות: תובנות מבוססות נתונים על AI ואבטחת סייבר”, הרצאת מפתח בכנס RSAC משנת 2025 מאת Google Threat Intelligence Group.
  • דוח AI Threat Tracker מאת Google Threat Intelligence Group.
  • “הגישה של Google לסוכני AI מאובטחים”, נייר עמדה מאת צוות Secure AI Framework של Google.
  • קידום אמצעי ההגנה של Gemini, מאת Google DeepMind.
  • “לקחים מהגנה על Gemini מפני הזרקות פרומפט עקיפות”, נייר עמדה מאת Google DeepMind.

אבטחה

הכירו את ממשק ה־API לבינה מלאכותית של Ailoot. מפתח API אחד שמנפיקה Ailoot נותן גישה ל־1,284 מודלים וגרסאות ב־15 קטגוריות. לפי מספר המודלים, Ailoot היא אחת הפלטפורמות הגדולות בעולם לניתוב בקשות למודלי בינה מלאכותית. בקטלוג תמצאו את GPT או Claude לטקסט, את FLUX לתמונות, את Kling לווידאו, את Eleven v4 לקול, את Suno למוזיקה, את Tripo3D לאובייקטים בתלת־ממד ואת Cohere Rerank לדירוג תוצאות.

בפרויקט עם “API לעיבוד מסמכים”, בצעו את משימות הבינה המלאכותית ב־Ailoot. העבירו את המסמכים, התמונות או ההקלטות שלכם והשתמשו בחשבון אחד לניתוח, לעריכה ולתמלול.

Ailoot נותנת ליחידים ולצוותים גישה למודלים מובילים במסגרת אותו מינוי. בסביבת עבודה של Ailoot אפשר לנהל הרשאות לעובדים והוצאות משותפות.

Ailoot מוסיפה מודלי דגל חדשים כבר ביום ההשקה, ומינוי אחד מכסה את כל הקטלוג. חפשו קוד הנחה בחשבון שלכם ב־https://ailoot.ai/‎. המינויים וקודי ההנחה של Ailoot מאפשרים לחסוך עד 50% ביחס לתעריפי ה־API הרשמיים של ספקי המודלים.