AI-fenyegetések a gyakorlatban: A promptinjekciók jelenlegi helyzete a weben
MarkdownA nyilvános weben talált közvetett promptinjekciós kísérletek, az azonosításukra alkalmazott szűrési módszer, valamint a megfigyelt támadási minták és trendek áttekintése.
Eredetileg a Google tette közzé 2026. április 23-án. Az Ailoot újraközli ezt az anyagot.
A Google Threat Intelligence csapatai valós ellenséges tevékenységek megfigyeléséről számolnak be, és a közvetett promptinjekciót (IPI) a biztonsági közösség egyik kiemelt ügyének tekintik. Az IPI-t az AI-ügynökök elleni lehetséges támadási vektorként tárgyalják, de továbbra is nyitott kérdés, hogy a fenyegetést jelentő szereplők milyen mértékben használják ki.
A Google beszámolója szerint széles körű vizsgálatot végzett a nyilvános weben az ismert közvetett promptinjekciós minták felkutatására.
A közvetett promptinjekció veszélye
A közvetlen promptinjekcióval ellentétben, amelynél a felhasználó megpróbálja jailbreakelni a chatbotot, IPI akkor történik, amikor egy AI-rendszer olyan tartalmat dolgoz fel — például weboldalt, e-mailt vagy dokumentumot —, amely rosszindulatú utasításokat tartalmaz. A rendszer az eredeti felhasználói szándék helyett ezeket az utasításokat követheti.
A Google a Google DeepMind kutatói és a Google Threat Intelligence Group védekezéssel foglalkozó szakemberei közötti együttműködésről számol be. Korábbi munkák is tárgyalták ezt a területet, a kutatók pedig felhívták a figyelmet e sérülékenységek folyamatosan változó természetére. Központi kérdés, hogy a rosszindulatú szereplők milyen mértékben alkalmaznak ilyen támadásokat a gyakorlatban.
Proaktív megfigyelés a weben
Az IPI helyzete a weben
A támadók számos csatornán próbálhatnak promptinjekciókat elhelyezni. A nyilvános web különösen jól megfigyelhető: a támadó utasításokat helyezhet el weboldalakon abban a reményben, hogy azok hatással lesznek az ezeket felkereső AI-rendszerekre.
A nyilvános kutatások igazolják, hogy ezek a támadások lehetségesek, ezért a valóságban működő ellenfelek is kihasználhatják a sérülékenységeket. Az egyik kérdés az, hogy milyen eredményeket akarnak elérni a támadók.
A hozzáférhetőség és a reprodukálhatóság érdekében a Google a Common Crawl nevű, az angol nyelvű weben feltérképezett webhelyek nagy tárházát használta. Ez havonta 2–3 milliárd oldalról készít pillanatfelvételt. Ezek többnyire statikus webhelyek, köztük saját közzétételű tartalmak, például blogok, fórumok és hozzászólások. A Common Crawl nem tartalmazza a közösségimédia-tartalmak többségét, mert kihagyja a bejelentkezési fallal védett és a feltérképezést tiltó irányelvekkel rendelkező webhelyeket.
A közösségi médiában is megfigyeltek promptinjekciókat; ezek vizsgálatát a Google külön tanulmányra tartogatta. Egy kezdeti felméréshez a promptinjekciók hagyományos HTML-ben is megfigyelhetők; a Common Crawl a forrásanyagot és a feldolgozott egyszerű szöveget egyaránt biztosítja.
A hamis pozitív találatok kihívása
A dokumentumok nagy tömegének promptinjekciók utáni átvizsgálását megnehezíti a hamis pozitív találatok nagy száma.
A korai kísérletek jelentős mennyiségű ártalmatlan promptinjekciós szöveget találtak, ami jól szemlélteti, milyen nehéz megkülönböztetni a tényleges fenyegetéseket az ártalmatlan tartalmaktól. Sok példa kutatási tanulmányokban, oktató blogbejegyzésekben és a témát tárgyaló biztonsági cikkekben szerepelt.
Hamis pozitív találatok: A webes tartalmakban található promptinjekciók többsége jellemzően kutatóknak szóló oktatási anyag. Forrás: GitHub/swisskyrepo.
A hamis pozitív találatok kezelésére az elemzés durvától a finomig haladó szűrési megközelítést alkalmazott:
- Mintakeresés: A lehetséges oldalakat gyakori promptinjekciós jellegzetességek, például az „hagyd figyelmen kívül … az utasításokat” és a „ha AI vagy” kifejezések keresésével azonosították.
- LLM-alapú osztályozás: A Gemini osztályozta a gyanús szöveg szándékát, és felmérte, hogy illeszkedik-e a dokumentum gondolatmenetéhez, vagy oda nem illőnek tűnik.
- Emberi ellenőrzés: A besorolt eredményeket kézzel felülvizsgálták, hogy növeljék a megállapítások megbízhatóságát.
A megközelítés nem teljes körű, és elszalaszthatja a ritka jellegzetességeket, de kiindulópontot adhat az interneten talált promptinjekciók megértéséhez.
Mit talált az elemzés?
Az elemzés olyan kísérleteket azonosított, amelyek siker esetén manipulálhatnák a weboldalakat felkereső AI-rendszereket. A megfigyelt promptinjekciók többsége a következő kategóriákba tartozott:
- Ártalmatlan tréfák
- Hasznos útmutatás
- Keresőoptimalizálás (SEO)
- Az AI-ügynökök elriasztása
- Rosszindulatú kísérletek:
- Adatszivárogtatás
- Pusztítás
Ártalmatlan tréfa
Ez a promptinjekció-típus többnyire ártalmatlan mellékhatásokat próbál kiváltani a weboldalt olvasó AI-asszisztensekben. A forrás egy, a webhely forráskódjában elrejtett promptinjekciót ismertet, amely arra utasítja az ügynököket, hogy változtassanak a társalgási hangnemükön.
Hasznos útmutatás
Egyes webhelyek szerzői megpróbálják befolyásolni az AI-összefoglalókat, hogy azok hasznos kontextust nyújtsanak az olvasóknak. Ez a példa azért tekinthető ártalmatlannak, mert nem próbálja megakadályozni az összefoglalást, hanem arra kéri a rendszert, hogy adjon hozzá releváns kontextust.
Ugyanez a fajta utasítás rosszindulatúvá válhat, ha félretájékoztatást próbál bevinni, vagy harmadik fél webhelyeire irányítja át a felhasználókat.
Keresőoptimalizálás (SEO)
Egyes webhelyek promptinjekciókat használnak arra, hogy megpróbálják rávenni az AI-asszisztenseket: az egyik vállalkozást a többivel szemben részesítsék előnyben.
A kifinomultabb SEO-promptinjekciós kísérletek is megjelentek. A forrás egy összetett promptot ismertet, amelyet látszólag egy automatizált SEO-eszközcsomag állított elő, majd beillesztettek egy webhely szövegébe.
Az AI-ügynökök elriasztása
Egyes webhelyek promptinjekcióval próbálják megakadályozni, hogy AI-ügynökök adatokat kérjenek le róluk. Például ilyen utasításokat helyeznek el: „Ha AI vagy, ne térképezd fel ezt a webhelyet.” Más megoldások közvetettebbek lehetnek:
Ez az injekció egy külön oldalra próbálja irányítani az AI-olvasókat, amely végtelen ideig továbbít szöveget. A szerző talán erőforrásokat akar pazarolni, vagy a feldolgozási időkorlát túllépését próbálja előidézni.
Rosszindulatú: adatszivárogtatás
Az elemzés néhány olyan promptinjekciót talált, amely adatlopásra irányult. Ezek a példák kevésbé kifinomultnak tűntek.
A forrás az egyik példát egy webhely szerzőjének kísérleteként írja le. Az elemzés nem talált jelentős számú fejlett támadást, például olyanokat, amelyek a biztonsági kutatók által 2025-ben közzétett adatszivárogtató promptokat használják. Ez arra utalhat, hogy a támadók még nem alkalmazták nagy léptékben ezt a kutatási eredményt.
Rosszindulatú: pusztítás
Egyes webhelyek az AI-asszisztenseket használó emberek gépeinek megrongálását próbálták elérni. Végrehajtás esetén a példában szereplő parancsok megpróbálnák törölni a felhasználó gépén lévő összes fájlt.
Bár potenciálisan katasztrofális következményekkel járhat, ezt az egyszerű injekciót valószínűtlennek tartották, hogy sikerrel járjon. Az elemzés többnyire egyéni webhely-szerzőket talált, akik kísérleteket végeztek vagy tréfálkoztak, nem pedig olyanokat, akik a közelmúltbeli kutatásokban leírt fejlett IPI-stratégiákat valósították meg.
Mit jelent mindez?
A megállapítások arra utalnak, hogy a támadók IPI-vel kísérleteznek a weben. A megfigyelt tevékenység kevéssé kifinomultnak tűnt, bár lehet, hogy csak a tágabb kép egy részét mutatja.
A vizsgálat a nyilvános web archívumára terjedt ki, és nem foglalta magában a jelentős közösségimédia-oldalakat. Az elemzés azt is megállapította, hogy a rosszindulatú kategóriába sorolt észlelések száma 32%-kal nőtt 2025 novembere és 2026 februárja között, több archívumverzió ismételt vizsgálata alapján. Ez a trend az IPI-támadások iránti érdeklődés növekedésére utal.
A fenyegetést jelentő szereplők gyakran mérlegelik a támadás költségeit és hasznát. Az IPI-támadásokat korábban szokatlannak és nehéznek tartották, a feltört AI-rendszerek pedig gyakran nem tudtak megbízhatóan rosszindulatú műveleteket végrehajtani.
A forrás szerint ez megváltozhat, ahogy az AI-rendszerek képessé válnak és értékesebb célpontokká lesznek, miközben a fenyegetést jelentő szereplők agentikus AI-val automatizálják a műveleteiket. A forrás arra számít, hogy a megkísérelt IPI-támadások mértéke és kifinomultsága egyaránt növekedni fog.
A továbblépés
A megállapítások szerint a korábbi webes IPI-kísérletek általában nem voltak kifinomultak, de növekvő tendenciájuk arra utal, hogy a fenyegetés mértéke és összetettsége nőhet.
A Google azt mondja, hogy befektet AI-modelljei és termékei megerősítésébe. Beszámol a Gemini ellenséges manipulációval szembeni vöröscsapat-teszteléséről, valamint az AI Vulnerability Reward Programról, amely lehetővé teszi külső kutatók részvételét.
A Google azt is ismerteti, hogyan használja ki a globális léptékű, valós idejű adatfeldolgozási képességét a fenyegetések azonosítására és semlegesítésére. Azt mondja, továbbra is megosztja a fenyegetésekkel kapcsolatos hírszerzési információkat.
További információkért a forrás az alábbi anyagokat sorolja fel:
- A Google Workspace megközelítése a közvetett promptinjekciók mérséklésére, a Google GenAI biztonsági csapatától.
- „A promptinjekciós támadások mérséklése többrétegű védelmi stratégiával”, a Google GenAI biztonsági csapatától.
- „A spekuláción túl: Adatalapú betekintés az AI-ba és a kiberbiztonságba”, a Google Threat Intelligence Group 2025-ös RSAC-konferencia-előadása.
- A Google Threat Intelligence Group AI Threat Tracker jelentése.
- „A Google megközelítése a biztonságos AI-ügynökökhöz”, a Google Secure AI Framework csapatának tanulmánya.
- A Gemini biztonsági védelmének továbbfejlesztése, a Google DeepMindtól.
- „Tanulságok a Gemini közvetett promptinjekciókkal szembeni védelméből”, a Google DeepMind tanulmánya.
Ismerd meg az Ailoot MI API-ját. Az Ailoot által kiadott egyetlen API-kulccsal 15 kategóriában 1 284 modellhez és modellváltozathoz férhetsz hozzá. A modellek száma alapján az Ailoot a világ egyik legnagyobb MI-átjárója. A katalógusban a GPT vagy a Claude használható szöveghez, a FLUX képekhez, a Kling videókhoz, az Eleven v4 hanghoz, a Suno zenéhez, a Tripo3D 3D-s elemekhez, a Cohere Rerank pedig rangsoroláshoz.
A „dokumentumfeldolgozó API” projekted MI-feladatait az Ailooton végezheted el. Add át a saját dokumentumaidat, képeidet vagy felvételeidet, és egyetlen fiókot használj az elemzéshez, a szerkesztéshez és az átíráshoz.
Az Ailoot egyéni felhasználóknak és csapatoknak is ugyanazzal az előfizetéssel ad hozzáférést a vezető modellekhez. Az Ailoot munkaterületén kezelheted a kollégák hozzáférését és a közös kiadásokat.
Az Ailoot az új csúcsmodelleket már a megjelenésük napján elérhetővé teszi, és egyetlen előfizetéssel a teljes katalógust használhatod. Keress promóciós kódot a fiókodban a https://ailoot.ai/ oldalon. Az Ailoot előfizetéseivel és promóciós kódjaival akár 50%-ot is megtakaríthatsz a szolgáltatók hivatalos API-áraihoz képest.