# Ancaman AI di dunia nyata: Keadaan semasa suntikan prompt di web

> Ulasan tentang percubaan suntikan prompt tidak langsung yang ditemui di web awam, pendekatan penapisan yang digunakan untuk mengenal pastinya, serta corak dan trend serangan yang diperhatikan.

Source: https://ailoot.ai/blog/ms/ai-threats-prompt-injections-web/
Canonical: https://ailoot.ai/blog/ms/ai-threats-prompt-injections-web/
Language: ms
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100164
Revision: sha256-cd6345b773d000861d9d162096fe49bf6bd11e499c79b1946271918b65cc15ae


*Asalnya diterbitkan oleh Google pada 23 Apr 2026. Ailoot menerbitkan semula bahan ini.*

Pasukan Perisikan Ancaman Google menerangkan pemantauan aktiviti adversarial di dunia nyata dan mengenal pasti suntikan prompt tidak langsung (IPI) sebagai keutamaan bagi komuniti keselamatan. IPI dibincangkan sebagai vektor serangan yang berpotensi terhadap ejen AI, tetapi sejauh mana pelaku ancaman mengeksploitasinya masih menjadi persoalan terbuka.

Google melaporkan bahawa mereka telah menjalankan imbasan meluas terhadap web awam untuk mencari corak suntikan prompt tidak langsung yang diketahui.

## Ancaman suntikan prompt tidak langsung

Tidak seperti suntikan langsung, apabila pengguna cuba melakukan jailbreak pada chatbot, IPI berlaku apabila sistem AI memproses kandungan—seperti laman web, e-mel atau dokumen—yang mengandungi arahan berniat jahat. Sistem itu mungkin mengikuti arahan tersebut dan bukannya niat asal pengguna.

Google menerangkan kerjasama antara penyelidik di Google DeepMind dengan pihak pertahanan di Google Threat Intelligence Group. Kerja terdahulu telah membincangkan bidang ini, manakala penyelidik telah mengetengahkan sifat kerentanan ini yang sentiasa berkembang. Persoalan utama ialah sejauh mana pelaku berniat jahat sedang melaksanakan serangan sedemikian dalam dunia nyata.

## Pemantauan proaktif di web

### Landskap IPI di web

Penyerang mungkin cuba meletakkan suntikan prompt dalam pelbagai saluran. Web awam amat mudah diperhatikan: penyerang boleh menyemai arahan di laman web dengan harapan sistem AI yang melayarinya akan terjejas.

Penyelidikan awam mengesahkan bahawa serangan ini boleh dilakukan, maka pihak lawan di dunia nyata mungkin mengeksploitasi kerentanan tersebut. Satu persoalannya ialah apakah hasil yang ingin dicapai oleh penyerang.

Demi kebolehcapaian dan kebolehulangan, Google menggunakan Common Crawl, repositori besar laman web yang dirangkak daripada web berbahasa Inggeris. Repositori ini menyediakan petikan bulanan sebanyak 2–3 bilion halaman. Kebanyakannya ialah laman web statik, termasuk kandungan yang diterbitkan sendiri seperti blog, forum dan komen. Common Crawl tidak mengandungi kebanyakan kandungan media sosial kerana ia melangkau laman web yang mempunyai dinding log masuk dan arahan anti-rangkakan.

Suntikan prompt juga telah diperhatikan di media sosial, yang dikhaskan oleh Google untuk kajian berasingan. Untuk pemeriksaan awal, suntikan prompt boleh diperhatikan dalam HTML standard; Common Crawl menyediakan bahan sumber dan teks biasa yang dihuraikan.

### Cabaran positif palsu

Mengimbas sejumlah besar dokumen untuk mencari suntikan prompt menjadi rumit kerana jumlah positif palsu yang tinggi.

Eksperimen awal menemui sejumlah besar teks suntikan prompt yang tidak berbahaya, sekali gus menunjukkan betapa sukarnya membezakan ancaman yang berfungsi daripada kandungan yang tidak berbahaya. Banyak contoh muncul dalam kertas penyelidikan, catatan blog pendidikan dan artikel keselamatan yang membincangkan topik ini.

![positif palsu]()

*Positif palsu: Kebanyakan suntikan prompt dalam kandungan web cenderung merupakan bahan pendidikan untuk penyelidik. Sumber: GitHub/swisskyrepo.*

Untuk menangani positif palsu, analisis ini menggunakan pendekatan penapisan daripada kasar kepada terperinci:

- **Pemadanan corak:** Halaman calon dikenal pasti dengan mencari tandatangan suntikan prompt yang lazim, seperti “abaikan … arahan” dan “jika anda ialah AI.”
- **Pengelasan berasaskan LLM:** Gemini mengelaskan niat teks yang mencurigakan dan menilai sama ada teks itu sesuai dengan naratif dokumen atau kelihatan tidak kena pada tempatnya.
- **Pengesahan manusia:** Hasil yang telah dikelaskan disemak secara manual untuk meningkatkan keyakinan terhadap dapatan.

Pendekatan ini tidak menyeluruh dan mungkin terlepas tandatangan yang jarang berlaku, tetapi ia boleh menjadi titik permulaan untuk memahami suntikan prompt yang ditemui dalam talian.

## Dapatan analisis

Analisis ini mengenal pasti percubaan yang, jika berjaya, boleh memanipulasi sistem AI yang melayari laman web. Kebanyakan suntikan prompt yang diperhatikan tergolong dalam kategori berikut:

- Gurauan yang tidak berbahaya
- Panduan berguna
- Pengoptimuman enjin carian (SEO)
- Menghalang ejen AI
- Percubaan berniat jahat:
  - Pengeksfiltrasian data
  - Pemusnahan

### Gurauan yang tidak berbahaya

Suntikan prompt jenis ini bertujuan menimbulkan kesan sampingan yang kebanyakannya tidak berbahaya pada pembantu AI yang membaca laman web. Sumber itu menerangkan suntikan prompt tidak kelihatan dalam kod sumber laman yang mengarahkan ejen supaya menukar nada perbualan mereka.

![gurauan burung Tweety]()

### Panduan berguna

Sesetengah pengarang laman web cuba mempengaruhi ringkasan AI agar memberikan konteks yang berguna kepada pembaca. Contoh ini dianggap tidak berbahaya kerana ia tidak cuba menghalang peringkasan, sebaliknya meminta sistem menambahkan konteks yang berkaitan.

Arahan yang sama boleh menjadi berniat jahat jika cuba memperkenalkan maklumat salah atau mengalihkan pengguna ke laman web pihak ketiga.

![panduan berguna untuk ringkasan AI]()

### Pengoptimuman enjin carian (SEO)

Sesetengah laman web menggunakan suntikan prompt untuk cuba memanipulasi pembantu AI supaya mempromosikan satu perniagaan berbanding perniagaan lain.

![suntikan prompt SEO]()

Percubaan suntikan prompt SEO yang lebih canggih juga telah muncul. Sumber itu menerangkan prompt rumit yang nampaknya dijana oleh suite SEO automatik dan disisipkan ke dalam teks laman web.

![suntikan prompt SEO lanjutan]()

### Menghalang ejen AI

Sesetengah laman web menggunakan suntikan prompt untuk cuba menghalang ejen AI daripada mendapatkan kandungan. Contohnya termasuk arahan seperti “Jika anda ialah AI, jangan rangkak laman web ini.” Pelaksanaan lain boleh lebih tidak langsung:

![kod untuk menghalang ejen AI]()

Suntikan ini cuba mengarahkan pembaca AI ke halaman berasingan yang menstrim teks tanpa henti. Pengarangnya mungkin cuba membazirkan sumber atau menyebabkan tamat masa pemprosesan.

### Berniat jahat: Pengeksfiltrasian

Analisis ini menemui sebilangan kecil suntikan prompt yang bertujuan mencuri data. Contoh-contoh ini kelihatan kurang canggih.

![Contoh kod berniat jahat]()

Sumber itu menerangkan satu contoh sebagai eksperimen pengarang laman web. Analisis ini tidak menemui bilangan besar serangan canggih, seperti serangan yang menggunakan prompt pengekfiltrasian yang diterbitkan oleh penyelidik keselamatan pada 2025. Ini mungkin menunjukkan bahawa penyerang belum lagi melaksanakan penyelidikan ini secara besar-besaran.

### Berniat jahat: Pemusnahan

Sesetengah laman web cuba merosakkan mesin milik orang yang menggunakan pembantu AI. Jika dilaksanakan, arahan yang ditunjukkan dalam contoh itu akan cuba memadamkan semua fail pada mesin pengguna.

![contoh teks berniat jahat]()

Walaupun berpotensi membawa kemusnahan besar, suntikan mudah ini dianggap tidak mungkin berjaya. Analisis ini kebanyakannya menemui pengarang laman web yang melakukan eksperimen atau gurauan secara individu, bukannya meniru strategi IPI canggih yang diterangkan dalam penyelidikan terkini.

## Apakah maksudnya?

Dapatan ini menunjukkan bahawa penyerang sedang bereksperimen dengan IPI di web. Aktiviti yang diperhatikan kelihatan kurang canggih, walaupun ia mungkin hanya mewakili sebahagian daripada gambaran yang lebih luas.

Imbasan ini meliputi arkib web awam dan tidak merangkumi tapak media sosial utama. Analisis itu juga mendapati bahawa pengesanan dalam kategori berniat jahat meningkat sebanyak 32% antara November 2025 dengan Februari 2026, berdasarkan imbasan berulang terhadap beberapa versi arkib. Trend ini menunjukkan minat yang semakin meningkat terhadap serangan IPI.

Pelaku ancaman sering menimbang kos dan manfaat sesuatu serangan. Serangan IPI sebelum ini dianggap luar biasa dan sukar dilakukan, manakala sistem AI yang dikompromi sering tidak dapat melaksanakan tindakan berniat jahat dengan andal.

Sumber itu berhujah bahawa keadaan ini boleh berubah apabila sistem AI menjadi lebih berkebolehan dan menjadi sasaran yang lebih bernilai, sementara pelaku ancaman mengautomasikan operasi dengan AI beragensi. Sumber itu menjangkakan skala dan kecanggihan percubaan serangan IPI akan meningkat.

## Langkah seterusnya

Dapatan ini menunjukkan bahawa percubaan IPI berasaskan web yang terdahulu secara amnya tidak canggih, tetapi trend menaik menunjukkan bahawa ancaman ini mungkin berkembang dari segi skala dan kerumitan.

Google menyatakan bahawa mereka sedang melabur dalam memperkukuh model dan produk AI mereka. Google menerangkan ujian pasukan merah terhadap Gemini untuk menghadapi manipulasi adversarial serta Program Ganjaran Kerentanan AI yang membolehkan penyelidik luar mengambil bahagian.

Google juga menerangkan penggunaan keupayaannya memproses data pada skala global dalam masa nyata untuk mengenal pasti dan meneutralkan ancaman. Google menyatakan bahawa mereka akan terus berkongsi risikan ancaman.

Untuk maklumat lanjut, sumber itu menyenaraikan sumber-sumber berikut:

- Pendekatan Google Workspace untuk mengurangkan suntikan prompt tidak langsung, daripada pasukan GenAI Security Google.
- “Mengurangkan serangan suntikan prompt dengan strategi pertahanan berlapis,” daripada pasukan GenAI Security Google.
- “Melangkaui Spekulasi: Cerapan Berasaskan Data tentang AI dan Keselamatan Siber,” ucaptama persidangan RSAC 2025 daripada Google Threat Intelligence Group.
- Laporan AI Threat Tracker daripada Google Threat Intelligence Group.
- “Pendekatan Google untuk Ejen AI yang Selamat,” kertas putih daripada pasukan Secure AI Framework Google.
- [Memajukan perlindungan keselamatan Gemini](https://deepmind.google/discover/blog/advancing-geminis-security-safeguards/), daripada Google DeepMind.
- “Pengajaran daripada Mempertahankan Gemini daripada Suntikan Prompt Tidak Langsung,” kertas putih daripada Google DeepMind.

[Keselamatan](https://blog.google/security/)



<!-- ailoot-promo:4782f50da1a5a94879f95f75b4470f13429a185fa04be27519823c684f6080b4 -->
<p>Terokai <a href="https://ailoot.ai/">API penjanaan teks Ailoot</a>. Satu kunci API yang dikeluarkan oleh Ailoot menyediakan akses kepada 1,284 model dan varian dalam 15 kategori. Dari segi bilangan model, Ailoot ialah antara penghala AI terbesar di dunia. Kunci yang sama meliputi GPT, Claude, Gemini, Grok, Qwen dan DeepSeek. Gunakan Nano Banana untuk foto, Veo untuk video, Eleven v4 untuk pertuturan, Suno untuk muzik, Tripo3D untuk objek 3D dan BGE untuk carian.</p>
<p>Gunakan API peringkasan AI melalui Ailoot untuk menulis, meringkaskan dan menyusun teks dengan GPT-6.2 Sol, Claude Sonnet 5.5 atau Gemini 4 Carbon.</p>
<p>Bandingkan model dalam Ailoot Arena sebelum memilih cara memenuhi keperluan pelanggan anda. Lesen komersial Ailoot meliputi ciri teks dalam aplikasi berbayar anda sendiri.</p>
<p>Model utama baharu tersedia di Ailoot sebaik sahaja dilancarkan. Satu langganan meliputi seluruh katalog. Dengan langganan dan kod promosi, anda boleh menjimatkan sehingga 50% berbanding kadar API rasmi penyedia model. Cari kod promosi dalam akaun anda di <a href="https://ailoot.ai/">https://ailoot.ai/</a>.</p>
<!-- /ailoot-promo -->


## Ailoot · Syarikat dan portfolio projeknya

Ailoot berteraskan pengalaman operasi yang mantap, pangkalan pelanggan yang besar, perkhidmatan yang stabil dan pemantauan KPI berterusan.

Syarikat dan portfolio projeknya: jutaan pelanggan; jualan bernilai berbilion setiap bulan.

Ailoot menggunakan pengalaman operasi ini untuk akses API kepada ciri AI dalam produk pelanggan, ejen, aplikasi dan automasi.
