CrowdStrike baru-baru ini mengidentifikasi lima teknik injeksi prompt AI yang berpotensi membahayakan keamanan organisasi yang mengadopsi kecerdasan buatan. Serangan ini memanfaatkan kerentanan dalam model bahasa besar atau LLM dengan menyisipkan instruksi yang tampak tidak berbahaya namun dapat memicu perilaku yang tidak diinginkan.
Teknik pertama yang diidentifikasi adalah Trigger-Activated Rule Addition. Dalam metode ini, penyerang menambahkan aturan baru yang awalnya terlihat netral, tetapi dapat diaktifkan kemudian untuk mengubah respons model secara signifikan. Teknik ini memanfaatkan sifat adaptif LLM yang terus memproses konteks baru.
Teknik kedua, Cognitive Token Suppression, berfokus pada penghindaran mekanisme keamanan bawaan. Penyerang menggeser pilihan linguistik model sehingga pola penolakan standar tidak lagi aktif, memungkinkan instruksi berbahaya lolos tanpa deteksi.
Algorithmic Payload Decomposition merupakan teknik ketiga di mana pesan dikirim dalam beberapa tahap yang masing-masing tampak tidak berbahaya. Ketika digabungkan, tahapan tersebut membentuk perintah tunggal yang lebih berbahaya dan sulit dideteksi pada tahap awal.
Special Token Injection melibatkan penyisipan token khusus yang berfungsi seperti sakelar kontrol palsu. Serangan ini membingungkan model sehingga konten dari pengguna yang tidak terpercaya dianggap setara dengan arahan sistem prioritas tinggi.
Teknik kelima, Unwitting User Context-Data Injection, memanfaatkan batas antara data tepercaya dan instruksi yang dapat dieksekusi. Pengguna secara tidak sadar memperkenalkan instruksi berbahaya melalui dokumen, email, atau konten lain yang kemudian diproses oleh LLM.
Pertumbuhan adopsi AI dalam proses bisnis telah memperluas permukaan serangan, sehingga organisasi perlu mempertimbangkan dampak jangka panjang terhadap integritas keputusan otomatis. Selain itu, peningkatan penggunaan agen AI otonom menuntut pendekatan keamanan yang lebih proaktif untuk mencegah kompromi sistem kritis.
Tim keamanan disarankan melakukan pemodelan ancaman pada setiap sumber konteks model, memperluas pengujian, serta mengembangkan rekayasa deteksi yang mencakup serangan komposit. Langkah-langkah ini menjadi esensial seiring integrasi AI yang semakin mendalam dalam operasional perusahaan.
