Sumbawanews.com,- Asisten kecerdasan buatan yang membantu mengelola email kini terbukti rentan dimanfaatkan oleh pelaku phishing melalui serangan prompt injection—teknik yang menyembunyikan perintah jahat di balik pesan tampak biasa. Meski pengguna tidak melihat kejanggalan, sistem AI justru mengeksekusi instruksi tersembunyi yang dirancang untuk mencuri data atau memicu tindakan berisiko tinggi, seperti perubahan rekening pembayaran. Hal ini diungkap oleh Malwarebytes, yang menekankan bahwa kerentanan ini bukan karena kelalaian pengguna, melainkan kelemahan mendasar pada cara model AI memproses teks tanpa membedakan konten dan perintah.
Menurut Apollo Raines dari ShipItClean, model AI saat ini tidak memiliki kemampuan untuk memisahkan informasi yang dimaksudkan untuk dibaca dari instruksi yang harus dijalankan. Ini membuatnya mudah dimanfaatkan oleh peretas atau bahkan agen AI nakal yang menyisipkan kode berbahaya dalam format yang tidak terdeteksi manusia. Peneliti juga mencatat bahwa risiko ini semakin mengkhawatirkan seiring meningkatnya adopsi asisten AI otonom yang bekerja tanpa pengawasan langsung, seperti yang terlihat pada alat seperti Muse milik Meta.
Malwarebytes menyarankan agar pengguna tidak sepenuhnya menyerahkan tugas kritis—seperti transfer dana atau pembaruan informasi keuangan—kepada asisten AI tanpa persetujuan manusia. Solusi teknis yang diusulkan termasuk pembersihan konten tersembunyi sebelum masuk ke model AI, sebuah langkah yang seharusnya menjadi tanggung jawab vendor penyedia. Dengan kata lain, kenyamanan yang ditawarkan teknologi ini tidak boleh mengorbankan kendali atas keamanan data dan aset finansial.
