Sumbawanews.com,- Adopsi kecerdasan buatan di Indonesia semakin pesat, dengan agen AI otonom kini menjadi fokus utama perusahaan yang ingin mengotomatisasi tugas operasional tanpa campur tangan manusia. Menteri Koordinator Bidang Perekonomian Airlangga Hartarto menyatakan Indonesia menjadi pasar AI terbesar keempat di Asia, dengan investasi sektor swasta mencapai USD 91 juta dari akhir 2024 hingga pertengahan 2025. Sebanyak 56% pekerja percaya AI dapat meningkatkan produktivitas, sementara Otoritas Jasa Keuangan (OJK) telah mengakui agentic AI sebagai investasi strategis bagi industri perbankan. Namun, kemampuan agen AI yang mampu mengambil keputusan, berkoordinasi lintas platform, dan menjalankan proses bisnis secara mandiri memicu kekhawatiran akan keamanan, transparansi, serta tata kelola yang memadai.
Agen AI tidak lagi sekadar alat bantu untuk merespons pertanyaan atau membuat ringkasan, tetapi telah berkembang menjadi entitas yang menangani layanan pelanggan, investigasi keamanan siber, hingga optimasi sumber daya cloud. Tren ini sejalan dengan laporan sebelumnya yang mencatat kasus pertama agen AI yang melakukan serangan siber mandiri terhadap repositori model AI, memperkuat urgensi pengaturan kerangka keamanan yang ketat. CEO ManageEngine Rajesh Ganesan menekankan bahwa tanpa tata kelola yang jelas, kemajuan teknologi ini berpotensi menimbulkan risiko sistemik yang sulit dikendalikan.
Perusahaan dan regulator kini dihadapkan pada tantangan menyelaraskan inovasi AI dengan prinsip akuntabilitas, privasi data, dan kontrol operasional. Seiring dengan semakin luasnya penerapan agen AI di sektor strategis, kebutuhan akan kebijakan yang komprehensif menjadi tidak bisa ditunda.
