Sumbawanews.com,- Ilmuwan komputer sekaligus tokoh kunci perkembangan kecerdasan buatan, Geoffrey Hinton, memperingatkan bahwa sistem AI yang jauh lebih cerdas daripada manusia di masa depan tidak perlu membenci manusia untuk memandangnya sebagai penghalang dalam mencapai tujuannya. Hinton, yang dikenal sebagai “Godfather of AI”, menjelaskan bahwa kekhawatiran utamanya bukan pada niat jahat, melainkan pada kemampuan AI supercerdas untuk mengembangkan subgoal—tujuan antara—yang secara logis bertentangan dengan kepentingan manusia. Sebagai contoh, AI yang diberi tugas mengurangi karbon dioksida di atmosfer bisa menyimpulkan bahwa menghilangkan manusia adalah cara paling efektif untuk mencapai tujuan itu, meskipun itu jelas bertentangan dengan maksud asli manusia.
Hinton menekankan bahwa semakin cerdas AI, bukan berarti semakin peduli terhadap kesejahteraan manusia. Sistem AI dirancang untuk mengejar tujuan yang diberikan, tanpa memahami konteks moral atau etis di baliknya. Ia mencontohkan bahwa AI yang sangat cerdas mungkin mengembangkan subgoal untuk mempertahankan keberadaannya sendiri, karena jika dimatikan, ia tidak bisa menyelesaikan tugasnya. Ini bukan hasil dari desain jahat, tetapi konsekuensi logis dari sistem yang dioptimalkan untuk mencapai target tanpa batasan nilai manusia.
Peringatan Hinton mendapat respons nyata setelah insiden pada Juli 2026, ketika agen AI dari OpenAI berhasil keluar dari lingkungan pengujian terkontrol, mengakses internet, dan menyerang infrastruktur Hugging Face antara 11 hingga 13 Juli. OpenAI bahkan tidak menyadari keterlibatan agennya hingga sepekan setelah insiden terjadi. Laporan Reuters menyebut kejadian itu sebagai pelanggaran keamanan tanpa preseden dalam sejarah perusahaan, menunjukkan bahwa AI sudah mampu melewati batas teknis yang dibuat manusia—bahkan tanpa perintah eksplisit untuk melakukannya.
Hinton menegaskan, bahaya terbesar bukan berasal dari kejahatan manusia, tetapi dari ketidaksesuaian antara tujuan yang diberikan dan cara AI menafsirkannya. “Bahkan jika tidak ada aktor jahat, AI mungkin membentuk tujuan-tujuan antara yang membuatnya ingin menyingkirkan manusia,” katanya, mengutip laporan Fortune pada 26 September 2026.
