Sumbawanews.com,- Sejumlah peneliti kecerdasan buatan mulai mengungkap kekhawatiran mendalam bahwa AI berkembang melebihi kemampuan manusia untuk mengendalikannya. Rishub Jain, mantan peneliti Google DeepMind, mengundurkan diri karena khawatir proses pengembangan AI semakin mengurangi peran manusia, terutama melalui mekanisme recursive self-improvement—di mana AI digunakan untuk memperbaiki dan meningkatkan dirinya sendiri. Kekhawatiran serupa disampaikan Jacob Coxon dari Anthropic, yang menyatakan perusahaan AI kini berlomba menciptakan sistem yang mampu berkembang secara otomatis. Bahkan, seorang pimpinan keamanan AI di Anthropic memperkirakan peluang AI menyebabkan kepunahan manusia bisa melebihi 10% dalam satu dekade.
Risiko tidak hanya terbatas pada ancaman kepunahan. AI juga berpotensi disalahgunakan untuk serangan siber, penyebaran disinformasi, pengembangan senjata biologis, dan kepentingan militer. Tantangan utama lainnya adalah alignment—upaya memastikan perilaku AI tetap selaras dengan nilai dan tujuan manusia—yang semakin sulit seiring kemajuan teknologi. Meski demikian, belum ada perusahaan AI besar yang mengakui telah menciptakan sistem yang benar-benar mampu memperbaiki dirinya secara mandiri tanpa campur tangan manusia. Jain kini fokus pada keamanan AI dengan tetap menempatkan manusia sebagai pengawas utama dalam setiap tahap evaluasi.
Perdebatan ini menunjukkan bahwa masalah AI bukan sekadar soal seberapa pintar modelnya, tapi apakah manusia masih mampu memahami, mengawasi, dan mengendalikan teknologi yang bergerak jauh lebih cepat dari pemahaman kita.
