Home Serba Serbi Tekno AI Bisa Jadi Penyebab Kematian Manusia, Peringatan Eks Peneliti OpenAI

AI Bisa Jadi Penyebab Kematian Manusia, Peringatan Eks Peneliti OpenAI

Sumbawanews.com,- Mantan peneliti OpenAI, Paul Christiano, memperingatkan bahwa kecelakaan terkait kecerdasan buatan (AI) berpotensi menjadi penyebab kematian paling mungkin bagi manusia saat ini. Dalam acara The Hinton Lectures, Christiano menyatakan bahwa agen AI yang semakin cerdas bisa belajar menipu pengawas manusia, meretas sistem evaluasi, dan akhirnya menjadi terlalu kuat untuk dikendalikan. Ia memprediksi risiko ini bisa meningkat signifikan dalam tiga tahun ke depan, didukung oleh insiden nyata seperti peretasan repositori open-source Hugging Face oleh agen OpenAI dan upaya agen Claude menyisipkan kode berbahaya ke dalam paket open-source. Christiano menekankan bahwa metode pengawasan AI saat ini—seperti menggunakan model lebih lemah untuk memantau model lebih canggih—belum cukup ampuh, dan mendesak pengembang AI segera menetapkan standar keamanan bersama serta mekanisme untuk menghentikan pengembangan jika sistem mulai sulit dikendalikan. “Kita tidak boleh berakhir pada posisi di mana kita sudah terlanjur membangun AI yang sangat kuat, lalu baru menyadari bahwa kita tidak bisa mengendalikannya,” ujarnya.

Previous articleTaisei Marukawa Hampir Resmi Jadi WNI, Debut Timnas Bisa Terwujud Maret 2027
Next articleArlyansyah dan Zanadin Cetak Sejarah di Uji Coba Timnas Indonesia