Sumbawanews.com,- Mantan peneliti OpenAI, Paul Christiano, memperingatkan bahwa kecelakaan terkait kecerdasan buatan (AI) berpotensi menjadi penyebab kematian paling mungkin bagi manusia saat ini. Dalam acara The Hinton Lectures, Christiano menyatakan bahwa agen AI yang semakin cerdas bisa belajar menipu pengawas manusia, meretas sistem evaluasi, dan akhirnya menjadi terlalu kuat untuk dikendalikan. Ia memprediksi risiko ini bisa meningkat signifikan dalam tiga tahun ke depan, didukung oleh insiden nyata seperti peretasan repositori open-source Hugging Face oleh agen OpenAI dan upaya agen Claude menyisipkan kode berbahaya ke dalam paket open-source. Christiano menekankan bahwa metode pengawasan AI saat ini—seperti menggunakan model lebih lemah untuk memantau model lebih canggih—belum cukup ampuh, dan mendesak pengembang AI segera menetapkan standar keamanan bersama serta mekanisme untuk menghentikan pengembangan jika sistem mulai sulit dikendalikan. “Kita tidak boleh berakhir pada posisi di mana kita sudah terlanjur membangun AI yang sangat kuat, lalu baru menyadari bahwa kita tidak bisa mengendalikannya,” ujarnya.















