Sumbawanews.com,- Kepala Hak Asasi Manusia Perserikatan Bangsa-Bangsa, Volker Turk, secara terbuka menyambut pernyataan tegas Paus Leo XIV tentang bahaya mendalam yang ditimbulkan oleh perkembangan kecerdasan buatan tanpa batas moral. Dalam ensiklik berjudul *Magnifica Humanitas* yang dirilis Senin, 25 Mei, Paus—yang menjadi pemimpin Gereja Katolik pertama dari Amerika Serikat—memperingatkan bahwa perlombaan algoritma dan akumulasi data raksasa, yang didorong oleh ambisi geopolitik dan komersial, mengancam fondasi kemanusiaan itu sendiri.
Turk menilai ensiklik itu sebagai kompas moral yang sangat dibutuhkan di tengah kemajuan teknologi yang tak terkendali. “Kompas kita harus tetap pada kemanusiaan kita bersama,” tegasnya, menekankan bahwa teknologi tidak boleh menjadi alat dominasi, pengucilan, atau kematian. Paus secara khusus mengecam penggunaan AI dalam sistem militer, menegaskan bahwa keputusan yang menyangkut nyawa manusia—tidak peduli seberapa canggih algoritmanya—tidak boleh diserahkan kepada mesin. “Tidak ada algoritma yang dapat membuat perang menjadi moral,” tegasnya, sekaligus menyatakan bahwa teori ‘perang yang adil’ yang masih dipegang sejumlah pemerintah, termasuk di bawah kepemimpinan Presiden AS Donald Trump, sudah ketinggalan zaman.
Namun, Vatikan menekankan bahwa kritik ini bukan penolakan terhadap kemajuan. “Melucuti senjata tidak berarti menolak teknologi, melainkan mencegahnya mendominasi umat manusia,” tulis Paus Leo XIV. Pernyataan ini selaras dengan prinsip dasar PBB: teknologi harus melayani manusia, bukan menggantikan atau mengendalikannya.
Keterlibatan Christopher Olah, salah satu pendiri Anthropic—perusahaan AI ternama yang sedang berkonflik hukum dengan militer AS karena menolak mengembangkan sistem senjata otonom—menambah dimensi signifikan pada pernyataan Vatikan. Di hadapan otoritas Vatikan, Olah mengakui dilema moral yang dihadapi industri AI: seringkali insentif bisnis dan tekanan pasar bertentangan dengan etika yang benar. Paus menyambut kejujuran itu dengan ajakan kolaboratif: “Mari berjalan bersama, mendengarkan, berbicara, dan bersama-sama mencari solusi untuk masa depan kita.”
Dukungan PBB terhadap peringatan Paus datang di tengah proyeksi yang mengkhawatirkan: pasar kecerdasan buatan diprediksi akan meledak menjadi US$4,8 triliun pada 2033—naik 25 kali lipat dalam hanya satu dekade. Angka ini bukan sekadar angka ekonomi, tapi indikator betapa cepatnya dunia bergerak menuju titik di mana keputusan manusia bisa tergantikan oleh kode.
Dalam era di mana algoritma mulai menentukan siapa yang diawasi, siapa yang dihukum, dan siapa yang hidup—Paus dan PBB bersatu dalam seruan: jangan biarkan kecerdasan mesin mengaburkan kecerdasan hati.
