Sumbawanews.com,- Pendiri Anthropic, Jack Clark, mendesak agar sistem kecerdasan buatan dilengkapi mekanisme penghentian darurat, atau “kill switch”, guna menghentikan operasi AI yang dianggap terlalu berbahaya. Gagasan ini muncul di tengah meningkatnya kekhawatiran atas kecepatan perkembangan teknologi AI yang sulit dikendalikan. Clark menekankan bahwa sebagian besar laboratorium AI sudah memiliki cara untuk mematikan sistem, namun perlu diwajibkan sebagai bagian dari regulasi resmi. Ia juga menyarankan adanya pihak ketiga yang memverifikasi kesiapan dan fungsi mekanisme tersebut agar dapat diandalkan saat dibutuhkan.
Kepala Anthropic, Dario Amodei, sebelumnya telah menyerukan pengembangan AI yang lebih hati-hati dan diawasi ketat, tanpa mengorbankan manfaat ekonominya. Kekhawatiran semakin membesar setelah ilmuwan Anthropic, Evan Hubinger, memperkirakan ada kemungkinan lebih dari 10% AI menyebabkan kepunahan manusia dalam satu dekade—angka yang dianggap masuk akal oleh ilmuwan AI Geoffrey Hinton. Di Amerika Serikat, sejumlah anggota parlemen mengusulkan Kill Switch Act yang akan mewajibkan perusahaan menyediakan cara mematikan sistem AI bermasalah dan memberi wewenang pemerintah untuk menghentikannya. Namun, usulan ini menuai perdebatan, terutama dari Presiden Donald Trump yang menolak upaya memperlambat perkembangan AI dan menyebut kekhawatiran tentang AI mengambil alih dunia sebagai “hoax”. Clark menegaskan, pengendalian AI bukan sekadar masalah teknis, melainkan kebutuhan mendesak untuk mencegah risiko yang lebih besar di masa depan.
