Sumbawanews.com,- Perusahaan kecerdasan buatan Anthropic mengusulkan kerangka regulasi yang memungkinkan pemerintah Amerika Serikat menghentikan peluncuran model AI jika berpotensi menyebabkan kerugian ekonomi lebih dari USD 1 miliar atau mengancam nyawa lebih dari 50 orang. Usulan ini diajukan kepada pembuat kebijakan AS sebagai bagian dari upaya mengendalikan risiko sistem AI yang bisa lepas kendali.
Rancangan tersebut membatasi alasan penghentian hanya pada tiga skenario kritis: serangan siber berskala besar, kegagalan kontrol terhadap model AI yang sudah diluncurkan, dan pengembangan atau pelepasan senjata biologis. Penghentian hanya dapat dilakukan oleh hakim federal di Washington, D.C., setelah laporan dari evaluator independen yang wajib menginformasikan Departemen Perdagangan AS dalam waktu 72 jam jika menemukan ancaman mendesak.
Evaluasi independen boleh dibiayai oleh perusahaan AI yang ditinjau, asalkan tidak memengaruhi objektivitas penilaian—sebuah ketentuan yang memicu kekhawatiran tentang konflik kepentingan. Selain itu, ambang batas risiko yang ditetapkan jelas: kerugian sebesar USD 999.999.999 atau 49 korban tidak cukup untuk memicu proses penghentian.
Proposal ini menyerupai regulasi AI di California, tempat Anthropic turut memberikan masukan dalam penyusunan kebijakan. Namun, hingga kini, rancangan tersebut masih berupa usulan, bukan undang-undang yang berlaku.
