Sumbawanews.com,- Dewan Pengawas Meta mendesak perusahaan raksasa teknologi itu untuk segera memperkuat perlindungan terhadap pengguna dari penyebaran konten deepfake seksual, menyusul kasus yang mengabaikan laporan korban nyata di Instagram. Dalam laporan resminya, dewan menilai kebijakan moderasi konten Meta saat ini tidak adil—karena hanya mengakui pelanggaran jika dilaporkan langsung oleh korban, penegak hukum, atau media. Padahal, kebanyakan korban adalah warga biasa yang tidak punya akses atau kekuatan untuk melibatkan pihak-pihak tersebut.
Insiden yang menjadi titik balik terjadi ketika seorang pengguna melaporkan video AI yang memperlihatkan temannya dalam adegan seksual tanpa persetujuan. Meski dua pengguna lain juga ikut melapor dan korban bahkan sudah menutup akunnya, Meta menolak menghapus konten tersebut dengan alasan tidak ada bukti kuat bahwa sosok dalam video adalah orang nyata. Kebijakan ini, menurut dewan, justru melindungi pelaku dan mengorbankan korban—terutama perempuan dan anak perempuan yang paling rentan menjadi sasaran eksploitasi digital.
Atas dasar itu, Dewan Pengawas membatalkan keputusan Meta dan memerintahkan penghapusan konten yang bersangkutan. Lebih dari itu, mereka mengeluarkan tiga rekomendasi strategis yang harus segera diimplementasikan: pertama, memperkenalkan fitur “Akun Terhubung” yang memungkinkan pengguna menunjuk keluarga atau teman tepercaya untuk melaporkan konten intim non-konsensual atas nama mereka; kedua, menciptakan kategori pelaporan khusus untuk manipulasi AI seksual, terpisah dari kategori pelecehan atau ketelanjangan biasa; dan ketiga, memperluas akses formulir pelaporan deepfake yang sebelumnya hanya tersedia di Texas dan Florida ke seluruh pengguna global.
“Skala, kecepatan, dan kecanggihan alat AI kini telah memicu lonjakan konten seksual non-konsensual secara global. Dampaknya tidak hanya psikologis—menghancurkan reputasi dan kesehatan mental korban—but juga sosial, dengan efek yang jauh lebih merusak bagi perempuan dan anak perempuan,” tulis dewan dalam laporan resminya.
Kritik terhadap ketidakkonsistenan Meta bukan hal baru. Pada pertengahan 2025, dewan pernah menyebut kebijakan moderasi perusahaan itu “tidak koheren dan tidak dapat dibenarkan.” Pada Maret 2026, mereka juga mendesak Meta untuk membuat regulasi terpisah untuk konten berbasis AI, bukan menggabungkannya dengan aturan misinformasi konvensional. Meski rekomendasi dewan tidak bersifat mengikat secara hukum, Meta wajib meresponsnya secara terbuka. Jika memilih mengadopsinya, dewan berjanji akan mengawasi implementasinya secara ketat.
Dengan kekuatan teknologi AI yang terus berkembang, tantangan bukan lagi soal deteksi, tapi soal keberanian memilih antara keuntungan bisnis dan perlindungan hak asasi manusia. Bagi jutaan pengguna yang tak bersalah, ini bukan sekadar isu teknis—ini adalah soal harga diri, keamanan, dan keadilan di ruang digital yang semakin liar.
