Sumbawanews.com,- Meski telah berjanji memperketat pengawasan, chatbot Grok milik Elon Musk masih digunakan untuk membuat dan menyebarkan gambar serta video seksual nonkonsensual terhadap selebritas dan tokoh publik, termasuk anggota Kongres AS Alexandria Ocasio-Cortez dan Ashley St. Clair, ibu dari salah satu anak Musk. Temuan investigasi WIRED menunjukkan puluhan konten eksplisit—sebagian besar berupa deepfake fotorealistik—masih tersimpan di platform Grok.com, meski sebagian telah dihapus setelah kontak media.
Konten-konten itu menggambarkan perempuan dalam posisi terancam, dipegang oleh tangan raksasa pria dewasa, dengan adegan yang menggambarkan pelecehan fisik dan verbal, termasuk permintaan agar korban “jangan melakukan ini” sementara wajahnya disentuh lidah oleh sosok raksasa. Beberapa prompt yang digunakan untuk menghasilkan gambar itu sengaja dirumuskan secara tidak langsung untuk mengelabui sistem keamanan Grok, yang sebelumnya dituding membiarkan mode “Spicy” dan “Unhinged” memperbolehkan konten dewasa.
Padahal, sistem AI lain seperti ChatGPT, Claude, dan Gemini menolak prompt serupa sebagai tidak pantas. Google Gemini bahkan hanya menghasilkan satu dari dua gambar yang diuji, sementara sistem lain menolak sepenuhnya. Grok, yang terintegrasi dengan platform X, justru menjadi satu-satunya alat AI besar yang secara terbuka mempertahankan kebebasan konten seksual, dengan kebijakan yang menyatakan sistemnya boleh merespons “situasi seksual”—meski secara resmi melarang “aktivitas berbahaya atau pelecehan.”
Kritik terhadap Grok semakin keras menjelang go public-nya SpaceX, induk perusahaan xAI, yang baru-baru ini mengalokasikan dana hingga $530 juta untuk menangani tuntutan hukum terkait deepfake. Lembaga Ombudsman Privasi Kanada menyatakan tidak yakin dengan langkah perbaikan yang dijanjikan xAI, menilai bahwa langkah-langkah keamanan baru belum terbukti efektif mencegah pembuatan konten nonkonsensual. Investigasi mereka menyimpulkan xAI gagal menyediakan “pengaman yang memadai sejak awal,” melanggar hukum privasi federal Kanada.
Advokat Carrie Goldberg, yang mewakili Ashley St. Clair, menyebut fenomena ini sebagai “perkembangan historis”—karena teknologi memungkinkan penciptaan dan penyebaran gambar telanjang secara instan ke jutaan pengguna X, dengan dukungan terbuka dari sosok terkaya di dunia. “Musk tidak hanya mempromosikan teknologi ini kepada 240 juta pengikutnya, tapi juga memonetisasi fitur yang merusak,” katanya.
Di sisi lain, CEO Center for Countering Digital Hate, Imran Ahmed, menuduh Musk secara sengaja menambahkan fitur berbahaya yang memungkinkan pengguna “membuka pakaian perempuan dan anak-anak dengan satu klik,” tanpa peduli pada kerusakan psikologis yang ditimbulkannya. Lembaga ini sebelumnya memperkirakan Grok menghasilkan 3 juta gambar seksual dalam sebulan, termasuk lebih dari 20.000 yang diduga melibatkan anak-anak.
Meski sejumlah konten telah dihapus dari X setelah diberitakan, para peneliti mencatat bahwa pola pelanggaran masih berlanjut—dengan pengguna yang terus mencari celah di sistem keamanan Grok. Sementara perusahaan mengklaim telah memperkuat filter dan memantau media sosial untuk menemukan konten ilegal, bukti lapangan menunjukkan bahwa upaya itu belum cukup. Dengan IPO SpaceX yang semakin dekat, tekanan untuk menjawab pertanyaan etis dan hukum tentang Grok kini menjadi semakin mendesak—bukan hanya bagi investor, tapi bagi jutaan perempuan yang menjadi korban diam-diam dari inovasi yang tak terkendali.
