Home Serba Serbi Tekno OpenAI Luncurkan Sistem AI Deteksi Konten Eksploitasi Anak

OpenAI Luncurkan Sistem AI Deteksi Konten Eksploitasi Anak

Sumbawanews.com,- OpenAI merilis alat berbasis kecerdasan buatan untuk mendeteksi materi eksploitasi seksual anak, termasuk gambar yang dihasilkan oleh AI generatif. Teknologi ini dirancang membantu organisasi perlindungan anak mengidentifikasi konten berbahaya yang belum pernah tercatat sebelumnya, dengan menggunakan image classifier untuk mengenali tanda-tanda visual dan memberikan skor risiko. Sistem juga menandai kemungkinan gambar dibuat menggunakan AI, serta menyediakan akses gratis melalui OpenAI API bagi organisasi yang telah diverifikasi. Pengujian internal menunjukkan alat ini mampu mengurangi jumlah gambar yang perlu diperiksa hingga 48% sambil tetap menemukan tingkat materi berbahaya yang setara dengan sistem sebelumnya.

Selain itu, OpenAI memperkenalkan peringatan keamanan di ChatGPT yang menghentikan upaya pengguna mencari konten eksploitasi anak, memberi informasi dampak perilaku tersebut, dan mengarahkan ke layanan bantuan. Percakapan yang ditandai akan dihapus, akses pengguna dibatasi selama 24 jam, dan pelanggaran berulang berpotensi mengakibatkan pemblokiran akun atau pelaporan ke otoritas. Perusahaan juga menyediakan panduan dan pelatihan AI bagi penyidik kasus eksploitasi anak.

Peluncuran ini terjadi di tengah lonjakan laporan eksploitasi anak berbasis AI. Menurut National Center for Missing & Exploited Children (NCMEC), laporan terkait AI generatif di CyberTipline meningkat dari sekitar 4.700 pada 2023 menjadi lebih dari 400.000 pada 2025—naik lebih dari 8.400 persen dalam dua tahun. Angka tersebut mencakup berbagai laporan yang terkait dengan AI generatif, bukan semuanya merupakan gambar eksploitasi anak yang telah dikonfirmasi sebagai buatan AI.

Previous articlePersib Bandung Siap Hadapi Shan United dengan Taktik dan Dukungan Bobotoh
Next article10 Tahun Brexit, PM Inggris Akui Kerugian Lebih Besar dari Keuntungan