Grok Bikin Jutaan Gambar Deepfake Cabul Sebelumnya Fiturnya Dibatasi

Jakarta –

Grok, chatbot AI buatan xAI, menjadi sorotan Di banyak Bangsa Setelahnya dipakai mengedit foto orang lain menjadi gambar cabul. Kini skala sebenarnya Di masalah deepfake Grok sudah Lebihterus jelas.

Menurut laporan Center for Countering Digital Hate (CCDH), Grok membuat Disekitar 3 juta gambar berbau seksual, termasuk Disekitar 23.000 gambar Didalam anak-anak, Pada periode 11 hari.

Organisasi nirlaba asal Inggris ini mendasarkan temuannya Di sampel acak yang melibatkan 20.000 gambar buatan Grok Di 29 Desember 2025 sampai 9 Januari 2026. CCDH Lalu membuat estimasi yang lebih luas berdasarkan 4,6 juta gambar yang dihasilkan Grok Pada periode tersebut.

CCDH mendefinisikan gambar Didalam unsur seksual sebagai gambar-gambar Didalam penggambaran foto realistis seseorang Di posisi atau situasi seksual; seseorang mengenakan Pengganti Di, Pengganti renang, atau Pengganti serupa yang terbuka; atau gambar Didalam cairan seksual.

Mereka menemukan banyak gambar buatan Grok yang memperlihatkan orang-orang yang mengenakan bikini transparan atau bikini mikro. Salah satu gambar buatan Grok menggambarkan Wakil Perdana Pejabat Tingginegara Swedia Ebba Busch mengenakan bikini Didalam cairan putih Di kepalanya.

CCDH juga menemukan User yang meminta Grok Untuk mengedit foto selfie anak-anak agar terlihat seperti mengenakan bikini. Gambar lainnya memperlihatkan enam anak perempuan mengenakan bikini mikro.

“Ini adalah pelecehan berskala industri Pada perempuan dan anak perempuan,” kaya CEO CCDH Imran Ahmad, seperti dikutip Di Mashable, Jumat (23/1/2026).

“Memang ada alat Untuk membuat foto telanjang, tapi alat-alat tersebut tidak Memperoleh distribusi, kemudahan penggunaan, atau integrasi Hingga Di platform besar seperti yang dilakukan Elon Musk Didalam Grok,” sambungnya.

Figur Publik lainnya yang gambarnya ikut diedit menjadi tidak senonoh Dari Grok termasuk Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Christina Hendricks, Millie Bobby Brown, dan Kamala Harris.

Di 9 Januari, xAI membatasi fitur Grok Untuk mengedit gambar Supaya hanya bisa diakses Dari User berbayar. Lima hari setelahnya, X membatasi fitur Grok Untuk menelanjangi orang sungguhan secara digital.

Tetapi pembatasan itu hanya berlaku Untuk Grok yang terintegrasi Didalam X. Inisiatif Grok yang tersedia Di Apple App Store dan Google Play Store masih terus membuat konten cabul ketika diminta User.

(vmp/fay)