Pemerintah Blokir Grok AI untuk Cegah Deepfake Pornografi

Sebelumnya, Kementerian Komunikasi dan Digital (Komdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok AI pada platform X. Teknologi tersebut disinyalir dimanfaatkan untuk memproduksi dan menyebarkan konten asusila (mesum), termasuk manipulasi foto pribadi atau deepfake tanpa persetujuan korban.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan berdasarkan penelusuran awal, Grok AI belum memiliki sistem pengamanan yang memadai.

Menurutnya, tidak adanya pengaturan eksplisit untuk mencegah konten pornografi berbasis foto warga Indonesia berisiko melanggar privasi dan hak atas citra diri.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangannya, Rabu (7/1/2026).

Komdigi menegaskan manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, melainkan bentuk perampasan identitas visual yang berdampak buruk pada psikologis dan reputasi korban.

Sebagai langkah tegas, Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk platform X, untuk memperkuat moderasi konten dan mempercepat penanganan laporan pelanggaran.

Alexander memperingatkan bahwa kepatuhan terhadap hukum Indonesia adalah kewajiban mutlak bagi seluruh PSE yang beroperasi di Tanah Air.

“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif (denda) hingga pemutusan akses (blokir) layanan Grok AI dan platform X,” tegas Alexander.