Bisnis.com, JAKARTA — Kementerian Komunikasi dan Digital (Komdigi) mengancam akan mengambil langkah tegas pemutusan akses terhadap layanan Grok AI dan platform X imbas dari maraknya tren deepfake.
Komdigi menilai terdapat penyalahgunaan fitur kecerdasan artifisial (AI) yang digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin atau deepfake.
Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar mengatakan hasil penelusuran awal menunjukkan Grok AI milik Elon Musk belum memiliki pengaturan yang tegas.
Kelemahan sistem ini dinilai gagal mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dikutip dari pernyataan resmi Komdigi, Rabu (07/1/2026).
Lebih lanjut, Alexander menjelaskan bahwa manipulasi foto pribadi secara digital merupakan bentuk perampasan kendali individu atas identitas visualnya. Menurutnya, hal ini bisa berdampak pada kerugian psikologis, sosial, dan reputasi.
Saat ini, Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk X, untuk memastikan ketersediaan mekanisme perlindungan yang efektif.
Pemerintah menuntut penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran.
Komdigi mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan melekat pada seluruh PSE yang beroperasi di wilayah Indonesia.
“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif kepada Grok AI dan platform X,” tulis pernyataan resmi Komdigi.
Selain menyasar korporasi, ancaman hukum juga berlaku bagi pengguna individu. Penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten manipulasi foto pribadi tanpa hak dapat dikenakan sanksi pidana.
Hal ini merujuk pada Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang berlaku efektif sejak 2 Januari 2026, khususnya Pasal 172 dan Pasal 407.
Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda bagi pelaku yang melanggar norma kesusilaan melalui media.
Pemerintah juga mengimbau masyarakat yang menjadi korban manipulasi foto AI untuk menempuh upaya hukum dan melaporkan kepada aparat penegak dan Komdigi
“Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tutup Alexander. (Muhammad Diva Farel Ramadhan)









