Bisnis.com, JAKARTA — Badan Reserse Kriminal (Bareskrim) Polri menyampaikan memanipulasi foto dengan menggunakan kecerdasan buatan atau AI bisa kena pidana bahkan masuk penjara.
Hal tersebut merupakan respons Bareskrim mengenai fenomena penggunaan Grok AI yang diminta oleh akun X untuk memanipulasi foto menjadi konten asusila tanpa persetujuan pemilik akun lainnya.
“Kalau bicara AI nanti selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” ujar Dirtipidsiber Bareskrim Polri, Brigjen Himawan Bayu Aji di Mabes Polri, Rabu (7/1/2026).
Sebelumnya, Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar mengatakan pihaknya tengah menyelidiki soal fenomena penyalahgunaan AI, khususnya di platform X.
Berdasarkan hasil penelusuran awal, Alex menyatakan bahwa kecerdasan Grok AI milik Elon Musk belum memiliki pengaturan yang tegas.
Kelemahan sistem ini dinilai gagal mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander.
Lebih lanjut, Alexander menjelaskan bahwa manipulasi foto pribadi secara digital merupakan bentuk perampasan kendali individu atas identitas visualnya. Sebab, hal ini berdampak pada kerugian psikologis, sosial, dan reputasi.
Komdigi mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan melekat pada seluruh PSE yang beroperasi di wilayah Indonesia.
“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif kepada Grok AI dan platform X,” pungkasnya.
Sekadar informasi, berdasarkan UU No.1/2023 tentang KUHP telah mengatur konten pornografi diatur dalam Pasal 172 dan Pasal 407. Aturan ini sudah berlaku sejak (2/1/2026).
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
Sementara itu, Pasal 407 mengatur ancaman pidana maksimal 10 tahun atau denda sesuai ketentuan berlaku.