Bisnis.com, JAKARTA – Pemerintah Indonesia menjadi negara pertama di dunia yang melakukan pemutusan akses sementara terhadap Grok, aplikasi chatbot berbasis kecerdasan artifisial (AI).
Kebijakan tersebut diambil menyusul temuan penyalahgunaan teknologi Grok untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake. Langkah ini ditempuh sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital.
Menteri Komunikasi dan Digital Meutya Hafid menyatakan praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia serta martabat warga negara.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).
Menurut Meutya, ruang digital tidak dapat dibiarkan menjadi wilayah tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan AI untuk menghasilkan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, serta nilai kemanusiaan.
Selain pemutusan akses sementara, Kementerian Komunikasi dan Digital juga meminta X selaku pengelola platform untuk memberikan klarifikasi serta bertanggung jawab atas dampak penggunaan teknologi tersebut. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait.
Kebijakan ini merujuk pada kewenangan pemerintah sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat maupun memfasilitasi konten yang dilarang oleh hukum Indonesia.
Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah tersebut tepat dan patut diapresiasi, terutama karena Indonesia menjadi pelopor dalam memastikan keamanan platform digital.
Menurut Alfons, apabila suatu platform terbukti menimbulkan ancaman serius terhadap perempuan dan anak melalui eksploitasi pornografi digital, pemutusan akses merupakan langkah yang wajar.
“Jika ancamannya sudah nyata, terutama bagi perempuan dan anak, tetapi tidak diambil tindakan, siapa yang akan bertanggung jawab atas dampak mental dan moral yang ditimbulkan?” ujar Alfons saat dihubungi, Minggu (11/1/2026).
Ia menegaskan penyedia platform digital tidak dapat semata-mata berorientasi pada keuntungan bisnis tanpa memperhatikan nilai moral, etika, serta kepatuhan terhadap hukum di negara tempat beroperasi.
“Setiap negara memiliki nilai dan standar yang berbeda. Apa yang dianggap wajar di negara lain belum tentu sesuai dengan norma di Indonesia. Platform global tidak bisa menerapkan satu standar untuk semua negara,” katanya.
Alfons juga membandingkan Grok dengan sejumlah platform AI lain yang dinilai telah menerapkan sistem pengamanan lebih ketat terhadap konten sensitif, sehingga tidak mudah disalahgunakan melalui perintah sederhana.
Pemutusan akses Grok menjadi penanda babak baru pengawasan teknologi kecerdasan artifisial di Indonesia. Kebijakan ini menegaskan bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab sosial serta perlindungan hak-hak warga negara.