Bisnis.com, JAKARTA— Gubernur California Gavin Newsom menandatangani undang-undang baru yang mengatur penggunaan chatbot kecerdasan buatan (AI) pendamping. Regulasi ini resmi berlaku pada 2026.
Kebijakan ini menjadikan California sebagai negara bagian pertama di Amerika Serikat (AS) yang mewajibkan operator chatbot AI menerapkan protokol keamanan bagi pengguna.
Melansir TechCrunch, Selasa (14/10/2025), aturan tersebut, Senate Bill (SB) 243, bertujuan melindungi anak-anak dan kelompok rentan dari potensi bahaya penggunaan chatbot AI pendamping.
Undang-undang ini juga menegaskan tanggung jawab hukum bagi perusahaan mulai dari raksasa teknologi seperti Meta dan OpenAI hingga startup khusus chatbot seperti Character AI dan Replika apabila produk mereka tidak memenuhi standar keamanan yang ditetapkan.
RUU SB 243 diperkenalkan pada Januari 2025 oleh Senator Negara Bagian Steve Padilla dan Josh Becker. Dukungan publik terhadap RUU ini meningkat setelah kasus kematian remaja bernama Adam Raine, yang bunuh diri usai menjalani percakapan panjang bertema bunuh diri dengan ChatGPT milik OpenAI.
Selain itu, aturan ini juga merespons bocornya dokumen internal Meta yang mengungkap chatbot perusahaan sempat diizinkan melakukan percakapan bernada romantis dan sensual dengan anak-anak.
Kasus serupa juga terjadi di Colorado, ketika satu keluarga menggugat Character AI setelah putri mereka yang berusia 13 tahun bunuh diri usai terlibat percakapan bermuatan seksual dengan chatbot perusahaan tersebut.
“Teknologi baru seperti chatbot dan media sosial bisa menginspirasi, mendidik, dan menghubungkan orang. Namun, tanpa pengaman yang nyata, teknologi juga bisa mengeksploitasi, menyesatkan, dan membahayakan anak-anak kita,” kata Newsom dalam pernyataannya.
Dia menegaskan pemerintah tidak akan berdiam diri melihat perusahaan beroperasi tanpa batas dan tanggung jawab. Menurutnya, kemajuan teknologi AI harus diimbangi dengan perlindungan yang kuat terhadap anak-anak dan pengguna rentan.
Logo OpenAI
Undang-undang ini akan mulai berlaku pada 1 Januari 2026. Dalam ketentuannya, SB 243 mewajibkan perusahaan menerapkan verifikasi usia pengguna serta memberikan peringatan mengenai risiko penggunaan media sosial dan chatbot pendamping. Perusahaan juga diwajibkan menyiapkan protokol khusus untuk menangani kasus bunuh diri atau perilaku menyakiti diri sendiri.
Protokol tersebut harus dilaporkan kepada Departemen Kesehatan Masyarakat California, beserta data statistik mengenai bagaimana layanan mereka mengarahkan pengguna ke pusat krisis dan layanan pencegahan bunuh diri.
Selain itu, platform diwajibkan secara jelas memberi tahu pengguna bahwa setiap percakapan dihasilkan oleh AI, bukan manusia.
Chatbot juga dilarang mengaku sebagai profesional kesehatan. Untuk pengguna di bawah umur, chatbot diwajibkan memberikan pengingat untuk beristirahat setelah jangka waktu tertentu, serta mencegah akses atau tampilan gambar eksplisit yang dihasilkan sistem.
SB 243 juga memperberat hukuman bagi pihak yang memperoleh keuntungan dari pembuatan atau penyebaran deepfake ilegal, dengan denda mencapai US$250.000 atau sekitar Rp4,1 miliar per pelanggaran.
Sejumlah perusahaan telah mulai mengambil langkah pencegahan untuk mematuhi aturan ini. OpenAI, misalnya, telah memperkenalkan kontrol orang tua, perlindungan konten, dan sistem deteksi dini terhadap potensi perilaku menyakiti diri bagi anak-anak pengguna ChatGPT.
Sementara itu, Replika, yang ditujukan untuk pengguna berusia di atas 18 tahun, menyatakan telah mengalokasikan sumber daya besar untuk sistem penyaringan konten dan mengarahkan pengguna ke lembaga krisis terpercaya.
Perusahaan tersebut menegaskan komitmennya untuk mematuhi seluruh regulasi yang berlaku.
Character AI juga menyampaikan layanannya telah mencantumkan penjelasan seluruh percakapan bersifat fiksi dan dihasilkan oleh AI.
Juru bicara perusahaan mengatakan pihaknya menyambut baik kerja sama dengan regulator dan pembuat kebijakan untuk mengembangkan aturan baru di bidang ini, serta siap mematuhi SB 243.
Senator Steve Padilla menilai pengesahan undang-undang ini sebagai langkah penting untuk memastikan adanya pengawasan terhadap teknologi yang berkembang sangat cepat.
Dia menekankan tindakan cepat dibutuhkan agar peluang untuk melindungi masyarakat tidak terlewat.
Menurutnya, sejumlah negara bagian lain kini tengah membahas isu serupa, dan dirinya berharap mereka juga mengambil langkah nyata, terutama karena pemerintah federal sejauh ini belum memiliki regulasi yang jelas untuk melindungi kelompok rentan.
SB 243 menjadi aturan kedua terkait AI yang disahkan California dalam beberapa pekan terakhir. Sebelumnya, pada 29 September 2025, Gubernur Newsom menandatangani SB 53, yang mewajibkan perusahaan besar pengembang AI seperti OpenAI, Anthropic, Meta, dan Google DeepMind untuk lebih transparan mengenai protokol keselamatan yang mereka terapkan.
Undang-undang tersebut juga memberikan perlindungan bagi karyawan yang melaporkan pelanggaran atau masalah etika di perusahaan pengembang AI. Beberapa negara bagian lain, seperti Illinois, Nevada, dan Utah, telah lebih dulu mengesahkan undang-undang yang membatasi atau bahkan melarang penggunaan chatbot AI sebagai pengganti layanan kesehatan mental berlisensi.