JAKARTA – Google dan Character.AI tengah berupaya menyelesaikan kasus kematian remaja yang melibatkan chatbot. Keduanya diketahui sedang bernegosiasi dengan keluarga korban untuk membahas persyaratan dalam menyelesaikan kasus.
Kasus ini muncul karena chatbot dari Character.AI diduga menyebabkan anak di bawah umur bunuh diri. Hal ini disebabkan oleh pengguna yang didorong untuk melukai dirinya sendiri. Salah satu kasus yang paling banyak dibicarakan adalah kematian Sewell Setzer III, anak yang masih berusia 14 tahun.
Anak tersebut diketahui melakukan percakapan seksual dengan bot karakter bernama Daenerys Targaryen sebelum bunuh diri. Gugatan lainnya muncul dari keluarga korban yang anaknya berusia 17 tahun. Chatbot Character.AI diduga menyarankan remaja tersebut untuk membunuh orang tuanya.
Bahkan, tindakan itu disebut masuk akal karena orang tuanya telah membatasi waktu penggunaan layar. Megan Garcia, ibu dari Setzer III, menyatakan bahwa Character.AI harus turut bertanggung jawab dalam kematian anaknya. Pasalnya, teknologi yang dikembangkan telah membahayakan nyawa anak-anak.
“(mereka harus) bertanggung jawab secara hukum ketika dengan sengaja merancang teknologi AI berbahaya yang membunuh anak-anak,” kata Garcia, mengutip dari TechCrunch pada Kamis, 8 Januari.
Belum diketahui persyaratan apa yang Google dan Character.AI ajukan ke keluarga korban. Namun, mereka telah membahas kesepakatan detail berupa tindakan yang akan perusahaan lakukan dan nilai ganti rugi yang harus perusahaan bayarkan ke keluarga korban.
Character.AI pun telah mengambil tindakan cepat dengan membatasi akses chatbot-nya bagi anak di bawah umur sejak Oktober lalu. Informasi mengenai detail penyelesaiannya akan VOI ungkapkan setelah ada pernyataan atau bocoran berkas dari pengadilan.