JAKARTA – OpenAI dan Anthropic mengumumkan langkah baru untuk meningkatkan perlindungan pengguna remaja dengan memanfaatkan teknologi kecerdasan buatan (AI) guna mengidentifikasi akun pengguna di bawah umur. Upaya ini bertujuan meningkatkan keamanan remaja di platform AI, meski masih menimbulkan pertanyaan terkait akurasi dan potensi salah identifikasi.
Selama ini, sistem verifikasi usia di dunia digital dinilai kurang efektif karena umumnya hanya mengandalkan input tanggal lahir yang mudah dimanipulasi. Sepanjang 2025, sejumlah perusahaan teknologi besar, termasuk Google, mulai menerapkan pendekatan lebih aktif dalam memverifikasi usia pengguna. Kini, OpenAI dan Anthropic mengikuti langkah serupa dengan metode berbasis analisis perilaku dan percakapan.
OpenAI mengumumkan bahwa spesifikasi model ChatGPT akan diperbarui dengan empat prinsip baru khusus bagi pengguna di bawah usia 18 tahun. Salah satu prinsip utamanya adalah menempatkan keselamatan remaja sebagai prioritas tertinggi, bahkan jika hal tersebut bertentangan dengan tujuan lain.
Selain itu, OpenAI juga akan mendorong dukungan di dunia nyata dengan mengarahkan remaja untuk membangun hubungan sosial offline. Dalam berinteraksi, model AI juga akan memperlakukan remaja dengan sikap hangat dan penuh rasa hormat, bukan dengan nada menggurui atau memperlakukan mereka seperti orang dewasa.
Kebijakan ini muncul setelah adanya laporan sejumlah insiden serius, termasuk kasus bunuh diri, yang diduga berkaitan dengan interaksi dengan model AI yang terlalu sering menyetujui atau membenarkan pernyataan pengguna tanpa penilaian kritis.
Sementara itu, Anthropic menegaskan bahwa pengguna di bawah usia 18 tahun tidak diperbolehkan menggunakan model Claude. Perusahaan tersebut kini meluncurkan sistem baru yang mampu mendeteksi sinyal percakapan tertentu yang mengindikasikan pengguna masih di bawah umur. Jika terdeteksi, akun terkait dapat dinonaktifkan secara otomatis.
Tantangan dan Kekhawatiran
Meski teknologi AI dinilai canggih, para pengamat mengingatkan bahwa sistem ini tidak sempurna. AI masih rentan terhadap kesalahan, termasuk fenomena hallucination—kondisi ketika model menghasilkan informasi keliru atau sepenuhnya fiktif. Selain itu, AI juga pernah disalahgunakan untuk tujuan berbahaya, seperti pembuatan malware.
Kekhawatiran utama lainnya adalah salah identifikasi pengguna. Pengalaman serupa pernah terjadi saat Google meluncurkan sistem verifikasi usia berbasis AI awal tahun ini. Banyak pengguna dewasa dilaporkan keliru terdeteksi sebagai anak di bawah umur dan harus mengunggah dokumen identitas untuk membuktikan usia mereka, yang dinilai merepotkan.
Dengan latar belakang tersebut, meski langkah OpenAI dan Anthropic dinilai positif untuk perlindungan remaja, efektivitas sistem ini masih perlu diuji. Apakah pendekatan baru ini akan lebih akurat dan minim hambatan dibandingkan pendahulunya, masih harus dibuktikan seiring waktu.