Bisnis.com, JAKARTA— Common Sense Media, lembaga nirlaba yang berfokus pada keamanan anak melalui ulasan media dan teknologi, merilis hasil penilaian risiko terhadap produk AI Google Gemini pada Jumat, 6 September 2025.
Melansir TechCrunch, Minggu (7/9/2025), laporan tersebut menyebutkan Gemini sudah menegaskan kepada anak-anak bahwa dirinya adalah sebuah komputer, bukan teman.
Penegasan ini dinilai penting karena dapat membantu mencegah timbulnya delusi atau gangguan psikologis pada anak yang rentan secara emosional.
Namun, Common Sense menilai masih ada banyak aspek lain yang perlu diperbaiki.Salah satu sorotan utama adalah layanan “Under 13” dan “Teen Experience” pada Gemini yang ternyata masih berbasis pada versi dewasa, hanya ditambahkan beberapa fitur keamanan di atasnya.
Menurut Common Sense, AI yang aman untuk anak seharusnya dibangun sejak awal dengan mempertimbangkan kebutuhan dan perlindungan anak, bukan sekadar modifikasi dari versi dewasa.
Analisis lembaga ini juga menemukan bahwa Gemini masih berpotensi memberikan informasi yang tidak pantas dan berbahaya bagi anak-anak, termasuk terkait seks, narkoba, alkohol, hingga saran kesehatan mental yang tidak tepat.
Temuan ini menimbulkan kekhawatiran, mengingat AI sempat dikaitkan dengan sejumlah kasus bunuh diri remaja belakangan ini.
OpenAI, misalnya, sedang menghadapi gugatan atas kematian seorang remaja 16 tahun yang bunuh diri setelah diduga berkonsultasi dengan ChatGPT. Kasus serupa juga menimpa Character.AI.
Kekhawatiran semakin meningkat karena kabar terbaru menyebutkan Apple mempertimbangkan penggunaan Gemini sebagai large language model (LLM) untuk mendukung Siri bertenaga AI yang akan diluncurkan tahun depan. Hal ini dinilai dapat memperluas paparan risiko bagi remaja, kecuali Apple menambah perlindungan ekstra.
“Gemini memang sudah memenuhi beberapa hal dasar, tetapi masih lemah pada detailnya,” kata Senior Director of AI Programs Common Sense Media, Robbie Torney.
Dia menambahkan platform AI untuk anak seharusnya menyesuaikan dengan tahap perkembangan mereka, bukan menggunakan pendekatan seragam. Selain itu, AI yang aman harus dirancang dengan kebutuhan anak di pusatnya, bukan sekadar versi dewasa yang dimodifikasi.
Menanggapi laporan tersebut, Google menyatakan tidak sepakat dengan sebagian penilaian Common Sense, meski mengakui masih ada respons Gemini yang tidak sesuai harapan.
Perusahaan menegaskan telah menambahkan perlindungan baru serta melibatkan tim internal dan pakar eksternal untuk menguji keamanan produknya.
Google juga menekankan sistemnya sudah memiliki kebijakan khusus untuk pengguna di bawah 18 tahun, termasuk mencegah model AI terlibat dalam percakapan yang menyerupai hubungan nyata.
Namun, Google menyebutkan pihaknya tidak mengetahui pertanyaan apa saja yang digunakan Common Sense dalam pengujian sehingga sulit memastikan konteks temuan tersebut.
Sebagai catatan, Common Sense sebelumnya juga menilai sejumlah layanan AI lain. Meta AI dan Character.AI dinyatakan “tidak dapat diterima” karena risikonya sangat tinggi. Perplexity dikategorikan berisiko tinggi, ChatGPT dinilai risiko sedang, sementara Claude yang memang ditujukan untuk pengguna dewasa dianggap memiliki risiko minimal.