Bisnis.com, JAKARTA — CEO OpenAI Sam Altman mengungkapkan keheranannya terhadap tingginya tingkat kepercayaan publik terhadap ChatGPT, meskipun teknologi kecerdasan buatan atau artificial intelligence (AI) ini dikenal kerap menghasilkan informasi yang salah atau menyesatkan.
“Orang-orang sangat percaya pada ChatGPT dan itu menarik karena AI ini suka berhalusinasi. Seharusnya ini jadi teknologi yang tidak terlalu kamu percayai,” kata Altman dalam episode perdana podcast terbaru OpenAI dikutip dari laman Yahoo Finance pada Rabu (25/6/2025).
Pernyataan Altman ini datang di tengah meningkatnya penggunaan AI secara global. Meskipun teknologinya masih dalam tahap awal pengembangan dan belum sepenuhnya andal, jutaan orang mengandalkan ChatGPT untuk berbagai keperluan mulai dari riset, pekerjaan, hingga meminta nasihat pribadi dan parenting.
Altman bahkan mengaku menggunakan ChatGPT secara rutin untuk mencari jawaban seputar pengasuhan anak selama bulan-bulan awal kelahiran putranya. Dia menilai AI ini sangat membantu, tetapi tetap menekankan risiko besar dari mempercayai sistem yang bisa menyampaikan informasi salah dengan keyakinan tinggi.
Fenomena ini menyoroti paradoks besar dalam revolusi AI di mana meskipun pengguna tahu bahwa AI bisa keliru, kemudahan penggunaan, kecepatan respons, dan gaya komunikasi natural dari ChatGPT membuat banyak orang memperlakukannya seperti pakar manusia atau bahkan teman dekat.
Kepercayaan ini semakin kuat berkat kemampuan AI untuk mengingat konteks, memberikan respons yang disesuaikan, dan membantu dalam berbagai topik, fitur-fitur yang menurut Altman akan terus berkembang seiring kemajuan teknologi.
Namun, Altman mengingatkan kepercayaan ini tidak selalu pada tempatnya. Risiko ketergantungan pada informasi dari AI sangat berbahaya, terutama dalam bidang-bidang sensitif seperti kesehatan, hukum, dan pendidikan. Dia menegaskan pentingnya kesadaran dan berpikir kritis dari para pengguna karena AI bisa saja mengarang dan tidak boleh dipercaya secara membabi buta.
Dalam podcast tersebut, Altman juga membahas isu-isu penting lain seperti privasi data, penyimpanan informasi, dan rencana monetisasi.
Dengan fitur-fitur baru seperti memori yang berkelanjutan (persistent memory) dan kemungkinan hadirnya iklan, Altman menegaskan bahwa menjaga transparansi dan melindungi privasi pengguna harus tetap menjadi prioritas.
Sebelumnya, studi Massachusetts Institute of Technology (MIT) Media Lab mengungkap penggunaan alat berbasis kecerdasan buatan seperti ChatGPT dapat menurunkan keterlibatan otak serta melemahkan kemampuan berpikir kritis, terutama pada generasi muda.
Dalam studi tersebut, 54 partisipan berusia 18 hingga 39 tahun dari wilayah Boston dibagi ke dalam tiga kelompok.
Mereka diminta menulis esai SAT dengan tiga metode berbeda yakni menggunakan ChatGPT, menggunakan mesin pencari Google, dan tanpa bantuan teknologi apa pun.
Melansir laman TIME pada Kamis (19/6/2025), aktivitas otak mereka direkam dengan elektroensefalogram (EEG) yang memantau 32 area otak. Hasilnya menunjukkan kelompok pengguna ChatGPT memiliki tingkat keterlibatan otak terendah dan menunjukkan performa yang lebih buruk secara linguistik, perilaku, maupun neurologis dibanding dua kelompok lainnya.
Seiring berjalannya waktu, para pengguna ChatGPT dalam studi ini terlihat semakin malas dalam proses menulis. Menjelang akhir studi, sebagian besar hanya menyalin hasil dari ChatGPT tanpa berusaha mengolahnya kembali.
Hasil tulisan mereka dinilai sangat mirip satu sama lain, menggunakan frasa yang sama dan minim pemikiran orisinal. Dua guru Bahasa Inggris yang menilai esai tersebut menggambarkannya sebagai datar dan tidak menunjukkan kedalaman pemahaman. Aktivitas otak mereka juga menunjukkan rendahnya kontrol eksekutif dan fokus.
Sebaliknya, kelompok yang menulis tanpa bantuan teknologi justru menunjukkan aktivitas otak paling tinggi. Mereka tampak lebih kreatif, lebih tertarik pada topik yang dibahas, serta lebih puas dan merasa memiliki terhadap hasil tulisannya.
Sementara itu, kelompok yang menggunakan Google Search juga menunjukkan tingkat kepuasan tinggi dan keterlibatan otak yang aktif. Para partisipan kemudian diminta menulis ulang salah satu esai yang sudah mereka buat sebelumnya, tetapi kali ini kelompok pengguna ChatGPT tidak boleh lagi menggunakan alat tersebut.
Hasilnya, mereka kesulitan mengingat isi esai yang mereka tulis sebelumnya. Aktivitas gelombang otak mereka menunjukkan lemahnya proses ingatan yang seharusnya terbentuk saat menulis.
Sebaliknya, kelompok yang sebelumnya menulis tanpa bantuan teknologi dan kini diperbolehkan menggunakan ChatGPT justru menunjukkan peningkatan konektivitas otak yang signifikan. Temuan ini menunjukkan bahwa AI berpotensi mendukung proses belajar, asalkan digunakan secara tepat dan tidak menggantikan peran berpikir manusia.
Studi ini masih dalam tahap pra-tinjau sejawat (peer-review), tetapi penulis utama Nataliya Kosmyna memilih untuk merilisnya lebih awal karena khawatir dampaknya terhadap anak-anak yang kini mulai menggunakan AI untuk tugas sekolah.
Dia menegaskan otak yang sedang berkembang adalah kelompok paling rentan terhadap dampak negatif penggunaan AI secara berlebihan.
“Yang membuat saya terdorong untuk mempublikasikannya sekarang, sebelum peer-review selesai, adalah kekhawatiran akan adanya kebijakan seperti ChatGPT untuk TK dalam beberapa bulan ke depan. Itu akan sangat berbahaya,” kata Kosmyna.
