Author: Kompas.com

Kala ChatGPT Berulang Kali Salah Jawab Pertanyaan Mahfud MD…
Tim Redaksi
JAKARTA, KOMPAS.com
– Pada acara peluncuran buku Mahkamah Konstitusi di Perpustakaan Nasional (Perpusnas) RI, Jakarta Pusat, Rabu (17/12/2025), mantan Ketua MK Mahfud MD berkelakar soal akal imitasi atau artificial intelligence (AI).
Dia bilang, hampir tiap hari bercanda dengan mesin buatan OpenAI tersebut. Bercanda karena mesin yang nama depannya adalah “kecerdasan” itu ternyata tidak terlalu cerdas.
Salah satu tokoh yang hadir dalam acara itu adalah Ketua MK pertama, Jimly Asshiddiqie. Mahfud langsung mengambil contoh nama tokoh itu.
Dia mengatakan, dua hari sebelumnya bertanya langsung dengan ChatGPT tentang profil Jimly.
“Pak Jimly dua hari lalu saya tanya (profilnya ke ChatGPT) itu. Prof Jimly Asshiddiqie itu lahir di mana?” tanya Mahfud ke ChatGPT.
“Jawabannya apa? Prof Jimly Asshiddiqie lahir di Sumenep (daerah di Madura -red),” kata Mahfud membacakan jawaban ChatGPT.
Sontak hadirin, termasuk Jimly tertawa dengan jawaban konyol ChatGPT.
Mahfud kemudian melanjutkan, ia menegur langsung ChatGPT bahwa jawaban itu salah. Karena Jimly adalah orang Palembang, Sumatera Selatan. Adapun Mahfud sendiri berasal dari Madura.
ChatGPT kemudian mengaku salah dan berterimakasih Mahfud telah memberikan koreksi atas jawabannya.
Atas peristiwa itu, Mahfud mengingatkan kepada para pengguna
AI
, jangan sekali-kali langsung percaya informasi yang diberikan oleh ChatGPT.
“Jangan baru sekali jawab lalu diikuti. ChatGPT salah, banyak salahnya. Saya setiap hari bergurai dengan ChatGPT itu,” katanya berkelakar, disambut tawa para hadirin.
Mahfud bilang, dia sering memancing pertanyaan sulit kepada ChatGPT. Jawaban ChatGPT sering ngawur, sehingga dia beberapa kali harus mengoreksi jawaban AI tersebut.
“Benar, Anda lebih teliti, kami ralat,” kata Mahfud membacakan jawaban ChatGPT.
Dalam konteks acara tersebut, Mahfud mengatakan internet dan AI mungkin memang memberikan kecepatan informasi, tapi bukan pada kedalaman informasi.
Berbeda dengan membaca buku, setiap orang yang menghendaki kedalaman makna dan ilmu pengetahuan pasti akan memilih jalan membaca buku.
Meurutnya, buku menolak opini dangkal dan menolak budaya instan.
“Buku dibaca oleh mereka yang menghendaki kedalaman. Buku bukan sekadar publikasi, melainkan legasi yang bisa diwariskan ke generasi berikutnya,” ucap Mahfud.
Kami mencoba menanyakan hal serupa yang sempat ditanyakan
Mahfud MD
kepada ChatGPT, jawabannya berbeda, namun mesin AI memberikan penjelasan mengapa kesalahan itu bisa terjadi.
Jawaban pertama, ChatGPT bekerja dengan kemungkinan bahasan, bukan ingatan faktual seperti manusia.
Dia bekerja memprediksi jawaban berdasarkan pola paling sering muncul dalam data.
Jika data tersebut keliru, artikel sekunder yang salah dan pengaitan geografis yang keliru, mesin bekerja melakukan pembenaran dengan argumen, meskipun dalam faktanya salah.
“Maka saya bisa menyintesis jawaban yang terdengar meyakinkan tetapi faktualnya salah. Ini yang dalam studi AI disebut
hallucination
,” tulis ChatGPT.
Mesin AI ini juga bisa tertipu pada otoritas simbol. ChatGPT menyebut nama Jimly Asshiddiqie sering dikaitkan dengan simbol Islam, Pesantren, dan keilmuan Jawa-Madura.
“Saya bisa ‘tergelincir’ menyamakan latar kultural dengan tempat lahir, sesuatu yang jarang dilakukan manusia pembaca biografi yang teliti,” tulis ChatGPT.
Ketiga, AI mengaku tak memiliki naluri skeptis seperti soerang jurnalis atau sejarawan.
ChatGPT menyebut dirinya tidak otomatis berhenti dan meragukan jawabannya sendiri kecuali ada yang memaksa verifikasi atau konteks yang menuntut presisi tinggi.
“Tanpa itu, saya cenderung menjawab cepat dan koheren, karena itulah desain dasarnya,” tulis ChatGPT.
Mesin AI ini kemudian berkesimpulan, ia hanya berguna pada peta konsep, analisis, dan kerangka pikir, tapi tak bisa dijadikan sumber final untuk fakta tanpa cek silang.
“Kasus ‘Jimly’ ini justru contoh terbaik mengapa etika verifikasi manusia belum bisa dan tidak boleh digantikan,” tulis ChatGPT.
AI ini juga sepemahaman dengan Mahfud MD terkait kedalaman berpikir orang yang membaca buku.
Secara langsung ChatGPT menyebut dirinya sebagai alat yang menyajikan hasil pemikiran, sedangkan buku menyajikan proses berpikir.
“Dan justru di situlah tantangan zaman ini: bukan memilih antara saya atau buku, melainkan memastikan manusia tidak kehilangan kemampuan membaca mendalam ketika mereka sudah terbiasa dengan jawaban instan,” tulis ChatGPT.
Pengamat telekomunikasi sekaligus Direktur Eksekutif Information and Communication Technology (ICT) Institute Heru Sutadi mengatakan, apa yang dikatakan Mahfud MD terkait kasus ‘Jimly’ memberikan fakta bahwa AI masih jauh dari kata sempurna.
Bahkan jawaban sederhana terkait tempat lahir tokoh Jimly Asshiddiqir pun terlihat “konyol” oleh perangkat AI.
“Itu mengingatkan kita bahwa AI bukan pengganti otak manusia, tapi alat bantu,” kata Heru kepada
Kompas.com.

AI, kata Heru, bisa menjad alat bantu untuk mengerjakan tugas yang repetitif seperti menganalisis data besar, merangkum artikel panjang atau berdiskusi tentang ide kreatif.
Salah satu contohnya adalah membuat latihan soal belajar bagi siswa dengan kebutuhan berbeda.
Tetapi AI akan terlihat tumpul ketika mulai diajak berpikir kritis dan mendalam, khususnya terkait dengan konteks budaya, keputusan etis dan keadilan hukum.
“Di situ, AI sering ‘dangkal’ karena bergantung pada data pelatihan, bukan pengalaman hidup,” tuturnya.
Sebab itu, Heru memberikan saran yang sebelumnya dikatakan Mahfud MD, ketika menggunakan AI harus disertai dengan pemikiran yang bijak.
“Selalu verifikasi dan cek kembali informasi atau data yang disampaikan, agar tidak salah data, mengambil kesimpulan bahkan kebijakan. Apalagi juga kalau menyangkut penyakit, baiknya tanya ke dokter,” tuturnya.
“Jadikan AI sebagai asisten untuk membantu kita, bukan mengontrol kita atau jadi sumber rujukan satu-satunya yang kita percaya,” tandasnya.
Copyright 2008 – 2025 PT. Kompas Cyber Media (Kompas Gramedia Digital Group). All Rights Reserved.