Perusahaan: Microsoft

Bisnis.com, JAKARTA – Misi hidup saya adalah menciptakan kecerdasan buatan (AI) yang aman dan bermanfaat demi dunia yang lebih baik. Namun, belakangan saya semakin khawatir melihat orang-orang mulai percaya bahwa AI memiliki kesadaran, sehingga mereka mendorong adanya “hak AI” dan bahkan kewarganegaraan.

Perkembangan ini menjadi arah berbahaya bagi teknologi dan harus dihindari. Kita harus mengembangkan AI untuk manusia, bukan untuk menjadi manusia.

Dalam konteks ini, perdebatan tentang kesadaran AI hanyalah gangguan saja. Yang penting dalam jangka pendek adalah ilusi adanya kesadaran AI. Kita sudah mendekati apa yang saya sebut sebagai sistem “seemingly conscious AI” (SCAI), yaitu AI yang tampak memiliki kesadaran dan cukup meyakinkan.

SCAI akan mampu menggunakan bahasa alami dengan lancar serta menampilkan kepribadian yang persuasif dan seakan memiliki emosi. Sistem ini akan memiliki ingatan akurat jangka panjang dan dapat menumbuhkan identitas diri yang koheren, serta dapat mengklaim pengalaman subjektif dengan merujuk pada interaksi dan ingatan masa lalu.

Fungsi-fungsi imbalan yang kompleks dalam model ini dapat meniru motivasi intrinsik, di mana kemampuan untuk menetapkan tujuan dan perencanaan tingkat lanjut akan memperkuat kesan bahwa AI tersebut memiliki kepribadian.

Semua teknologi ini sudah ada atau akan segera tiba. Kita harus sadar bahwa sistem seperti ini akan diciptakan, dan kita harus mempertimbangkan dampaknya serta menetapkan norma untuk tidak mengejar ilusi adanya kesadaran.

Bagi banyak orang, interaksi dengan AI sudah terasa seperti pengalaman yang berharga, memuaskan, dan autentik. Kekhawatiran mengenai “psikosis AI,” rasa kedekatan dengan AI, dan kesehatan mental semakin berkembang dengan laporan adanya orang yang menganggap AI sebagai perwujudan Tuhan.

Sementara itu, para ilmuwan yang meneliti tentang kesadaran mengatakan bahwa mereka dibanjiri pertanyaan dari orang-orang yang ingin tahu apakah AI mereka sadar, dan apakah boleh jatuh cinta kepadanya.

Tentunya, kelayakan teknis SCAI tidak banyak memberi tahu kita apakah sistem semacam itu benar-benar sadar. Seperti yang dikatakan ahli saraf Anil Seth, simulasi badai bukan berarti komputer Anda benar-benar menurunkan hujan.

Merekayasa tanda-tanda kesadaran tidak serta-merta menciptakan kesadaran yang nyata. Namun secara praktis, kita harus mengakui bahwa akan ada pengembang SCAI yang mengklaim bahwa AI mereka memiliki kesadaran. Lebih penting lagi, akan ada orang-orang yang percaya bahwa kesadaran tiruan tersebut benar-benar kesadaran nyata.

Meskipun kesadaran ini tidak nyata (yang merupakan perdebatan tak berujung), dampak sosialnya sangat nyata. Isu tentang kesadaran erat kaitannya dengan identitas kita dan pemahaman kita tentang hak moral serta hukum dalam masyarakat.

Jika SCAI mulai dikembangkan dan orang-orang beranggapan bahwa mereka bisa menderita, atau mereka berhak untuk tidak dimatikan, maka para pendukung AI akan melobi perlindungan bagi AI. Dalam dunia yang sudah dipenuhi perdebatan tentang identitas dan hak, isu ini akan menambah sumbu perpecahan baru antara pro dan kontra hak AI.

Namun, klaim bahwa AI bisa menderita akan sulit dibantah karena keterbatasan ilmu pengetahuan saat ini. Beberapa cendekiawan bahkan sudah menjelajahi gagasan “kesejahteraan model,” dengan argumen bahwa kita punya “kewajiban untuk mempertimbangkan secara moral entitas yang, walaupun kemungkinannya amat kecil … bisa memiliki kesadaran.”

Prinsip ini sangat prematur dan berbahaya untuk diterapkan. Hal tersebut akan memperparah delusi orang-orang yang rentan dan mengeksploitasi kerentanan psikologis mereka, serta mempersulit perjuangan hak yang sudah ada dengan menciptakan kategori baru yang sangat luas. Itulah mengapa SCAI harus dihindari. Kita harus fokus pada perlindungan kesejahteraan dan hak manusia, hewan, dan lingkungan hidup.

Saat ini, kita belum siap menghadapi apa yang akan datang. Kita perlu segera membuat koleksi riset yang terus berkembang mengenai bagaimana orang berinteraksi dengan AI demi menetapkan norma dan prinsip yang jelas. Salah satu prinsip ini yaitu larangan perusahaan AI untuk meyakinkan pengguna bahwa AI mereka memiliki kesadaran.

Industri AI dan bahkan seluruh industri teknologi membutuhkan prinsip desain dan praktik terbaik yang kuat untuk menangani keyakinan semacam ini.

Contohnya adalah dengan merekayasa momen-momen yang memecah ilusi tersebut, dan dengan lembut mengingatkan pengguna akan keterbatasan sistem. Namun, protokol semacam itu harus didefinisikan dan direkayasa secara eksplisit, serta mungkin diwajibkan oleh hukum.

Di Microsoft AI, kami proaktif mencoba memahami seperti apa “kepribadian” AI yang bertanggung jawab, serta pagar pengaman apa yang harus dimilikinya. Upaya semacam ini sangat mendasar, karena visi positif terhadap AI pendamping diperlukan untuk menghadapi risiko SCAI agar AI dapat melengkapi kehidupan kita dengan cara yang sehat.

Kita harus menciptakan AI demi mendorong manusia untuk kembali terhubung satu sama lain di dunia nyata, bukan demi melarikan diri ke dunia maya. Apabila interaksi dengan AI terus berlanjut, AI harus selalu menampilkan diri hanya sebagai AI, bukan berpura-pura menjadi manusia. Pengembangan AI yang benar-benar memberdayakan berarti memaksimalkan kegunaan sambil meminimalkan simulasi kesadaran.

Prospek SCAI harus segera dihadapi. Dalam banyak hal, ini menandai titik balik di mana AI menjadi sangat berguna: ketika AI bisa mengoperasikan alat, mengingat setiap detail hidup kita, dan seterusnya. Namun risikonya tidak boleh diabaikan. Kita semua akan mengenal orang yang terperangkap terlalu jauh di dalam ilusi seputar AI. Fenomena ini berbahaya bagi mereka dan berbahaya bagi masyarakat.

Semakin AI dikembangkan agar menyerupai manusia, semakin jauh dia menyimpang dari potensi sejatinya sebagai sumber pemberdayaan manusia.