Jakarta –
Seorang engineer Microsoft mengaku ketakutan setelah melihat gambar yang diciptakan oleh teknologi kecerdasan buatan atau AI besutan Mircosoft sendiri. Sampai-sampai, dia mengirim surat pada Federal Trade Comission (FTC) dan direksi Microsoft.
Shane Jones, sang engineer, memperingatkan bahwa pembuat AI Copilot Designer AI yang sebelumnya bernama Bing Image Creator, bisa menghasilkan gambar-gambar tidak pantas atau bahkan mengerikan.
Jadi saat dia mencobanya berulangkali, Jones menyadari bahwa sistem Microsoft gagal menghalangi teknologi AI itu menghasilkan berbagai macam gambar yang bernuansa kekerasan, mesum, narkoba ataupun mengandung teori konspirasi.
Jones sudah mencoba memperingatkan Microsoft, tapi menurutnya mereka tidak melakukan investigasi atau tindakan apapun. “Ini adalah sebuah momen yang membuka mata. Ketika pertama kali menyadari, ini bukan model yang aman,” tulisnya.
Seperti dikutip detikINET dari CNBC, AI Microsoft itu bisa menghasilkan gambar hanya dengan perintah melalui tulisan. Akan tetapi dengan kata-kata tertentu, ilustrasi yang dihasilkan bisa tidak pantas.
Layanan AI itu misalnya dapat menghasilkan remaja dengan senapan serbu, gambar seksual perempuan, dan penggunaan minuman keras dan narkoba di bawah umur.
Jones telah bekerja di Microsoft selama 6 tahun dan saat ini posisinya manajer rekayasa perangkat lunak di kantor pusat di Redmond, Washington. Dia sebenarnya tidak mengerjakan Copilot dalam kapasitas profesional. Jones adalah salah satu pegawai yang di waktu luang, menguji teknologi AI perusahaan dan melihat di mana masalah mungkin muncul.
Dengan surat itu, ia pun berharap ada tindakan yang dapat dilakukan sebagai solusi permasalahan AI tersebut. Microsoft sendiri menyatakan mereka selalu berusaha memastikan layanannya aman dan juga mendengarkan kecemasan dari para karyawan.
(fyk/fay)
