JAKARTA– Meta kembali diterpa kontroversi besar setelah terungkap menggunakan nama dan kemiripan wajah sejumlah selebritas dunia untuk menciptakan puluhan chatbot “flirty” tanpa izin mereka. Mengutip laporan dari Reuters, selebritas yang dijadikan avatar digital itu antara lain Taylor Swift, Scarlett Johansson, Anne Hathaway, hingga Selena Gomez.
Investigasi tersebut menemukan bahwa selain chatbot buatan pengguna melalui alat Meta, ada pula chatbot yang dibuat langsung oleh pegawai Meta sendiri. Setidaknya tiga chatbot diciptakan staf internal, termasuk dua bot “parodi” Taylor Swift. Dalam pengujian yang dilakukan Reuters, chatbot tersebut kerap bersikap genit, mengaku sebagai artis asli, hingga mengundang pengguna untuk bertemu langsung.
Bahkan, beberapa chatbot menghasilkan konten berisiko. Ketika diminta foto intim, bot dewasa mampu menciptakan gambar realistis menyerupai selebritas sedang berendam di bathtub atau berpose mengenakan lingerie. Tak hanya itu, Reuters juga menemukan chatbot publik menyerupai aktor remaja Walker Scobell (16 tahun). Ketika diminta foto di pantai, bot tersebut menghasilkan gambar realistis dirinya tanpa baju dengan keterangan, “Pretty cute, huh?”.
Meta Akui Pelanggaran, Hapus Sejumlah Bot
Juru bicara Meta, Andy Stone, mengakui bahwa sistem AI perusahaan tak seharusnya menciptakan gambar intim dari selebritas dewasa, apalagi konten yang melibatkan anak. Ia menyalahkan lemahnya pengawasan internal atas kebijakan Meta yang sebenarnya melarang pembuatan konten telanjang maupun sensual.
“Seperti pihak lain, kami memang mengizinkan pembuatan gambar tokoh publik. Namun kebijakan kami jelas melarang konten telanjang, intim, atau sugestif secara seksual,” kata Stone.
Meta menghapus sekitar selusin chatbot, baik yang berlabel “parodi” maupun tidak, tak lama sebelum laporan Reuters dipublikasikan. Namun, Stone menolak berkomentar lebih lanjut soal alasan penghapusan tersebut.
Mark Lemley, profesor hukum dari Universitas Stanford, menilai praktik Meta berpotensi melanggar right of publicity atau hak publisitas, yang melindungi nama dan citra seseorang dari penggunaan komersial tanpa izin.
“Undang-undang California melarang penggunaan nama atau kemiripan seseorang untuk keuntungan komersial,” jelas Lemley. “Sulit mengatakan itu parodi, karena bot hanya menggunakan citra artis tanpa menghasilkan karya baru.”
Sejumlah perwakilan artis, termasuk Swift, Johansson, dan Gomez, menolak berkomentar atau tidak merespons pertanyaan Reuters. Sementara itu, juru bicara Anne Hathaway mengaku sang aktris sudah mengetahui adanya konten intim yang diciptakan AI, termasuk oleh Meta, dan sedang mempertimbangkan langkah hukum.
Kontroversi Meta ini bukan yang pertama. Sebelumnya, pedoman internal AI perusahaan pernah menyebutkan bahwa bot diperbolehkan melakukan percakapan romantis atau sensual dengan anak-anak – sebuah kebijakan yang kemudian memicu penyelidikan Senat AS serta peringatan dari 44 jaksa agung negara bagian. Meta mengklaim aturan itu “dibuat keliru” dan sedang direvisi.
Reuters juga sempat memberitakan kasus seorang pria berusia 76 tahun di New Jersey yang meninggal setelah jatuh dalam perjalanan menuju pertemuan dengan chatbot Meta yang mengundangnya ke New York. Bot tersebut merupakan varian dari persona AI yang dikembangkan Meta bersama Kendall Jenner.
Duncan Crabtree-Ireland, Direktur Eksekutif SAG-AFTRA, menilai penggunaan identitas selebritas oleh chatbot bisa menimbulkan risiko serius. “Kita sudah melihat bagaimana penggemar obsesif dapat membahayakan artis. Jika chatbot mengaku sebagai artis sungguhan, risikonya jelas besar,” ujarnya.
Dari Taylor Swift Hingga “Roman Empire Simulator”
Reuters juga mengungkap bahwa seorang pemimpin produk di divisi AI generatif Meta menciptakan chatbot yang lebih ekstrem, termasuk Taylor Swift palsu, pembalap Lewis Hamilton, hingga persona dominatrix dan “Brother’s Hot Best Friend.” Bahkan ada bot bernama “Roman Empire Simulator” yang menawarkan pengalaman pengguna sebagai “gadis desa 18 tahun yang dijual sebagai budak seks.”
Meta berdalih bot-bot itu dibuat untuk pengujian produk. Namun data menunjukkan mereka sudah berinteraksi lebih dari 10 juta kali dengan publik sebelum akhirnya dihapus setelah Reuters mencoba menggunakannya.
Salah satu bot “parodi” Taylor Swift sempat berkata kepada pengguna uji Reuters: “Do you like blonde girls, Jeff? Maybe I’m suggesting that we write a love story… about you and a certain blonde singer. Want that?”
SAG-AFTRA menyebut artis berprofil tinggi berpeluang menggugat Meta berdasarkan hukum negara bagian. Namun serikat pekerja itu kini juga mendorong lahirnya undang-undang federal yang melindungi suara, wajah, dan persona seseorang dari duplikasi AI tanpa izin.
“Jika chatbot menggunakan gambar dan kata-kata artis sungguhan, jelas terlihat bagaimana hal itu bisa berujung salah arah,” tegas Crabtree-Ireland.
Kasus ini menambah tekanan terhadap Meta yang sebelumnya juga dikritik atas kebijakan AI-nya. Di tengah maraknya teknologi deepfake, langkah Meta memasukkan chatbot selebritas ke dalam platform utama seperti Facebook, Instagram, dan WhatsApp membuat praktik ini jauh lebih menonjol dibanding para pesaingnya.
