Perusahaan: TikTok

Jakarta –

Dalam satu video TikTok, seorang reporter dengan mikrofon di tangan terlihat berdiri di jalan di London dengan bendera Inggris berkibar di latar depan. Dia bertanya kepada seorang pejalan kaki wanita, siapa yang akan dipilihnya pada pemilu mendatang. “Reformasi,” jawab wanita itu. “Saya hanya ingin merasa menjadi orang Inggris lagi, kan.”

Seorang pengguna berkomentar di bawah video itu: “Saya bertanya-tanya berapa banyak mereka membayarnya untuk mengatakan hal itu.” Tetapi adegan ini tidak pernah terjadi di dunia nyata. Wawancara itu sepenuhnya palsu. Reporter itu diciptakan oleh kecerdasan buatan. Dan jika Anda perhatikan lebih dekat, ada petunjuk halus: tanda air samar di sudut dengan kata “Veo”, tanda aplikasi baru pembuat video yang canggih dari Google DeepMind.

Video berdurasi 8 detik ini bukanlah kasus yang terisolasi. Dari TikTok hingga Telegram, siaran berita sintetis — video buatan AI yang meniru tampilan dan nuansa segmen berita — membanjiri media sosial. Mereka meminjam bahasa visual jurnalisme: pelaporan lapangan, grafik di layar, reporter yang berwibawa. Akan tetapi, sering kali semuanya sepenuhnya dibuat-buat untuk memancing kemarahan, memanipulasi opini, atau sekadar menjadi viral.

“Kalau Anda berselancar cepat di media sosial, itu akan terlihat seperti berita, terdengar seperti berita,” ujar Hany Farid, profesor di University of California, Berkeley, yang berspesialisasi dalam forensik digital, kepada DW. “Dan itulah bahayanya.”

Tim cek fakta DW telah berulang kali mengamati bagaimana klip-klip semacam itu berulangkali muncul selama masa krisis — seperti kerusuhan atau peristiwa berita besar — yang digunakan kembali untuk menebar kebingungan atau secara keliru mengisyaratkan eskalasi dramatis.

Konsekuensinya jauh melampaui media sosial

Selama eskalasi konflik terbaru antara Israel dan Iran, TikTok dan platform lainnya dibanjiri konten buatan AI, termasuk siaran berita palsu yang membuat klaim palsu — seperti Rusia yang diduga bergabung dalam perang, Iran menyerang AS, atau Iran menembak jatuh pesawat pengebom B-2 AS.

Pada tahun 2024, peneliti Taiwan menandai siaran berita buatan AI di platform lokal yang secara keliru menuduh politisi pro-independen melakukan korupsi. Klip-klip tersebut tidak hanya menyebarkan misinformasi — tetapi juga menabur ketidakpercayaan, merusak kredibilitas semua media berita menjelang pemilu di negara tersebut.

Bagaimana mendeteksi mana yang palsu?

Aplikasi seperti Veo, Synthesia dan beberapa yang lain memberi tanda yang disebut watermark pada video mereka, meskipun labelnya terkadang samar, dipotong, atau diabaikan. Tetapi bahkan klip yang ditandai dengan jelas pun sering kali dibanjiri komentar pengguna yang bertanya: “Apakah ini nyata?”

Siaran berita palsu merupakan salah satu konten hasil rekayasa AI yang paling canggih dan lebih sulit dikenali. Namun petunjuk tetap ada. Perhatikan gerakan mata dan mulut. Avatar sintetis sering kali berkedip secara tidak wajar atau kesulitan melakukan sinkronisasi bibir yang realistis. Gigi mungkin terlihat terlalu halus atau berkilau secara tidak alami. Bentuknya bahkan mungkin berubah di tengah kalimat. Gerakan dan gerak wajah cenderung terlalu seragam, tidak memiliki variasi alami seperti pada manusia nyata.

Teks juga bisa menjadi petunjuk. Teks atau spanduk di layar sering kali mengandung frasa yang tidak bermakna atau ada salah ketik. Hany Farid menjelaskan, tantangan dalam menemukan konten sintetis adalah target yang terus berubah. “Apa pun yang saya sampaikan kepada Anda hari ini tentang cara mendeteksi AI palsu mungkin tidak relevan lagi dalam enam bulan,” katanya.

AI makin murah dan makin cepat menghasilkan uang

Teknologi AI telah berkembang secara dramatis. Aplikasi seperti Veo kini memungkinkan siapa saja — tanpa pelatihan media — membuat video berkualitas ala siaran hanya dengan beberapa ratus euro per bulan. Avatar bisa berbicara dengan lancar, bergerak secara realistis, dan dapat dimasukkan ke hampir semua adegan dengan beberapa perintah yang diketik. “Anda tidak butuh studio. Anda bahkan tidak butuh fakta,” kata Hany Farid.

Sebagian besar klip ini dirancang untuk interaksi maksimum. Mereka menyentuh topik-topik yang sangat memecah belah, seperti imigrasi, perang di Gaza, Ukraina, dan Donald Trump, untuk memancing reaksi emosional yang kuat dan mendorong pengguna berbagi.

Program monetisasi juga semakin memberi insentif kepada kreator: Semakin banyak tayangan video, semakin banyak uang yang dapat dihasilkan. Lingkungan ini telah memunculkan jenis baru pembuat “AI slop”: pengguna yang menghasilkan konten sintetis berkualitas rendah yang terkait dengan topik yang sedang tren hanya untuk mendapatkan penayangan.

Akun seperti ini—dengan sekitar 44.000 pengikut—sering kali langsung menyampaikan berita terkini sebelum jurnalis dapat mengonfirmasi fakta. Banyak video TikTok menampilkan avatar AI yang berpakaian seperti reporter CNN atau BBC, menyiarkan berita palsu atau „laporan saksi mata” yang direkayasa.

Pada saat terjadi situasi breaking news — ketika pengguna secara aktif mencari informasi — konten AI yang tampak realistis menjadi cara yang sangat efektif untuk menarik klik dan mendapatkan perhatian publik. “Platform telah menjauh dari moderasi konten,” kata Hany Farid kepada DW. “Saya bisa membuat konten, saya bisa mendistribusikannya, dan ada audiens yang bersedia mempercayainya.”

Artikel ini pertama kali dirilis dalam bahasa Inggris
Diadaptasi oleh: Hendra Pasuhuk
Editor: Rizki Nugraha

(ita/ita)

Hoegeng Awards 2025

Baca kisah inspiratif kandidat polisi teladan di sini