Jakarta, CNN Indonesia — Aplikasi Lensa AI tak cuma memberi pengalaman menarik bagi penggunanya. Di balik itu, ternyata ada potensi bahaya yang mengintai mulai dari soal data pribadi hingga pornografi.
Lensa AI merupakan aplikasi buatan Prisma Labs yang memanfaatkan swafoto dan memprosesnya dengan kecerdasan buatan (AI) untuk membuat potret dalam berbagai gaya. Lensa AI mulanya memproses foto narsis penggunanya, mempelajarinya, dan menghasilkan potret asli yang dimodifikasi oleh kecerdasan buatan.
Untuk menggunakannya, pengguna harus mengunduh terlebih dahulu lewat App Store (iOS) atau Play Store (Android). Setelah itu, pengguna. harus mengunggah banyak swafoto.
–
–
Pengguna lalu diharuskan memilih jenis kelamin sebelum foto itu diproses sekitar setengah jam. Pada hasil akhir, pengguna bisa melihat fotonya dipermak sedemikian rupa dengan ukuran, tergantung pada paket yang dibeli, dengan tema berbeda-beda, di antaranya “kosmik”, “putri peri”, hingga “anime”.
Melihat hasil itu membuat pengguna semringah. Akan tetapi, ada beberapa hal yang harus diperhatikan mengingat Lensa AI menyimpan potensi bahaya.
Data Pribadi
Kebijakan privasi Lensa AI menyebut “data wajah” dihapus dalam waktu 24 jam setelah diproses dan tidak digunakan untuk mengidentifikasi pengguna individu mana pun. Namun, ketentuan platform juga menyatakan foto dan video pengguna dapat digunakan untuk melatih algoritma Lensa lebih lanjut. Maka dari itu, sangat disarankan untuk tidak mengunggah foto sensitif ke platform ini.
Pada laman blognya, Lensa AI juga menyebut pihaknya menggunakan teknologi untuk mengumpulkan informasi tentang aktivitas online pengguna dari waktu ke waktu dan di seluruh situs web pihak ketiga atau layanan online lainnya (pelacakan perilaku). Meski demikian, Lensa AI mengklaim pelacakan ini dilakukan dengan persetujuan pengguna.
Data yang dikumpulkan antara lain soal informasi perangkat seluler dan koneksi internet Anda, termasuk alamat IP, pengidentifikasi perangkat unik, sistem operasi, dan informasi jaringan seluler. Selain itu, Lensa AI juga mengumpulkan email teregistrasi, user ID, dan akun toko aplikasi pengguna (Google Play store atau Apple App store).
Pornografi
Beberapa pengguna perempuan mengaku Lensa AI menyertakan rendering gambar seluruh tubuh meski mereka awalnya cuma menginstruksikan swafoto close-up. Sebuah gambar bahkan menampilkan avatar dalam kostum bikini metalik ala Princess Leia di film Star Wars: Return of the Jedi.
Sementara, gambar lainnya hanya menyertakan separuh wajah di atas tubuh yang berpakaian minim. Pada laman F.A.Q, Prisma Labs mengakui “seksualisasi sesekali muncul di semua kategori gender.”
Menurut laporan TechCrunch, Lensa AI bisa menghasilkan avatar selebritas bertelanjang dada dengan bahan berupa foto kepala pemain film yang ditempelkan ke tubuh telanjang.
Lensa AI juga disebut dapat menghasilkan gambar seksual tanpa persetujuan mereka.
“Ini adalah contoh potensial di mana kurangnya perencanaan yang memadai untuk melindungi martabat individu,” kata David Leslie, direktur etika dan penelitian inovasi yang bertanggung jawab di The Alan Turing Institute dan profesor di Queen Mary University of London, seperti dikutip Wired.
“Saat teknologi dapat membahayakan, kami siap melakukan semua yang kami bisa untuk mengantisipasi dampak tersebut,” tambahnya.
Hasil yang Menyinggung
Hasil pemrosesan kecerdasan buatan tak hanya menghasilkan gambar yang bagus, tetapi bisa juga menghasilkan gambar menyinggung. Misalnya, Anda dapat menerima hasil yang rasis atau seksis saat berinteraksi dengan AI generatif.
“Internet dipenuhi dengan banyak gambar yang akan mendorong pembuat gambar AI ke topik yang mungkin tidak nyaman, baik itu gambar seksual eksplisit atau gambar yang dapat mengubah potret AI orang menjadi karikatur rasial,” kata Grant Fergusson, seorang Equal Justice Rekan kerja di EPIC.
Berdampak pada Seniman Aslinya
Beberapa seniman memanfaatkan potensi AI penghasil gambar untuk memberikan hasil yang menarik. Sementara, seniman lainnya lebih skeptis tentang potensi dampak teknologi terhadap dunia mereka.
“Komersialisasi generator gambar ini akan berdampak pada kemampuan seniman untuk mempertahankan diri mereka dalam jangka panjang,” kata Leslie.
Dengan kata lain, kehadiran platform AI dapat mengancam keberlangsungan hidup para seniman yang bergantung pada karya mereka. Meski hasil keduanya tidak bisa dibandingkan karena hasil karya seniman asli memiliki karakter dan identitas yang kuat, sejumlah pelanggan yang tergiur produk lebih murah mungkin akan lebih memilih kecerdasan buatan.
[Gambas:Video CNN] (lom/lth)
