Wajah Emma Watson Dipakai Iklan AI Deepfake Berbau Seksual, Meta Langsung Bertindak

Liputan6.com, Jakarta - Facebook dan Instagram dilaporkan sempat geger dengan iklan aplikasi deepfake dengan kecerdasan buatan atau artificial intelligence (AI), yang menampilkan aktris Emma Watson.

Yang jadi masalah, dalam klip video tersebut, pemeran Hermione dalam film Harry Potter itu, ditampilkan menatap dengan tatapan sensual ke arah kamera, sambil berlutut seakan mau melakukan aktivitas seksual.

Dikutip dari New York Post, Jumat (10/3/2023), aplikasi bernama FaceMega itu, mengiklankan platform-nya sebagai alat untuk membuat "video penukar wajah deepfake."

NBC News melaporkan, tidak cuma Emma Watson yang wajahnya dicatut dalam iklan itu. Scarlett Johansson, aktris Black Widow di Marvel Cinematic Universe, juga digunakan wajahnya.

Selain itu, FaceMega juga dilaporkan telah mengedarkan lebih dari 230 iklan di platform media sosial Meta.

"Ganti wajah dengan siapa pun," bunyi keterangan di 80 iklan tersebut. "Nikmati diri Anda dengan teknologi AI swap face."

Temuan itu sendiri dilaporkan oleh Lauren Barton, mahasiswa jurnalisme di Tennessee. Ia mencuitkan klip video dengan deepfake Emma Watson itu, dalam unggahan di Twitter-nya beberapa waktu lalu.

Meta, induk Facebook dan Instagram, kemudian merespon laporan tentang iklan tersebut, mereka pun mengklaim sudah membatasi klip itu di platform-nya.

"Kebijakan kami melarang konten dewasa terlepas dari apakah itu dihasilkan oleh AI atau tidak, dan kami telah membatasi laman ini dari iklan di platform kami," kata juru bicara Meta kepada The Post.

Sementara, Google, mengatakan bahwa mereka sudah menghapus aplikasi FaceMega dari Play Store. Juru bicara Google juga merujuk ke kebijakan mereka yang mengatur "konten yang tidak pantas" termasuk "konten seksual dan kata-kata kotor."

Meski juru bicara Apple menolak berkomentar, namun sebuah sumber di perusahaan mengatakan ke The Post, bahwa aplikasi tersebut sudah dicabut dari App Store.

Deepfake sendiri merupakan istilah yang dipakai, untuk mendeskripsikan video di mana wajah seseorang diubah secara digital, dengan bantuan AI, hingga menyerupai orang lain.

Teknologi ini mengundang pro dan kontra, terutama terkait potensi penyalahgunaan, seperti praktik memasukkan wajah seseorang, ke dalam video porno, membuat mereka seakan menjadi pelakunya.

Tak hanya soal video porno, tahun lalu, video deepfake yang menunjukkan Presiden Ukraina Volodymyr Zelensky menyerah kepada Rusia, juga beredar untuk kemudian dihapus dari media sosial.

Perlu diketahui, deepfake mengacu pada berbagai jenis media buatan komputer yang melibatkan orang-orang dan dibuat dengan neural network.

Deepfake bisa berbentuk video, foto, hingga rekaman suara. Dalam pembuatannya, alih-alih memakai teknik pengeditan gambar tradisional, penggunaan deep learning menggeser kebutuhan akan keterampilan dan membuat gambar palsu yang meyakinkan.

Ilmuwan Data Utama di Kaspersky Vladislav Tuskanov mengatakan, deepfake merupakan contoh utama dari teknologi yang berkembang lebih cepat dari pemahaman manusia dan cara mengelola komplikasinya.

"Deepfake dianggap memiliki dua sudut pandang. Di satu sisi, sebagai instrumen tambahan bagi seniman, dan kedua, memberi celah untuk disinformasi yang dapat menjadi tantangan bagi masyarakat, mengenai apa yang kita percayai," kata Tuskanov.

Menurut perkirakan, 96 persen dari semua deepfake adalah pornografi. Hal ini menyoroti kekhawatiran seputar deepfake yang digunakan untuk pelecehan, pemerasan, dan mempermalukan publik.

Teknologi ini juga membantu pelaku kejahatan siber. Dalam dua kasus, di Inggris dan Hong Kong, deepfake suara dipakai untuk mengelabui perusahaan agar mentransfer dana ke penipu online, dengan menyamar sebagai penjahat dari masing-masing perusahaan.

Penelitian terbaru memperlihatkan, algoritma deteksi liveness komersial yang dipakai oleh lembaga keuangan dalam prosedur KYC (know your customers) dapat ditipu oleh deepfake yang dibuat dari foto ID.

Hal ini pun menciptakan vektor serangan baru, sehingga membuat kebocoran identitas menjadi masalah serius. Masalah lainnya, deepfake bisa merusak kepercayaan terhadap konten audio dan video, karena bisa dipakai untuk tujuan berbahaya.

Kasus yang baru, wawancara palsu dengan Elon Musk dipakai untuk mempromosikan penipuan cryptocurrency. Berbagai pakar dan institusi seperti Europol pun memperingatkan, meningkatnya ketersediaan deepfake bisa menyebabkan disinformasi internet.

(Dio/Isk)