Tanggapan TikTok soal Deepfake yang Marak Beredar di Medsos Menjelang Pemilu 2024

Liputan6.com, Jakarta - Video deepfake belakangan ini kian marak beredar di media sosial dan platform digital lainnya, terlebih menjelang Pemilu 2024 di Indonesia.

Deepfake yang baru-baru ini sempat viral dan menyedot perhatian warganet adalah video yang memperlihatkan Presiden Joko Widodo (Jokowi) berpidato dengan bahasa Mandarin. Dalam video tersebut, Jokowi seolah-olah sangat fasih berbahasa Mandarin.

Menanggapi deepfake yang terlihat makin natural, Head of Communications TikTok Indonesia, Anggini Setiawan menuturkan perusahaan sangat concern dengan isu ini, terutama video misinformasi atau hoaks.

"Untuk deepfake, kami meluncurkan tool baru untuk membantu content creator memberi label pada konten buatan AI (generative AI). Namun, tidak semua konten deepfake akan kami takedown, asalkan tidak melanggar pedoman komunitas," ujarnya di Kantor TikTok Transparency and Accountability Center di Singapura, belum lama ini.

Anggi menambahkan, TikTok akan terus beradaptasi dengan produk buatan AI (salah satunya deepfake) yang saat ini kian canggih.

"Teknologi AI untuk komunitas itu sangat oke, tapi kami menyadari sebagai perusahaan penyedia platform video pendek, kami akan terus beradaptasi," Anggi memungkaskan.

Sebelumnya, Kementerian Komunikasi dan Informatika (Kominfo) menanggapi soal video deepfake Jokowi. Melalui keterangan pers yang diterima Tekno Liputan6.com, Kamis (26/10/2023), Kominfo menegaskan video Jokowi yang berpidato dalam bahasa Mandarin adalah disinformasi.

Direktur Jenderal Aplikasi Informatika Kominfo Semuel Abrijani Pangerapan menyebut, video Jokowi pidato bahasa Mandarin itu merupakan hasil suntingan alias editan yang menyesatkan.

“Video yang beredar tersebut disertai narasi ‘Jokowi berbahasa Mandarin’. Itu hasil suntingan yang menyesatkan,” kata Semuel, dalam keterangan.

Pria yang karib disapa Semmy ini menegaskan video Presiden Jokowi pidato dengan bahasa Mandarin yang beredar di medsos merupakan disinformasi.

Ia menyebut, hal ini diketahui setelah penelusuran tim AIS Kominfo menemukan kesamaan dengan video yang diunggah oleh kanal YouTube The U.S. - Indonesia Society (USINDO) pada 13 November 2015 lalu.

Deepfake adalah video rekayasa atau materi digital yang dibuat melibatkan orang-orang dan dibuat dengan neural network.

Dalam pembuatannya, alih-alih memakai teknik pengeditan gambar tradisional, penggunaan deep learning menggeser kebutuhan akan keterampilan dan membuat gambar atau suara palsu lebih meyakinkan.

Ilmuwan Data Utama di Kaspersky, Vladislav Tuskanov, mengatakan, deepfake merupakan contoh utama dari teknologi yang berkembang lebih cepat dari pemahaman manusia dan cara mengelola komplikasinya.

"Deepfake dianggap memiliki dua sudut pandang. Di satu sisi, sebagai instrumen tambahan bagi seniman, dan kedua, memberi celah untuk disinformasi yang dapat menjadi tantangan bagi masyarakat, mengenai apa yang kita percayai," kata Tuskanov.

Mulanya, deepfake merujuk pada istilah software tertentu yang mendapatkan popularitas di Reddit.

Software ini menanamkan wajah seseorang ke video yang menampilkan orang lain. Hampir seluruhnya dipakai untuk membuat pornografi non-konsensual dengan selebritas.

Deepfake dapat menghasilkan konten tiruan dengan mempelajari foto dan video dari sosok tertentu, dari berbagai sudut pandang dan meniru gerak-gerik tubuh dan gerakan bibirnya.

Ketika materi awal palsu sudah dibuat, sebuah metode yang disebut Generative Adversarial Networks (GANs) bisa membuatnya jadi makin terlihat asli.

"Proses GAN mendeteksi kekurangan sehingga bisa membuat video terlihat sempurna," kata Paul Barret, profesor hukum di Universitas New York, sebagaimana dikutip dari Merdeka.com, Rabu (15/3/2023).

Perusahaan AI Deeptrace menemukan, ada 15.000 video deepfake online pada September 2019, hampir dua kali lipat selama sembilan bulan.

Dimana 96 persen video tersebut adalah pornografi dan 99 persen dari mereka memetakan wajah dari selebritas wanita hingga bintang porno.

Dengan cara ini, memungkinkan orang tidak terampil membuat deepfake dengan beberapa foto, video palsu cenderung menyebar ke luar dunia selebritas untuk memicu pornografi balas dendam.

Seperti yang dikatakan oleh Danielle Citron, seorang profesor hukum di Boston University, "Teknologi deepfake sedang dipersenjatai untuk melawan wanita." Di luar pornografi, ada banyak spoof, sindiran, dan kenakalan.

Jelang pemilu 2024, ancaman deepfake sulit untuk dihindari. Menanggapi hal ini, Pengamat Budaya dan Komunikasi Digital dari Universitas Indonesia Firman Kurniawan meminta masyarakat untuk tidak langsung percaya hanya pada satu informasi.

Hal ini dimaksudkan agar masyarakat bisa menghindari konten manipulasi deepfake.

"Jadi masyarakat perlu mengkombinasikan sumber-sumber informasi, tidak hanya pada satu macam saja," ujar Firman dikutip dari laman Antara, Rabu (15/3/2023).

Keberadaan deepfake dinilai membuka peluang timbulnya disinformasi di tengah masyarakat. Konten-konten deepfake diyakini akan semakin banyak ditemukan, khususnya di tahun politik seperti saat ini.

Menjelang Pemilihan Umum (Pemilu) Serentak 2024, konten-konten deepfake berpotensi digunakan oleh pihak-pihak tidak bertanggung jawab untuk saling menjatuhkan antar kandidat peserta pemilu.

Untuk terhindar dari konten tersebut, Firman meminta masyarakat untuk lebih selektif dalam memilah Informasi yang diperoleh.

Masyarakat diminta tidak terpaku dan langsung percaya terhadap informasi yang diperoleh hanya dari satu sumber. Hal itu, kata dia, penting untuk terhindar dari filter bubble maupun echo chamber.

"Kalau sumber informasinya dibaca oleh algoritma satu macam, itu akan terjebak yang namanya filter bubble dan echo chamber," kata Firman.

Firman menyebut, "Jadi dia masuk ke sebuah ruangan berisi dengan informasi-informasi sejenis. Dia mengira itulah kenyataan tentang kandidat yang saya dukung, padahal kalau kita pakai sumber informasi yang lain, itu bisa jadi bunyinya akan lain, dan itu perlu keterbukaan pikiran untuk memahami."