Konten Deepfake Tipu Calon Pemilih di Asia Sebelum Pemilihan Umum, Termasuk Indonesia

Liputan6.com, Jakarta - Divyendra Singh Jadoun mengaku tengah sibuk membuat efek visual dan klon suara berbasis kecerdasan buatan (AI) untuk film dan konten televisi di India.

Hal itu ia kerjakan ketika mendapat telepon dari para politisi yang memintanya: "Bisakah membuat video AI, atau deepfake, untuk kampanye pemilu mereka?".

Saat ini, pemilu lokal yang penuh persaingan. Salah satunya negara bagian Rajasthan pada November 2023.

Sementara pemilu nasional akan dijadwalkan pada Mei 2024 dan hal ini dianggap menjadi peluang bagi The Indian Deepfaker. Namun Jadoun enggan terlibat sampai sejauh itu.

“Teknologi untuk membuat deepfake saat ini sangat banyak peminat. Hal ini dapat dibuat dengan sekejab dan orang tidak dapat membedakan apakah itu asli atau palsu,” kata Jadoun (30), dikutip dari laman context.news, Kamis (4/1/2023).

“Tidak ada pedoman mengenai upaya pemberantasan deepfake dan ini mengkhawatirkan, karena berpotensi memengaruhi cara seseorang memilih,” kata Jadoun.

Reel Instagram yang menampilkan Perdana Menteri India Narendra Modi bernyanyi dalam bahasa daerah baru-baru ini menjadi viral, begitu pula video TikTok yang menampilkan calon presiden Indonesia, Prabowo Subianto dan Anies Baswedan, yang berbicara dalam bahasa Arab dengan fasih.

Tapi semuanya dibuat dengan AI, dan diposting tanpa label serta sumber yang jelas.

Pemilu yang akan diadakan di India, Indonesia, Bangladesh dan Pakistan dalam beberapa minggu mendatang, misinformasi tersebar luas di platform media sosial.

Dimana deepfake -- video atau audio palsu yang dibuat menggunakan AI dan disiarkan seakan-akan sebagai informasi asli -- menjadi hal yang sangat mengkhawatirkan, kata pakar dan otoritas teknologi.

Di India lebih dari 900 juta orang berhak memilih. Perdana Menteri India saat ini yang juga kembali maju dalam pemilu tahun ini, Narendra Modi mengatakan video deepfake adalah “kekhawatiran besar”.

Kini pihak berwenang memperingatkan platform media sosial bahwa mereka bisa kehilangan izinnya jika tak melindungi penggunannya.

Di Indonesia terdapat lebih dari 200 juta pemilih yang akan memberikan suaranya pada tanggal 14 Februari 2024.

Informasi palsu mengenai ketiga kandidat presiden dan pasangannya beredar secara online, dan berpotensi mempengaruhi hasil pemilu, kata Nuurrianti Jalli, yang mempelajari misinformasi mengenai pemilu.

“Dari upaya penargetan mikro terhadap pemilih dengan disinformasi hingga menyebarkan narasi palsu, produk AI ini dapat secara signifikan mempengaruhi persepsi dan perilaku pemilih,” katanya.

“Dalam lingkungan di mana misinformasi sudah lazim, konten yang dihasilkan AI dapat semakin mengubah persepsi publik dan memengaruhi perilaku memilih,” tambah Jalli, asisten profesor di sekolah media Oklahoma State University.

Propaganda Politik

Gambar dan video deepfake yang dihasilkan oleh alat AI generatif seperti Midjourney, Stable Diffusion, dan Dall-E OpenAI muncul menjelang pemilu di Selandia Baru, Turki, dan Argentina tahun lalu.

Terjadi seiring dengan meningkatnya kekhawatiran mengenai dampaknya terhadap pemilu presiden AS pada November 2024.

AI membuat penciptaan dan penyebaran disinformasi menjadi lebih cepat, lebih murah, dan efektif, kata Freedom House, organisasi nirlaba AS, dalam sebuah laporan baru-baru ini.

Di Bangladesh, Perdana Menteri Sheikh Hasina akan menjabat untuk masa jabatan keempat berturut-turut setelah pemilu pada 7 Januari. Video deepfake yang menampilkan politisi perempuan oposisi Rumin Farhana dalam balutan bikini dan Nipun Roy di kolam renang telah bermunculan.

Meski terbantahkan dengan cepat, namun konten tersebut masih beredar, dan bahkan konten deepfake buruk ini mampu menyesatkan orang, kata Sayeed Al-Zaman, asisten profesor jurnalisme di Universitas Jahangirnagar Bangladesh.

“Mengingat rendahnya tingkat informasi dan literasi digital di Bangladesh, deepfake dapat menjadi pembawa propaganda politik yang ampuh jika dirancang dan disebarkan secara efektif,” katanya.

“Tetapi pemerintah tampaknya tidak khawatir.”

Di Pakistan, pemilu dijadwalkan pada 8 Februari, Imran Khan, yang dipenjara setelah digulingkan sebagai perdana menteri tahun lalu, menggunakan gambar dan klon suara yang dihasilkan AI untuk menyampaikan pidato dalam rapat umum pemilu online pada bulan Desember 2023. Video itu ditonton lebih dari 1,4 juta kali di YouTube.

Meskipun Pakistan telah merancang undang-undang AI, aktivis hak-hak digital mengkritik kurangnya batasan terhadap disinformasi, dan untuk melindungi komunitas rentan termasuk perempuan.

“Ancaman disinformasi terhadap pemilu dan proses demokrasi secara keseluruhan di Pakistan tidak bisa diabaikan begitu saja,” kata Nighat Dad, salah satu pendiri lembaga nirlaba Digital Rights Foundation.

"Di masa lalu, disinformasi di platform online telah berhasil mempengaruhi perilaku pemilih, dukungan partai, dan bahkan mempengaruhi perubahan undang-undang. Media sintetik akan membuat hal ini lebih mudah dilakukan,” tambahnya.

Setidaknya 500.000 deepfake video dan suara dibagikan di situs media sosial secara global pada tahun 2023, menurut perkiraan DeepMedia, sebuah perusahaan yang mengembangkan alat untuk mendeteksi media sintetis.

Meta, aplikasi yang menaungi Facebook, Instagram, dan WhatsApp mengatakan bahwa pihaknya akan menghapus media sintetis, terutama dalam kasus konten video bohong.

Google, pemilik YouTube mengatakan bahwa platform berbagi video tersebut mengharuskan “kreator untuk mengungkapkan konten yang diubah atau sintetis yang realistis, termasuk menggunakan alat AI.