Wamenkominfo Minta Masyarakat Waspadai Penyalahgunaan Deepfake

Liputan6.com, Jakarta - Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria mengatakan bahwa teknologi artificial intelligence (AI) dan deepfake bisa disalahgunakan.

Selain itu, menurut Nezar, beberapa kelompok masyarakat menjadi yang paling rentan menjadi korban penyalahgunaan teknologi seperti deepfake.

Wamenkominfo juga menegaskan telah mengantisipasi peluang penyebaran disinformasi yang menggunakan teknologi AI dan deep fake, terutama menjelang Pemilihan Umum Serentak Tahun 2024.

Hal itu ia sampaikan dalam Seminar Nasional Disinformasi dan Kelompok Rentan di Era Manipulasi Media Digital di Wisma Magister Manajemen UGM, Yogyakarta, Kamis (16/11/2023).

Teknologi deepfake sendiri bisa memanipulasi video, gambar, dan suara secara digital sesuai dengan pesan yang tidak pernah terjadi di dunia nyata.

"Melalui algoritma dan otomasi yang dapat menghasilkan bias maupun otomasi yang bersifat preskriptif serta penyalahgunaan algoritma yang berpotensi menimbulkan disinformasi," kata Nezar.

Peningkatan Penggunaan Deepfake

Seperti dikutip dari siaran pers, Nezar menyebut terdapat peningkatan penggunaan deepfake sebesar 550 persen dari tahun 2019 secara global. Selama tahun 2023, data Home Security Heroes menunjukkan terdapat 95.820 video deepfake yang tersebar secara global.

"Hal yang sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, yang berujung pada penyebaran disinformasi," kata Wakil Menteri Kominfo.

Menurut Nezar, dari hasil survei UNESCO dan IPSOS 2023, lebih dari 80 persen masyarakat yang akan menghadapi pemilu, percaya disinformasi telah berdampak pada politik di negara masing-masing.

Selain itu, survei juga menunjukkan bahwa responden khawatir akan dampak dari disinformasi tersebut.

Wamenkominfo pun mengingatkan bahwa disinformasi punya dampak yang luas, mulai dari potensi polarisasi politik, penurunan kepercayaan terhadap jurnalisme hingga proses demokrasi itu sendiri.

Wamenkominfo pun menilai kelompok rentan memiliki risiko lebih tinggi terdampak dan menjadi korban penyalahgunaan teknologi.

Menurutnya, ada tiga dampak dan viktimisasi yang mungkin terjadi. pertama, profiling yang didasarkan pada algoritma AI cenderung bias dan dapat disalahgunakan untuk menargetkan kelompok rentan.

Kedua, dalam beberapa kasus politik dan sosial yang terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja menargetkan dan merugikan kelompok rentan.

Ketiga, perempuan menjadi target dalam muatan pornografi yang sengaja diciptakan melalui teknologi deepfake.

Ia pun mengatakan, perhatian harus diberikan pada kelompok-kelompok seperti perempuan, masyarakat yang tinggal di area rural, kelompok disabilitas, lansia, dan kaum muda. Menurutnya, Kominfo juga memberikan perhatian penuh pada kelompok ini.

"Pendekatan yang inklusif mampu menghadirkan teknologi digital yang dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta layanan digital yang bermakna dan aman," ia menandaskan.

Kementerian Komunikasi dan Informatika (Kominfo) sebelumnya juga pernah mengingatkan masyarakat terhadap penyalahgunaan teknologi deepfake dan AI, jelang Pemilu 2024.

Hal ini setelah sempat beredar sebuah video memperlihatkan Presiden Joko Widodo alias Jokowi, berpidato dalam bahasa Mandarin, di mana telah dinyatakan ini adalah hasil editan.

"Kami ingin mengingatkan sudah mulai digunakannya AI dalam menciptakan hoaks," kata Direktur Jenderal Aplikasi Informatika Kominfo, Semuel Abrijani Pangerapan.

Dalam konferensi pers di Jakarta, Jumat (27/10/2023), Semuel meminta masyarakat untuk mulai berhati-hati dengan penggunaan AI yang canggih, dan dapat disalahgunakan untuk membuat hoaks.

"Kuncinya adalah carilah informasi dari sumber-sumber terpercaya," kata Semuel, di mana di sini dicontohkan dari portal berita resmi. "Karena tidak mungkin berita-berita besar tidak diliput media."

Dirjen Kominfo itu pun mengakui, video viral tersebut sekilas memang sangat mirip dengan video aslinya. "Dengan kemajuan teknologi, para pemain-pemain pun pasti sudah mulai menggunakan teknologi semacam ini," katanya.

Lebih lanjut, ia menambahkan dalam video (Jokowi) tersebut, kata-kata yang diucapkan memang punya isi yang sama dengan dalam video aslinya, di mana Kominfo sudah mengonfirmasi dengan penerjemah untuk ini.

"Cuma itu kan disinformasi, karena kejadiannya diberitakan seolah-olah di China pada saat pertemuan Pak Jokowi kemarin," kata Semuel.

"Kalau dari narasi yang diucapkan, setelah kita kroscek dengan penerjemah, sama dengan narasi bahasa Inggris-nya. Ini ada tujuannya disinformasi," pungkasnya.

Semuel kembali mengingatkan masyarakat akan banyak hoaks atau disinformasi yang kemungkinan memanfaatkan deepfake AI. "Untuk itu sangat penting untuk tabayyun, tabayyun, tabayyun, atau check and recheck. Carilah informasi dari sumber-sumber yang dapat dipercaya."