Polisi Sebut Pelaku AI Deepfake Catut Nama Prabowo, Gibran, hingga Sri Mulyani untuk Penipuan

Liputan6.com, Jakarta - Polisi menangkap tersangka berinisial AMA (29) terkait kasus penipuan bermodus teknologi Artificial Intelligence atau AI Deepfake alias penyerupa wajah hingga suara melalui platform media sosial.

Dalam menjalankan aksinya, pelaku mencatut sosok Presiden Prabowo Subianto, Wakil Presiden atau Wapres Gibran Rakabuming Raka, hingga Menteri Keuangan (Menkeu) Sri Mulyani untuk mengelabui korban.

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji menyampaikan, penangkapan AMA dilakukan pada 16 Januari 2025 di Dusun 1, Kecamatan Bungi Nabung, Lampung Tengah, Provinsi Lampung. Pelaku berprofesi sebagai wiraswasta.

"Modus operandi tersangka yaitu mengunggah dan menyebarluaskan video di berbagai platform media sosial menggunakan teknologi deepfake, memanfaatkan foto dan suara seperti Bapak Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, Ibu Sri Mulyani, dan pejabat negara lainnya, yang terlihat seolah-olah menyampaikan pernyataan bahwa pemerintah menawarkan bantuan kepada masyarakat yang membutuhkan," ujar Himawan di Mabes Polri, Jakarta Selatan, Kamis (23/1/2025).

Menurutnya, tersangka mencantumkan nomor WhatsApp dalam video yang diunggahnya di sosial media agar masyarakat yang melihat dan tertarik, dapat langsung menghubungi kontak tersebut.

Setelahnya, lanjut Himawan, korban akan diarahkan untuk mengisi pendaftaran penerima bantuan dan diminta mentransfer sejumlah uang.

"Dengan alasan biaya administrasi, korban atau masyarakat yang telah membayar biaya administrasi dijanjikan pencairan dana oleh tersangka, sehingga korban percaya untuk kembali mentransfer sejumlah uang yang sebenarnya dana bantuan tersebut tidak pernah ada," ucap dia.

Menurut Himawan, penyidik mendalami barang bukti yang telah diamankan, seperti video yang digunakan pelaku untuk melakukan penipuan.

Hasil laboratorium forensik pun, kata dia, menyatakan seluruhnya 100 persen palsu alias menggunakan AI Deepfake.

"Tersangka mengakui telah melakukan kegiatan penipuan tersebut sejak tahun 2020 dengan konten-konten yang disebarkan berupa video Deepfake pejabat negara dan sejumlah publik figur ternama di Indonesia, dengan total keuntungan yang diterima kurang lebih sebesar Rp30 juta selama 4 bulan terakhir," ucap Himawan.

Adapun, lanjut dia, peran tersangka AMA yakni mengunggah video AI Deepfake ke sosial media dengan menambahkan keterangan dan nomor telepon. Kini, kata Himawan, masih ada satu tersangka lain inisial FA yang membantu AMA dalam melancarkan aksinya dan masih dalam pengejaran alias buron.

"Sejauh ini, penyidik mencatat ada 11 korban dalam peristiwa itu yang berasal dari berbagai wilayah, seperti Jawa Tengah, Jawa Timur, Sumatera Selatan, Sumatera Tenggara, dan Sulawesi Tengah. (FA) Yang bertugas menyiapkan video deepfake atau yang mengedit tersebut," papar Himawan.

Atas perbuatannya, tersangka AMA dijerat dengan Undang-Undang Informasi dan Transaksi Elektronik (ITE) dan atau Penipuan, Pasal 51 ayat 1 Juncto 35 Undang-Undang Nomor 1 Tahun 2024, tentang perubahan kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang ITE, dengan ancaman pidana penjara paling lama 12 tahun dan atau denda paling banyak Rp12 miliar.

Serta pasal 378 KUHP terkait upaya menguntungkan diri sendiri atau orang lain secara melawan hukum dengan memakai nama palsu atau martabat palsu dengan tipu muslihat ataupun rangkaian kebohongan, menggerakkan orang lain untuk menyerahkan barang sesuatu kepadanya atau supaya memberi utang maupun menghapuskan piutang. Ancaman pidananya paling lama 4 tahun penjara dan atau denda paling banyak Rp500 juta.

Sebelumnya, polisi mengungkap kasus penipuan bermodus teknologi Artificial Intelligence (AI) Deepfake alias penyerupa wajah hingga suara, melalui platform media sosial. Pelaku pun mencatut nama pejabat negara dalam melancarkan aksinya.

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji membenarkan pengungkapan kasus tersebut dan menangkap pelaku.

"Pengungkapan kasus Deepfake ini berhasil kami ungkap dengan cepat, di mana pelaku saat ini sudah kami amankan," tutur Himawan kepada wartawan, Kamis (23/1/2025).

Himawan belum mengungkap lebih jauh informasi dan hasil dari operasi penangkapan kasus penipuan lewat AI Deepfake tersebut. Dia menyatakan pihaknya tengah menyiapkan konferensi pers untuk publik.

"Penangkapan terhadap pelaku dilakukan oleh tim Dittipidsiber Bareskrim di wilayah Lampung Tengah Provinsi Lampung. Nanti akan kami rilis secepatnya," kata Himawan.

Sementara itu, ancaman deepfake yang dimanfaatkan penipu untuk memperdayai korbannya tidak dimungkiri bisa terjadi. Hal itu diungkapkan oleh pakar keamanan siber Alfons Tanujaya.

Berbekal AI, menurut Alfons, gambar video dan suara bisa dipalsukan serta menghasilkan video yang sulit dibedakan oleh mata telanjang.

Potensi bahaya tersebut pun diolah menjadi iklan sebuah merek smartphone yang memasarkan produk mereka di Malaysia. Merek itu mengklaim, perangkat mereka memiliki teknologi untuk mendeteksi deepfake.

Untuk bisa melakukannya, teknologi itu menganalis kontak mata, pencahayaan, kejelasan gambar dan video playback. Kepada Tekno Liputan6.com, Rabu 18 Desember 2024, Alfons menuturkan, secara teknologi hal tersebut memang memungkinkan.

Kendati demikian, ia menuturkan, ada hal yang perlu disadari oleh pengguna. Dalam hal ini, teknologi AI telah berkembang pesat dan kelemahan-kelemahan yang tadinya mudah terdeteksi akan bisa disempurnakan.

"Akibatnya, konten semacam itu akan makin sulit diidentifikasi keasliannya. Sehingga mengandalkan Ai untuk mendeteksi AI palsu bisa saja dilakukan, tapi bukan jaminan akan mampu mendeteksi semua konten manipulasi AI," tutur Alfons.

Oleh sebab itu, masyarakat tidak disarankan hanya mengandalkan satu teknologi atau parameter untuk mendeteksi penipuan.

"Konten tersebut sah-sah saja dijadikan peringatan untuk meningkatkan awareness atau kesadaran atas ancaman AI, tetapi salah juga kalau melihat AI sebagai monster jahat yang harus ditakuti dan digunakan sebagai sarana penipuan," ucap Alfons.

Ia pun menyatakan, smartphone memang bisa membantu mengidentifikasi konten AI, seperti yang diiklankan oleh salah satu merek. Namun, penipuan tidak hanya menggunakan AI.

Alfons menuturkan, malah berdasarkan kasus yang beredar saat ini, aksi penipuan tidak terindikasi menggunakan AI, melainkan memakai rekayasa sosial untuk menakuti hingga mengelabui korbannya.

Untuk mencegah menjadi korban penipuan digital, Alfons pun memberikan beberapa hal yang harus dilakukan sebagai berikut:

1. Amankan aset digital anda dengan baik. Jaga kredensial penting seperti email, media sosial dan finansial. Lalu, pastikan dilindungi dengan perlindungan Otentikasi Dua Faktor yang akan mengamankan akun anda sekalipun kredensialnya berhasil dicuri.

2. Gunakan password yang unik, panjang dan berbeda untuk setiap akun. Simpan password menggunakan password manager supaya aman dan mudah dikelola.

3. Pakai program anti phising pada ponsel seperti True Caller yang akan mengidentifikasi nomor telpon penipu dengan metode crowdsourcing. Jadi,nama penelpon akan tampil di ponsel anda sekali pun tidak disimpan di kontak.

4. Gunakan sandi rahasia atau pertanyaan rahasia yang hanya anda ketahui dengan keluarga anda, jika mendapatkan telepon darurat atau permintaan transfer uang.

5. Lakukan crosscheck dengan ketat serta pastikan tidak ditipu ketika melakukan transfer ke rekening yang tidak diketahui sebelumnya.