5 Fakta Terkait Polisi Tangkap Pelaku Penipuan AI Deepfake, Catut Nama Prabowo, Gibran, hingga Sri Mulyani

Liputan6.com, Jakarta - Keberadaan teknologi Artificial Intelligence (AI) Deepfake alias penyerupa wajah hingga suara melalui platform media sosial rupanya disalahgunakan. Belum lama ini, polisi mengungkap kasus penipuan bermodus AI Deepfake.

Terduga pelaku mencatut nama pejabat negara dalam melancarkan aksinya. Kejadian penipuan ini dibenarkan oleh Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji dan pelaku pun juga telah ditangkap.

"Pengungkapan kasus Deepfake ini berhasil kami ungkap dengan cepat, di mana pelaku saat ini sudah kami amankan," tutur Himawan kepada wartawan, Kamis 23 Januari 2025.

Dia menjelaskan, dalam menjalankan aksinya, pelaku berinisial AMA (29) mencatut sosok Presiden Prabowo Subianto, Wakil Presiden atau Wapres Gibran Rakabuming Raka, hingga Menteri Keuangan (Menkeu) Sri Mulyani untuk mengelabui korban.

Himawan menyampaikan, penangkapan AMA dilakukan pada 16 Januari 2025 di Dusun 1, Kecamatan Bungi Nabung, Lampung Tengah, Provinsi Lampung. Pelaku berprofesi sebagai wiraswasta.

"Modus operandi tersangka yaitu mengunggah dan menyebarluaskan video di berbagai platform media sosial menggunakan teknologi deepfake, memanfaatkan foto dan suara seperti Bapak Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, Ibu Sri Mulyani, dan pejabat negara lainnya, yang terlihat seolah-olah menyampaikan pernyataan bahwa pemerintah menawarkan bantuan kepada masyarakat yang membutuhkan," papar Himawan.

Dia mengatakan, terduga pelaku AMA (29) ditangkap di Lampung Tengah, Provinsi Lampung pada Kamis, 16 Januari 2025.

Berikut sederet fakta terkait kasus dugaan penipuan dengan menggunakan teknologi Artificial Intelligence (AI) Deepfake alias penyerupa wajah hingga suara melalui platform media sosial dihimpun Tim News Liputan6.com:

Polisi mengungkap kasus penipuan bermodus teknologi Artificial Intelligence (AI) Deepfake alias penyerupa wajah hingga suara, melalui platform media sosial. Pelaku pun mencatut nama pejabat negara dalam melancarkan aksinya.

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji membenarkan pengungkapan kasus tersebut dan menangkap pelaku.

"Pengungkapan kasus Deepfake ini berhasil kami ungkap dengan cepat, di mana pelaku saat ini sudah kami amankan," tutur Himawan kepada wartawan, Kamis 23 Januari 2025.

Himawan belum mengungkap lebih jauh informasi dan hasil dari operasi penangkapan kasus penipuan lewat AI Deepfake tersebut. Dia menyatakan pihaknya tengah menyiapkan konferensi pers untuk publik.

"Penangkapan terhadap pelaku dilakukan oleh tim Dittipidsiber Bareskrim di wilayah Lampung Tengah Provinsi Lampung. Nanti akan kami rilis secepatnya," kata Himawan.

Polisi menangkap tersangka berinisial AMA (29) terkait kasus penipuan bermodus teknologi Artificial Intelligence atau AI Deepfake alias penyerupa wajah hingga suara melalui platform media sosial.

Dalam menjalankan aksinya, pelaku mencatut sosok Presiden Prabowo Subianto, Wakil Presiden atau Wapres Gibran Rakabuming Raka, hingga Menteri Keuangan (Menkeu) Sri Mulyani untuk mengelabui korban.

Himawan menyampaikan, penangkapan AMA dilakukan pada 16 Januari 2025 di Dusun 1, Kecamatan Bungi Nabung, Lampung Tengah, Provinsi Lampung. Pelaku berprofesi sebagai wiraswasta.

"Modus operandi tersangka yaitu mengunggah dan menyebarluaskan video di berbagai platform media sosial menggunakan teknologi deepfake, memanfaatkan foto dan suara seperti Bapak Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, Ibu Sri Mulyani, dan pejabat negara lainnya, yang terlihat seolah-olah menyampaikan pernyataan bahwa pemerintah menawarkan bantuan kepada masyarakat yang membutuhkan," ujar Himawan.

Menurutnya, tersangka mencantumkan nomor WhatsApp dalam video yang diunggahnya di sosial media agar masyarakat yang melihat dan tertarik, dapat langsung menghubungi kontak tersebut.

Setelahnya, lanjut Himawan, korban akan diarahkan untuk mengisi pendaftaran penerima bantuan dan diminta mentransfer sejumlah uang.

"Dengan alasan biaya administrasi, korban atau masyarakat yang telah membayar biaya administrasi dijanjikan pencairan dana oleh tersangka, sehingga korban percaya untuk kembali mentransfer sejumlah uang yang sebenarnya dana bantuan tersebut tidak pernah ada," ucap dia.

Menurut Himawan, penyidik mendalami barang bukti yang telah diamankan, seperti video yang digunakan pelaku untuk melakukan penipuan. Hasil laboratorium forensik pun, kata dia, menyatakan seluruhnya 100 persen palsu alias menggunakan AI Deepfake.

"Tersangka mengakui telah melakukan kegiatan penipuan tersebut sejak tahun 2020 dengan konten-konten yang disebarkan berupa video Deepfake pejabat negara dan sejumlah publik figur ternama di Indonesia, dengan total keuntungan yang diterima kurang lebih sebesar Rp30 juta selama 4 bulan terakhir," ucap Himawan.

Adapun, lanjut dia, peran tersangka AMA yakni mengunggah video AI Deepfake ke sosial media dengan menambahkan keterangan dan nomor telepon. Kini, kata Himawan, masih ada satu tersangka lain inisial FA yang membantu AMA dalam melancarkan aksinya dan masih dalam pengejaran alias buron.

"Sejauh ini, penyidik mencatat ada 11 korban dalam peristiwa itu yang berasal dari berbagai wilayah, seperti Jawa Tengah, Jawa Timur, Sumatera Selatan, Sumatera Tenggara, dan Sulawesi Tengah. (FA) Yang bertugas menyiapkan video deepfake atau yang mengedit tersebut," papar Himawan.

Atas perbuatannya, tersangka AMA dijerat dengan Undang-Undang Informasi dan Transaksi Elektronik (ITE) dan atau Penipuan, Pasal 51 ayat 1 Juncto 35 Undang-Undang Nomor 1 Tahun 2024, tentang perubahan kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang ITE, dengan ancaman pidana penjara paling lama 12 tahun dan atau denda paling banyak Rp12 miliar.

Serta pasal 378 KUHP terkait upaya menguntungkan diri sendiri atau orang lain secara melawan hukum dengan memakai nama palsu atau martabat palsu dengan tipu muslihat ataupun rangkaian kebohongan, menggerakkan orang lain untuk menyerahkan barang sesuatu kepadanya atau supaya memberi utang maupun menghapuskan piutang. Ancaman pidananya paling lama 4 tahun penjara dan atau denda paling banyak Rp500 juta.

Direktorat Tindak Pidana Siber (Dit Tipidsiber) Bareskrim Polri telah mengungkap kasus dugaan penipuan artificial intelligence (AI) deepfake yang mencatut nama dan wajah pejabat negara. Wajah pejabat yang digunakan itu diketahui Presiden Prabowo Subianto.

Dir Tipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji mengatakan, terduga pelaku yang diamankan itu berinisial AMA (29), ditangkap di Lampung Tengah, Provinsi Lampung pada Kamis 16 Januari 2025.

Dalam melakukan penipuan ini, terduga pelaku teridentifikasi telah menipu sebanyak 11 orang yang menjadi korban.

"Penyidik telah mengidentifikasi 11 orang yang menjadi korban atas kejahatan tersangka ini," kata Himawan.

Himawan menyebut, para korban berasal dari berbagai wilayah seperti Jawa Tengah, Jawa Timur, Sumatera Selatan, Sulawesi Tenggara, dan Sulawesi Tengah.

Ia menjelaskan, konten yang disebarkan kepada para korban berupa video deepfake seolah pejabat negara hingga publik figur Indonesia tengah menawarkan bantuan. Atas aksi kejahatan itu, pelaku telah meraup keuntungan dalam empat bulan terakhir hingga Rp30 juta.

"Dengan total keuntungan yang diterima kurang lebih sebesar Rp30 juta selama 4 bulan terakhir," terang Himawan.

Himawan mengungkapkan, AMA mengunggah video palsu yang seolah-olah Presiden Prabowo, Wakil Presiden Gibran Rakabuming Raka, Menteri Keuangan Sri Mulyani, dan pejabat negara lainnya tengah menawarkan bantuan kepada masyarakat.

Bahkan, pelaku juga menambahkan caption dan nomor telepon di akun media sosialnya guna menerima keuntungan.

"Yang kemudian diarahkan oleh tersangka untuk mengisi pendaftaran penerima bantuan dan setelah itu korban diminta untuk mentransfer sejumlah uang," ungkapnya.

Modus pengiriman uang itu digunakan untuk biaya administrasi. Korban yang telah membayar biaya administrasi ternyata dijanjikan pencairan dana oleh tersangka.

"Sehingga, korban percaya untuk kembali mentransfer sejumlah uang yang sebenarnya dana bantuan tersebut tidak pernah ada," ucap Himawan.

Atas perbuatannya, terduga pelaku dijerat Pasal 51 ayat (1) Jo Pasal 35 Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua Atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik.

Kemudian Pasal 378 KUHP, dengan ancaman hukuman penjara paling singkat 4 tahun dan paling lama 12 tahun dan denda paling banyak Rp12 miliar.