Waspada Pilah Informasi, Konten Deepfake di Media Sosial Dapat Timbulkan Kerugian

Liputan6.com, Jakarta - Ancaman siber kian meningkat seiring meningkatnya ketergantungan orang terhadap platform media sosial. Apalagi, berkembangnya teknologi AI kian memudahkan terciptanya konten-konten palsu yang meyakinkan serta konten yang dihasilkan AI.

Hal ini pun jadi makin mengaburkan batasan antara realitas dan fiksi. Penggunaan AI di media sosial pun memunculkan kekhawatiran, mulai dari kemungkinan bias algoritma hingga penyebaran misinformasi.

Salah satu penggunaan AI adalah dalam menciptakan deepfake, sebuah jenis teknologi kecerdasan buatan yang memungkinkan pengguna membuat video atau audio palsu agar terlihat serupa dengan orang yang ditiru.

Ancaman seperti deepfake phishing pun kian meningkat dengan munculnya teknologi seperti GPT-3 yang mampu menghasilkan teks dan video yang sangat mirip dengan gaya bahasa dan perilaku individu yang ditiru.

Jika teknologi seperti ini dimanfaatkan secara tidak bertanggung jawab, hal tersebut dapat memanipulasi informasi dan mengelabui orang lain agar menyerahkan informasi sensitif hingga kerugian keuangan dan privasi.

Menanggapi kemungkinan tinggi penggunaan deepfake di media sosial, Vice President Marketing Asia Pasific and Japan Palo Alto Network Lisa Sim mengatakan, kehadiran AI kian memperparah ancaman penjahat siber di media sosial.

"Hal ini mengingat konten deepfake dan konten yang dihasilkan oleh AI semakin mengaburkan batas antara realita dan fiksi," kata Lisa, dikutip dari keterangan.

Lisa memberikan deskripsi mudah tentang bagaimana AI dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab, misalnya di Indonesia.

"Pada masa pemilihan presiden beberapa waktu lalu, kita melihat banyak konten deepfake yang beredar di media sosial, seperti video yang menampilkan sosok yang mirip dengan mantan presiden atau tokoh nasional lainnya," kata Lisa.

Ia menyebut, penggunaan deepfake di momen seperti pemilihan presiden bisa memengaruhi percakapan politik dan berpotensi menggiring opini publik. Ini memperlihatkan potensi AI dalam menciptakan konten yang meyakinkan tetapi palsu, serta kekuatan media sosial yang dapat memperluas jangkauan para pelaku kejahatan.

"Memadukan media sosial dan konten yang dihasilkan oleh AI memberikan penjahat siber sebuah sarana rekayasa sosial yang ampuh untuk memanipulasi orang-orang awam agar melakukan tindakan yang berisiko, misalnya mengeklik tautan berbahaya," kata Lisa.

Ia menambahkan, pada hari Media Sosial Sedunia yang jatuh pada 30 Juni 2024, pihaknya mengingatkan pentingnya melindungi diri sendiri dari konten-konten deepfake yang bisa menjerumuskan.

"Kita harus cermat dalam memilah-milah konten yang dikonsumsi, melakukan verifikasi sumber, dan mencermati kejanggalan pada video atau gambar," kata Lisa.

Ia menyarankan pengguna media sosial untuk rutin meninjau dan memperbarui privasi akun untuk mengontrol siapa saja yang bisa melihat unggahan dan informasi pribadi pengguna.

"Hanya dengan selalu waspada, kita bisa melindungi diri sendiri dalam menghadapi ancaman online yang ada," katanya.

Saking bahayanya deepfake, Google sempat melarang iklan yang mempromosikan situs web dan aplikasi berisi pornografi deepfake. 

Google telah memperbarui Kebijakan Konten Tidak Pantas (Inappropriate Content Policy) untuk menyertakan bahasa yang secara tegas melarang pengiklan mempromosikan situs web dan aplikasi atau layanan yang menghasilkan pornografi deepfake.

Meskipun Google menerapkan pembatasan ketat terhadap iklan yang menampilkan jenis konten seksual tertentu, pembaruan ini dilakukan untuk melarang mempromosikan konten sintetis yang telah diubah atau dibuat menjadi eksplisit secara seksual atau mengandung ketelanjangan.

Setiap pengiklan yang mempromosikan situs atau aplikasi yang menghasilkan pornografi deepfake, yang menunjukkan petunjuk tentang cara membuat pornografi deepfake, dan yang mendukung atau membandingkan berbagai layanan porno deepfake akan ditangguhkan tanpa peringatan.

Mereka juga tidak dapat lagi mempublikasikan iklan mereka di Google. Perusahaan akan mulai menerapkan aturan ini pada 30 Mei 2024, dan memberikan kesempatan kepada pengiklan untuk menghapus iklan apa pun yang melanggar kebijakan baru.

Seperti yang dilaporkan 404 Media, dikutip dari Engadget, Senin (6/5/2024), kebangkitan teknologi deepfake telah menyebabkan peningkatan jumlah iklan yang mempromosikan alat untuk pengguna yang ingin membuat materi seksual eksplisit.

Beberapa dari tools tersebut bahkan dilaporkan berpura-pura menjadi layanan yang sehat agar dapat terdaftar di Apple App Store dan Google Play Store.