Meta Kecolongan, Konten Hoaks Buatan AI Banyak Beredar di Facebook dan Instagram

Liputan6.com, Jakarta - Baru-baru ini, Meta mengungkapkan kalau mereka menemukan konten yang dihasilkan AI ternyata banyak dipakai untuk menipu pengguna di Facebook dan Instagram.

Salah satu penyalahgunaan AI oleh pihak tidak bertanggung jawab, menurut Meta, adalah ditemukannya komentar akun bot AI yang menyanjung Israel setelah melakukan genosida di Gaza.

Komentar tersebut dipublikasikan di unggahan organisasi berita global dan anggota parlemen AS.

Dikutip dari Gadgets360, Minggu, (2/6/2024), dalam laporan triwulannya, Meta mengatakan akun-akun tersebut menyamar sebagai pemuda Yahudi, hingga akun yang menyamar sebagai orang kulit hitam.

Akun-akun palsu tersebut menargetkan pengguna Amerika Serikat dan Kanada. Meta mengatakan tindakan tersebut dilakukan oleh perusahaan pemasaran politik STOIC yang berbasis di Tel Aviv.

Meski STOIC dituduh melakukan penyebaran komentar tersebut, pihaknya tidak merespons tuduhan tersebut. 

Selain jaringan STOIC, Meta menutup jaringan berbasis di Iran yang berfokus pada konflik Israel-Hamas, meskipun tidak mengidentifikasi penggunaan AI generatif dalam kampanye tersebut.

Beberapa pengamat khawatir, maraknya akun yang dibuat menggunakan AI dapat mengganggu stabilitas politik AS.

Sebagai informasi, AS akan mengadakan pemilihan umum di 2024. Penyalahgunaan AI untuk menyebarkan disinformasi akan mengakibatkan naiknya penyebaran hoaks.

Dalam siaran pers, para eksekutif keamanan Meta mengatakan mereka telah menghapus konten AI yang menyanjung Israel di Instagram maupun Facebook. 

Mereka juga mengaku kalau penyalahgunaan teknologi AI seperti akun bot telah menghambat Meta untuk menghalau disinformasi di platform mereka.

“Ada beberapa contoh di platform ini tentang cara mereka menggunakan alat AI generatif untuk membuat konten palsu," ungkap Kepala investigasi ancaman Meta, Mike Dvilyanski.

Ia menambahkan, "Mungkin hal ini memberi mereka kemampuan menyebarkan disinformasi dengan lebih cepat atau melakukannya dengan jumlah yang lebih besar. Namun hal ini tidak terlalu memengaruhi kemampuan kami untuk mendeteksinya."

Untuk diketahui, Meta dan raksasa teknologi lainnya telah berupaya keras dalam cara mengatasi potensi penyalahgunaan teknologi AI baru, terutama menjelang pemilu AS.

Untuk mencegah penyebaran konten palsu berbantuan AI, Perusahaan-perusahaan tersebut telah menekankan sistem pelabelan digital untuk menandai konten yang dihasilkan AI pada saat pembuatannya.

Pun demikian, alat pendeteksi tersebut kemungkinan tidak berfungsi pada teks, serta para peneliti meragukan efektivitas teknologi pelabelan tersebut.

Para peneliti telah menemukan contoh penyalahgunaan alat generator foto berbantuan AI dari beberapa perusahaan teknologi, termasuk OpenAI dan Microsoft.

Pengguna yang tidak bertanggung jawab membuat foto tersebut dengan tujuan menyebarkan disinformasi terkait pemungutan suara, meskipun OpenAI dan Microsoft telah memiliki kebijakan yang melarang pembuatan konten tersebut.

Di sisi lain, keluarga korban meninggal dunia dalam penembakan di sebuah sekolah di Uvalde, Texas, Amerika Serikat, menuntut pengembang game Call of Duty, Activision, dan Meta.

Kedua perusahaan teknologi ini dituding telah mempromosikan penggunaan senjata api untuk anak di bawah umur.

 Mengutip The Verge, Senin (27/5/2024), gugatan tersebut mengklaim, Meta dan Activision telah secara sadar mengekspos penggunaan senjata dan mengkondisikan sang penembak untuk melihat penggunaan senjata sebagai solusi atas masalahnya dan melatihnya untuk memakai senjata.

Sekadar informasi, klaim gugatan tersebut bukan pertama kalinya dituduhkan ke perusahaan video game. Berkali-kali ada pihak yang melemparkan gugatan ke perusahaan video game tetapi tak pernah berhasil.

Pengaduan gugatan terhadap Meta dan Activision diajukan di Pengadilan Tinggi Los Angeles, AS, pada Jumat lalu, atas nama sekitar 45 anggota keluarga korban.

Tercatat dalam gugatan tersebut, keluarga menuding Activision dan Meta 'merawat' pemuda dan menempatkan mereka di jalan menuju kekerasan.

Kasus ini bermula ketika pada 24 Mei 2022, pemuda 18 tahun Salvador Ramos melepaskan tembakan di sekolah dasar Robb di Uvalde, Texas. Total 21 orang tewas akibat penembakan tersebut.

Gugatan ini pun menyebut, pria bersenjata tersebut main gim Call of Duty secara obsesif. Ia bahkan mengembangkan keterampilan sebagai penembak jitu.

Gugatan juga mengklaim, game ini punya fitur AR-15 yang dipakai saat penembakan. Gugatan juga menuding, penembak sedang didekati melalui metode marketing Activision dan Meta secara eksplisit dan agresif.

Salah satunya melalui Instagram, yang menunjukkan ratusan gambar memperlihatkan pertempuran.

Selain Activision dan Meta, para keluarga korban juga menggugat perusahaan senjata Daniel Defense yang membuat senjata jenis AR-15, yang dipakai dalam penembakan tersebut.