Meta Bakal Bikin Aturan Terkait Foto Vulgar yang Dihasilkan oleh AI

Liputan6.com, Jakarta - Meta akan ambil tindakan tegas dengan membuat aturan baru untuk konten AI di platform sosial media mereka. Rencana ini terungkap setelah dewan pengawas Meta menerima dua kasus berhubungan dengan gambar vulgar dari public figure yang dihasilkan oleh AI.

Meski larangan terkait konten seksual telah di platform sosial media milik Meta tertulis dengan jelas, dewan pengawas ingin membahas ulang terkait kejelasan kebijakan Meta. Mereka juga ingin mengetahui efektivitas praktik penegakan dalam menangani gambar eksplisit yang dihasilkan kecerdasan buatan.

Dikutip dari Engadget, Kamis (18/4/2024), gambar vulgar yang seringkali terlihat di media sosial Meta seperti Facebook dan Instagram adalah foto tiruan deepfake dari selebriti, public figure, hingga politisi.

Hal tersebut telah menyebabkan naiknya perilaku pelecehan seksual di media sosial, dan banyak pengguna meminta Meta untuk membuat aturan yang lebih tegas terkait foto-foto tersebut.

Dengan adanya dua kasus tersebut, Dewan Pengawas mendorong Meta, termasuk Facebook untuk mengadopsi aturan baru untuk mengatasi pelecehan semacam itu di platformnya.

Salah satu kasus melibatkan unggahan Instagram yang menunjukkan gambar seorang wanita India telanjang yang dibuat oleh AI yang di-posting oleh akun anonim yang hanya mengunggah gambar wanita India vulgar yang dibuat oleh AI.

Posting-an tersebut dilaporkan ke Meta tetapi laporan tersebut ditutup setelah 48 jam karena tidak ditinjau. Pengguna yang sama mengajukan banding atas keputusan tersebut, namun pengajuan banding tersebut juga ditutup dan tidak pernah ditinjau.

Kasus kedua melibatkan posting-an Facebook di grup khusus untuk mengunggah gambar yang dihasilkan AI. Unggahan tersebut menunjukkan gambar yang dihasilkan AI dari seorang wanita telanjang dengan seorang pria meraba payudaranya.

Gambar dari wanita yang dihasilkan AI itu mirip dengan salah satu pulic figure AS, yang namanya juga tercantum di unggahan tersebut.

Unggahan tersebut dihapus secara otomatis karena telah dilaporkan sebelumnya dan sistem internal Meta dapat mencocokkannya dengan posting-an sebelumnya. Pengguna mengajukan banding atas keputusan untuk menghapusnya, tetapi pengajuan banding tersebut ditutup secara otomatis oleh sistem.

Meta akhirnya menghapus posting-an tersebut setelah pengguna mengajukan banding ke Dewan Pengawas dan dewan setuju untuk mengambil kasus tersebut.

Dewan Pengawas mengatakan bahwa mereka tidak menyebut nama dua public figure tersebut dalam upaya untuk menghindari pelecehan lebih lanjut.

Dalam sebuah pernyataan, salah satu ketua Dewan Pengawas Helle Thorning-Schmidt mengatakan bahwa dewan tengah menangani dua kasus untuk menilai potensi kesenjangan dalam bagaimana kebijakan Meta ditegakkan.

“Kami tahu bahwa Meta lebih cepat dan efektif dalam memoderasi konten di beberapa pasar dan bahasa dibandingkan dengan media sosial lainnya,” kata Thorning-Schmidt.

Ia menambahkan, “Dengan mengambil satu kasus dari AS dan satu kasus dari India, kami ingin melihat apakah Meta melindungi semua perempuan secara global dengan cara yang adil.”

Dewan Pengawas meminta pendapat publik untuk dua minggu ke depan dan akan mempublikasikan keputusannya dalam beberapa minggu ke depan, bersama dengan rekomendasi kebijakan untuk Meta

Sementara itu, Meta memperbarui kebijakannya mengenai konten yang dibuat oleh Kecerdasan Buatan (AI) dengan memberikan label "Made With AI" yang berlaku di media sosial Instagram, Facebook dan Threads.

Melansir laporan The Verge, Meta akan memberikan label khusus pada konten video, suara dan gambar apabila terindikasi dibuat oleh AI.

Label tersebut akan muncul baik pada konten yang diakui sebagai hasil buatan AI, maupun konten yang terdeteksi dihasilkan menggunakan AI. Meskipun Meta belum mengungkapkan detail mengenai sistem deteksi itu.

"Dalam empat tahun terakhir, dan khususnya pada tahun lalu, orang-orang telah mengembangkan jenis konten realistis lainnya yang dihasilkan AI seperti suara dan foto, teknologi ini sudah berkembang pesat," tulis Meta dalam unggahan blognya dikutip Senin (8/4/2024).

Pembaruan dari kebijakan manipulasi media yang dibuat pada tahun 2020 silam, yang melarang pembuatan maupun penyuntingan video menggunakan AI, yang membuat seseorang mengucapkan sesuatu yang sebenarnya tidak mereka ucapkan. Sekarang meta mengubah cara mereka menyikapi konten yang dihasilkan AI.

Mulai Juni 2024 mendatang, Meta akan berhenti menghapus konten buatan AI yang tidak melanggar pedoman komunitas. Kebijakan ini merupakan rekomendasi dari Dewan Konteks terhadap suatu konten dari pada membatasinya.

Konten yang melanggar aturan lain, seperti kebijakan terkait perundungan, campur tangan dalam pemilihan umum, serta pelecehan, akan tetap dihapus terlepas dari apakah konten tersebut dibuat menggunakan AI atau tidak.