Pria di Korea Selatan Dipenjara Gara-Gara Buat Gambar Seksual Anak-Anak Pakai AI

Liputan6.com, Jakarta - Seorang pria di Korea Selatan telah dijatuhi hukuman penjara karena menggunakan kecerdasan buatan atau artificial intelligence (AI) untuk menghasilkan gambar-gambar eksploitatif terhadap anak-anak. Ini adalah kasus pertama yang sejenis di negara tersebut ketika pengadilan di seluruh dunia menghadapi penggunaan teknologi baru dalam menciptakan konten seksual yang kasar.

Dikutip dari CNN, Jumat (29/9/2023), pria yang tidak disebutkan namanya, berusia 40-an tahun, dijatuhi hukuman 2,5 tahun penjara pada September 2023, menurut Pengadilan Distrik Busan dan Kantor Jaksa Penuntut Umum distrik tersebut. Ia telah membuat sekitar 360 gambar yang dihasilkan AI pada April 2023, kata kantor kejaksaan kepada CNN.

Gambar-gambar tersebut tidak didistribusikan, dan telah disita oleh polisi. Jaksa berpendapat dalam kasus ini bahwa definisi materi yang eksploitatif secara seksual harus mencakup deskripsi perilaku seksual "manusia virtual" dan bukan hanya penampilan anak-anak yang sebenarnya.

Keputusan tersebut menunjukkan bahwa konten pelecehan seksual dapat mencakup gambar yang dibuat dengan teknologi tingkat tinggi yang cukup realistis untuk terlihat seperti anak-anak dan anak di bawah umur, kata kantor kejaksaan. Kasus ini terjadi ketika pemerintah di seluruh dunia bergulat dengan ledakan industri AI.

Kecerdasan buatan ini berdampak luas mulai dari hak cipta dan kekayaan intelektual hingga keamanan nasional, privasi pribadi, serta konten eksplisit. Saat ini, banyak pihak yang berlomba-lomba untuk mengatur teknologi tersebut, terutama karena kasus-kasus seperti hukuman di Korea Selatan menyoroti bagaimana AI dapat digunakan untuk melanggar otonomi dan keselamatan tubuh seseorang, terutama bagi perempuan dan anak di bawah umur.

Contoh lainnya, pada awal September 2023, polisi di Spanyol melancarkan penyelidikan setelah gambar gadis di bawah umur diubah dengan AI untuk melepaskan pakaian mereka dan dikirim ke seluruh kota. Kasus lainnya, ketika seorang anak laki-laki mencoba memeras salah satu gadis dengan menggunakan gambar telanjang gadis tersebut yang telah dimanipulasi, kata ibu gadis tersebut kepada saluran televisi Canal Extremadura.

Selama bertahun-tahun, deepfake, yaitu video palsu yang sangat meyakinkan yang dibuat menggunakan AI, telah digunakan untuk menampilkan wajah perempuan dalam video pornografi yang agresif, tanpa persetujuan mereka. Video-video tersebut sering kali terlihat sangat nyata sehingga sulit bagi korban perempuan untuk menyangkal bahwa itu bukanlah video sebenarnya.

Masalah ini menjadi perhatian publik yang lebih luas pada Februari 2023 ketika terungkap bahwa seorang streamer video game pria terkenal telah mengakses video deepfake dari beberapa perempuan rekan streaming-nya. Platform streaming, Twitch, menanggapi kontroversi tersebut dengan memperketat kebijakannya, menyebut video seksual deepfake tersebut melanggar secara pribadi dan sangat menjengkelkan.

Dalam sebuah iklan Facebook, seorang perempuan dengan wajah yang mirip dengan wajah aktor Emma Watson tersenyum malu-malu. Ia membungkuk di depan kamera dan tampaknya memulai tindakan seksual.

Dikutip dari NBC News, Jumat, 10 Maret 2023, tapi perempuan itu bukanlah Emma Watson, bintang "Harry Potter". Iklan itu adalah bagian dari kampanye besar-besaran minggu ini untuk aplikasi deepfake, yang memungkinkan pengguna menukar wajah apa pun dengan video apa pun yang mereka pilih.

Deepfake adalah konten wajah atau suara diubah atau dimanipulasi. Biasanya, kreator deepfake membuat video di mana selebritas dibuat seolah-olah mereka rela tampil di dalamnya, padahal sebenarnya tidak.

Teknologi ini semakin banyak digunakan untuk membuat pornografi nonkonsensual yang menampilkan wajah selebritas, influencer, atau siapa pun, termasuk anak-anak. Kampanye iklan di Meta mengacu pada fakta bahwa teknologi yang dulu canggih ini telah menyebar dengan cepat ke aplikasi konsumen yang tersedia dan diiklankan di bagian utama internet.

Banyak platform yang melarang konten deepfake yang manipulatif dan berbahaya. Pada awal pekan ini, aplikasi untuk membuat video "DeepFake FaceSwap" meluncurkan lebih dari 230 iklan di layanan Meta, termasuk Facebook, Instagram, dan Messenger, menurut ulasan perpustakaan iklan Meta.

Beberapa iklan menunjukkan apa yang tampak seperti permulaan video porno dengan suara terkenal dari lagu intro platform porno Pornhub. Beberapa detik kemudian, wajah para perempuan ditukar dengan wajah aktor terkenal.

Dari iklan Meta, 127 menampilkan kemiripan Emma Watson. 74 lainnya menampilkan wajah aktor Scarlett Johansson yang ditukar dengan wajah perempuan dalam video provokatif serupa.

"Ganti wajah dengan siapa pun," bunyi keterangan di 80 iklan itu. "Nikmati diri Anda dengan teknologi AI swap face."

Pada Selasa, setelah NBC News meminta komentar dari Meta, semua iklan aplikasi dihapus dari layanan Meta. Meskipun tidak ada tindakan seksual yang ditampilkan dalam video tersebut, sifat sugestifnya menggambarkan bagaimana aplikasi berpotensi digunakan untuk menghasilkan konten seksual palsu.

Aplikasi ini memungkinkan pengguna mengunggah video untuk dimanipulasi dan juga menyertakan lusinan template video, banyak di antaranya tampaknya diambil dari TikTok dan platform media sosial serupa. Kategori preset termasuk Fashion", "Bride", "For Men", "For Women", dan "TikTok", sedangkan kategori dengan opsi terbanyak disebut "Hot".

Ini menampilkan video perempuandan pria berpakaian minim menari dan berpose. Setelah memilih template video atau mengunggahnya sendiri, pengguna dapat memasukkan satu foto wajah siapa pun, dan menerima versi video yang bertukar wajah dalam hitungan detik.