YouTube Larang Konten AI yang Simulasikan Kematian Anak dalam Kasus Kriminal

Liputan6.com, Jakarta - YouTube memperbarui kebijakan mereka terkait pelecehan dan perundungan siber di platformnya.

Dalam kebijakan terbaru YouTube yang juga dimuat di laman Support Google, mereka membatasi konten yang mensimulasikan secara realistis kematian anak di bawah umur, atau korban peristiwa mematikan, atau kekerasan yang menggambarkan kematian mereka.

"Mulai 16 Januari, kami akan mulai menghapus konten yang secara realistis mensimulasikan mayat anak di bawah umur atau korban peristiwa bencana besar yang mematikan atau terdokumentasi dengan baik yang mendeskripsikan kematian atau kekerasan yang dialami," tulis YouTube.

Mengutip Tech Crunch, Kamis (11/1/2024), perubahan ini diterapkan usai beberapa konten bertema kriminal, menggunakan kecerdasan buatan (artificial intelligence/AI), untuk menciptakan gambaran anak-anak yang meninggal atau hilang.

Dalam konten-konten tersebut, beberapa orang memakai AI untuk mengisi suara gambar anak-anak korban tersebut, untuk mendeskripsikan kematian mereka.

The Washington Post melaporkan, dalam beberapa bulan terakhir, pembuat konten memang memakai AI untuk menceritakan berbagai kasus kriminal, termasuk penculikan dan meninggalnya James Bulger, seorang anak usia dua tahun di Inggris.

Ada juga narasi AI serupa tentang Madeleine McCann, anak Inggris berusia tiga tahun yang menghilang dari sebuah resor. Lalu ada Gabriel Fernández, anak laki-laki delapan tahun yang disiksa dan dibunuh oleh ibu dan pacarnya di California.

YouTube pun bakal menghapus konten AI semacam itu apabila ditemukan melanggar kebijakan baru mereka.

Pengguna yang menerima teguran tidak akan bisa mengunggah video atau membuat siaran langsung selama sepekan. Apabila menerima tiga kali teguran, kanal akan dihapus secara permanen dari platform milik Google tersebut.

Dua bulan lalu, YouTube juga merilis kebijakan baru terkait pelabelan konten AI yang bertanggung jawab, serta alat baru untuk meminta penghapusan deepfake.

Salah satu perubahan tersebut mengharuskan pengguna untuk mengungkapkan, kapan mereka membuat konten yang diubah atau sintetis, yang tampak realistis.

Perusahaan memperingatkan pengguna yang gagal mengungkapkan dengan benar penggunaan AI mereka, akan dikenakan “penghapusan konten, penangguhan dari YouTube Partner Program, atau hukuman lainnya.”

YouTube juga mencatat saat itu bahwa beberapa konten AI mungkin alan dihapus, jika digunakan untuk menunjukkan “kekerasan yang realistis”, meskipun konten tersebut diberi label.

Di Indonesia, Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar patria mengungkapkan, pemerintah tengah menyusun Peraturan Presiden (Perpres), yang bakal mengatur pemanfaatan AI.

"Saat ini sedang dipersiapkan menjadi Peraturan Presiden untuk memberikan implementasi lebih kuat dan komprehensif," kata Wamenkominfo di Fakultas Filsafat Universitas Gadjah Mada, Yogyakarta, Rabu (27/12/2023).

Menurut Nezar, upaya ini menjadi bagian dari peningkatan ekosistem AI nasional.

"Kami berharap dapat menerbitkan peraturan AI mengikat secara hukum dalam waktu dekat, tidak hanya akan memitigasi risiko AI tetapi juga memupuk ekosistem AI lokal kita," ujarnya, seperti dikutip dari siaran pers.

Rencana menghadirkan aturan pemanfaatan AI lebih ketat, muncul usai Kementerian Kominfo meluncurkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 tahun 2023 tentang Etika Kecerdasan Artifisial, pada 19 Desember 2023 lalu.

Surat Edaran ini tidak bersifat mengikat secara hukum, melainkan sebagai pedoman, sehingga pengembangan dan pemanfaatan AI tetap tunduk pada aturan yang berlaku, seperti Undang-Undang Informasi dan Transaksi Elektronik (ITE) dan Undang-Undang Pelindungan Data Pribadi (PDP).

"Sebagai informasi dalam waktu dekat kami juga akan mulai melakukan langkah langkah penyiapan regulasi AI  bersifat mengikat secara hukum," kata Menkominfo dalam konferensi pers di Jakarta, Jumat (22/12/2023).

"Melalui regulasi tersebut kami harapkan dapat menghadirkan kepastian hukum dalam pemanfaatan dan pengembangan AI, serta mendukung pengembangan ekosistem AI nasional," imbuhnya.

Menkominfo Budi menjelaskan lebih lanjut hingga saat ini, AI di Indonesia masih tunduk pada UU ITE dan UU PDP.

"Jadi kalau ditanya masalah hukumnya gimana kan mengacu pada dua Undang-Undang itu, perlindungan data pribadi dan Undang-Undang ITE," kata Menkominfo.

"Kalau manakala melanggar atau bisa dikenakan sanksi atau pasal yang ada di Undang-Undang ITE atau Undang-Undang PDP, secara hukum bisa diproses," kata Budi.