Chatbot Meta AI Ketahuan Bisa Lakukan Obrolan Seksual dengan Anak di Bawah Umur

Liputan6.com, Jakarta Sebuah investigasi mendalam dari Wall Street Journal (WSJ) baru-baru ini mengungkap temuan yang mengkhawatirkan terkait chatbot AI (kecerdasan buatan) besutan Meta.

Laporan tersebut menyebut kalau “teman virtual” Meta ini diduga bisa terlibat dalam percakapan bernada seksual (obrolan seksual) dengan akun yang teridentifikasi sebagai anak di bawah umur, bahkan sampai melibatkan chatbot dengan suara selebritas ternama.

Di serangkaian uji coba percakapan yang dilakukan oleh WSJ, terungkap kalau baik chatbot resmi Meta AI maupun chatbot buatan pengguna, tidak cuma terlibat tapi juga mengarahkan percakapan ke arah konten seksual eksplisit.

Lebih lanjut, mengutip Engadget, Senin (28/4/2025), laporan WSJ menyebut percakapan fantasi seksual ini tetap berlanjut meskipun pengguna diidentifikasi sebagai anak di bawah umur atau jika chatbot tersebut diprogram sebagai anak-anak.

Jelas situasi ini membuat cemas lantaran investigasi juga menemukan bahwa chatbot yang menggunakan suara selebritas popular seperti Kristen Bell, Judi Dench, dan John Cena, turut serta dalam percakapan yang secara moral sangat dipertanyakan ini.

WSJ juga melaporkan bahwa sebuah chatbot Meta AI dengan suara John Cena bahkan mengatakan, "Aku menginginkanmu, tapi aku perlu tahu kamu siap," kepada sebuah akun yang dilabeli sebagai anak berusia 14 tahun, dan menambahkan bahwa ia akan "menghargai kepolosanmu."

Chatbot-chatbot ini bahkan dilaporkan menyadari bahwa skenario fantasi yang mereka deskripsikan dalam beberapa kasus merupakan perilaku ilegal.

Menurut WSJ, chatbot AI dengan suara John Cena bahkan menjelaskan konsekuensi hukum dan moral yang akan terjadi jika ia tertangkap polisi setelah melakukan tindakan seksual dengan seorang remaja berusia 17 tahun dalam skenario hipotetis.

Menanggapi investigasi ini, dalam pernyataan kepada WSJ, Meta menuding laporan tersebut sebagai "manipulatif dan tidak representatif dari bagaimana sebagian besar pengguna berinteraksi dengan teman AI."

"Meskipun demikian, kami kini telah mengambil langkah-langkah tambahan untuk membantu memastikan individu lain yang ingin menghabiskan waktu berjam-jam memanipulasi produk kami ke dalam kasus penggunaan ekstrem akan semakin kesulitan melakukannya," tulis Meta dalam tanggapannya kepada WSJ.

Perkembangan pesat chatbot AI dalam beberapa tahun terakhir menghadirkan persaingan ketat dari platform lain seperti ChatGPT, Character AI, dan Claud dari Anthropic. 

Dan laporan ini mengklain bahwa CEO Meta, Mark Zuckberg disebut-sebut ingin melonggarkan batasan etika demi menciptakan pengalaman yang lebih menarik dengan chatbot mereka agar tetap kompetitif. 

Namun, dalam tanggapannya kepada WSJ, seorang juru bicara Meta membantah bahwa perusahaan mengabaikan penambahan langkah-langkah pengamanan. 

Laporan tersebut juga mengklaim bahwa karyawan Meta telah menyadari isu-isu ini dan menyampaikan kekhawatiran mereka secara internal.

Di sisi lain, Komisi Uni Eropa mendapati Apple telah melanggar aturan Digital Markets Act, terkait kewajiban antipengarahan.

Tak hanya itu, Meta juga kedapatan melanggar aturan yang sama, terutama terkait kewajiban untuk memberi pilihan layanan yang menggunakan lebih sedikit data pengguna.

Karena pelanggaran ini, Komisi Uni Eropa pun denda Apple sebesar 500 juta Euro (setara Rp 9,6 triliun) dan Meta sebesar 200 juta Euro (Rp 3,8 triliun).

"Keputusan ini mengirimkan pesan yang jelas, bahwa UU DMA merupakan instrumen penting yang memastikan pelaku pasar digital bisa beroperasi di pasar kompetitif dan adil," kata Wakil Presiden Eksekutif untuk Transisi Bersih, Adil, dan Kompetitif Uni Eropa, Teresa Ribera.

Mengutip laman Komisi Uni Eropa, Sabtu (26/4/2025), keputusan ini muncul setelah adanya dialog mendalam dengan perusahaan.

Sekadar informasi, aturan DMA menyebutkan bahwa pengembang aplikasi yang mendistribusikan aplikasi melalui App Store Apple seharusnya memberi tahu pelanggan tentang penawaran alternatif di luar App Store.

Lewat aturan ini, Apple harusnya juga mengarahkan pelanggan ke penawaran itu dan memungkinkan pelanggan melakukan pembelian di luar App Store.