Bahaya, Sri Mulyani Sebut AI Bisa Gerus Demokrasi

Liputan6.com, Jakarta - Menteri Keuangan (Menkeu) Sri Mulyani Indrawati memandang kecerdasan buatan artificial intelligence (AI) bisa menggerus kualitas demokrasi di berbagai aspek. Pasalnya, artificial intelligence mampu mengklasterisasi orang-orang di sekitar melalui penggunaan teknologi.

Dia mengisahkan, dalam menggunakan teknologi, orang akan disuguhkan konten-konten yang dinilai bisa disukai. Alhasil, nantinya akan terbentuk satu klaster tertentu.

"AI sangat sistematis dalam mengkalasterisasi pengguna, oh dia suka makan ini, dia suka baca ini, jadi kamu akan masuk klaster ini. Yang lain suka makanan ini, suka jenis traveling ini, jadi kamu masuk ke klaster ini," tutur Menkeu Sri Mulyani dalam Indonesia-Europe Investment Summit 2023, di Jakarta, Kamis (30/11/2023).

Dengan pola tersebut, Bendahara Negara menilai kalau AI sudah secara sistematis mengatur manusia.

"Jadi kita semua sudah secara sistematis sudah diatur oleh AI. Saya akan dikelompokan dengan orang-orang yang sesuai dengan klaster saya," ungkapnya.

Pada konteks demokrasi, Sri Mulyani melihat melalui adanya klasterisasi ini diskusinya tidak akan meluas, hanya berkutik pada klaster tertentu saja. Dia memandang, ini bisa memunculkan persepsi perbedaan antara satu golongan dan golongan lainnya.

"Lalu diskusinya hanya bagi sebagian golongan tadi, Dan kita hanya merasa berbeda denga orang yang lainnya. Mungkin orang yang biasanya satu kamar ternyata ada dalam klaster yang berbeda," katanya.

"Itu yang akan menjadi tantangan, disebut kalau Indonesia sebagai negara demokrasi seperti Eropa, sama seperti AS, tapi demokrasi dengan adanya intervensi AI ini, saya sih berpikir kita harus hati-hati terkait kualitas dan keberlanjutan dari demokrasi saat ini," imbuh Sri Mulyani.

Konten palsu atau hoaks diprediksi masih akan muncul pada Pemilu 2024. Hal ini disampaikan oleh Pakar Digital dari Technology & Digital Startup Founder, Ferry Sutanto.

Ferry memprediksi, Pemilu 2024 akan banyak konten berbasis artificial intelligence (AI) yang beredar di media sosial. Menurut dia, konten-konten tersebut harus diwaspadai karena tidak menutup kemungkinan akan ada hoaks yang memanfaatkan AI.

"Pemilu 2024, temanya akan berbasis menggunakan AI. Karena akan banyak banget konten-konten palsu. Konten palsunya makin canggih," kata Ferry saat diskusi daring Virtual Class Liputan6.com di Jakarta, Rabu (29/11/2024).

Konten hoaks menggunakan AI, kata Ferry, akan lebih nyata dan sulit untuk dibedakan dengan konten aslinya. Ia mencontohkan, konten AI yang sempat viral beberapa waktu lalu yakni video Presiden Jokowi yang berpidato menggunakan bahasa China.

"Kita harus lebih waspada, akan banyak video, foto-foto yang sangat realistis. Orang-orang yang tidak bertanggung jawab bisa melakukan black campaign," ucap Ferry.

Ferry mengungkapkan, ada sejumlah cara yang bisa dilakukan masyarakat untuk mencegah terpapar hoaks yang memanfaatkan teknologi AI. Pertama, kata dia, masyarakat harus selalu belajar tentang perkembangan teknologi dan informasi terutama yang berkaitan dengan AI.

"Kedua, kita harus auto-ragu atas berita-berita yang didapat. Jangan langsung percaya dan ditelan mentah-mentah, kecuali dari sumber-sumber berita yang terpercaya," tutur Ferry.

Selanjutnya yaitu melakukan riset secara mandiri terhadap sebuah informasi yang beredar di media sosial. Keempat, saling memaafkan terhadap orang, kerabat, atau teman yang memiliki opini dan pilihan berbeda terutama dalam Pemilu 2024.

"Kelima ini yang paling mudah, yaitu mematikan auto download untuk aplikasi WhatsApp di ponsel kita. Tujuannya agar kita enggak mudah kena virus dan terekspos terhadap konten-konten palsu atau hoaks," tambah Ferry.