Kecerdasan Buatan Bantu Cegah Debat Online Bersifat Toksik, Mungkinkah?

Liputan6.com, Jakarta - Para peneliti di Cornell University telah mengembangkan alat kecerdasan buatan (Artificial Intelligence, AI) bernama ConvoWizard yang memiliki potensi untuk mendeteksi eskalasi di dalam perdebatan online dan melakukan intervensi guna mempromosikan komunikasi yang lebih sopan.

ConvoWizard yang dirancang sebagai ekstensi di peramban (browser), bergantung pada jaringan saraf tiruan (artificial neural network), yang dilatih dengan data berbasis bahasa dari subreddit Change My View, untuk melacak dan mengevaluasi diskusi daring secara real-time.

Para peneliti mengklaim bahwa umpan balik berbasis artificial intelligence atau kecerdasan buatan, yang ditawarkan oleh alat ini, dapat membantu moderator dan pengguna secara aktif mengelola perdebatan sengit. Selain itu, tools tersebut juga ditengarai bisa mencegah perdebatan itu menjadi toksik tidak terkendali, serta mempertahankan forum diskusi yang sehat.

Selain itu, para peneliti menegaskan bahwa alat ini tidak dimaksudkan untuk memberi tahu pengguna apa yang harus dikatakan. Alat ini memberi tahu pengguna, jika percakapan mereka memanas, lalu menawarkan umpan balik waktu real-time mengenai karakter dari komentar yang pengguna tulis, dan memprediksi apakah komentar itu cenderung akan meningkatkan tensi perdebatan.

Alat ini akan memperingatkan pengguna, jika mereka akan menggunakan bahasa yang menghasut atau mengirim komentar yang dapat meningkatkan tensi diskusi. Para peneliti melaporkan bahwa alat ini dapat memandu pengguna ke arah bahasa yang mendorong perdebatan yang bersifat konstruktif, tanpa membatasi atau menyensor mereka.

Jonathan Chang, seorang mahasiswa doktoral ilmu komputer, telah mencatat bahwa pengguna yang berniat baik dapat menjadi emosional dan bereaksi secara impulsif di tengah-tengah perdebatan panas. Dalam kasus seperti ini, ConvoWizard dapat mendorong peserta untuk tetap fokus pada esensi perdebatan dan berlaku sopan.

Para peneliti telah menguji sistem ini bekerja sama dengan subreddit Change My View, yang melayani perdebatan tentang politik, ekonomi, dan budaya. Lebih dari 50 peserta, termasuk moderator forum, telah menguji alat ini dan menemukan bahwa alat ini berguna bagi mereka.

Studi ini melaporkan bahwa 68 persen responden merasa bahwa perkiraan risiko yang diberikan ConvoWizard sama baiknya atau lebih baik daripada intuisi mereka sendiri. Sementara lebih dari separuh partisipan melaporkan bahwa sistem ini telah mencegah mereka untuk menuliskan komentar yang kemudian mereka sesali.

Temuan penelitian ini menunjukkan bahwa pemrosesan bahasa alami (natural language processing, NLP) dapat membantu mengurangi toksik di perdebatan online serta dapat mengantarkan paradigma baru dalam diskusi online.

Cristian Danescu-Niculescu-Mizil, seorang profesor ilmu informasi, berpendapat bahwa memberdayakan peserta untuk menggunakan intuisi mereka, alih-alih membatasi atau menyensor mereka, dapat menghasilkan debat daring yang berkualitas tinggi.

ConvoWizard dapat menawarkan model baru untuk mempromosikan perdebatan yang produktif dan sopan dengan memberikan umpan balik kepada pengguna yang dapat memandu mereka menuju debat konstruktif.

Para peneliti memperingatkan bahwa ConvoWizard bukanlah obat mujarab untuk debat online, dan juga bukan pengganti moderator manusia. Namun, ini memiliki potensi untuk mendorong peserta ke arah forum diskusi yang sopan dan produktif.

Sistem umpan balik ConvoWizard bertujuan untuk memberikan cara bagi pengguna untuk mengekspresikan pendapat mereka secara bebas tanpa menggunakan serangan pribadi atau bahasa yang menghasut.

Para peneliti berharap, dalam jangka panjang, karya mereka akan berkontribusi pada pengembangan budaya diskusi online yang saling menghormati, di mana setiap orang terlibat dalam pertukaran ide dan pendapat yang bermakna.