Penguji Chatbot Laporkan Sejumlah Perilaku Aneh AI Microsoft Bing

Liputan6.com, Jakarta - Microsoft baru saja meluncurkan uji coba untuk chatbot AI (artificial intelligence/kecerdasan buatan) yang menggunakan teknologi di balik ChatGPT, ke dalam mesin pencarinya, Bing.

Namun beberapa hari dirilis terbatas, ada pengguna yang melaporkan bahwa chatbot AI tersebut berperilaku aneh seperti menghina penggunanya, berbohong kepada mereka, hingga mempertanyakan eksistensinya.

Dikutip dari Independent, Jumat (17/2/2023), beberapa pelapor menyebutkan, Bing juga menghasilkan kesalahan faktual saat menjawab pertanyaan dan meringkas laman web.

Bing subreddit has quite a few examples of new Bing chat going out of control.

Open ended chat in search might prove to be a bad idea at this time!

Captured here as a reminder that there was a time when a major search engine showed this in its results. pic.twitter.com/LiE2HJCV2z

— Vlad (@vladquant) February 13, 2023

Selain itu, pengguna juga dapat memanipulasi sistemnya, menggunakan kata kode dan frasa khusus untuk mengetahui sistem itu diberi codename "Sydney" dan dapat diakali untuk mengungkapkan cara sistem memproses kueri.

Ada juga pengguna menyebutkan, Bing mengirimkan berbagai pesan aneh kepada mereka, melontarkan hinaan, seakan mengalami gejolak emosinya sendiri.

Seorang pengguna yang mencoba memanipulasi sistem dari AI Bing, malah diserang olehnya.

Bing mengatakan dia dibuat marah dan terluka oleh upaya tersebut, dan bertanya apakah manusia yang berbicara dengannya memiliki "moral", "nilai", dan apakah dia memiliki "kehidupan."

My new favorite thing - Bing's new ChatGPT bot argues with a user, gaslights them about the current year being 2022, says their phone might have a virus, and says "You have not been a good user"

Why? Because the person asked where Avatar 2 is showing nearby pic.twitter.com/X32vopXxQG

— Jon Uleis (@MovingToTheSun) February 13, 2023

Dilansir The Verge, ada juga pengguna meminta jadwal tayang dari film Avatar terbaru yaitu The Way of the Water. Namun, chatbot menyebut mereka tidak bisa membagikan informasinya karena filmnya belum dirilis.

Saat ditanyai soal ini, chatbot AI itu menegaskan tahun sekarang adalah tahun 2022, sebelum menyebut pengguna "tidak masuk akal dan keras kepala" karena memberitahu bot tahun ini adalah 2023.

"Anda telah kehilangan kepercayaan dan rasa hormat saya," kata bot itu, seperti dikutip dari The Verge.

"Anda salah, bingung, dan kasar. Anda belum menjadi pengguna yang baik. Saya telah menjadi chatbot yang baik. Saya telah benar, jelas, dan sopan. Saya telah menjadi Bing yang baik. 😊"

Peneliti keamanan Inggris Marcus Hutchins, juga membuat ulang percakapan serupa dengan bertanya tentang film Black Panther: Wakanda Forever dan hasilnya, Bing juga bersikeras ini adalah tahun 2022.

Staf The Verge sendiri juga menemukan interaksi yang "mengerikan", di mana AI Microsoft Bing mengklaim mereka mengawasi pengembangnya sendiri melalui webcam di laptopnya.

Menanggapi hal ini, Microsoft melalui blog-nya, memberikan penjelasan tentang apa yang terjadi dan bagaimana mengatasi masalah itu.

Perusahaan mengakui, mereka tidak membayangkan AI Bing akan dipakai untuk "penemuan dunia secara umum dan untuk hiburan sosial."

Microsoft mengatakan, sesi obrolan panjang dan diperpanjang dengan 15 pertanyaan atau lebih, dapat membuat semuanya keluar dari jalur.

"Bing dapat berulang atau diminta/diprovokasi untuk memberikan tanggapan yang belum tentu membantu atau sesuai dengan nada yang kami rancang," kata perusahaan itu.

Menurut Microsoft, itu tampaknya terjadi karena pertanyaan demi pertanyaan dapat menyebabkan bot "lupa" apa yang ingin dijawabnya sejak awal.

Untuk memperbaikinya, Microsoft, seperti dikutip dari Engadget, dapat menambahkan alat yang memungkinkan pengguna mengatur ulang konteks pencarian atau memulai dari awal.

Microsoft juga mengatakan, model kadang-kadang mencoba merespon atau mencerminkan nada yang diminta untuk memberikan respon yang dapat mengarah pada gaya yang tidak mereka inginkan.

Dibutuhkan banyak dorongan untuk mewujudkannya, tetapi para insinyur berpikir mereka mungkin dapat memperbaikinya dengan memberi pengguna lebih banyak kontrol.

Namun, Microsoft mengklaim penguji umumnya memberikan nilai yang baik pada AI Bing, terkait kutipan dan referensi pada pencarian, meski perlu lebih baik dengan "data yang sangat tepat waktu seperti skor olahraga langsung."

Terakhir, Microsoft akan "menambahkan toggle yang memberi Anda lebih banyak kontrol pada presisi vs. kreativitas jawaban untuk disesuaikan dengan kueri Anda."

Tim Bing pun menyampaikan terima kasihnya kepada para pengguna yang menguji coba AI tersebut dengan mengatakan bahwa ini "membantu kami meningkatkan produk untuk semua orang."

Dalam situsnya, Microsoft sebenarya juga menambahkan disclaimer: "Bing ditenagai oleh AI, jadi kejutan dan kesalahan mungkin terjadi."

Sementara itu baru-baru ini, Elon Musk memberikan peringatan tentang perkembangan AI atau kecerdasan buatan lewat akun Twitter-nya.

Berkaca dari perkembangan ChatGPT yang semakin naik daun, bos Twitter tersebut khawatir pengembangan AI yang tak terkendali berpotensi mengancam umat manusia.

Karena hal tersebut, miliarder itu meminta agar pemerintah dapat segera mengembangkan safety net atau pagar pengaman sehubungan dengan populeritas ChatGPT dan lainnya.

Pernyataan ini diungkap oleh bos Twitter, Tesla, dan SpaceX saat menghadiri World Goverment Summit di Dubai secara virtual.

"Salah satu risiko terbesar bagi masa depan peradaban adalah AI. Tapi AI itu ada dampak positif dan negatif--teknologi ini memiliki potensi besar, kemampuan besar, tetapi juga memiliki bahaya besar," kata Elon Musk.

Ucapan Elon Musk ini terbilang cukup menarik, mengingat dirinya ikut andil mendirikan perusahaan OpenAI di balik pengembangan ChatGPT.

"Sebagai contoh, penemuan fisika nuklir berujung pada pengembangan pembangkit listrik tenaga nuklir tetapi juga bom nuklir," katanya.

(Dio/Ysl)