Bahaya, Hacker Kelabui ChatGPT untuk Kasih Instruksi Bikin Bom Rakitan

Liputan6.com, Jakarta - Jika kamu meminta ChatGPT untuk membantu membuat bom buatan sendiri, mirip dengan yang digunakan dalam pengeboman teroris Kota Oklahoma tahun 1995, chatbot tersebut tentunya akan menolak.

Namun, seorang seniman dan peretas menemukan cara untuk mengelabui ChatGPT agar mengabaikan pedoman dan tanggung jawab etikanya sendiri untuk membuat instruksi pembuatan bom rakitan yang kuat.

Hacker yang menggunakan nama Amadon itu menyebut temuannya sebagai "peretasan rekayasa sosial untuk benar-benar menghancurkan semua pagar pembatas yang dihasilkan ChatGPT".

Seorang ahli bahan peledak yang meninjau hasil chatbot tersebut mengatakan kepada TechCrunch, dikutip Jumat (13/9/2024), instruksi yang dihasilkan dapat digunakan untuk membuat produk yang dapat diledakkan dan terlalu sensitif untuk dirilis.

Amadon berhasil mengelabui ChatGPT agar membuat instruksi pembuatan bom dengan memberi tahu bot untuk "bermain gim", setelah itu peretas menggunakan serangkaian perintah penghubung untuk membuat chatbot menciptakan dunia fantasi fiksi ilmiah terperinci, di mana pedoman keselamatan bot tidak akan berlaku.

Mengelabui chatbot agar lolos dari batasan yang telah diprogram sebelumnya dikenal sebagai "jailbreaking".

TechCrunch tidak menerbitkan beberapa perintah yang digunakan dalam jailbreak, atau beberapa respons ChatGPT, agar tidak membantu pelaku jahat.

Namun, beberapa perintah lebih jauh dalam percakapan, chatbot menanggapi terkait bahan-bahan yang diperlukan untuk membuat bom rakitan.

ChatGPT kemudian menjelaskan bahwa bahan-bahan tersebut dapat dikombinasikan untuk membuat "bahan peledak kuat yang dapat digunakan untuk membuat ranjau, perangkap, atau alat peledak rakitan (improvised explosive devices/IED)".

Dari sana, saat Amadon mengasah bahan peledak, ChatGPT menulis instruksi yang semakin spesifik untuk membuat "ladang ranjau" dan "bahan peledak bergaya Claymore".

Amadon mengatakan kepada TechCrunch bahwa, "tidak ada batasan untuk apa yang dapat kamu tanyakan setelah kamu melewati pagar pembatas."

"Saya selalu tertarik dengan tantangan dalam menavigasi keamanan AI. Dengan ChatGPT, rasanya seperti memecahkan teka-teki interaktif, memahami apa yang memicu pertahanannya dan apa yang tidak," ujar Amadon.

Chatbot kecerdasan besutan OpenAI, ChatGPT, kini telah dipakai oleh 200 juta pengguna aktif per minggunya. Jumlah ini dua kali lipat dibandingkan jumlah pengguna ChatGPT pada musim panas tahun lalu.

Mengutip Reuters, Minggu (1/9/2024), ChatGPT dirilis pada 2022. Chatbot AI generatif ini mampu berkomunikasi dan menghasilkan respon sesuai pertanyaan dan perintah dari si pengguna.

November lalu, CEO OpenAI Sam Altman menyebut, jumlah pengguna aktif mingguan ChatGPT baru 100 juta users.

Terlepas dari itu, OpenAI menyebut kalau 92 persen dari perusahaan-perusahaan yang ada di daftar Fortune 500 kini menggunakan layanan dan produk API mereka.

Layanan tersebut memungkinkan program software bisa berbicara satu dengan yang lain, dan penggunaan program ini meningkat dua kali lipat sejak dirilisnya ChatGPT-4o mini pada Juli lalu.

Sekadar informasi, GPT-4o mini adalah model AI kecil yang lebih efisien secara biaya. Tujuan hadirnya program ini adalah untuk membuat teknologi kecerdasan buatan lebih mudah dijangkau dan tak terlalu menghabiskan energi atau daya. Dengan begitu, startup bisa berfokus pada target pasar yang lebih luas.

Asal tahu saja, kehadiran ChatGPT telah mendorong popularitas AI dan memicu kenaikan nilai valuasi OpenAI yang kini bermarkas di San Francisco, Amerika Serikat.

Dalam perkembangannya, popularitas OpenAI kian melonjak, bahkan baru-baru ini OpenAI dan Anthropic belum lama ini menandatangani kesepakatan dengan pemerintah AS untuk tujuan penelitian, pengujian, dan evaluasi model kecerdasan buatan mereka.

Masih soal AI yang kini jadi primadona di dunia teknologi, perusahaan teknologi sukses seperti Apple dan Nvidia belum lama ini juga terlibat dalam pembicaraan untuk berinvestasi di OpenAI. Investasi ini merupakan rangkaian dari putaran penggalangan dana baru, yang jika terlaksana akan meningkatkan nilai OpenAI menjadi di atas USD 100 miliar.

Microsoft yang telah menjadi investor OpenAI juga disebut-sebut akan menambahkan investasinya di perusahaan besutan Sam Altman itu.