OpenAI: ChatGPT Dipakai untuk Bikin Malware oleh Penjahat Siber

Liputan6.com, Jakarta - OpenAI mengungkap pihaknya menggagalkan lebih dari operasi siber berbahaya yang menyalahgunakan chatbot AI ChatGPT. Pasalnya, ChatGPT dipakai para penjahat siber untuk men-debug dan mengembangkan malware, menyebarkan informasi salah, menghindari deteksi hingga melakukan serangan spear-phishing.

Laporan tersebut berfokus pada operasi yang dilakukan sejak awal tahun. Ini menjadi konfirmasi pertama dari OpenAI bahwa tool AI generatif mereka dipakai untuk tindak kejahatan siber.

Mengutip Bleeping Computer, Senin (14/10/2024), tanda-tanda pertama dari ChatGPT dipakai untuk mengembangkan malware pertama kali dilaporkan oleh Proofpoint pada April lalu.

Pihaknya mencurigai Scully Spider (TA547) menyebarkan loader PowerShell yang ditulis AI untuk muatan terakhir mereka.

Selain itu, para peneliti di HP Wolf secara meyakinkan melaporkan, penjahat dunia maya yang menargetkan pengguna Prancis menggunakan tool AI untuk menulis skrip yang dipakai sebagai bagian dari rantai infeksi multistep.

Kini, laporan terbaru OpenAI menegaskan ChatGPT telah disalahgunakan. Perusahaan juga menyajikan kasus-kasus aktor ancaman Tiongkok dan Iran yang memanfaatkannya untuk meningkatkan efekvitas operasi mereka.

OpenAI menyebutkan, aktor ancaman pertama adalah SweetSpecter. Ini merupakan penjahat siber musuh Tiongkok, yang pertama kali didokumentasikan oleh Cisco Talos pada November 2023.

Mereka disebut sebagai kelompok ancaman spionase siber yang menarget pemerintah Asia.

OpenAI melaporkan bahwa SweetSpecter menargetkan pemerintah Asia secara langsung. Mereka mengirimkan email phishing dengan lampiran ZIP berbahaya yang disamarkan sebagai permintaan dukungan ke alamat email pribadi karyawan OpenAI.

Jika dibuka, lampiran ini memicu rantai infeksi yang bisa menyebabkan SugarGh0st RAT dijatuhkan pada sistem korban.

Setelah penyelidikan lebih lanjut, OpenAI mendapati bahwa SweetSpecter menggunakan kelompok akun ChatGPT yang melakukan penelitian analisis skrip dan kerentanan dengan bantuan alat LLM.

Kasus kedua menyangkut kelompok ancaman yang berafiliasi dengan Korps Pengawal Revolusi Islam Iran "CyberAv3ngers" yang dikenal karena menargetkan sistem industri di lokasi infastruktur penting di negara-negara Barat.

OpenAI melaporkan bahwa akun yang terkait dengan kelompok ancaman ini meminta ChatGPT untuk menghasilan kredensial default dalam Programmable Logic Controller yang banyak digunakan, mengembangkan skrip bash dan Python khusus dan kode yang mengaburkan.

Para peretas Iran juga menggunakan ChatGPT untuk merencanakan aktivitas pasca kompromi mereka, belajar bagaimana mengeksploitasi kerentanan tertentu.

Selain itu juga memilih metode untuk mencuri kata sandi pengguna pada sistem MacOS.

Malware yang dibuat dengan bantuan ChatGPT bisa mencuri daftar kontak, log panggilan, dan file yang disimpan di perangkat. Selain itu juga bisa mengambil tangkapan layar, meneliti riwayat penelusuran pengguna, hingga mendapatkan posisi yang tepat.

"Secara paralel, STORM-0817 meggunakan ChatGPT untuk mendukung pengembangan kode sisi server yang diperlukan untuk menangani koneksi dari perangkat dikompromikan," bunyi laporan OpenAI.

Hal ini, kata OpenAI, memungkinkan pihaknya untuk melihat bahwa server perintah dan kontrol untuk malware ini adalah pengaturan WAMP dan selama pengujian menggunakan domain stickhero.

Semua akun OpenAI yang digunakan oleh pelaku ancaman di atas telah diblokir dan indikator terkait termasuk alamat IP, telah dibagikan dengan mitra keamanan siber.