Riset: Hanya 40% Persen Responden di Indonesia yang Siap Hadapi Serangan Siber AI

Liputan6.com, Jakarta - Perkembangan pesat teknologi kecerdasan buatan (AI) membawa serta tantangan keamanan baru yang kompleks.

Sebuah survei terbaru dari 2024 AI Readiness Index mengungkapkan bahwa hanya 40% responden di Indonesia yang merasa siap untuk mendeteksi dan mencegah penyusupan atau serangan siber menggunakan AI.

Tantangan keamanan yang dihadapi saat ini semakin beragam dan kompleks, terutama karena aplikasi AI bersifat multi-model dan menggunakan konsep multi-cloud.

Kerentanan dapat muncul di level model atau aplikasi, sementara tanggung jawabnya berada di beberapa pemilik yang berbeda, termasuk pengembang, pengguna, dan vendor.

Risiko akan semakin meningkat ketika perusahaan mulai menggunakan data di luar data publik dan melatih model AI dengan data pribadi (proprietary).

Oleh karena itu, untuk mendorong inovasi dan adopsi teknologi AI, perusahaan membutuhkan lapisan keselamatan dan keamanan umum yang melindungi setiap pengguna dan aplikasi.

Untuk menjawab tantangan ini, AI Defense hadir sebagai solusi yang membantu transformasi AI di perusahaan dengan mengatasi dua risiko mendesak.

Executive Vice President dan Chief Product Officer Cisco, Jeetu Patel, menekankan bahwa para pemimpin bisnis dan teknologi tidak boleh mengorbankan keamanan demi kecepatan dalam memanfaatkan AI.

"Dalam lanskap persaingan yang dinamis, kecepatan adalah kunci kemenangan. Solusi AI Defense, yang terintegrasi dalam jaringan, menggabungkan kemampuan unik untuk mendeteksi dan melindungi dari ancaman saat mengembangkan dan mengakses aplikasi AI tanpa mengorbankan apapun," Patel menjelaskan.

Ketika AI ada di mana-mana, perusahaan-perusahaan akan menggunakan dan mengembangkan ratusan atau bahkan ribuan aplikasi AI.

Para pengembang membutuhkan seperangkat pagar perlindungan untuk keselamatan dan keamanan AI yang bekerja dengan setiap aplikasi.

AI Defense membantu para pengembang bergerak cepat dan menciptakan nilai yang lebih besar dengan melindungi sistem-sistem AI dari serangan dan menjaga perilaku model di seluruh platform. Kemampuan AI Defense antara lain:

• Menemukan AI: Tim keamanan IT harus memahami siapa yang mengembangkan aplikasi dan sumber pelatihan yang mereka gunakan. AI Defense mendeteksi penggunaan aplikasi AI yang tidak jelas (shadow) dan aplikasi AI yang disetujui di seluruh cloud publik dan privat.
• Validasi Model: Penyesuaian model bisa memberikan hasil yang buruk dan tidak diharapkan. Pengujian otomatis mengecek model-model AI untuk menemukan ratusan potensi masalah keselamatan dan keamanan. Simulas keamanan berbasis algoritma yang berkekuatan AI ini mengidentifikasi potensi kerentanan dan merekomendasikan pengamanan di AI Defense yang bisa digunakan oleh timkeamanan IT
• Keamanan Runtime: Validasi berkelanjutan memberikan perlindungan secara terus-menerus dari potensi ancaman-ancaman keselamatan dan keamanan seperti prompt injection, DDoS dan kebocoran data sensitif.

Ketika pengguna bergegas mengadopsi aplikasi-aplikasi AI seperti alat perangkum untuk meningkatkan produktivitas mereka, tim keamanan IT harus mencegah kebocoran data dan gangguan terhadap data milik pihak tertentu.

AI Defense membantu tim keamanan dengan:

• Visibilitas: Memberikan pemahaman yang komprehensif mengenai penggunaan aplikasi-aplikasi berbasis AI, apakah aplikasi yang bersifat shadow atau yang disetujui, oleh para karyawan.
• Kontrol Akses: Menerapkan kebijakan yang membatasi akses karyawan ke tools AI yang tidak disetujui.
• Perlindungan Data dan Ancaman: Pengamanan berkelanjutan dari ancaman dan kehilangan data yang bersifat rahasia sekaligus memastikan kepatuhan.