Membangun AI Bertanggung Jawab: Pakar Soroti Enam Tantangan Utama

Liputan6.com, Jakarta - Sebuah penelitian terkini, yang terbit di International Journal of Human-Computer Interaction, telah mengidentifikasi enam tantangan utama yang harus diatasi untuk memastikan bahwa kecerdasan buatan (AI) dapat diandalkan, aman, dapat dipercaya, serta sesuai dengan nilai-nilai kemanusiaan.

Ozlem Garibay, asisten profesor di Departemen Teknik Industri dan Sistem Manajemen, University of Central Florida, adalah peneliti utama dalam penelitian ini. Garibay dan tim yang terdiri dari 26 ahli internasional yang memiliki latar belakang beragam dalam teknologi AI melakukan penelitian selama 20 bulan.

Integrasi kecerdasan buatan ke dalam banyak aspek kehidupan kita telah membawa banyak tantangan yang harus dipelajari. Garibay memaparkan bahwa integrasi kecerdasan buatan yang akan datang secara luas dapat secara signifikan memengaruhi kehidupan manusia dengan cara yang belum sepenuhnya dipahami.

Penelitian ini berupaya mengidentifikasi tantangan yang harus diatasi untuk memastikan bahwa AI aman, dapat diandalkan, dapat dipercaya, dan sesuai dengan nilai-nilai kemanusiaan.

Enam tantangan yang diidentifikasi oleh Garibay dan tim peneliti adalah sebagai berikut:

Tantangan 1: Kesejahteraan Manusia

AI harus dapat menemukan peluang implementasi yang bermanfaat bagi kesejahteraan manusia. AI juga harus mempertimbangkan untuk mendukung kesejahteraan pengguna saat berinteraksi dengan AI.

Tantangan 2: Bertanggung Jawab

AI yang bertanggung jawab mengacu pada konsep memprioritaskan kesejahteraan manusia dan masyarakat di seluruh siklus hidup AI. Hal ini memastikan bahwa potensi manfaat AI dimanfaatkan dengan cara yang selaras dengan nilai-nilai dan prioritas manusia, sekaligus mengurangi risiko konsekuensi yang tidak diinginkan atau pelanggaran etika.

Pengumpulan, penggunaan, dan penyebaran data dalam sistem AI harus dipertimbangkan dengan cermat untuk memastikan perlindungan privasi individu dan mencegah penggunaan yang merugikan individu atau kelompok.

Tantangan 4: Desain

Prinsip-prinsip desain yang berpusat pada manusia untuk sistem AI harus menggunakan kerangka kerja yang dapat memberikan informasi kepada para praktisi. Kerangka kerja ini akan membedakan antara AI dengan risiko yang sangat rendah, AI yang tidak memerlukan tindakan khusus, AI dengan risiko yang sangat tinggi, dan AI yang tidak boleh digunakan.

Tantangan 5: Tata Kelola dan Pengawasan

Kerangka kerja tata kelola yang mempertimbangkan seluruh siklus hidup AI mulai dari konsepsi, pengembangan, hingga penerapan sangat diperlukan.

Tantangan 6: Interaksi Manusia dan AI

Untuk mendorong hubungan yang etis dan adil antara manusia dan sistem AI, interaksi harus didasarkan pada prinsip dasar untuk menghormati kapasitas kognitif manusia. Secara khusus, manusia harus mempertahankan kontrol penuh dan tanggung jawab atas perilaku dan hasil dari sistem AI.

Studi ini mendesak penerapan pendekatan yang berpusat pada manusia yang mencakup desain yang bertanggung jawab, perlindungan privasi, kepatuhan terhadap prinsip-prinsip desain yang berpusat pada manusia, tata kelola dan pengawasan yang tepat, dan interaksi yang menghormati kapasitas kognitif manusia.

Tantangan-tantangan tersebut menuntut penciptaan teknologi AI yang berpusat pada manusia yang memprioritaskan etika, keadilan, dan peningkatan kesejahteraan manusia.

Para ahli dalam penelitian ini adalah kelompok yang terdiri dari 26 pakar internasional yang memiliki pengalaman luas di bidang akademis, industri, dan pemerintahan, termasuk anggota National Academy of Engineering dan peneliti dari Amerika Utara, Eropa, dan Asia. Kelompok ini juga memiliki latar belakang pendidikan yang beragam di berbagai bidang mulai dari ilmu komputer dan teknik hingga psikologi dan kedokteran.

Garibay mengatakan bahwa tantangan-tantangan ini merupakan ajakan untuk bertindak bagi komunitas ilmiah untuk mengembangkan dan mengimplementasikan teknologi AI yang memprioritaskan dan bermanfaat bagi umat manusia. Temuan penelitian ini akan ditampilkan dalam sebuah bab dalam buku bertajuk Human-Computer Interaction: Foundations, Methods, Technologies, and Applications.

Kesimpulannya, studi ini menyoroti kebutuhan akan teknologi AI yang berpusat pada manusia yang memprioritaskan etika, keadilan, dan peningkatan kesejahteraan manusia.

Enam tantangan yang diidentifikasi dalam penelitian ini sangat penting untuk memastikan bahwa AI aman, dapat diandalkan, dapat dipercaya, dan sesuai dengan nilai-nilai kemanusiaan.

Latar belakang dan pengalaman para ahli yang beragam menunjukkan bahwa komunitas ilmiah harus bekerja sama untuk mengembangkan dan mengimplementasikan teknologi AI yang memprioritaskan dan bermanfaat bagi umat manusia.