OPINI: Inovasi AI Harus Melibatkan Prinsip Etika, Transparansi, hingga Tata Kelola yang Baik

Liputan6.com, Jakarta - Di lingkungan dengan persaingan yang sangat ketat saat ini, semua perusahaan bertaruh besar pada kecerdasan buatan (AI) untuk memberikan mereka keunggulan transformatif. Di Indonesia, pemanfaatan AI akan meningkatkan benefit ekonomi hingga Rp 2.612 triliun (US$167 miliar) pada 2030.

Sebuah survei menemukan bahwa para pemimpin bisnis sebanyak 3,6 kali akan mengatakan bahwa AI akan memberikan manfaat di tempat kerja dengan meningkatkan produktivitas. 90% pemimpin bisnis juga mengantisipasi kebutuhan karyawan mereka untuk mendapatkan keahlian baru di era AI ini.

Bahkan saat inovasi dipercepat, perusahaan mengakui peran penting etika dan peraturan dalam pengembangan AI, di mana 88% eksekutif C-level yang disurvei Deloitte melaporkan bahwa perusahaan mereka mengkomunikasikan pemanfaatan AI yang etis di tempat kerja.

Namun mengapa etika dan regulasi begitu penting dalam perlombaan menghadirkan inovasi AI ke pasar?

Kemajuan dalam AI menunjukkan bahwa kita telah beralih dari membangun sistem yang membuat keputusan berdasarkan aturan yang ditentukan manusia ke definisi aturan yang bersifat otomatis, pembuatan konten, dan pengambilan keputusan oleh model kompleks yang dilatih dengan kumpulan data yang sangat besar.

Sistem AI yang tidak memiliki batasan akan memprioritaskan optimalisasi input berdasarkan tujuan yang sudah ditentukan sebelumnya, seringkali tanpa mempertimbangkan dampak sosial yang lebih luas atau etika, sehingga menggerus kepercayaan publik.

Dampak Kontroversial AI

Terlepas dari kemajuannya, AI saat ini terus mengalami masalah termasuk bias dan hallucination, yang menimbulkan beberapa dampak yang kontroversial.

Pada April 2021, enam pengemudi di Belanda dilaporkan kehilangan pekerjaan mereka secara tidak adil karena 'cara-cara algoritma' sehingga dilakukan penyelidikan dengan mengacu pada aturan General Data Protection Regulation (GDPR) yang diterapkan di Uni Eropa, karena terjadinya pemutusan hubungan kerja (PHK) tanpa peninjauan dari manusia.

Dua tahun kemudian beberapa pekerja penghantaran makanan di Inggris diduga diberhentikan tanpa alasan yang jelas dengan penjelasan yang sangat minim karena dugaan pembayaran lebih berdasarkan data lokasi.

Kontroversi yang serupa bermunculan di seluruh dunia – mulai dari pencairan pinjaman yang tidak adil karena diskriminasi gender, hingga penggunaan teknologi pengenalan wajah yang melanggar privasi untuk memproses klaim asuransi.

Banyak dari peristiwa tersebut disebabkan oleh masalah explainability. AI, terutama model deep learning, belajar dengan cara yang tidak mengikuti aturan yang jelas yang diikuti manusia.

Model ini seringkali dipandang sebagai “black box” karena lapisan-lapisan perhitungan kompleks dan tidak melibatkan manusia, yang mereka gunakan untuk mengambil keputusan.

Itulah sebabnya, banyak ahli kesulitan untuk memahami bagaimana AI sampai pada kesimpulannya. Tanpa pengawasan dan pemahaman manusia, keputusan yang bias bisa menghasilkan dampak negatif seperti kejadian yang disebutkan di atas.

Menjaga fokus pada etika menjadi sangat penting sekarang, terutama karena inovasi AI generatif baru seperti video generator SORA AI dari OpenAI, menjanjikan percepatan produktivitas di tempat kerja dan memampukan perusahaan mengasah keunggulan kompetitif mereka.

Meskipun potensinya besar, tool generatif ini bisa membawa masalah seperti pelanggaran hak cipta. Lebih buruk lagi, membuka peluang disalahgunakan atau menyebarkan informasi yang keliru.

Meskipun banyak tool AI generatif yang tersedia umum memiliki peraturan untuk mencegah penyalahgunaan, banyak pengguna menemukan cara untuk melanggar pengamanan tersebut.

Penjahat siber bahkan menciptakan generative pre-trained transformers (GPTs) mereka sendiri untuk menulis kode malware dan membuat email phishing yang sangat meyakinkan dalam skala besar.

Saat ini tak banyak tools dan hukum yang secara efektif bisa mendeteksi dan mencegah dampak yang berbahaya seperti itu. Dengan demikian, sektor publik dan swasta harus mempererat kolaborasi mereka untuk mengatur AI dengan lebih baik supaya dapat mengurangi risiko penyalahgunaan, dan memastikan bahwa model diciptakan dengan mempertimbangkan etika.

AI yang etis melibatkan pengintegrasian prinsip etika yang utama, akuntabilitas, transparansi, explainability, dan tata kelola yang baik ke dalam model AI.

Meningkatkan explainability dan memperkuat etika model bisa membantu perusahaan mengatasi kelemahan AI saat ini. Ini juga bisa meningkatkan akurasi dan efektivitas pengambilan keputusan dengan lebih baik.

Banyak entitas di sektor publik dan swasta bekerja sama untuk memajukan AI yang etis. Sebagai contoh, Australia baru-baru ini menginvestasikan US$17 juta untuk membuat Program AI Adopt, yang membantu usaha kecil menengah membuat keputusan yang lebih baik dalam pemanfaatan AI untuk meningkatkan bisnis mereka.

Tahun lalu, pemerintah Singapura bekerja sama dengan para pemimpin sektor swasta untuk meluncurkan AI Verify Foundation untuk mengatasi risiko-risiko yang dibawa oleh AI.

Tahun ini, yayasan tersebut meluncurkan framework baru untuk AI generatif untuk mengatasi berbagai masalah yang muncul – seperti penyalahgunaan properti intelektual – sekaligus memfasilitasi inovasi yang berkelanjutan.

Di Indonesia, untuk memandu penerapan AI di berbagai sektor, pada tahun 2020, pemerintah merilis Strategi Nasional Kecerdasan Artifisial Indonesia – Stranas AI yang mencakup etika dan kebijakan AI, pengembangan talenta AI, serta ekosistem data dan infrastruktur pengembangan AI.

Saat peraturan dan inisiatif terus diluncurkan, perusahaan bisa menjalankan peran mereka untuk memajukan AI yang etis dengan memastikan bahwa data yang mereka gunakan tepercaya.

Membangun sistem AI yang dipercayai manusia mengharuskan perusahaan untuk memiliki sumber informasi yang tepercaya. Dengan data yang akurat, konsisten, jelas, bebas dari bias dan andal sebagai fondasi, sistem enterprise AI yang didesain secara etis bisa diandalkan untuk memberikan hasil yang adil dan tidak bias secara konsisten.

Perusahaan bisa dengan mudah mengidentifikasi masalah, menutup setiap kesenjangan dalam logika, menyempurnakan output dan menilai apakah inovasi mereka sudah tunduk pada regulasi yang ada.

Berikut beberapa tips untuk perusahaan yang ingin mengembangkan sistem AI yang etis dengan lebih baik:

Fokus pada Tujuannya

Sistem AI yang dilatih dengan data tidak memiliki konteks di luar data tersebut. Tidak ada kompas moral, tidak ada kerangka acuan mengenai apa yang adil, kecuali kita mendefinisikan hal tersebut.

Dengan demikian, desainer harus secara eksplisit dan hati-hati membangun representasi dari tujuan yang memotivasi desain sistem tersebut. Ini melibatkan identifikasi, penghitungan, dan mengukur pertimbangan etis sekaligus menyeimbangkan semuanya dengan objektif performa.

Pertimbangkan Desain Model

Sistem AI yang didesain dengan baik bisa diciptakan tanpa bias, kausalitas dan ketidakpastian. Perusahaan harus mengingat bahwa selain data, desain model juga bisa menjadi sumber bias.

Perusahaan secara berkala harus memeriksa penyimpangan model – ketika satu model mulai menjadi tidak akurat seiring waktu karena data yang sudah tidak berlaku lagi. Perusahaan juga harus secara ekstensif memodelkan sebab dan akibat dari sistem untuk memahami apakah perubahan akan menghasilkan konsekuensi negatif di kemudian hari.

Memastikan Pengawasan dari Manusia

Sistem AI bisa diandalkan dalam mengambil keputusan ketika dilatih dengan data berkualitas tinggi. Namun, sistem ini tidak memiliki kecerdasan emosional dan tidak bisa mengatasi situasi luar biasa. Sistem yang paling efektif adalah yang secara cerdas menggabungkan penilaian dari manusia dan AI.

Perusahaan harus selalu memastikan pengawasan manusia, terutama dalam situasi di mana model AI menghasilkan output dengan tingkat kepercayaan yang rendah.

Menegakkan Keamanan dan Kepatuhan

Mengembangkan sistem AI yang etis yang dipusatkan pada keamanan dan kepatuhan, akan memperkuat kepercayaan terhadap sistem tersebut dan membantu penerapannya di seluruh perusahaan, sekaligus memastikan kepatuhan pada peraturan lokal dan regional.

Memanfaatkan Platform Data Modern

Memanfaatkan tool mutakhir seperti platform data yang mendukung arsitektur data modern, bisa meningkatkan kemampuan perusahaan untuk mengelola dan menganalisis data di seluruh lifecycle data dan model AI.

Idealnya, platform tersebut harus memiliki keamanan bawaan dan pengendalian tata kelola yang memampukan perusahaan menjaga transparansi dan mengendalikan keputusan yang dibuat dengan AI - bahkan ketika mereka menjalankan analitik data dan AI pada skala besar.