OPINI: Pentingnya Memprioritaskan Etika dan Tata Kelola AI

Liputan6.com, Jakarta - Berbagai kemajuan dalam kinerja dan kemampuan algoritme kecerdasan buatan (artificial intelligence/AI) membuat penggunaannya meningkat secara signifikan dalam beberapa tahun terakhir.

IDC dalam laporan bulan Februari 2021 memperkirakan bahwa pendapatan dari AI di seluruh dunia akan tumbuh 16,4% pada tahun 2021 menjadi US$ 327 miliar.

Selain itu, penggunaan AI tidak hanya akan terkonsentrasi di sejumlah kecil perusahaan, melainkan menjadi semakin meluas secara global untuk mendorong pendapatan dan efisiensi, atau bahkan membuka aliran pendapatan baru.

Karena AI semakin diprioritaskan oleh berbagai perusahaan, telah terjadi peningkatan risiko bias dalam prediksi, yang pada akhirnya akan memengaruhi hasil.

Hal ini memunculkan isu-isu terkait penggunaan AI secara etis, dan telah mendorong pembuatan beragam kebijakan dan pedoman regional, industri, dan perusahaan tentang masalah ini.

AI yang Beretika

Kata etika dalam bahasa Inggris berasal dari kata Yunani, êthos, yang berarti "karakter atau sifat moral". Studi tentang etika atau filsafat moral melibatkan sistematisasi, pembelaan, dan pemberian rekomendasi mengenai konsep perilaku yang benar dan salah.

Meskipun beberapa akademisi dan filsuf mungkin berpendapat bahwa etika dapat diperluas ke dunia hewan, etika secara umum dianggap sebagai masalah manusia.

Ketika sistem yang kita kembangkan menjadi semakin canggih, dan dalam beberapa kasus bersifat otonom, kita tetap bertanggung jawab secara etis atas sistem tersebut. Hal ini termasuk sistem yang berbasis AI dan Machine Learning (ML).

AI yang beretika adalah upaya multidisiplin untuk merancang dan membangun sistem AI adil dan memperbaiki kehidupan kita. Sistem-sistem AI yang beretika harus dirancang dengan pertimbangan yang cermat dalam hal keadilan, akuntabilitas, transparansi, dan dampaknya terhadap manusia dan dunia.

Berbagai kemajuan dalam AI berarti bahwa kita telah beralih dari membangun sistem pengambilan keputusan berdasarkan aturan manusia, ke sistem yang dilatih berdasarkan data.

Ketika sistem berperilaku sesuai dengan aturan-aturan yang ditetapkan oleh manusia, implikasi etis dari setiap aturan cenderung lebih transparan dan lebih condong menjadi keputusan yang dibuat secara sadar oleh setidaknya perancang dan, kita harapkan, developer-nya. Hal ini sering kali mengarah pada hubungan yang lebih jelas antara aturan dan hasil yang tidak etis.

Diperkenalkannya ML dan Deep Learning (DL), memungkinkan dibangunnya sistem-sistem AI yang tidak mempertimbangkan etika sama sekali. Sistem AI yang tidak dibatasi akan dioptimalkan untuk apapun.

Sebagai contoh, sebuah sistem yang dirancang untuk menyetujui pinjaman dapat memberikan pinalti secara tidak adil kepada demografi tertentu yang kurang terwakili dalam data pelatihan AI. Hal ini jelas memiliki dampak negatif terhadap mereka yang berada dalam demografi tersebut dan terhadap penyedia layanan.

Penyedia layanan juga bisa dianggap melakukan pelanggaran terhadap pedoman perusahaan atau industri, atau bahkan dalam beberapa kasus, dianggap melakukan pelanggaran hukum.

Pada April 2021, sebuah artikel Techcrunch mengupas kasus enam pengemudi Uber di Belanda yang dilaporkan diberhentikan secara tidak adil "gara-gara sistem algoritma" aplikasi.

Gugatan hukum yang didukung oleh App Drivers & Couriers Union (ADCU) dan Worker Info Exchange (WIE) ini merupakan tanggapan atas Pasal 22 European Union’s General Data Protection Regulation (GDPR).

Pasal tersebut dirancang untuk melindungi individu dari keputusan-keputusan yang murni dihasilkan oleh sistem otomasi dengan dampak hukum atau dampak yang signifikan.

Investigasi yang dilakukan berfokus pada dua masalah utama. Pertama, individu yang sepertinya diberhentikan dengan keputusan yang tidak ditinjau oleh manusia. Kedua, penggunaan aplikasi pengenalan wajah dalam sistem ID realtime Uber.

Artikel Techcrunch lain terkait berita tersebut melaporkan sebuah studi MIT tahun 2018 yang menunjukkan bahwa sistem pengenalan wajah rentan terhadap error yang bisa mencapai 20% untuk orang kulit berwarna dan kinerja sistem pengenalan wajah kurang baik ketika diterapkan pada wanita dari semua etnis.

Menyusul kasus hukum tersebut, Uber diperintahkan untuk membayar kompensasi kepada pengemudi yang diberhentikan.

Dalam kasus lain, Forbes melaporkan bagaimana sistem AI yang digunakan untuk menentukan plafon kredit untuk kartu kredit Apple, memberikan plafon kredit yang lebih rendah untuk wanita dibanding pria.

Pihak ketiga yang independen kemudian mengonfirmasi bahwa mitra penerbit kartu kredit Apple tidak menggunakan jenis kelamin dalam modelnya, tetapi penulis artikel tersebut kemudian menyatakan bahwa "sistem pembelajaran mesin sering kali dapat menciptakan bias meskipun variabel kelas yang dilindungi tidak ada".

Di mana dan bagaimana data scientist dan data engineer masuk ke dalam struktur organisasi dapat bervariasi. Beberapa perusahaan memilih model terpusat, beberapa lainnya memilih model terdistribusi dengan keterampilan sebagai bagian dari tim lintas fungsi.

Dalam kedua kasus tersebut, ada nilai yang signifikan dan risiko yang berkurang dalam mengembangkan tata kelola terpusat untuk memastikan praktik-praktik terbaik itu diikuti.

Hal ini mencakup panduan tentang algoritma, pengujian, kontrol kualitas, dan artefak yang dapat digunakan kembali.

Fungsi lain dari kemampuan tata kelola terpusat adalah untuk melakukan kontrol kualitas serta penilaian kinerja dan kesesuaian model berdasarkan data dan masalah sebelumnya.

Hal ini sering kali membutuhkan tata kelola data yang kuat, manajemen, dan lineage control, serta praktik operasional machine learning yang matang.

Manfaat potensial dari penggunaan AI sangat signifikan. Hal ini dapat memberikan nilai yang besar bagi perusahaan dan konsumen. Namun, untuk menangani bias, kausalitas, korelasi, ketidakpastian, dan pengawasan manusia, perusahaan-perusahaan perlu mengembangkan sistem AI yang beretika.

Hal ini memerlukan kontrol kuat atas manajemen data, dan kemampuan untuk mereproduksi hasil atau rekomendasi berdasarkan data historis secara andal.

Karena peraturan dan kebijakan masih terus disempurnakan, perusahaan-perusahaan juga dapat memilih untuk mengambil pendekatan proaktif yang bekerja dalam tim lintas fungsi dengan regulator untuk mengembangkan standar baru.

Penyatuan regulasi perusahaan, industri, dan negara atau regional akan menjadi dasar upaya tata kelola di seluruh siklus hidup data.

**Penulis adalah Daniel Hand selaku Field CTO, Cloudera APJ