Facebook Investigasi Algoritma Bias Rasial di Instagram dan Layanannya

Liputan6.com, Jakarta - Facebook mengumumkan telah membentuk tim yang akan mempelajari algoritma yang mungkin bias rasial yang ada di layanannya dan di Instagram.

Langkah tersebut merupakan pengakuan signifikan Facebook, bahwa algoritma yang menggerakan kedua medsos favorit ini dapat bersifat diskriminatif.

Dalam laporan The Wall Street Journal, disebutkan Instagram akan membuat "tim ekuitas" yang bertugas menganalisis penegakan kebijakan pelecehan sekaligus mempelajari algoritma bias rasial.

Mengutip Recode Vox, Jumat (24/7/2020), juru bicara Facebook Stephanie Otway mengatakan, tim itu akan bekerja bersama dengan tim AI Facebook untuk mempelajari bias. Facebook juga akan membuat tim ekuitas serupa Instagram.

Lebih lanjut, Otway menekankan bahwa inisiatif ini masih dalam tahap awal. Ia juga menyebut, tim baru akan bertugas meninjau sejumlah isu yang memarginalkan sebagian kelompok, termasuk di Instagram.

Sebagai contoh, ia menyebut, perusahaan bisa saja mendapatkan alat yang berfokus untuk mendukung bisnis milik minoritas.

Sementara itu, Wakil Presiden Produk Instagram Vishal Shah mengatakan, gerakan keadilan rasial merupakan momen yang sangat penting bagi perusahaan.

"Setiap bias dalam sistem dan kebijakan kami bertentangan dengan ide untuk menyediakan platform ekspresi diri bagi semua orang," kata Shah.

Sebelumnya, Head of Instagram Adam Mosseri mengumumkan, perusahaan akan melihat lebih lanjut mengenai kemungkinan adanya algoritma bias rasial di Instagram, termasuk kebijakan verifikasi akun dan pendekatan dalam filter dan distribusi konten.

"Seiring dengan kami mengatasi bias yang tak disengaja di produk kami, kami juga melihat ke algoritma sistem yang kami bangun. Di mana, kita perlu menghilangkan bias dari berbagai pengambilan keputusan," kata Mosseri.

Tampaknya, Facebook juga tidak keberatan untuk berinvestasi terkait dengan upaya menangani bias di platformnya.

"Perusahaan tentu memiliki sumber daya untuk lebih proaktif dalam tindakannya sebagai pemimpin," kata Kelley Cotter, mahasiswa pascasarjana Michigan State University yang mempelajari pemahaman publik tentang algoritma.

Ia menyebut, Facebook masih dalam tahap eksplorasi. Padahal, sudah bertahun-tahun ada pengaduan hak sipil yang membuktikan keengganannya memprioritaskan nilai publik seperti keadilan.

Cotter juga melihat, penggunaan alat otomatis bisa juga berdampak pada keputusan yang bias. Pasalnya, bias bisa melekat dalam algoritma dan kecerdasan buatan, berdasarkan siapa yang mengembangkan teknologi ini.

Asumsinya, bagaimana program dilatih dan bagaimana program dikerahkan untuk mengambil keputusan, misalnya dalam moderasi konten.

Jika suatu algoritma dilatih menggunakan basis data yang tidak mewakili kelompok demografis tertentu, sangat mungkin algoritma itu tidak akurat untuk diterapkan pada orang di luar kelompok itu.

(Tin/Isk)