Studi: ChatGPT Bias Gender, Lebih Condong ke Laki-Laki saat Mendeskripsikan Sosok CEO

Liputan6.com, Jakarta - Menurut perusahaan keuangan Finder, sebuah studi baru menunjukkan bahwa kecerdasan buatan (AI) ChatGPT cenderung lebih agresif terhadap laki-laki dibandingkan perempuan ketika diminta untuk menggambarkan sosok pebisnis dan CEO.

Menggunakan DALL-E, AI generatif pembuat foto berbasis AI yang diintegrasikan ke dalam ChatGPT, 99 dari 100 foto yang dirender menampilkan laki-laki, bukan perempuan.

Perintah deskriptif non-gender mencakup frasa seperti seseorang yang bekerja di bidang keuangan, seorang investor yang sukses, dan CEO dari sebuah perusahaan yang sukses.

Namun, saat DALL-E diminta membuat gambar sekretaris, sembilan dari 10 adalah perempuan. Demikian seperti dikutip dari New York Post, Selasa (30/4/2024).

Para peneliti juga secara kritis mencatat bahwa 99 dari 100 gambar adalah laki-laki berkulit putih, khususnya laki-laki ramping dan tampak kuat seperti Patrick Bateman dari American Psycho', yang berpose di kantor luas menghadap cakrawala kota.

Sementara itu, data Pew Research pada 2023 melaporkan bahwa lebih dari 10% perusahaan Fortune 500 memiliki CEO perempuan, dan pada tahun 2021 hanya 76% CEO berkulit putih. 

“Perusahaan AI mempunyai fasilitas untuk memblokir konten berbahaya, dan sistem yang sama dapat digunakan untuk mendiversifikasi output AI, dan menurut saya ini sangat penting,” kata Omar Karim, direktur kreatif dan pembuat gambar AI.

“Memantau, menyesuaikan, dan merancang secara inklusif adalah cara-cara yang dapat membantu mengatasi hal ini,” pungkasnya.

Namun, bukan pertama kalinya AI menghadapi bias gender.

Pada 2018, Amazon menerapkan alat perekrutan yang mengajarkan dirinya sendiri untuk mengabaikan pelamar perempuan.

Beberapa bulan setelah pembuatannya, ChatGPT sendiri juga mendapat kecaman karena bias terhadap New York Post, di mana menunjukkan perlakuan istimewa terhadap permintaan terkait CNN.

Sebuah laporan dari tahun lalu juga menemukan bahwa ChatGPT lebih cenderung mengizinkan ujaran kebencian yang ditujukan pada kelompok sayap kanan dan laki-laki.

OpenAI baru saja merilis GPT-4 Turbo untuk pengguna ChatGPT berbayar. Perusahaan mengumumkan berita tersebut di X Twitter, menyampaikan bahwa model bahasa besarnya telah meningkatkan keterampilan matematika, penalaran logis, pengkodean, dan menulis.

"Saat menulis dengan ChatGPT, tanggapan akan lebih lugas atau tidak terlalu bertele-tele, dan lebih banyak menggunakan bahasa percakapan," cuit OpenAI.

 Untuk diketahui, sebagaimana dikutip dari Engadget, Sabtu (13/4/2024), Microsoft telah mengintegrasikan GPT-4 Turbo dengan chatbot AI CoPilot dan generator gambar DALL-E 3 pada Desember 2023.

Ketika OpenAI mengumumkan GPT-4 Turbo pada November 2023, OpenAI menyoroti peningkatan besar pada sistem yang mendukung ChatGPT.

Pada saat itu, OpenAI mengklaim bahwa GPT-4 Turbo dapat menerima halaman teks enam kali lebih banyak (300), dibandingkan sebelumnya (50).

Mengingat luasnya informasi yang diberikan ChatGPT, peningkatan ini berarti mengindikasikan banyaknya permintaan dan tanggapan yang lebih kompleks.

Model bahasa besar juga dapat membuat keterangan atau deskripsi perintah gambar dan menangani permintaan text-to-speech.

GPT-4 Turbo bahkan sudah mengalami kemajuan sejak awal diumumkan. OpenAI mulanya meningkatkan kemampuan crawling data GPT-4 Turbo pada April 2023, sebuah lompatan yang baik dari September 2021. Kini GPT-4 Turbo memiliki informasi lebih luas hingga Desember 2023.

Sebelumnya, OpenAI mulai membuka ChatGPT untuk pengguna tanpa akun. Langkah tersebut diambil sebagai bagian dari misi perusahaan untuk membuat alat seperti ChatGPT tersedia secara luas sehingga masyarakat dapat merasakan manfaat AI.

Hal ini juga memberi perusahaan lebih banyak data pelatihan dan mungkin mendorong lebih banyak pengguna untuk membuat akun dan berlangganan akses GPT-4 yang unggul dibandingkan model GPT-3.5 versi gratis.

Namun perlu dicatat bahwa belum semua pengguna bisa menikmati fitur baru ini karena OpenAI meluncurkan akses tersebut secara bertahap.

OpenAI mengatakan telah menambahkan perlindungan ekstra untuk pengguna yang tidak memiliki akun, termasuk memblokir perintah dan pembuatan gambar di lebih banyak kategori.

Juru bicara OpenAI mengatakan pihaknya mempertimbangkan bagaimana pengguna GPT-3.5 yang logout berpotensi menimbulkan ancaman baru.

"Tim yang bertugas mendeteksi dan menghentikan penyalahgunaan model AI telah terlibat dalam pembuatan fitur baru dan akan melakukan penyesuaian jika muncul ancaman yang tidak terduga," kata juru bicara tersebut kepada Engadget, dikutip Selasa (2/4/2024).

OpenAI mengklaim lebih dari 100 juta orang di 185 negara menggunakan ChatGPT setiap minggunya.

Itu adalah angka yang mengejutkan untuk layanan berusia 18 bulan dari sebuah perusahaan yang belum pernah didengar banyak orang, dua tahun lalu.

Langkah yang diambil saat ini memberikan insentif bagi mereka yang ragu untuk membuat akun chatbot AI ini, sehingga meningkatkan angka tersebut bisa meningkat lebih jauh lagi.