Teknologi AI Dinilai Bisa Dimanfaatkan untuk Bisnis, Tetap Perhatikan Risiko dan Tantangan

Liputan6.com, Jakarta - Direktur Human Capital dan Corporate Service PT Garuda Indonesia (Persero) Tbk (GIAA) Enny Kristiani memaparkan hasil studi ilmiah terkait penerapan Artificial Intelligence (AI) dalam industri pelayanan di Indonesia.

Enny Kristiani memaparkannya dalam forum International Law Conference, Senin 14 April 2025 dengan tema Law & Business in the Technology and Digital World bertempat di Youngsan University, Busan, Korea Selatan (Korsel).

Dalam paparannya, Enny Kristiani yang juga seorang praktisi senior di industri penerbangan nasional dan memiliki keahlian di bidang pelayanan menyoroti pentingnya pembaharuan ketentuan hukum Indonesia terkait dengan penerapan teknologi Artificial Intelligence (AI) dalam transaksi bisnis jasa dan juga perlindungan konsumen di era digital.

"Teknologi AI semakin banyak digunakan oleh berbagai industri pelayanan termasuk bisnis penerbangan, misalnya pada penggunaan chatbots untuk melayani konsumen secara otomatis, sistim otomasi customer service, dan Analisa Perilaku Pelanggan untuk memberikan customer experience yang lebih persona," ujar Enny, melalui keterangan tertulis, Jumat (18/4/2025).

Menurut kajian Enny, dalam dunia bisnis jasa, transformasi digital dengan teknologi AI, telah mengubah pola interaksi antara bisnis dan konsumen, di mana konsumen kini lebih cenderung memilih berinteraksi melalui platform digital yang menggunakan AI.

Sementara, kata dia, bisnis dapat memanfaatkan data dan algoritma untuk meningkatkan kualitas layanan, dan efisiensi operasional, serta mengurangi biaya, sehingga menciptakan hubungan yang lebih cepat dan responsif.

"Dibalik berbagai manfaat yang ditawarkan, penerapan AI dalam transaksi bisnis jasa, juga membawa beberapa risiko dan tantangan yang tidak dapat diabaikan," ucap Enny.

Menurut Enny, tantangan utama muncul terkait perlindungan data pribadi, karena sistem AI umumnya mengandalkan data konsumen dalam kuantitas besar yang rentan terhadap penyalahgunaan, manipulasi algoritma, dan juga transparansi proses otomasi decision making dengan AI.

"UU Nomor 8 Tahun 1999 tentang Perlindungan Konsumen merupakan regulasi yang selama ini digunakan untuk melindungi hak-hak konsumen di Indonesia. Namun, keberadaan UU ini dinilai belum mampu menjawab tantangan baru yang muncul akibat digitalisasi layanan, khususnya dalam transaksi berbasis AI," ucap dia.

"UU Nomor 8 tersebut lebih fokus pada transaksi konvensional dan belum secara khusus mengatur bentuk transaksi elektronik modern yang memanfaatkan AI. Konsumen yang merasa dirugikan oleh sistem berbasis AI tidak memiliki kepastian hukum dalam meminta pertanggungjawaban pelaku usaha," sambung Enny.

Selain itu, lanjut dia, belum adanya regulasi khusus yang mengatur perlindungan privasi dan keamanan data pribadi dalam pemanfaatan AI semakin melemahkan posisi konsumen dalam ekosistem digital saat ini” ujar Enny Kristiani yang juga seorang Doktor di bidang Management Business alumni IPB University, Indonesia.

"Adapun harapannya, reformulasi regulasi yang lebih jelas dan spesifik khususnya dalam pembaharuan UU Perlindungan Konsumen dengan cakupan yang lebih luas meliputi transaksi berbasis teknologi, pemanfaatan AI dalam layanan, dan perlindungan data pribadi konsumen," terang Enny.

Enny juga mengharapkan terbentuknya ketentuan yang lebih jelas mengenai hak dan kewajiban konsumen serta kewajiban penyedia layanan yang memanfaatkan AI sehingga terwujud perlindungan yang lebih menyeluruh bagi konsumen di dunia digital.

"Pemerintah dan pelaku bisnis perlu bekerja sama dalam menciptakan kebijakan yang tidak hanya mendukung kemajuan teknologi dan perkembangan bisnis tetapi juga melindungi konsumen secara adil dan transparan, memastikan penggunaan AI yang bertanggung jawab dan berkelanjutan," ucap dia.

Diketahui, sebanyak 30 peserta mengikuti rangkaian kegiatan yang meliputi diskusi kurikulum berstandar internasional, international conference, dan program student mobility.

Kegiatan ini diselenggarakan oleh Universitas Borobudur bekerjasama dengan Youngsan University sebagai bentuk pertanggungjawaban moral dan akademik atas akreditasi Unggul yang telah diraih oleh Universitas Borobudur.