Pengacara AS Pakai ChatGPT Saat Periksa Kasus, Hasilnya Sesat dan Berujung Diadili

Liputan6.com, New York City - Perkembangan Artificial Intelligence (AI) membuka diskusi baru terkait disrupsi teknologi terhadap pekerjaan, terutama karena kehadiran produk AI ChatGPT yang bisa memberikan informasi bagaikan robot. Namun, sepertinya tidak semua pekerjaan mudah goyah di hadapan ChatGPT.

Kasus blunder pengacara di New York, AS bisa menjadi contoh bagaimana ChatGPT tidak bisa menggantikan pekerjaan yang memang butuh analisis manusia.

Dilaporkan BBC, Senin (29/5/2023), firma hukum di New York mencoba menggunakan ChatGPT saat mencari preseden kasus hukum. Hasilnya malah menyesatkan karena ChatGPT malah mengarang bebas.

Karangan yang dibuat ChatGPT termasuk sitasi hingga kutipan.

Kasus di New York itu terjadi antara seorang penumpang pesawat dan maskapai. Penumpang itu mengaku terluka, pihak pengacara laki-laki tersebut lantas menyodorkan preseden kasus sebagai bukti bahwa kasus itu dapat dilanjutkan secara hukum.

Para pengacara maskapai mengaku bingung sebab mereka tidak bisa menemukan kasus-kasus tersebut. Ada enam kasus yang dianggap bohongan.

Hakim lantas turun tangan dan menuntut pihak pengacara pemohon untuk melakukan klarifikasi. Pengacara New York itu pun disidang, karena menggunakan ChatGPT untuk penelitian hukum.

Seorang hakim mengatakan pengadilan dihadapkan pada "keadaan yang belum pernah terjadi sebelumnya", setelah pengajuan kasus ditemukan merujuk contoh kasus hukum yang tidak ada.

"Enam dari kasus-kasus yang disodorkan sepertinya adalah putusan-putusan yudisial bohongan dengan kutipan-kutipan bohongan dan sitasi-sitasi internal bohongan," ujar Hakim Kevin Castel.

Terkuak bahwa dokumen itu tidak disiapkan oleh pengacara pihak pemohon, yakni Peter DoLuca. Dokumen disiapkan oleh kolega dari LoDuca, yakni Steven A. Schwartz. 

Sebenarnya Schwartz merupakan pengacara dengan pengalaman 30 tahun, namun ia menggunakan ChatGPT untuk membantunya mencari kasus preseden.

Dalam pernyataannya, Schwartz mengakui perbuatannya, dan bahwa pengacara pihak pemohon tidak terlibat dalam konsultasi ke ChatGPT ini.

Schwartz turut mengakui ia "sangat menyesalkan" karena menggunakan ChatGPT. Ia berkata baru pertama kalinya memakai ChatGPT untuk pekerjaan hukum, serta tak sadar konten chatbot itu bisa saja palsu.

Ia mengatakan kepada pengadilan, "tidak menyadari bahwa isinya mungkin salah".

Ia pun bersumpah tidak akan menggunakan ChatGPT lagi di masa depan tanpa verifikasi terlebih dahulu. LoDuca dan Schwartz akan dipanggil oleh otoritas hukum pada 8 Juni 2023 mendatang untuk menghadapi potensi sanksi disiplin.

Jutaan orang telah menggunakan ChatGPT sejak diluncurkan pada November 2022. Produk tersebut dapat menjawab pertanyaan dalam bahasa yang alami dan mirip manusia dan juga dapat meniru gaya penulisan lainnya. Menggunakan internet pada tahun 2021 sebagai basis datanya.

Kehadiran ChatGPT memicu kekhawatiran atas potensi risiko kecerdasan buatan (AI), termasuk potensi penyebaran informasi yang salah dan bias.

Sejatinya ChatGPT membuat teks asli berdasarkan permintaan, tetapi dilengkapi dengan peringatan yang dapat "menghasilkan informasi yang tidak akurat".

Sebelumnya dilaporkan, OpenAI baru-baru ini merilis aplikasi generatif AI ChatGPT buatanya ke untuk pengguna iPhone. Baru beberapa hari, aplikasi ChatGPT itu berada di peringkat 1 di Apple App Store.

Walau begitu, Apple ternyata melarang karyawannya untuk menggunakan layanan generatif AI seperti ChatGPT.

Perusahaan berbasis di Cupertino, Amerika Serikat (AS), itu memang belum secara terbuka mengakui telah melarang karyawan pakai ChatGPT atau platform AI generatif lainnya di tempat kerja.

Mengutip laporan The Wall Street Journal, Minggu (21/5), Apple telah membatasi akses karyawan ke alat ini dan mengirimkan memo internal bertuliskan "No AI" ke semua staff.

Sayangnya, belum diketahui secara pasti apa alasan yang mendasari keputusan raksasa teknologi itu melarang karyawan menggunakan ChatGPT dan lainnya.

Meski begitu, beberapa pihak meyakini keputusan raksasa teknologi itu melarang karyawan memakai ChatGPT di tempat kerja karena khawatir teknologi generatif AI itu dapat mengumpulkan data rahasia dari karyawan.

Seperti diketahui, layanan generatif AI ChatGPT dan lainnya ini memang mengumuplkan data dari pengguna untuk meningkatkan model bahasa mereka agar lebih luwes berinteraksi dan informatif.

Akan tetapi, bug di ChatGPT OpenAI baru-baru ini mengungkap ternyata riwayat obrolan pengguna ChatGPT dapat diketahui oleh orang lain.

Sejak itu, OpenAI menambahkan fitur sehingga pengguna dapat menonaktifkan riwayat obrolan mereka dan memilih untuk tidak berkontribusi pada pelatihan model AI tersebut.

Selain ChatGPT, Apple juga melarang penggunaan GitHub's Copilot di tempat kerja, yang memungkinkan pengembang mengotomatiskan penulisan kode. Dan yang cukup menarik, kedua platform tersebut dimiliki oleh Microsoft.

Penelitian terbaru yang dilakukan Chalmers University of Technology di Swedia telah menggali bagaimana sikap mahasiswa terhadap alat-alat kecerdasan buatan (artificial intelligence, AI), seperti ChatGPT. 

Ia merupakan penelitian skala besar pertama di Eropa yang menjelajahi persepsi mahasiswa terhadap peran AI dalam pendidikan tinggi.

Survei ini mendapatkan respons luar biasa, dengan hampir 6.000 mahasiswa aktif berpartisipasi dan menuliskan lebih dari dua ribu komentar opsional. Pendapat mereka bervariasi mulai dari ketakutan dan ketidakpastian hingga optimisme dan antusiasme terhadap potensi AI untuk masa depan pembelajaran.

Hans Malmström, seorang profesor di Department of Communication and Learning in Science, menggambarkan ungkapan mahasiswa sebagai kuat, beragam, dan penuh emosi. Ia, bersama dengan rekan-rekannya Christian Stöhr dan Amy Wanyu Ou, memimpin upaya penelitian komprehensif ini.

Sebagian besar responden mengakui bahwa alat-alat bahasa AI, termasuk ChatGPT yang populer, telah meningkatkan efisiensi mereka sebagai mahasiswa.

Mahasiswa menekankan bahwa alat-alat tersebut telah meningkatkan kemampuan menulis akademik dan kemampuan bahasa mereka secara keseluruhan. Menariknya, hampir semua peserta akrab dengan ChatGPT, dengan 35 persen dari mereka menggunakan chatbot tersebut secara teratur.

Meskipun memiliki sikap yang mendukung terhadap AI, banyak mahasiswa merasa cemas karena kurangnya panduan yang jelas tentang bagaimana mengintegrasikan AI secara efektif ke dalam lingkungan pembelajaran mereka. Menentukan batasan penipuan tetap menjadi kekhawatiran yang signifikan bagi mereka.

Malmström menekankan fakta bahwa sebagian besar mahasiswa tidak mengetahui adanya aturan atau panduan mengenai penggunaan AI yang bertanggung jawab di lembaga pendidikan mereka.

Meskipun kesenjangan pengetahuan ini menimbulkan kekhawatiran, sebagian besar responden menentang pelarangan total terhadap alat-alat kecerdasan buatan dalam konteks pendidikan.