Peneliti Kembangkan DetectGPT untuk Identifikasi Teks Model Kecerdasan Buatan

Liputan6.com, Jakarta - Seiring dengan semakin lazimnya penerapan kecerdasan buatan (Artificial Intelligence, AI) seperti model bahasa besar (Large Language Model, LLM) dan kemampuannya untuk menghasilkan teks yang semakin koheren, kekhawatiran akan potensi penyalahgunaannya dan perlunya pengawasan pun meningkat.

Guna mengatasi masalah ini, tim peneliti di Stanford University telah mengembangkan DetectGPT, sebuah alat yang dapat membedakan antara teks yang dibuat oleh manusia dan yang dibuat oleh LLM dengan akurasi 95 persen di lima LLM sumber terbuka yang populer.

DetectGPT bekerja dengan memanfaatkan fakta, LLM cenderung "kurang menyukai" hasil keluaran mereka sendiri ketika hasil keluaran tersebut sedikit diulang.

Sedangkan LLM mengevaluasi versi yang sedikit dimodifikasi dari teks yang dibuat oleh manusia dengan lebih bervariasi.

Melalui pendekatan ini, DetectGPT dapat menentukan apakah sebuah teks yang diberikan kemungkinan besar dihasilkan oleh AI atau manusia.

Meskipun DetectGPT masih dalam tahap awal pengembangan, para peneliti berharap bahwa pada akhirnya DetectGPT akan menjadi alat yang berharga bagi para pendidik, jurnalis, dan warga negara untuk memverifikasi sumber informasi yang mereka konsumsi.

Perkembangan pesat LLM telah menimbulkan berbagai kekhawatiran, termasuk potensi penggunaannya untuk menyontek saat ujian, memengaruhi media sosial, dan membuat penulis kehilangan pekerjaan.

Sebagai tanggapan, para peneliti menyerukan peningkatan pengawasan dan pengembangan infrastruktur serta alat untuk menyediakan pagar pembatas di sekitar model ini.

Eric Anthony Mitchell, mahasiswa pascasarjana ilmu komputer tahun keempat di Stanford University, yang penelitian PhD-nya berfokus pada pengembangan infrastruktur untuk memberikan pengawasan terhadap LLM, menekankan perlunya infrastruktur dan alat baru untuk menyediakan pagar pembatas di sekitar model-model ini.

Karena penelitian dan penyebaran model bahasa ini bergerak dengan cepat, masyarakat umum membutuhkan lebih banyak alat untuk mengetahui kapan mereka membaca teks yang dihasilkan oleh model, kata Chelsea Finn, asisten profesor ilmu komputer dan teknik elektro di Universitas Stanford dan salah satu penasihat Mitchell.

Untuk mengurangi potensi penyalahgunaan LLM, DetectGPT menyediakan cara untuk mengidentifikasi kapan teks dihasilkan oleh LLM dan bukan oleh manusia. Namun, alat ini tidak sempurna dan ada beberapa cara bagi individu untuk menghindari deteksi, seperti dengan meminta LLM untuk berbicara secara istimewa atau dengan cara yang tampak lebih manusiawi.

Terlepas dari keterbatasan ini, DetectGPT merupakan langkah maju yang signifikan dalam menyediakan alat bagi publik untuk memverifikasi sumber informasi yang mereka konsumsi.

Seperti yang dicatat oleh Mitchell, memberikan guru, pembaca berita, dan masyarakat secara umum alat untuk memverifikasi sumber informasi yang mereka konsumsi selalu berguna, dan tetap berguna bahkan di era kecerdasan buatan.

Opera akan mengintegrasikan kemampuan AI generatif ke dalam web browser-nya, dimulai dengan 'Shorten', sebuah fitur yang akan menggunakan ChatGPT untuk membuat ringkasan artikel dan halaman web.

Saat fitur ini tersedia untuk umum, kamu akan melihat ikon baru di sebelah kanan address bar. Jika diketuk akan muncul sidebar tempat ChatGPT akan memberikan ringkasan berpoin dari halaman web yang kamu lihat.

Wakil Presiden Pemasaran dan Komunikasi di Opera, Jan Standel, mengatakan kepada The Verge, Shorten akan segera diluncurkan ke pengguna.

Mengutip Engadget, Selasa (14/2/2023), perusahaan sedang mengerjakan fitur bertenaga AI lainnya yang diklaim akan "meningkatkan" kemampuan Opera, tetapi perusahaan belum merinci apa yang diperlukan untuk penambahan tersebut.

Pengumuman Shorten datang pada minggu yang sama ketika Microsoft mengatakan sedang mendesain ulang Edge untuk menambahkan chatbot AI ke browser.

Di antara hal-hal yang dapat dilakukan model Prometheus baru perusahaan adalah meringkas halaman web. Google belum lama ini juga mengumumkan Bard, sebuah chatbot AI yang didukung platform LaMDA.

Opera dan Microsoft melihat AI generatif sebagai cara untuk mendobrak cengkeraman Google di pasar browser.