OpenAI akan Tandai Esai buatan Siswa yang 'Nyontek' dari ChatGPT

Liputan6.com, Jakarta - OpenAI tengah menjadi sorotan setelah dilaporkan memiliki teknologi canggih untuk mendeteksi esai buatan siswa yang ditulis dengan bantuan ChatGPT. Namun, perusahaan masih ragu untuk merilis alat tersebut ke publik.

Dilansir dari The Wall Street Journal, alat deteksi yang disebut-sebut sudah siap pakai ini terhambat karena perdebatan internal.

Dalam sebuah pembaruan blog, OpenAI mengaku tengah mengembangkan metode penanda atau 'watermarking' teks sebagai salah satu solusi untuk mendeteksi konten AI yang dibantu ChatGPT.

Metode ini, menurut perusahaan, cukup akurat dalam beberapa situasi. Namun kurang efektif dalam menghadapi manipulasi seperti terjemahan, parafrase, atau pengubahan format teks.

Mengutip Engadget, Selasa (6/8/2024), OpenAI juga mengungkapkan kekhawatiran tentang potensi dampak negatif dari watermarking, terutama bagi pengguna non-native English yang mungkin terdiskriminasi jika penggunaan AI ditandai.

Karena berbagai pertimbangan ini, OpenAI mengaku masih menimbang-nimbang langkah terbaik dan masih fokus pada pengembangan alat autentikasi untuk konten audio-visual.

Dalam keterangannya, OpenAI menekankan bahwa mereka mengambil pendekatan secara hati-hati dalam menangani masalah asal-usul teks karena kompleksitasnya dan potensi dampak luas terhadap ekosistem AI.

Di sisi lain, OpenAI terjerat dua ancaman siber yang terbilang mengerikan dan menjadi perbincangan hangat hingga saat ini.

Kasus pertama berpusat pada aplikasi Mac untuk ChatGPT. Kedua, seputar kekhawatiran yang lebih luas, bagaimana cara perusahaan menangani keamanan siber.

Engineer dan pengembang Swift, Pedro José Pereira Vieito, menggali aplikasi Mac ChatGPT dan menemukan bahwa aplikasi tersebut menyimpan percakapan pengguna secara lokal dalam teks biasa, bukan mengenkripsinya. Hal ini tentu membahayakan data pengguna ChatGPT.

Aplikasi ini hanya tersedia dari situs web OpenAI, dan karena tidak tersedia di App Store, aplikasi tidak harus mengikuti persyaratan sandboxing Apple.

Informasi dari Vieito kemudian diliput oleh The Verge, dan setelah eksploitasi tersebut menarik perhatian, OpenAI merilis pembaruan yang menambahkan enkripsi ke obrolan yang disimpan secara lokal.

Mengutip Engadget, Jumat (5/7/2024) sandboxing adalah praktik keamanan untuk mencegah potensi kerentanan dan penyebaran dari satu aplikasi ke aplikasi lain.

Menyimpan file lokal dalam teks biasa berarti data sensitif dapat dengan mudah dilihat oleh aplikasi lain atau malware (buatan hacker).

Masalah kedua terjadi pada tahun 2023 dengan dampak yang terus berlanjut hingga saat ini.

Pada musim semi lalu, seorang hacker memperoleh informasi tentang OpenAI setelah secara tidak sah membobol sistem pesan internal perusahaan.

The New York Times melaporkan bahwa manajer program teknis OpenAI, Leopold Aschenbrenner, menyampaikan kekhawatiran keamanan kepada dewan direksi perusahaan.

Ia menyebut bahwa peretasan tersebut menyiratkan kerentanan internal yang dapat dimanfaatkan oleh orang asing.

Aschenbrenner sekarang sudah dipecat karena mengungkapkan informasi tentang OpenAI dan kekhawatiran tentang keamanan perusahaan.

Seorang perwakilan dari OpenAI mengatakan kepada Times bahwa “walaupun kami memiliki komitmen yang sama dengan beliau untuk membangun Artificial General Intelligence (AGI) yang aman, kami tidak setuju dengan banyak klaim yang dia buat mengenai pekerjaan kami”

Ia menambahkan bahwa keluarnya Aschenbrenner bukanlah akibat dari pelaporan pelanggaran (whistleblowing).

Kerentanan aplikasi adalah sesuatu yang dialami setiap perusahaan teknologi. Pelanggaran yang dilakukan oleh peretas juga sangat umum terjadi, begitu pula hubungan yang kontroversial antara pelapor dan mantan bos mereka.

Namun, besarnya pengaruh ChatGPT yang telah diadopsi ke dalam layanan populer serta betapa kacaunya pengawasan, praktik, dan reputasi publik perusahaan, isu-isu tersebut mengundang pertanyaan yang lebih mengkhawatirkan tentang apakah OpenAI dapat mengelola datanya dengan baik.