OpenAI telah mengembangkan teknologi canggih yang dapat mendeteksi konten yang dihasilkan oleh ChatGPT dengan akurasi 99,9%, namun teknologi tersebut belum dirilis ke publik, sehingga memicu diskusi dan kontroversi yang luas. Artikel ini akan menyelidiki dilema yang dihadapi OpenAI: bagaimana mencapai keseimbangan antara transparansi teknis, loyalitas pengguna, keadilan teknis, dan tanggung jawab sosial, serta kebutuhan mendesak akan teknologi ini dalam komunitas pendidikan.
OpenAI menghadapi masalah pelik: Bagaimana cara menangani siswa yang menggunakan ChatGPT untuk menyontek? Meskipun perusahaan telah mengembangkan metode yang andal untuk mendeteksi artikel atau laporan penelitian yang ditulis oleh ChatGPT, hal ini terjadi di tengah kekhawatiran yang meluas tentang siswa yang menggunakan AI untuk menyontek belum dirilis ke publik.
OpenAI telah berhasil mengembangkan teknologi andal untuk mendeteksi konten yang dihasilkan oleh ChatGPT. Teknologi ini mencapai akurasi deteksi hingga 99,9% dengan menyematkan tanda air pada teks yang dihasilkan AI. Namun, yang membingungkan adalah teknologi yang dapat mengatasi kebutuhan mendesak ini belum dirilis ke publik. Menurut orang dalam, proyek ini telah diperdebatkan dalam OpenAI selama hampir dua tahun dan siap dirilis setahun yang lalu.
Faktor-faktor yang menghambat peluncuran teknologi ini sangat kompleks. Pertama, OpenAI menghadapi dilema: mematuhi komitmen perusahaan terhadap transparansi, atau mempertahankan loyalitas pengguna? Survei internal perusahaan menunjukkan bahwa hampir sepertiga pengguna setia ChatGPT menentang teknologi anti-kecurangan. Data ini tentu memberikan tekanan besar pada pengambilan keputusan perusahaan.
Kedua, OpenAI khawatir bahwa teknologi ini mungkin mempunyai dampak negatif yang tidak proporsional terhadap kelompok tertentu, khususnya yang bukan penutur asli bahasa Inggris. Kekhawatiran ini mencerminkan pertanyaan inti dalam etika AI: Bagaimana memastikan bahwa teknologi AI adil dan inklusif?
Namun, pada saat yang sama, kebutuhan akan teknologi ini dalam pendidikan semakin meningkat. Menurut survei yang dilakukan oleh Pusat Demokrasi dan Teknologi, 59% guru sekolah menengah pertama dan sekolah menengah atas yakin bahwa siswa sudah menggunakan AI untuk menyelesaikan pekerjaan rumah, meningkat sebesar 17 poin persentase dari tahun ajaran sebelumnya. Pendidik sangat membutuhkan alat untuk menghadapi tantangan ini dan menjaga integritas akademik.
Keraguan OpenAI memicu kontroversi internal. Karyawan yang mendukung peluncuran alat ini mengatakan kekhawatiran perusahaan tidak ada apa-apanya dibandingkan dengan besarnya manfaat sosial yang dapat dihasilkan oleh teknologi tersebut. Perspektif ini menyoroti ketegangan antara perkembangan teknologi dan tanggung jawab sosial.
Ada juga beberapa potensi masalah dengan teknologi itu sendiri. Meskipun akurasi pendeteksiannya tinggi, masih ada karyawan yang khawatir bahwa tanda air dapat dihapus dengan cara teknis sederhana, seperti melalui perangkat lunak terjemahan atau pengeditan manusia. Kekhawatiran ini mencerminkan tantangan yang dihadapi teknologi AI dalam penerapan praktisnya.
Selain itu, bagaimana mengontrol ruang lingkup penggunaan teknologi ini juga menjadi persoalan pelik. Penggunaannya yang terlalu sempit akan mengurangi kegunaannya, sedangkan penggunaannya yang terlalu luas dapat mengakibatkan teknologinya retak. Keseimbangan ini memerlukan desain dan pengelolaan yang cermat.
Perlu dicatat bahwa raksasa teknologi lain juga mengambil langkah di bidang ini. Google telah mengembangkan SynthID, alat watermarking yang mendeteksi teks yang dihasilkan oleh Gemini AI-nya, meskipun masih dalam versi beta. Hal ini mencerminkan pentingnya verifikasi keaslian konten oleh seluruh industri AI.
OpenAI juga memprioritaskan pengembangan teknologi watermarking audio dan visual, terutama selama tahun pemilu AS. Keputusan ini menyoroti perlunya perusahaan AI untuk mempertimbangkan dampak sosial yang lebih luas dalam pengembangan teknologi.
Referensi: https://www.wsj.com/tech/ai/openai-tool-chatgpt-cheating-writing-135b755a?st=ejj4hy2haouysas&reflink=desktopwebshare_permalink
Keputusan OpenAI mencerminkan tantangan umum yang dihadapi dalam pengembangan teknologi AI: keseimbangan antara kemajuan teknologi dan tanggung jawab etis. Bagaimana menghindari penyalahgunaan teknis dan ketidakadilan sambil memastikan integritas akademik akan menjadi masalah utama yang perlu terus dieksplorasi dan dipecahkan oleh OpenAI dan seluruh industri AI di masa depan.