Ada diskusi hangat di OpenAI tentang penerapan teknologi tanda air ChatGPT. Teknologi tanda air teks AI yang dikembangkannya dirancang untuk memerangi plagiarisme akademis, namun kontroversi dan tantangan dalam penerapan teknologi juga menyusul. Teknologi yang menyesuaikan kata dan frasa untuk menciptakan pola yang dapat dideteksi ini dikatakan 99,9% akurat dan tahan terhadap parafrase sederhana. Namun, OpenAI juga mengakui bahwa penulisan ulang yang rumit dapat dengan mudah melewati tanda air, dan bahwa tanda air mungkin mengganggu sebagian pengguna, terutama beberapa non-penutur asli, sehingga memengaruhi pengalaman dan penggunaan pengguna.
Baru-baru ini, OpenAI telah terlibat dalam diskusi internal mengenai teknologi watermarking. Menurut Wall Street Journal, perusahaan telah mengembangkan teknologi watermarking untuk menandai teks yang dihasilkan oleh ChatGPT dan juga telah menyiapkan alat pendeteksi. Namun pendapat internal berbeda mengenai apakah akan membawa teknologi ini ke pasar.
Dari sudut pandang tertentu, meluncurkan teknologi watermark sepertinya merupakan hal yang bertanggung jawab untuk dilakukan. Teknologi ini menciptakan pola yang dapat dideteksi dengan menyesuaikan kata dan frasa yang diprediksi oleh model. Meskipun hal ini terdengar agak rumit, tujuannya jelas – untuk membantu guru mencegah siswa menjiplak tugas yang dihasilkan menggunakan AI. Laporan tersebut menyatakan bahwa tanda air ini tidak mempengaruhi kualitas teks chatbot. Selain itu, OpenAI menemukan dalam sebuah survei bahwa secara global, jumlah orang yang mendukung alat pendeteksi AI melebihi jumlah penentangnya sebanyak empat kali lipat.
Namun penerapan teknologi watermarking tidaklah sesederhana itu. Pembaruan blog dari OpenAI mengonfirmasi bahwa perusahaan tersebut telah mengembangkan teknologi watermarking dan mengatakan bahwa metode tersebut sangat akurat, dan mengklaim bahwa metode tersebut "99,9% efektif". Selain itu, tanda air semacam ini memiliki ketahanan tertentu terhadap "gangguan", seperti penulisan ulang yang sederhana. Namun, OpenAI juga menunjukkan bahwa tanda air ini dapat dengan mudah dilewati dengan menulis ulang menggunakan model lain, yang membuat mereka khawatir.
Selain itu, OpenAI menilai bahwa tanda air dapat menyebabkan sebagian pengguna merasa terstigmatisasi, terutama bagi non-penutur asli. Oleh karena itu, meskipun beberapa karyawan percaya bahwa tanda air efektif, survei menunjukkan bahwa hampir 30% pengguna ChatGPT mengatakan bahwa mereka mungkin menggunakan lebih sedikit jika tanda air diterapkan. Akibatnya, beberapa karyawan menyarankan untuk mengeksplorasi metode yang "relatif tidak terlalu kontroversial", meskipun keefektifannya belum terbukti.
Dalam pembaruan blog hari ini, OpenAI menyebutkan bahwa mereka sedang menjajaki cara untuk menyematkan metadata pada “tahap awal” dan mengatakan masih terlalu dini untuk mengatakan seberapa efektif hal itu. Namun, mereka menunjukkan bahwa karena metadata ini ditandatangani secara kriptografis, kesalahan positif dapat dihindari.
Highlight:
✅ Terdapat perbedaan dalam OpenAI mengenai peluncuran teknologi watermarking, dan apakah akan dirilis masih dalam diskusi.
? Survei menunjukkan bahwa sebagian besar orang di seluruh dunia mendukung alat pendeteksi AI, namun pengguna khawatir tanda air akan memengaruhi penggunaannya.
? OpenAI sedang mempertimbangkan untuk menyematkan metadata dalam upaya menemukan keseimbangan antara teknologi dan pengalaman pengguna.
Sikap OpenAI yang berhati-hati terhadap teknologi watermarking mencerminkan upayanya untuk menemukan keseimbangan antara perkembangan teknologi dan pengalaman pengguna. Di masa depan, bagaimana memecahkan masalah identifikasi konten yang dihasilkan AI secara efektif dan melindungi privasi pengguna akan menjadi isu penting dalam bidang kecerdasan buatan.