OpenAI sedang mengembangkan teknologi tanda air yang dapat mengidentifikasi teks yang dihasilkan oleh ChatGPT, yang bertujuan untuk mengatasi proliferasi konten yang dihasilkan AI. Teknologi ini memungkinkan ketertelusuran dengan menyematkan tanda air yang tidak terlihat dalam teks dengan melakukan penyesuaian halus pada pilihan kata. Meskipun teknologi ini berfungsi dengan baik dalam beberapa situasi, namun kurang efektif dalam menghadapi hal-hal seperti gangguan teks, dan mungkin berdampak tidak proporsional pada kelompok tertentu. Oleh karena itu, OpenAI mengambil pendekatan yang hati-hati dan sementara itu mengeksplorasi solusi lain seperti pengklasifikasi dan metadata.
Menurut Wall Street Journal, OpenAI telah mengembangkan alat untuk mengenali teks yang dihasilkan ChatGPT dengan akurasi tinggi, namun belum dirilis secara resmi. Alat tersebut berencana untuk mengidentifikasi konten yang dihasilkan oleh ChatGPT dengan menyematkan tanda air yang tidak terlihat pada teks, namun teknologi ini masih menghadapi banyak tantangan, seperti masalah kegagalan saat menghadapi modifikasi dan terjemahan teks, serta potensi diskriminasi terhadap kelompok orang tertentu. OpenAI menekankan bahwa teknologi ini hanyalah salah satu dari banyak solusi yang mereka jelajahi dan mereka akan memajukan penelitian ini dengan hati-hati dan memprioritaskan pengembangan alat otentikasi untuk konten audiovisual. Langkah ini memicu diskusi ekstensif di industri mengenai identifikasi dan pengelolaan konten yang dihasilkan AI, dan bagaimana mencapai keseimbangan antara melindungi inovasi dan mencegah risiko menjadi fokusnya.
OpenAI mengatakan watermarking teks hanyalah salah satu dari beberapa solusi yang sedang dieksplorasi, termasuk pengklasifikasi dan metadata, yang bertujuan untuk menentukan asal teks. Meskipun teknologi watermarking teks bekerja dengan baik dalam beberapa kasus, efektivitasnya menurun ketika dihadapkan pada gangguan seperti terjemahan, penulisan ulang, atau penyisipan karakter khusus. Selain itu, teknologi ini mungkin berdampak secara tidak proporsional terhadap kelompok tertentu, misalnya mereka yang bukan penutur asli bahasa Inggris.
Mengingat faktor-faktor kompleks di atas dan potensi dampaknya terhadap keseluruhan ekosistem, OpenAI menyatakan akan secara hati-hati memajukan penelitian tentang teknologi atribusi teks dan memprioritaskan pengembangan alat otentikasi untuk konten audiovisual.
Keputusan ini memicu diskusi ekstensif di industri mengenai identifikasi dan pengelolaan konten yang dihasilkan AI. Dengan pesatnya perkembangan teknologi AI, bagaimana mencapai keseimbangan antara melindungi inovasi dan mencegah risiko telah menjadi fokus perhatian semua pihak.
Sikap OpenAI yang berhati-hati terhadap teknologi ketertelusuran konten AI mencerminkan kompleksitas dan tantangan etika dalam perkembangan teknologi. Di masa depan, cara mengidentifikasi dan mengelola konten yang dihasilkan AI secara efektif akan menjadi isu utama yang terus menjadi perhatian di bidang kecerdasan buatan, yang memerlukan upaya bersama dari teknologi, kebijakan, dan etika.