OpenAI กำลังพัฒนาเทคโนโลยีลายน้ำที่สามารถระบุข้อความที่สร้างโดย ChatGPT โดยมีเป้าหมายเพื่อจัดการกับการแพร่กระจายของเนื้อหาที่สร้างโดย AI เทคโนโลยีนี้ช่วยให้สามารถตรวจสอบย้อนกลับได้โดยการฝังลายน้ำที่มองไม่เห็นไว้ในข้อความโดยการปรับเปลี่ยนการเลือกคำอย่างละเอียด แม้ว่าเทคโนโลยีจะทำงานได้ดีในบางสถานการณ์ แต่ก็มีประสิทธิภาพน้อยลงเมื่อต้องเผชิญกับสิ่งต่างๆ เช่น การแก้ไขข้อความ และอาจส่งผลกระทบต่อบางกลุ่มอย่างไม่เป็นสัดส่วน ดังนั้น OpenAI จึงใช้แนวทางที่ระมัดระวังและสำรวจโซลูชันอื่นๆ เช่น ตัวแยกประเภทและข้อมูลเมตาในระหว่างนี้
ตามรายงานของ Wall Street Journal OpenAI ได้พัฒนาเครื่องมือเพื่อจดจำข้อความที่สร้างโดย ChatGPT ด้วยความแม่นยำสูง แต่ยังไม่ได้เปิดตัวอย่างเป็นทางการ เครื่องมือนี้วางแผนที่จะระบุเนื้อหาที่สร้างโดย ChatGPT โดยการฝังลายน้ำที่มองไม่เห็นในข้อความ แต่เทคโนโลยีนี้ยังคงเผชิญกับความท้าทายมากมาย เช่น ปัญหาความล้มเหลวเมื่อเผชิญกับการแก้ไขและการแปลข้อความ และการเลือกปฏิบัติต่อคนบางกลุ่ม OpenAI เน้นย้ำว่าเทคโนโลยีนี้เป็นเพียงหนึ่งในโซลูชันมากมายที่พวกเขากำลังสำรวจ และพวกเขาจะพัฒนาการวิจัยนี้อย่างระมัดระวัง และจัดลำดับความสำคัญในการพัฒนาเครื่องมือตรวจสอบสิทธิ์สำหรับเนื้อหาภาพและเสียง การเคลื่อนไหวครั้งนี้กระตุ้นให้เกิดการอภิปรายอย่างกว้างขวางในอุตสาหกรรมเกี่ยวกับการระบุและการจัดการเนื้อหาที่สร้างโดย AI และวิธีสร้างสมดุลระหว่างการปกป้องนวัตกรรมและการป้องกันความเสี่ยงกลายเป็นประเด็นสำคัญ
OpenAI กล่าวว่าลายน้ำข้อความเป็นเพียงหนึ่งในหลาย ๆ โซลูชั่นที่กำลังสำรวจ รวมถึงตัวแยกประเภทและข้อมูลเมตาที่มีวัตถุประสงค์เพื่อกำหนดที่มาของข้อความ แม้ว่าเทคโนโลยีลายน้ำข้อความจะทำงานได้ดีในบางกรณี แต่ประสิทธิภาพจะลดลงเมื่อต้องเผชิญกับการแก้ไข เช่น การแปล การเขียนใหม่ หรือการแทรกอักขระพิเศษ นอกจากนี้ เทคโนโลยีนี้อาจส่งผลกระทบอย่างไม่สมสัดส่วนกับบางกลุ่ม เช่น ผู้พูดภาษาอังกฤษที่ไม่ใช่เจ้าของภาษา
เมื่อพิจารณาจากปัจจัยที่ซับซ้อนข้างต้นและผลกระทบที่อาจเกิดขึ้นต่อระบบนิเวศทั้งหมด OpenAI ระบุว่าจะพัฒนาการวิจัยเกี่ยวกับเทคโนโลยีการระบุแหล่งที่มาของข้อความอย่างระมัดระวัง และจัดลำดับความสำคัญของการพัฒนาเครื่องมือตรวจสอบสิทธิ์สำหรับเนื้อหาภาพและเสียง
การตัดสินใจครั้งนี้กระตุ้นให้เกิดการอภิปรายอย่างกว้างขวางในอุตสาหกรรมเกี่ยวกับการระบุและการจัดการเนื้อหาที่สร้างโดย AI ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI การสร้างสมดุลระหว่างการปกป้องนวัตกรรมและการป้องกันความเสี่ยงจึงกลายเป็นจุดสนใจของทุกฝ่าย
ทัศนคติที่ระมัดระวังของ OpenAI ต่อเทคโนโลยีการตรวจสอบย้อนกลับเนื้อหา AI สะท้อนให้เห็นถึงความซับซ้อนและความท้าทายด้านจริยธรรมของการพัฒนาเทคโนโลยี ในอนาคต วิธีการระบุและจัดการเนื้อหาที่สร้างโดย AI อย่างมีประสิทธิภาพจะเป็นประเด็นสำคัญที่น่ากังวลอย่างต่อเนื่องในด้านปัญญาประดิษฐ์ ซึ่งต้องใช้ความพยายามร่วมกันจากเทคโนโลยี นโยบาย และจริยธรรม