ตามรายงานของ Economic Daily ชุดวิดีโอพากย์ที่สร้างโดย AI ดึงดูดความสนใจบนอินเทอร์เน็ต ไม่เพียงแต่ภาพจะเหมือนจริงเท่านั้น แต่ลักษณะเสียงยังเกือบจะเหมือนกับภาพคนจริงอีกด้วย 100 ล้านครั้งในช่วงเวลาสั้นๆ อย่างไรก็ตาม เนื้อหาในวิดีโอเหล่านี้ไม่เกี่ยวข้องกับบุคคลสาธารณะในรูปภาพ และได้ถูกลบออกจากแพลตฟอร์มแล้ว
การพัฒนาเทคโนโลยี AI ได้ลดเกณฑ์สำหรับการปลอมแปลงในเชิงลึกและการผลิตจำนวนมากที่มีต้นทุนต่ำ และรูปภาพที่สร้างโดย AI วิดีโอที่เปลี่ยนเสียงและเปลี่ยนใบหน้าก็ปรากฏเป็นจำนวนมาก แม้ว่าวิดีโอเหล่านี้จะสะดุดตา แต่ความเสี่ยงที่ซ่อนอยู่เบื้องหลังนั้นก็ไม่สามารถละเลยได้
ปัจจุบัน การสร้างและเผยแพร่ข้อมูลเท็จกลายเป็นปัญหาระดับโลก และการใช้เทคโนโลยีการสังเคราะห์ปัญญาประดิษฐ์เพื่อทำให้ดูเหมือนจริง กำลังทำให้คนทั่วไปประสบปัญหาในการระบุข้อมูล "รายงานความปลอดภัยด้านปัญญาประดิษฐ์ปี 2024" แสดงให้เห็นว่าการฉ้อโกงการปลอมแปลงเชิงลึกโดยใช้ AI จะเพิ่มขึ้น 30 เท่าในปี 2566 ก่อให้เกิดภัยคุกคามร้ายแรงต่อความปลอดภัยของเครือข่ายและประกันสังคม การแพร่กระจายของข้อมูลเท็จไม่เพียงแต่ขัดขวางระเบียบปกติของไซเบอร์สเปซเท่านั้น แต่ยังอาจส่งผ่านอารมณ์เชิงลบจากโลกเสมือนจริงไปสู่ความเป็นจริง ซึ่งทำให้ความวิตกกังวลทางสังคมรุนแรงขึ้น
การจัดการกับความโกลาหล เช่น การปลอมแปลงข้อมูลอย่างล้ำลึก จำเป็นต้องได้รับความร่วมมือจากหลายฝ่ายและการกำกับดูแลร่วมกัน ปัจจุบันประเทศของเราได้ประกาศใช้กฎหมายและข้อบังคับเช่น "ข้อบังคับเกี่ยวกับการจัดการการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต" เพื่อเสริมสร้างการจัดการเนื้อหาจากแหล่งที่มา ในเวลาเดียวกัน การเปิดตัว "มาตรการสำหรับการติดฉลากเนื้อหาสังเคราะห์ที่สร้างโดยปัญญาประดิษฐ์ (ร่างสำหรับความคิดเห็น)" ยังแสดงให้เห็นว่าระดับชาติกำลังเพิ่มการกำกับดูแลเทคโนโลยี AI มีเพียงการอนุญาตให้ AI พัฒนาอย่างมีสุขภาพที่ดีภายในกรอบทางกฎหมายและการปฏิบัติตามข้อกำหนดเท่านั้นที่ผู้คนสามารถเพลิดเพลินกับผลตอบแทนที่เกิดจากการเปลี่ยนแปลงทางเทคโนโลยีอย่างแท้จริง และส่งเสริมการพัฒนาที่ดีของอุตสาหกรรมปัญญาประดิษฐ์
ในฐานะส่วนสำคัญของการเผยแพร่ข้อมูล ผู้ให้บริการแพลตฟอร์มและผู้ให้บริการควรมีความรับผิดชอบที่เกี่ยวข้อง ขีดเส้นสีแดงสำหรับเนื้อหาที่สร้างโดย AI ห้ามมิให้มีการเผยแพร่เนื้อหาที่ผิดกฎหมาย ละเมิดลิขสิทธิ์ และฉ้อโกงโดยเด็ดขาด และเพิ่มสัญญาณเตือนที่ชัดเจนเพื่อป้องกันการแพร่กระจายข้อมูลอันเป็นเท็จ . นอกจากนี้ การใช้ลายน้ำดิจิทัล การประทับเวลา ฟังก์ชันแฮช และวิธีการทางเทคนิคอื่นๆ ไม่เพียงแต่สามารถปรับปรุงความสามารถในการตรวจสอบความถูกต้องของข้อมูลเท่านั้น แต่ยังเป็นวิธีที่มีประสิทธิภาพในการป้องกันการแพร่กระจายของข้อมูลเท็จอีกด้วย ในฐานะผู้บริโภคเนื้อหา ผู้ชมควรระมัดระวัง ปรับปรุงความสามารถในการระบุเนื้อหาที่สร้างโดย AI และหลีกเลี่ยงความเชื่อที่มีอคติ