การพัฒนาอย่างรวดเร็วของเทคโนโลยี AI นำมาซึ่งความสะดวกสบายมากมาย แต่ก็ส่งผลกระทบเชิงลบเช่นกัน การใช้ AI เพื่อสังเคราะห์วิดีโอเท็จและเผยแพร่ข้อมูลเท็จกำลังเพิ่มมากขึ้น ส่งผลกระทบต่อระเบียบสังคมอย่างรุนแรง และเป็นอันตรายต่อผลประโยชน์ทางสังคมและสาธารณะ บทความนี้จะอธิบายกรณีการใช้ AI สังเคราะห์วิดีโอเพื่อเผยแพร่ข่าวลือ และใช้สิ่งนี้เพื่อเตือนทุกคนให้ใช้เทคโนโลยี AI อย่างถูกต้องเพื่อหลีกเลี่ยงการละเมิดกฎหมาย
ในปัจจุบัน จึงไม่น่าแปลกใจที่ AI จะสร้างเนื้อหาที่เป็นเท็จ อย่างไรก็ตาม มีชายคนหนึ่งใช้เทคโนโลยี AI เพื่อสังเคราะห์วิดีโอและถูกจับได้ว่าเผยแพร่ข้อมูลที่เป็นเท็จ นอกจากนี้ยังเตือนให้ทุกคนใช้เครื่องมือ AI ด้วยความระมัดระวังเพื่อหลีกเลี่ยงผลเสีย
ตามรายงาน เมื่อเดือนมิถุนายนปีนี้ ตำรวจเซียะเหมินได้รับรายงานว่ามีคนโพสต์วิดีโอเกี่ยวกับ Toutiao ในวันนี้ เนื้อหาดังกล่าวเป็นเรื่องเกี่ยวกับชายวัย 70 ปีคนหนึ่งถูกทุบตีในสถานที่แห่งหนึ่งในมณฑลกวางตุ้ง แม่น้ำและผู้ตีถูกตัดสินลงโทษ ทันทีที่วิดีโอนี้ถูกเผยแพร่ ก็ได้รับความสนใจอย่างกว้างขวางทันที
อย่างไรก็ตาม หลังจากการสอบสวนของตำรวจพบว่านี่เป็นข่าวลือโดยสมบูรณ์ และเจ้าของบัญชี “Xiaoyi Kanshishi” ที่โพสต์วิดีโอ เหริน (อายุ 32 ปี จากมณฑลหูเป่ย) ก็ถูกตำรวจจับกุมในตอนเย็นด้วย วันที่ 13 มิถุนายน
Ren อธิบายว่าเขาใช้เทคโนโลยี AI เพื่อสังเคราะห์วิดีโอภายในเวลาเพียงสองถึงสามนาที ครั้งแรกที่เขาค้นพบชื่อที่สะดุดตาบนอินเทอร์เน็ต จากนั้นใช้แอปเขียนเพื่อสร้างเนื้อหาปลอมโดยอัตโนมัติ จากนั้นสร้างรูปภาพโดยอัตโนมัติตามเนื้อหา และสุดท้ายก็รวมเป็นวิดีโอและเผยแพร่ผ่านแพลตฟอร์มโซเชียล
จุดประสงค์ของเขาในการทำเช่นนี้คือการดึงดูดการเข้าชม เพิ่มจำนวนแฟนๆ และสร้างรายได้ตามการเข้าชมวิดีโอ ตอนนี้ เหรินตกอยู่ภายใต้มาตรการบีบบังคับทางอาญาโดยตำรวจเซียะเหมิน เนื่องจากต้องสงสัยว่าก่อเหตุทะเลาะวิวาทและก่อให้เกิดปัญหา
เหตุการณ์นี้เตือนเราอีกครั้งว่าเทคโนโลยี AI เป็นดาบสองคม ในขณะที่เพลิดเพลินกับความสะดวกสบาย เราต้องระมัดระวังและใช้มันอย่างมีเหตุผลเพื่อหลีกเลี่ยงความรับผิดทางกฎหมายที่เกี่ยวข้องกับการกระทำที่ผิดกฎหมายและทางอาญา ฉันหวังว่าทุกคนจะสามารถเข้าใจและใช้เทคโนโลยี AI ได้อย่างถูกต้อง และร่วมกันรักษาสภาพแวดล้อมเครือข่ายที่ดี