เมื่อเร็วๆ นี้ บริษัท เซินเจิ้น Reecho Technology Co., Ltd. ได้ออกแถลงการณ์เพื่อตอบสนองต่อเหตุการณ์ที่ว่า Reecho แพลตฟอร์มโมเดลขนาดใหญ่พากย์เสียง AI ที่พัฒนาขึ้นอย่างอิสระของบริษัท ถูกนำมาใช้เพื่อสร้างเสียงและวิดีโอปลอม ในเหตุการณ์นี้ ผู้ต้องสงสัยใช้ Reecho เพื่อโคลนเสียงของเหยื่อ Lu และเผยแพร่ข้อมูลเท็จ บรรณาธิการของ Downcodes จะให้คำอธิบายโดยละเอียดเกี่ยวกับเหตุการณ์และการตอบกลับที่เกี่ยวข้อง
เมื่อเร็วๆ นี้ บริษัท เซินเจิ้น Reecho Technology Co., Ltd. ได้ออกแถลงการณ์ยืนยันว่าส่วนเสียงของสื่อเสียงและวิดีโอที่เผยแพร่เมื่อวันที่ 16 กันยายน ได้รับการโคลนโดยผู้ต้องสงสัยโดยใช้แพลตฟอร์มจำลองขนาดใหญ่ Reecho AI ที่พัฒนาขึ้นโดยอิสระ เสียงมาจากคลิปถ่ายทอดสดของ Lu
บริษัทได้เปิดตัวกลไกการตรวจสอบภายในเพื่อเสริมสร้างการควบคุมความปลอดภัยของการตรวจสอบตัวตนของผู้ใช้และการสร้างเสียง เพื่อให้มั่นใจว่ามีการใช้เทคโนโลยีที่ถูกกฎหมายและเป็นไปตามข้อกำหนด
Reecho Ruisheng กล่าวว่า Yanyu Technology เป็นทีมสตาร์ทอัพที่ก่อตั้งขึ้นเมื่อไม่ถึงปีที่แล้ว โดยมุ่งมั่นที่จะสำรวจเทคโนโลยีล้ำสมัยด้านเสียงและปัญญาประดิษฐ์สำหรับมนุษย์ ในฐานะแพลตฟอร์มเทคโนโลยีการสังเคราะห์เสียงและการพากย์เสียง AI ต่อหน้าสาธารณะแห่งแรกของเรา Reecho มีเป้าหมายที่จะปรับปรุงประสิทธิภาพและความสะดวกในการผลิตเนื้อหาสร้างสรรค์ผ่านเทคโนโลยีล้ำสมัยที่พัฒนาขึ้นเอง
ในเวลาเดียวกัน สำนักงานรักษาความปลอดภัยสาธารณะประจำเทศบาลเหอเฟย สาขาเทคโนโลยีขั้นสูง ได้รับการแจ้งเตือนเมื่อวันที่ 20 กันยายน และได้เริ่มการสืบสวนเกี่ยวกับเสียงและวิดีโอเท็จที่เกี่ยวข้องกับหลู่ หลังจากการสอบสวน ตำรวจได้จับกุมผู้ต้องสงสัยหวัง วัย 25 ปี ในตอนเย็นของวันที่ 22 กันยายน และพบว่าเขาใช้เครื่องมือ AI เพื่อสร้างเสียงและสังเคราะห์วิดีโอเพื่อเผยแพร่ ทำให้เกิดข่าวลืออย่างกว้างขวาง หวังได้ดำเนินมาตรการบังคับทางอาญาตามกฎหมายแล้ว และคดีดังกล่าวยังอยู่ในระหว่างการสอบสวนเพิ่มเติม
เหตุการณ์นี้เผยให้เห็นความเสี่ยงด้านความปลอดภัยที่มีอยู่ในกระบวนการประยุกต์ใช้เทคโนโลยี AI และยังเตือนให้บริษัท AI เสริมสร้างการป้องกันความปลอดภัยด้านเทคนิคและมาตรฐานทางจริยธรรมอีกด้วย การตอบสนองของ Ruiyu Technology แสดงให้เห็นว่าบริษัทตระหนักถึงปัญหาดังกล่าว และกำลังใช้มาตรการอย่างแข็งขันเพื่อปรับปรุง หวังว่าเทคโนโลยี AI จะสามารถพัฒนาในสภาพแวดล้อมที่ปลอดภัยและปฏิบัติตามข้อกำหนดได้ในอนาคต และสร้างมูลค่าเพิ่มให้กับสังคม