ด้วยการเพิ่มขึ้นของ generative AI การแพร่กระจายของข้อมูลเท็จจึงกลายเป็นปัญหาร้ายแรง การพัฒนาอย่างรวดเร็วของเทคโนโลยีการปลอมแปลงเชิงลึกทำให้ความปลอดภัยของเครือข่ายเผชิญกับความท้าทายครั้งใหญ่ เพื่อต่อสู้กับภัยคุกคามนี้ Meta ได้เปิดตัวเครื่องมือใหม่ที่เรียกว่า Meta Video Seal ซึ่งมีจุดมุ่งหมายเพื่อต่อสู้กับวิดีโอปลอมและปกป้องความคิดริเริ่มของเนื้อหาผ่านเทคโนโลยีลายน้ำที่มองไม่เห็น เครื่องมือนี้เปิดตัวเป็นโอเพ่นซอร์สและรวมกับเครื่องมือลายน้ำที่เปิดตัวก่อนหน้านี้ของ Meta เพื่อสร้างโซลูชันต่อต้าน Deepfake ที่ครอบคลุมมากขึ้น
ด้วยการนำปัญญาประดิษฐ์เจเนอเรชั่นไปใช้ในเชิงพาณิชย์ จำนวนเนื้อหาเท็จทางออนไลน์จึงเพิ่มขึ้นอย่างมาก ตามข้อมูลจากแพลตฟอร์มการยืนยันตัวตน Sumsub จำนวน Deepfakes ทั่วโลกจะเพิ่มขึ้นสี่เท่าตั้งแต่ปี 2023 ถึงปี 2024 Deepfakes จะคิดเป็น 7% ของการฉ้อโกงทั้งหมดในปี 2024 ซึ่งเกี่ยวข้องกับทุกอย่างตั้งแต่การแอบอ้างบุคคลอื่นและการยึดบัญชี ไปจนถึงแคมเปญวิศวกรรมสังคมที่ซับซ้อน
เพื่อต่อสู้กับปัญหานี้ Meta ได้เปิดตัวเครื่องมือใหม่ Meta Video Seal ซึ่งออกแบบมาเพื่อต่อสู้กับ Deepfakes โดยการเพิ่มลายน้ำที่มองไม่เห็นให้กับวิดีโอที่สร้างโดย AI เครื่องมือนี้เปิดตัวเป็นโอเพ่นซอร์สในวันพฤหัสบดี ได้รับการออกแบบให้รวมเข้ากับซอฟต์แวร์ที่มีอยู่ได้อย่างง่ายดาย และเสริมเครื่องมือลายน้ำอื่น ๆ ของ Meta ที่เปิดตัวก่อนหน้านี้ Watermark Anything และ Audio Seal
“เราได้พัฒนา Video Seal เพื่อมอบโซลูชันลายน้ำวิดีโอที่มีประสิทธิภาพมากขึ้น โดยเฉพาะอย่างยิ่งสำหรับการตรวจจับวิดีโอที่สร้างโดย AI และปกป้องความคิดริเริ่ม” Pierre Fernandez นักวิทยาศาสตร์การวิจัยปัญญาประดิษฐ์ของ Meta กล่าวในการให้สัมภาษณ์
แม้ว่า Video Seal จะไม่ใช่เทคโนโลยีลายน้ำวิดีโอแรกที่เสนอ แต่ก็มีการใช้วิธีลายน้ำ SynthID ของ DeepMind และวิธีการใส่ลายน้ำของ Microsoft ในตลาดเช่นกัน แต่เฟอร์นันเดซชี้ให้เห็นว่าเครื่องมือลายน้ำที่มีอยู่โดยทั่วไปมีข้อบกพร่องบางประการ เขากล่าวว่า: "แม้ว่าจะมีเครื่องมือใส่ลายน้ำอื่นๆ อยู่ แต่ก็ทำงานได้ไม่ดีนักหลังจากการบีบอัดวิดีโอ ซึ่งเป็นเรื่องปกติมากเมื่อเผยแพร่เนื้อหาบนแพลตฟอร์มโซเชียล วิธีการบางอย่างยังทำงานได้อย่างมีประสิทธิภาพน้อยลงและไม่สามารถเปิดหรือทำซ้ำได้ นอกจากนี้ ยังมีหลายวิธีอีกด้วย มาจากลายน้ำรูปภาพ แต่ลายน้ำรูปภาพไม่เหมาะกับวิดีโอ"
นอกจากฟังก์ชั่นลายน้ำแล้ว Video Seal ยังสามารถฝังข้อมูลที่ซ่อนอยู่ในวิดีโอซึ่งสามารถเปิดเผยได้ในภายหลังเพื่อติดตามแหล่งที่มาของวิดีโอ Meta อ้างว่า Video Seal สามารถต้านทานวิธีการแก้ไขทั่วไป เช่น การเบลอและการครอบตัด รวมถึงอัลกอริธึมการบีบอัดที่ใช้กันทั่วไปได้อย่างมีประสิทธิภาพ
อย่างไรก็ตาม Fernandez ยังรับทราบด้วยว่า Video Seal มีข้อจำกัดบางประการ โดยเฉพาะอย่างยิ่งการแลกเปลี่ยนระหว่างการรับรู้ของลายน้ำและการต้านทานต่อการปลอมแปลง เขาชี้ให้เห็นว่าการบีบอัดมากเกินไปและการแก้ไขอย่างหนักสามารถทำลายลายน้ำหรือทำให้ไม่สามารถกู้คืนได้
ความท้าทายที่ยิ่งใหญ่กว่าสำหรับ Meta คือการขาดแรงจูงใจสำหรับนักพัฒนาและผู้เล่นในอุตสาหกรรมในการใช้ Video Seal โดยเฉพาะอย่างยิ่งผู้ที่ใช้โซลูชันที่เป็นกรรมสิทธิ์อื่น ๆ อยู่แล้ว ด้วยเหตุนี้ Meta จึงได้เปิดตัวรายการจัดอันดับสาธารณะที่เรียกว่า Meta Omni Seal Bench เพื่อเปรียบเทียบประสิทธิภาพของเทคโนโลยีลายน้ำต่างๆ และจะจัดสัมมนาเกี่ยวกับเทคโนโลยีลายน้ำในการประชุม AI ที่สำคัญของปีนี้ ICLR
“เราหวังว่านักวิจัยและนักพัฒนา AI จะนำเทคโนโลยีลายน้ำบางรูปแบบมาใช้ในงานของพวกเขามากขึ้นเรื่อยๆ และเราหวังว่าจะทำงานร่วมกับภาคอุตสาหกรรมและนักวิชาการเพื่อขับเคลื่อนความก้าวหน้าในสาขานี้ให้เร็วขึ้น” เฟอร์นันเดซกล่าว
การเปิดตัว Meta Video Seal แบบโอเพ่นซอร์สมอบอาวุธใหม่ในการต่อสู้กับการปลอมแปลงอย่างลึกซึ้ง แต่ไม่ว่าจะสามารถควบคุมการแพร่กระจายของข้อมูลเท็จได้อย่างมีประสิทธิภาพหรือไม่นั้นยังคงต้องอาศัยการทดสอบเวลาและความพยายามร่วมกันของอุตสาหกรรม ความก้าวหน้าอย่างต่อเนื่องและการประยุกต์ใช้เทคโนโลยีอย่างแพร่หลายจะเป็นกุญแจสำคัญในการแก้ปัญหานี้