隨著生成式AI的興起，假訊息氾濫成為嚴峻問題。深度偽造技術的快速發展，使得網路安全面臨巨大挑戰。為了應對這一威脅，Meta公司推出了名為Meta Video Seal的新工具，旨在透過不可察覺的水印技術打擊深度偽造視頻，保護內容原創性。該工具已開源發布，並與Meta先前發布的水印工具相結合，構成一套更全面的反深度偽造方案。
隨著生成式人工智慧的商業化，網路上虛假內容的數量急劇增加。根據身分驗證平台Sumsub的數據顯示，從2023年到2024年，全球深度偽造的數量增加了四倍。 2024年，深度偽造佔所有詐欺行為的7%，涉及從冒名頂替、帳戶接管到複雜的社會工程活動等多種形式。
為應對這一問題，Meta發布了一款新的工具——Meta Video Seal，旨在透過在AI生成的影片中加入不可察覺的浮水印來打擊深度偽造。這款工具於週四開源發布，旨在便於整合到現有的軟體中，並與Meta先前推出的其他水印工具Watermark Anything和Audio Seal相輔相成。
Meta的人工智慧研究科學家Pierre Fernandez在接受訪時表示：“我們開發Video Seal的目的是提供更有效的視頻水印解決方案，特別是用於檢測人工智能生成的視頻並保護原創性。”
儘管Video Seal並不是首個提出的視訊浮水印技術，DeepMind的SynthID和微軟的浮水印方法也在市場上已有一定應用，但費南德斯指出，現有的水印工具普遍存在一些不足之處。他表示:「雖然有其他浮水印工具，但它們在視頻壓縮後效果不佳，而視頻壓縮在社交平台上傳播內容時非常常見;一些方法的運行效率也較低，無法開放或無法複製;此外，許多方法源自於影像浮水印，但影像浮水印並不適用於影片。
除了浮水印功能，Video Seal還可以在影片中嵌入隱藏訊息，後續可以透過揭開這些資訊來追溯影片的來源。 Meta宣稱，Video Seal能夠有效抵抗模糊、裁剪等常見編輯手段，以及常用的壓縮演算法。
然而，Fernandez也承認，Video Seal存在一定的局限性，特別是在水印的可察覺程度與抗篡改能力之間的權衡。他指出，過度壓縮和大幅編輯可能會破壞浮水印或使其無法恢復。
Meta面臨的更大挑戰是，開發者和業界人士缺乏使用Video Seal的動機，特別是那些已經在使用其他專有解決方案的用戶。為此，Meta推出了一個名為Meta Omni Seal Bench的公開排行榜，用於對比不同水印技術的性能，並將在今年的主要AI會議ICLR上舉辦一場關於水印技術的研討會。
Fernandez表示:“我們希望越來越多的AI研究人員和開發者能夠在他們的工作中融入某種形式的水印技術，並希望與業界和學術界合作，推動該領域的更快發展。”
Meta Video Seal的開源發布，為對抗深度偽造提供了新的武器，但其能否有效遏制虛假資訊蔓延，還需要時間的檢驗和業界的共同努力。 技術的不斷進步和廣泛應用，將是解決這個問題的關鍵。