Deepfake 技術的快速發展帶來了嚴重的網路安全威脅，虛假資訊氾濫成災。根據統計，Deepfake 相關詐欺行為成長迅速，已成為不容忽視的問題。為了因應這項挑戰，科技公司紛紛尋求解決方案，其中Meta公司推出的Video Seal工具備受關注。該工具旨在透過在AI生成的影片中添加難以察覺的水印來打擊Deepfake，並開源其技術，以促進更廣泛的合作和發展。
如今，Deepfake 已經無孔不入。隨著生成式AI 的普及，網路上的虛假內容呈現爆炸性成長。根據身分驗證平台Sumsub 統計，2023年至2024年，全球Deepfake 數量增加了4倍。 2024年，Deepfake 佔所有詐欺行為的7%，從身分冒充、帳戶盜用到複雜的社會工程攻擊，無不涉及Deepfake 的身影。
為了有效打擊Deepfake，Meta 公司最近發布了一款工具，可以在AI 生成的影片片段上添加難以察覺的浮水印。這款名為Meta Video Seal 的工具於週四宣布開源，旨在整合到現有軟體中。 該工具與Meta 的其他浮水印工具Watermark Anything（今天以寬鬆許可證重新發布）和Audio Seal 一起，構成了一套完善的水印解決方案。
Meta AI 研究科學家皮埃爾·費爾南德斯在接受TechCrunch 採訪時表示：“我們開發Video Seal 是為了提供更有效的視頻水印解決方案，特別是在檢測AI 生成的視頻和保護原創性方面。”
Video Seal 並非首個此類技術。 DeepMind 的SynthID 可以為影片添加浮水印，微軟也有自己的視訊浮水印方法。
但費南德斯認為，許多現有方法存在不足之處。
「雖然有其他浮水印工具，但它們在視訊壓縮方面的穩健性不足（當透過社群平台分享內容時，視訊壓縮非常普遍）;運作效率不足以大規模應用;不夠開放或可重複;或源自影像浮水印，而影像浮水印並非影片的最佳選擇，」費爾南德斯說。
除了浮水印，Video Seal 還可以為影片添加隱藏訊息，以便日後揭示影片的來源。 Meta 聲稱，Video Seal 可以抵禦常見的編輯操作，例如模糊和裁剪，以及常見的壓縮演算法。
費爾南德斯承認，Video Seal 存在一定的局限性，主要是水印的可感知程度與其對操控的整體抵抗力之間的權衡。他補充說，高強度壓縮和重大編輯可能會改變水印或使其無法恢復。
當然，Video Seal 面臨的更大問題是，開發人員和產業界沒有太多理由採用它，特別是那些已經使用專有解決方案的公司。為了解決這個問題，Meta 正在啟動一個公共排行榜Meta Omni Seal Bench，專門用於比較各種水印方法的性能。此外，Meta 還將在今年的ICLR （國際學習表示會議） 上舉辦一個關於水印的研討會。 ICLR 是一個重要的AI 會議。
「我們希望越來越多的AI 研究人員和開發人員將某種形式的水印整合到他們的工作中，」費爾南德斯說，「我們希望與行業和學術界合作，以更快地推動這一領域的發展。
Meta 的這一舉動，無疑為對抗Deepfake 氾濫提供了新的思路。開源、開放協作，或許是解決這個棘手問題的有效方法。但Video Seal 的未來，仍取決於其能否被業界廣泛接受和應用，以及其在對抗Deepfake “魔高一尺” 的能力。
總而言之，Meta 的Video Seal 工具為對抗Deepfake 提供了一種新的嘗試，但其成功與否仍有待觀察，未來需要更多技術創新和產業合作才能有效解決Deepfake 問題。 開源和協作精神是關鍵，但這需要時間和持續的努力。