随着生成式AI的兴起，虚假信息泛滥成为严峻问题。深度伪造技术的快速发展，使得网络安全面临巨大挑战。为了应对这一威胁，Meta公司推出了名为Meta Video Seal的新工具，旨在通过不可察觉的水印技术打击深度伪造视频，保护内容原创性。该工具已开源发布，并与Meta之前发布的水印工具相结合，构成一套更全面的反深度伪造方案。
随着生成式人工智能的商业化，网上虚假内容的数量急剧增加。根据身份验证平台Sumsub的数据显示，从2023年到2024年，全球深度伪造的数量增长了四倍。2024年，深度伪造占所有欺诈行为的7%，涉及从冒名顶替、账户接管到复杂的社会工程活动等多种形式。
为应对这一问题，Meta发布了一款新的工具——Meta Video Seal，旨在通过在AI生成的视频中加入不可察觉的水印来打击深度伪造。这款工具于周四开源发布，旨在便于集成到现有的软件中，并与Meta之前推出的其他水印工具Watermark Anything和Audio Seal相辅相成。
Meta的人工智能研究科学家Pierre Fernandez在接受访时表示:“我们开发Video Seal的目的是提供更有效的视频水印解决方案，特别是用于检测人工智能生成的视频并保护原创性。”
尽管Video Seal并不是首个提出的视频水印技术，DeepMind的SynthID和微软的水印方法也在市场上已有一定应用，但费尔南德斯指出，现有的水印工具普遍存在一些不足之处。他表示:“虽然有其他水印工具，但它们在视频压缩后效果不佳，而视频压缩在社交平台上传播内容时非常常见;一些方法的运行效率也较低，无法开放或无法复制;此外，许多方法源自图像水印，但图像水印并不适用于视频。”
除了水印功能，Video Seal还可以在视频中嵌入隐藏信息，后续可以通过揭开这些信息来追溯视频的来源。Meta宣称，Video Seal能够有效抵抗模糊、裁剪等常见编辑手段，以及常用的压缩算法。
然而，Fernandez也承认，Video Seal存在一定的局限性，特别是在水印的可察觉程度与抗篡改能力之间的权衡。他指出，过度压缩和大幅编辑可能会破坏水印或使其无法恢复。
Meta面临的更大挑战是，开发者和行业人士缺乏使用Video Seal的动机，特别是那些已经在使用其他专有解决方案的用户。为此，Meta推出了一个名为Meta Omni Seal Bench的公共排行榜，用于对比不同水印技术的性能，并将在今年的主要AI会议ICLR上举办一场关于水印技术的研讨会。
Fernandez表示:“我们希望越来越多的AI研究人员和开发者能够在他们的工作中融入某种形式的水印技术，并希望与业界和学术界合作，推动该领域的更快发展。”
Meta Video Seal的开源发布，为对抗深度伪造提供了新的武器，但其能否有效遏制虚假信息蔓延，还需要时间的检验和业界的共同努力。 技术的不断进步和广泛应用，将是解决这一问题的关键。