В связи с быстрым развитием технологии глубокой подделки сетевая безопасность сталкивается с беспрецедентными проблемами. Распространение ложной информации серьезно угрожает личной и социальной безопасности. Чтобы справиться с этой проблемой, технологические компании ищут решения, среди которых технология водяных знаков считается одним из эффективных методов предотвращения. В этой статье основное внимание будет уделено Meta Video Seal, новейшему инструменту создания водяных знаков на основе искусственного интеллекта, выпущенному компанией Meta Company, а также техническим характеристикам и планам дальнейшего развития этого инструмента.
Поскольку технология дипфейков становится все более популярной, количество фейкового контента в сети резко возросло. По данным платформы проверки личности Sumsub, количество дипфейков увеличится в четыре раза с 2023 по 2024 год, при этом на долю дипфейков в 2024 году придется 7% всего мошенничества. К ним относятся выдача себя за другое лицо, захват учетных записей и сложные атаки социальной инженерии.
Чтобы решить эту проблему, Meta недавно запустила новый инструмент для нанесения водяных знаков Meta Video Seal, предназначенный для добавления почти незаметного водяного знака в видеоклипы, созданные искусственным интеллектом. Инструмент имеет открытый исходный код и предназначен для полной интеграции с существующим программным обеспечением. Meta Video Seal дополняет другие существующие инструменты Meta для создания водяных знаков, такие как Watermark Anything и Audio Seal.
«Мы разработали Video Seal, чтобы обеспечить более эффективное решение для нанесения водяных знаков на видео, особенно для обнаружения видео, созданных искусственным интеллектом, и защиты оригинальности», — рассказал TechCrunch научный сотрудник Meta в области искусственного интеллекта Пьер Фернандес.
Хотя Video Seal — не первая подобная технология, у DeepMind и Microsoft также есть подобная технология нанесения водяных знаков на видео, однако Фернандес считает, что некоторые существующие решения имеют недостатки. Он отметил: «Многие инструменты для создания водяных знаков недостаточно надежны при сжатии видео, не могут широко использоваться на социальных платформах и им не хватает открытости и воспроизводимости».
Помимо водяных знаков, Video Seal может добавлять к видео скрытую информацию, чтобы позже определить ее источник. Meta утверждает, что инструмент устойчив к обычным операциям редактирования, таким как размытие и обрезка, а также к популярным алгоритмам сжатия. Однако Фернандес также признает, что Video Seal приходится искать компромисс между различимостью водяного знака и его устойчивостью к манипуляциям. Чрезмерное сжатие и интенсивное редактирование могут повлиять на водяные знаки и даже сделать их невозвратимыми.
Конечно, более серьезной проблемой для Video Seal является то, что внедрение среди разработчиков и отрасли может быть низким, особенно для компаний, уже использующих собственные решения. Чтобы решить эту проблему, Meta планирует запустить публичный рейтинговый список Meta Omni Seal Bench, специально используемый для сравнения эффективности различных методов нанесения водяных знаков, и провести семинар по водяным знакам на конференции ICLR в этом году.
Фернандес надеется, что все больше и больше исследователей и разработчиков ИИ будут интегрировать ту или иную форму водяных знаков в свою работу, работая с промышленностью и научными кругами для продвижения прогресса в этой области.
Запуск Meta Video Seal представляет собой новое оружие против глубокой подделки, но для проверки его окончательного эффекта все еще требуется время и практика. Сотрудничество с открытым исходным кодом и промышленностью станет ключевым фактором обеспечения его эффективности. Только совместными усилиями всей отрасли мы сможем эффективно справиться с проблемами, вызванными глубокой подделкой, и поддерживать безопасность и порядок в киберпространстве.