Deepfake 기술의 급속한 발전은 심각한 네트워크 보안 위협을 가져왔고, 허위 정보가 만연해 있습니다. 통계에 따르면 Deepfake 관련 사기가 급속히 증가하여 무시할 수 없는 문제가 되었습니다. 이러한 과제를 해결하기 위해 기술 기업들은 잇달아 솔루션을 모색해 왔으며 그 중 메타컴퍼니가 출시한 Video Seal 툴이 많은 주목을 받았습니다. 이 도구는 AI가 생성한 비디오에 눈에 띄지 않는 워터마크를 추가하여 딥페이크에 맞서는 것을 목표로 하며, 더 광범위한 협업과 개발을 촉진하기 위해 해당 기술을 오픈소스화하고 있습니다.
오늘날 딥페이크는 널리 퍼져 있습니다. 생성 AI가 인기를 얻으면서 웹상의 허위 콘텐츠가 폭발적으로 증가했습니다. 신원 검증 플랫폼 Sumsub의 통계에 따르면 글로벌 Deepfake의 수는 2023년부터 2024년까지 4배 증가할 것으로 예상됩니다. 2024년에는 Deepfake가 신원 도용, 계정 도용부터 복잡한 사회 공학 공격에 이르기까지 Deepfake와 관련된 모든 사기의 7%를 차지할 것입니다.
Deepfakes에 효과적으로 대처하기 위해 Meta는 최근 AI 생성 비디오 클립에 눈에 띄지 않는 워터마크를 추가할 수 있는 도구를 출시했습니다. Meta Video Seal이라고 불리는 이 도구는 목요일에 오픈 소스로 발표되었으며 기존 소프트웨어에 통합되도록 설계되었습니다. 이 도구는 Meta의 다른 워터마킹 도구인 Watermark Anything(허용 라이센스에 따라 오늘 다시 출시됨)과 Audio Seal을 결합하여 완전한 워터마킹 솔루션을 구성합니다.
Meta AI 연구 과학자 Pierre Fernandez는 TechCrunch에 "우리는 특히 AI 생성 비디오를 감지하고 독창성을 보호하는 데 있어 보다 효과적인 비디오 워터마킹 솔루션을 제공하기 위해 Video Seal을 개발했습니다."라고 말했습니다.
Video Seal은 이러한 종류의 최초의 기술은 아닙니다. DeepMind의 SynthID는 동영상에 워터마크를 추가할 수 있으며, Microsoft에도 자체 동영상 워터마킹 방법이 있습니다.
그러나 Fernandez는 기존의 많은 방법이 부족하다고 생각합니다.
"다른 워터마킹 도구가 존재하지만 비디오 압축(콘텐츠가 소셜 플랫폼을 통해 공유될 때 매우 일반적임)에 충분히 강력하지 않고, 대규모 애플리케이션에 효율적으로 실행되지 않으며, 충분히 개방적이거나 반복 가능하지 않습니다. 이미지 워터마크와 이미지 워터마크는 비디오에 가장 적합한 옵션이 아닙니다.”라고 Fernandez는 말했습니다.
워터마크 외에도 Video Seal은 비디오에 숨겨진 메시지를 추가하여 나중에 비디오 소스를 공개할 수 있습니다. Meta는 Video Seal이 흐림 및 자르기와 같은 일반적인 편집 작업은 물론 일반적인 압축 알고리즘에도 저항할 수 있다고 주장합니다.
Fernandez는 Video Seal에 특정 제한 사항이 있다는 점을 인정합니다. 주로 워터마크의 인식 정도와 조작에 대한 전체적인 저항성 사이의 균형입니다. 그는 과도한 압축과 과도한 편집으로 인해 워터마크가 변경되거나 복구할 수 없게 될 수 있다고 덧붙였습니다.
물론 Video Seal의 더 큰 문제는 개발자와 업계, 특히 이미 독점 솔루션을 사용하는 개발자와 업계가 이를 채택할 이유가 많지 않다는 것입니다. 이 문제를 해결하기 위해 Meta는 다양한 워터마킹 방법의 성능을 비교하기 위해 특별히 설계된 공개 순위 목록인 Meta Omni Seal Bench를 출시합니다. 또한, 메타는 올해 ICLR(International Conference on Learning Representations)에서 워터마킹에 관한 워크숍을 개최할 예정입니다. ICLR은 중요한 AI 컨퍼런스입니다.
Fernandez는 "점점 더 많은 AI 연구자와 개발자가 어떤 형태로든 워터마킹을 자신의 작업에 통합하기를 희망합니다. 업계 및 학계와 협력하여 이 분야의 발전을 더욱 빠르게 발전시키길 바랍니다."라고 말했습니다.
Meta의 이러한 움직임은 의심할 여지 없이 Deepfake의 확산을 막기 위한 새로운 아이디어를 제공합니다. 오픈 소스와 개방형 협업은 이 까다로운 문제를 해결하는 효과적인 방법이 될 수 있습니다. 그러나 Video Seal의 미래는 여전히 업계에서 널리 수용되고 적용될 수 있는지 여부와 Deepfake에 맞서 싸울 수 있는 능력에 달려 있습니다.
전체적으로 Meta의 Video Seal 도구는 Deepfake에 맞서기 위한 새로운 시도를 제공하지만, 향후 Deepfake 문제를 효과적으로 해결하려면 더 많은 기술 혁신과 업계 협력이 필요할 것입니다. 오픈 소스와 협업 정신이 핵심이지만 시간과 지속적인 노력이 필요합니다.