심층 위조 기술의 급속한 발전으로 인해 네트워크 보안은 전례 없는 도전에 직면해 있습니다. 허위정보의 확산은 개인과 사회의 안전을 심각하게 위협합니다. 이러한 문제를 해결하기 위해 기술 기업들은 솔루션을 모색해 왔으며, 그 중 워터마크 기술은 효과적인 예방 방법 중 하나로 간주됩니다. 본 글에서는 메타컴퍼니가 출시한 최신 AI 비디오 워터마킹 도구인 Meta Video Seal과 이 도구의 기술적 특징 및 향후 개발 계획에 대해 중점적으로 살펴보겠습니다.
딥페이크 기술이 대중화되면서 웹상의 가짜 콘텐츠의 양이 폭발적으로 늘어났습니다. 신원 확인 플랫폼 Sumsub에 따르면 딥페이크의 수는 2023년부터 2024년까지 4배로 증가할 것이며, 2024년에는 딥페이크가 전체 사기의 7%를 차지할 것입니다. 여기에는 신원 가장, 계정 탈취, 정교한 사회 공학 공격이 포함됩니다.
이러한 문제를 해결하기 위해 Meta는 최근 AI 생성 비디오 클립에 거의 감지할 수 없는 워터마크를 추가하도록 설계된 새로운 워터마킹 도구인 Meta Video Seal을 출시했습니다. 이 도구는 오픈 소스이며 기존 소프트웨어와 원활하게 통합되도록 설계되었습니다. Meta Video Seal은 Watermark Anything 및 Audio Seal과 같은 Meta의 다른 기존 워터마킹 도구에 합류합니다.
Meta의 AI 연구 과학자 Pierre Fernandez는 TechCrunch에 "우리는 특히 AI 생성 비디오를 감지하고 독창성을 보호하기 위해 보다 효과적인 비디오 워터마킹 솔루션을 제공하기 위해 Video Seal을 개발했습니다."라고 말했습니다.
Video Seal이 최초의 기술은 아니지만 DeepMind와 Microsoft도 비슷한 비디오 워터마킹 기술을 보유하고 있지만 Fernandez는 기존 솔루션 중 일부에 단점이 있다고 생각합니다. 그는 "많은 워터마킹 도구는 비디오 압축에 충분히 강력하지 않고 소셜 플랫폼에서 널리 사용할 수 없으며 개방성과 재현성이 부족합니다"라고 지적했습니다.
워터마크 외에도 Video Seal은 비디오에 숨겨진 정보를 추가하여 나중에 소스를 식별할 수 있습니다. Meta는 이 도구가 널리 사용되는 압축 알고리즘뿐만 아니라 흐림 및 자르기와 같은 일반적인 편집 작업에 강하다고 주장합니다. 그러나 Fernandez는 Video Seal이 워터마크의 인식성과 조작에 대한 견고성 사이에서 균형을 이룬다는 점도 인정했습니다. 과도한 압축과 과도한 편집은 워터마크에 영향을 미칠 수 있으며 심지어 복구할 수 없게 만들 수도 있습니다.
물론 Video Seal의 더 큰 과제는 특히 이미 독점 솔루션을 사용하는 회사의 경우 개발자 및 업계 채택률이 낮을 수 있다는 것입니다. 이 문제를 해결하기 위해 Meta는 특히 다양한 워터마킹 방법의 성능을 비교하는 데 사용되는 공개 순위 목록인 Meta Omni Seal Bench를 출시하고 올해 ICLR 컨퍼런스에서 워터마킹 워크숍을 개최할 계획입니다.
Fernandez는 점점 더 많은 AI 연구자와 개발자가 자신의 작업에 일종의 워터마킹을 통합하고 업계 및 학계와 협력하여 이 분야의 발전을 진전시키기를 희망합니다.
Meta Video Seal의 출시는 심층 위조에 대한 새로운 무기를 제공하지만 최종 효과를 테스트하려면 여전히 시간과 연습이 필요합니다. 오픈 소스와 업계 협업은 효율성을 보장하는 핵심 요소가 될 것입니다. 업계 전체의 공동 노력을 통해서만 우리는 심층 위조로 인한 문제를 효과적으로 처리하고 사이버 공간의 보안과 질서를 유지할 수 있습니다.