제너레이티브 AI(Generative AI)의 등장으로 허위정보의 확산이 심각한 문제가 됐다. 심층 위조 기술의 급속한 발전으로 인해 네트워크 보안은 큰 과제에 직면하게 되었습니다. 이러한 위협에 맞서기 위해 Meta는 딥페이크 비디오에 맞서고 눈에 띄지 않는 워터마킹 기술을 통해 콘텐츠 독창성을 보호하는 것을 목표로 하는 Meta Video Seal이라는 새로운 도구를 출시했습니다. 이 도구는 오픈 소스로 출시되었으며 이전에 출시된 Meta의 워터마킹 도구와 결합되어 보다 포괄적인 딥페이크 방지 솔루션을 구성합니다.
생성 인공지능이 상용화되면서 온라인상에서 허위 콘텐츠의 양이 급격히 늘어났다. 신원 확인 플랫폼 Sumsub의 데이터에 따르면 글로벌 딥페이크의 수는 2023년부터 2024년까지 4배로 증가할 것입니다. 딥페이크는 명의 도용, 계정 탈취부터 정교한 사회 공학 캠페인에 이르기까지 모든 사기 행위의 7%를 차지할 것입니다.
이 문제를 해결하기 위해 Meta는 AI 생성 비디오에 눈에 띄지 않는 워터마크를 추가하여 딥페이크에 맞서도록 설계된 새로운 도구인 Meta Video Seal을 출시했습니다. 목요일에 오픈 소스로 출시된 이 도구는 기존 소프트웨어에 쉽게 통합되고 Meta가 이전에 출시한 다른 워터마킹 도구인 Watermark Anything 및 Audio Seal을 보완하도록 설계되었습니다.
메타의 인공지능 연구 과학자 피에르 페르난데스(Pierre Fernandez)는 인터뷰에서 “우리는 특히 AI 생성 비디오를 감지하고 독창성을 보호하기 위해 보다 효과적인 비디오 워터마킹 솔루션을 제공하기 위해 Video Seal을 개발했습니다.”라고 말했습니다.
Video Seal이 제안된 최초의 비디오 워터마킹 기술은 아니지만 DeepMind의 SynthID와 Microsoft의 워터마킹 방식도 시장에서 사용되고 있지만 Fernandez는 기존 워터마킹 도구에는 일반적으로 몇 가지 단점이 있다고 지적했습니다. 그는 "다른 워터마킹 도구도 있지만 비디오 압축 후에는 제대로 작동하지 않습니다. 이는 소셜 플랫폼에 콘텐츠를 배포할 때 흔히 발생하는 일입니다. 일부 방법은 효율성이 떨어지며 공개하거나 복제할 수도 없습니다. 또한 많은 방법이 이미지 워터마킹에서 파생되었지만 이미지 워터마킹은 영상에는 적합하지 않습니다."
Video Seal은 워터마크 기능 외에도 동영상에 숨겨진 정보를 삽입할 수 있으며, 나중에 공개하여 동영상 출처를 추적할 수 있습니다. Meta는 Video Seal이 일반적으로 사용되는 압축 알고리즘뿐만 아니라 흐림 및 자르기와 같은 일반적인 편집 방법에 효과적으로 저항할 수 있다고 주장합니다.
그러나 Fernandez는 Video Seal에 특정 제한 사항, 특히 워터마크의 인식성과 변조에 대한 저항성 사이의 균형이 있다는 점도 인정했습니다. 그는 과도한 압축과 과도한 편집으로 인해 워터마크가 파괴되거나 복구할 수 없게 될 수 있다고 지적합니다.
Meta의 더 큰 과제는 개발자와 업계 플레이어, 특히 이미 다른 독점 솔루션을 사용하고 있는 개발자와 업계 플레이어가 Video Seal을 사용할 인센티브가 부족하다는 것입니다. 이를 위해 Meta는 다양한 워터마킹 기술의 성능을 비교하기 위해 Meta Omni Seal Bench라는 공개 순위 목록을 출시했으며, 올해 주요 AI 컨퍼런스 ICLR에서 워터마킹 기술에 대한 세미나를 개최할 예정입니다.
Fernandez는 "우리는 점점 더 많은 AI 연구자와 개발자가 어떤 형태로든 워터마킹 기술을 자신의 작업에 통합하기를 희망하며 업계 및 학계와 협력하여 이 분야에서 더 빠른 발전을 이루기를 희망합니다"라고 말했습니다.
Meta Video Seal의 오픈 소스 릴리스는 심층 위조에 맞서 싸울 수 있는 새로운 무기를 제공하지만, 허위 정보의 확산을 효과적으로 억제할 수 있는지 여부는 여전히 시간의 시험과 업계의 공동 노력이 필요합니다. 기술의 지속적인 발전과 광범위한 적용이 이 문제를 해결하는 열쇠가 될 것입니다.