ディープフォージェリ技術の急速な発展により、ネットワークセキュリティは前例のない課題に直面しています。虚偽の情報の蔓延は、個人および社会の安全を深刻に脅かします。この問題に対処するため、テクノロジー企業は解決策を模索しており、その中でも有効な防止手法の一つとしてウォーターマーク技術が考えられています。本稿では、Meta Companyが発売した最新のAIビデオ透かしツール「Meta Video Seal」とその技術的特徴、今後の開発計画について解説します。
ディープフェイク技術の人気が高まるにつれ、ウェブ上の偽コンテンツの量は爆発的に増加しました。 ID認証プラットフォームSumsubによると、ディープフェイクの数は2023年から2024年にかけて4倍に増加し、2024年には詐欺全体の7％をディープフェイクが占めると予想されている。これらには、ID のなりすまし、アカウントの乗っ取り、高度なソーシャル エンジニアリング攻撃が含まれます。
この課題に対処するために、Meta は最近、AI で生成されたビデオ クリップにほとんど知覚できない透かしを追加するように設計された新しい透かしツール Meta Video Seal を発表しました。このツールはオープンソースであり、既存のソフトウェアとシームレスに統合できるように設計されています。 Meta Video Seal は、Watermark Anything や Audio Seal など、Meta の他の既存の透かしツールに加わります。
MetaのAI研究科学者ピエール・フェルナンデス氏はTechCrunchに対し、「特にAI生成ビデオの検出とオリジナル性の保護を目的として、より効果的なビデオ透かしソリューションを提供するためにVideo Sealを開発した」と語った。
Video Seal はそのような技術の最初のものではありませんが、DeepMind と Microsoft も同様のビデオ透かし技術を持っていますが、Fernandez 氏は、既存のソリューションには欠点があると考えています。同氏は、「多くの透かしツールはビデオ圧縮において十分な堅牢性を備えておらず、ソーシャルプラットフォームで広く使用することができず、オープン性や再現性に欠けている」と指摘した。
ウォーターマークに加えて、Video Seal はビデオに隠された情報を追加して、後でソースを特定することができます。 Meta は、このツールはぼかしやトリミングなどの一般的な編集操作や一般的な圧縮アルゴリズムに対して耐性があると主張しています。ただし、フェルナンデス氏は、Video Seal には透かしの認識しやすさと改ざんに対する堅牢性の間にトレードオフがあることも認めています。過度の圧縮や大量の編集はウォーターマークに影響を与え、回復不能になる可能性があります。
もちろん、Video Seal にとってのより大きな課題は、開発者や業界での採用率が低い可能性があることです。特に、すでに独自のソリューションを使用している企業にとってはそうです。この問題を解決するために、Meta は公開ランキング リストである Meta Omni Seal Bench を立ち上げ、特にさまざまな透かし手法のパフォーマンスを比較するために使用し、今年の ICLR カンファレンスで透かしワークショップを開催する予定です。
フェルナンデス氏は、ますます多くの AI 研究者や開発者が何らかの形の透かしを自分の研究に組み込んで、産業界や学界と協力してこの分野の進歩を進めることを期待しています。
Meta Video Seal の発売は、深刻な偽造に対する新しい武器を提供しますが、その最終的な効果をテストするにはまだ時間と練習が必要です。 オープンソースと業界のコラボレーションは、その有効性を確保するための重要な要素となります。業界全体の共同の取り組みを通じてのみ、ディープ偽造によってもたらされる課題に効果的に対処し、サイバースペースのセキュリティと秩序を維持することができます。