生成型 AI の台頭により、誤った情報の蔓延が深刻な問題となっています。ディープ フォージリ テクノロジーの急速な発展により、ネットワーク セキュリティは大きな課題に直面しています。この脅威に対抗するために、Meta は Meta Video Seal と呼ばれる新しいツールを立ち上げました。このツールは、ディープフェイク ビデオに対抗し、目に見えない透かし技術を通じてコンテンツの独創性を保護することを目的としています。このツールはオープンソースとしてリリースされ、Meta が以前にリリースした透かしツールと組み合わせて、より包括的なディープフェイク対策ソリューションを形成しました。
生成人工知能の商用化に伴い、オンライン上の偽コンテンツの量が劇的に増加しました。身元確認プラットフォーム Sumsub のデータによると、世界的なディープフェイクの数は 2023 年から 2024 年にかけて 4 倍に増加します。ディープフェイクは、2024 年には詐欺全体の 7% を占めると予想されており、なりすましやアカウント乗っ取りから高度なソーシャル エンジニアリング キャンペーンまで、あらゆるものが関与します。
この問題に対処するために、Meta は、AI が生成したビデオに知覚できない透かしを追加することでディープフェイクに対抗するように設計された新しいツール Meta Video Seal をリリースしました。木曜日にオープンソースとしてリリースされたこのツールは、既存のソフトウェアに簡単に統合でき、以前にリリースされたMetaの他の透かしツール「Watermark Anything」と「Audio Seal」を補完するように設計されている。
「私たちは、より効果的なビデオ透かしソリューションを提供するために、特に AI で生成されたビデオを検出し、オリジナル性を保護するために、Video Seal を開発しました」と Meta の人工知能研究科学者である Pierre Fernandez 氏はインタビューで述べました。
Video Seal は提案された最初のビデオ透かし技術ではありませんが、DeepMind の SynthID や Microsoft の透かし手法も市場で使用されていますが、既存の透かしツールには一般にいくつかの欠点があるとフェルナンデス氏は指摘しました。同氏は、「他にも透かし入れツールはあるが、ソーシャルプラットフォームでコンテンツを配信する際によくあるビデオ圧縮後はうまく機能しない。また、一部の方法は効率が悪く、公開したり複製したりすることができない。また、多くの方法は、画像の透かしから派生したものですが、画像の透かしはビデオには適していません。」
ウォーターマーク機能に加えて、Video Seal はビデオに隠された情報を埋め込むこともでき、後でその情報を明らかにしてビデオのソースを追跡することができます。 Meta は、Video Seal はぼかしやトリミングなどの一般的な編集方法や、一般的に使用される圧縮アルゴリズムに効果的に対抗できると主張しています。
ただし、フェルナンデス氏は、ビデオ シールには特定の制限、特に透かしの認識しやすさと改ざんに対する耐性の間のトレードオフがあることも認めました。同氏は、過剰な圧縮や大量の編集によりウォーターマークが破壊されたり、回復不能になったりする可能性があると指摘しています。
Meta にとってさらに大きな課題は、開発者や業界関係者、特にすでに他の独自のソリューションを使用している開発者や業界関係者が Video Seal を使用するインセンティブが不足していることです。この目的を達成するために、Meta は、さまざまな透かし技術のパフォーマンスを比較するために Meta Omni Seal Bench と呼ばれる公開ランキング リストを立ち上げ、今年の主要 AI カンファレンス ICLR で透かし技術に関するセミナーを開催する予定です。
「私たちは、ますます多くのAI研究者や開発者が何らかの形の透かし技術を自分の研究に組み込むことを期待しており、産業界や学界と協力してこの分野の進歩を加速させたいと考えています」とフェルナンデス氏は述べた。
Meta Video Seal のオープンソース リリースは、重大な偽造と戦うための新しい武器を提供しますが、虚偽の情報の拡散を効果的に抑制できるかどうかには、まだ時間の試練と業界の共同努力が必要です。 テクノロジーの継続的な進歩と広範な応用が、この問題を解決する鍵となります。