ディープフェイク技術の急速な発展はネットワークセキュリティに深刻な脅威をもたらし、偽情報が横行している。統計によると、ディープフェイクに関連した詐欺は急速に増加しており、無視できない問題となっている。この課題に対処するため、テクノロジー企業が次々と解決策を模索してきたが、その中でも注目を集めているのがメタカンパニーが立ち上げた「Video Seal」ツールだ。このツールは、AI が生成したビデオに目に見えない透かしを追加することでディープフェイクに対抗することを目的としており、より広範なコラボレーションと開発を促進するためにそのテクノロジーをオープンソース化しています。
今日、ディープフェイクは蔓延しています。生成 AI の人気が高まるにつれて、Web 上の虚偽のコンテンツが爆発的に増加しました。本人確認プラットフォーム Sumsub の統計によると、世界的なディープフェイクの数は 2023 年から 2024 年にかけて 4 倍に増加すると予想されています。 2024 年には、なりすましやアカウント盗難から複雑なソーシャル エンジニアリング攻撃に至るまで、すべてディープフェイクが関与した詐欺全体の 7% をディープフェイクが占めると予想されます。
ディープフェイクに効果的に対抗するために、Meta は最近、AI が生成したビデオ クリップに知覚できない透かしを追加できるツールをリリースしました。 Meta Video Sealと呼ばれるこのツールは木曜日にオープンソースとして発表され、既存のソフトウェアに統合されるように設計されている。 このツールは、Meta の他の透かしツール、Watermark Anything (寛容なライセンスの下で本日再リリース) および Audio Seal と結合して、完全な透かしソリューションを形成します。
「特にAI生成ビデオの検出とオリジナル性の保護に関して、より効果的なビデオ透かしソリューションを提供するためにVideo Sealを開発しました」とメタAI研究科学者のピエール・フェルナンデス氏はTechCrunchに語った。
Video Seal は、この種のテクノロジーとしては初めてのものではありません。 DeepMind の SynthID はビデオに透かしを追加でき、Microsoft も独自のビデオ透かし手法を備えています。
しかしフェルナンデス氏は、既存の手法の多くは不十分だと考えている。
「他の透かしツールは存在しますが、ビデオ圧縮 (コンテンツがソーシャル プラットフォームを介して共有される場合によく発生します) に対して十分堅牢ではなく、大規模なアプリケーションに十分な効率で実行されず、十分なオープン性や再現性がなく、派生したものでもありません。画像の透かしから、画像の透かしはビデオにとって最良の選択肢ではありません」とフェルナンデス氏は言いました。
ウォーターマークに加えて、Video Seal はビデオに隠しメッセージを追加して、後でビデオのソースを明らかにすることができます。 Meta は、Video Seal は一般的な圧縮アルゴリズムだけでなく、ぼかしやトリミングなどの一般的な編集操作にも耐えられると主張しています。
フェルナンデス氏は、ビデオ シールには一定の制限があり、主に透かしの認識しやすさと操作に対する全体的な耐性との間のトレードオフがあることを認めました。同氏は、大量の圧縮や大量の編集により透かしが変化したり、回復不能になったりする可能性があると付け加えた。
もちろん、Video Seal にとってより大きな問題は、開発者や業界、特にすでに独自のソリューションを使用している開発者や業界にとって、それを採用する理由があまりないことです。この問題を解決するために、Meta は、さまざまな透かし手法のパフォーマンスを比較するために特別に設計された公開ランキング リスト Meta Omni Seal Bench を立ち上げました。さらに、メタは今年の ICLR (学習表現に関する国際会議) で透かしに関するワークショップを開催する予定です。 ICLR は重要な AI カンファレンスです。
フェルナンデス氏は、「より多くのAI研究者や開発者が何らかの形で透かしを自分の研究に組み込むことを期待している」と述べ、「私たちは産業界と学術界と協力して、この分野の開発をより迅速に進めたいと考えている」と語った。
Meta によるこの動きは、間違いなく、ディープフェイクの蔓延と戦うための新しいアイデアを提供します。オープンソースとオープンコラボレーションは、この厄介な問題を解決する効果的な方法となる可能性があります。しかし、Video Seal の将来は、業界で広く受け入れられ適用できるかどうか、そしてディープフェイクと戦う能力にかかっています。
全体として、Meta の Video Seal ツールはディープフェイクに対抗する新たな試みを提供しますが、ディープフェイク問題を効果的に解決するには、今後さらなる技術革新と業界の協力が必要になるでしょう。 オープンソースと協力の精神が鍵となりますが、それには時間と継続的な努力が必要です。