Zoom は、ユーザーの非同期コミュニケーション方法に革命をもたらす、待望の AI を活用したデジタル アバター機能を開始しようとしています。この機能により、ユーザーはリアルなデジタルアバターを作成し、テキストを入力することでアバターと口パク音声を生成することができ、コミュニケーション効率が向上します。しかし、この技術の出現により、ディープフェイクのリスクについての懸念も生じています。 Downcodes の編集者は、Zoom のこの新機能を深く理解し、その潜在的なリスクを分析し、これらのリスクに対処するために Zoom が講じたセキュリティ対策を紹介します。
Zoom はユーザーに素晴らしい新機能を提供する準備を進めていますが、その機能を垣間見るには来年まで待たなければならないかもしれません。ビデオ会議大手の同社は、年次開発者会議で、ユーザーのビデオを本物そっくりのAIを活用したデジタルアバターに変換する機能を開始すると発表した。
このデジタルアバターには、頭だけでなく上腕や肩も含まれており、デジタルクローンとなります。ユーザーはデジタル アバターに話してもらいたい内容を入力するだけで、Zoom がアバターに口パクする音声を生成します。すごいですね？
Zoomの最高製品責任者であるスミタ・ハシム氏は、この機能は人々がより速く、より効率的な方法で同僚と非同期にコミュニケーションできるように設計されていると述べた。同氏は、この種のアバターにより、ユーザーの貴重な時間とエネルギーを節約しながら、ビデオ作成の効率を向上させることができると強調しました。
ただし、このテクノロジーの出現により、いくつかの懸念も生じています。これがディープフェイクのリスクをもたらすかどうかを考える必要がありますか?
実際、多くの企業が、人の顔をデジタル的に複製し、かなり自然な合成音声と一致させることができる同様の AI テクノロジーを開発しています。たとえば、Tavus はブランドがパーソナライズされたビデオ広告用のアバターを作成するのを支援し、Microsoft は昨年、説得力のあるデジタル アバターを生成できるサービスを開始しました。
しかし、これらのツールには悪用を防ぐために厳格な保護が設けられていることがよくあります。 Tavus は口頭による同意声明を要求しており、Microsoft は顧客に対し、関係するすべてのアバター タレントから書面による許可と同意を取得することを求めています。
それに比べて、Zoomのセキュリティ対策に関する説明は曖昧に見える。ハシム氏は、同社は高度な認証や透かしなど、カスタムアバター機能に対する複数の保護手段を構築していると述べた。今後も必要に応じてセキュリティ対策を見直し、追加していくことを約束した。
Zoomのこの動きは、CEOのYuan Zheng氏の壮大なビジョンと一致している。将来的には、Zoom 会議に参加したり、メールに返信したり、電話に代わって応答したりできる AI を作成したいと考えています。
しかし、この技術の登場は、ディープフェイクがソーシャルメディア上で野火のように広がり、真実と偽情報を区別することがますます困難になっているときに行われた。ジョー・バイデン大統領、テイラー・スウィフト、カマラ・ハリス副大統領が関与したディープフェイク動画は今年、オンラインで何百万もの再生回数とシェアを獲得した。最近、ハリケーン ヘレンの影響で、AI が生成した偽の画像がウェブ上に氾濫し、架空の破壊や人間の苦しみの場面が映し出されました。
ディープフェイク技術は、親族を装って詐欺を行うなど、個人をターゲットにするためにも使用されています。米連邦取引委員会によると、昨年のなりすまし詐欺に関連した損失は10億ドルを超えた。
では、Zoom は詐欺師がそのツールを使用して悪意のある偽ビデオを生成することをどのように防ぐのでしょうか? それは不明です。同社が提供したモックアップでは、カスタム アバター ビデオの右上隅に透かしが表示されています。しかし、この透かしは画面録画ツールによって簡単に切り取られてしまいます。
Zoom が 2025 年前半にこの機能をリリースする予定のときに、さらに詳細がわかることを期待しています。その時点で、非同期ビデオツールであるZoom Clipsでカスタムアバターを使用するには、ユーザーは月額12ドルを追加で支払う必要がある。
Zoomが最終的にどのような措置を講じるかに関係なく、ディープフェイクの拡散を抑制しようとする規制の取り組みが進行中である。連邦レベルでディープフェイクを犯罪とする法律がないため、10 を超える州が AI を利用したなりすましを対象とした規制を制定しています。現在保留中のカリフォルニア州の法律は、裁判官にディープフェイクコンテンツの公開者にコンテンツの削除を命じる権限を与える初めての法案となり、さもなければ罰金の可能性もある。
Zoom がこの新機能を発表すると、私たちはこう考えずにはいられません。テクノロジーの進歩は常にプラスの影響を及ぼしているのでしょうか?これは、私たち一人ひとりが深く考える必要があるということです。
Zoom の AI デジタル アバター機能は有望ですが、潜在的なリスクもあります。 テクノロジーの進歩とセキュリティリスクのバランスをどう取るかは、Zoomとテクノロジー業界全体が今後真剣に検討する必要がある問題となるだろう。 Downcodes の編集者は、今後もこのテクノロジーの進歩に注目し、さらに関連するレポートをお届けしていきます。