深セン市麗兆科技有限公司はこのほど、同社が独自に開発したAI吹き替え大型モデルプラットフォーム「Reecho」が偽の音声と映像の制作に使用されたという事件を受けて声明を発表した。この事件では、容疑者がReechoを利用して被害者ルーの声を複製し、虚偽の情報を拡散させた。 Downcodes の編集者が、事件と関連する対応について詳しく説明します。
Shenzhen Reecho Technology Co., Ltd.は最近、9月16日に流通した音声および映像資料の音声部分が、容疑者によって独自に開発されたReecho AI吹き替え大型モデルプラットフォームを使用してクローン化されたものであることを確認する声明を発表した。音声はルーのライブ ブロードキャスト クリップからのものです。
同社は、ユーザー ID 認証と音声生成のセキュリティ管理を強化する内部監査メカニズムを立ち上げ、テクノロジーの法的かつ準拠した適用を確保しました。
Reecho Ruisheng 氏は、Yanyu Technology は設立して 1 年も経っていないスタートアップ チームとして、オーディオと擬人化人工知能の最先端技術の研究に取り組んでいると述べました。 Reecho は、当社初の一般向け AI 音声合成およびダビング技術プラットフォームとして、自社開発の最先端技術を通じてクリエイティブ コンテンツ制作の効率と利便性の向上を目指しています。
同時に、合肥市公安局ハイテク支局は9月20日に警報を受け、ルー氏が関与した虚偽の音声とビデオの捜査を開始した。捜査の結果、警察は9月22日夜、25歳の王容疑者を逮捕し、AIツールを使用して音声を偽造し、拡散用の動画を合成し、噂が広まったことが判明した。王氏は法律に従って刑事強制措置を講じており、この事件は現在もさらなる捜査が行われている。
この事件は、AI技術の応用プロセスに存在するセキュリティリスクを暴露し、AI企業に技術的なセキュリティ保護と倫理基準を強化することを思い出させた。 Ruiyu Technology の回答は、問題を認識しており、積極的に改善策を講じていることを示しています。将来的には、AI テクノロジーがより安全でコンプライアンスに準拠した環境で開発され、社会により多くの価値を生み出すことが期待されています。