経済日報によると、AIによって生成された一連の吹き替え動画は、驚くほどリアルな映像であるだけでなく、再生される音声の特性も本物とほぼ同じだという。短期間で1億回。ただし、これらのビデオの内容は画像内の著名人とは無関係であり、プラットフォームから削除されました。
AI技術の発展により、高度な偽造や低コストでの大量生産の敷居が下がり、AIが生成した画像、声を変える、顔が変わる動画が大量に登場するようになりました。これらの動画は目を引くものではありますが、その裏に隠されたリスクを無視することはできません。
現在、虚偽の情報の作成・流布が世界的な問題となっており、人工知能の合成技術により偽情報を本物のように見せることで、一般の人々が情報の特定に困難を抱えています。 「2024年人工知能セキュリティレポート」によると、AIを利用したディープフォージェリ詐欺は2023年に30倍に急増し、ネットワークセキュリティや社会保障に深刻な脅威をもたらすと予想されている。虚偽の情報の蔓延は、サイバー空間の正常な秩序を混乱させるだけでなく、仮想世界から現実に否定的な感情を伝達し、社会不安を悪化させる可能性があります。
重大な偽造などの混乱に対処するには、複数の当事者間の協力と共同統治が必要です。現在、我が国では、ソースからのコンテンツ管理を強化するために、「インターネット情報サービスの徹底した総合管理に関する条例」等の法令を公布しております。同時に、「人工知能により生成された合成コンテンツのラベル表示に関する措置（意見募集草案）」の発表は、国家レベルでAI技術に対する監視が強化されていることを示している。法的かつ準拠した枠組みの中で AI が健全に発展できるようにすることによってのみ、人々は技術の変化によってもたらされる恩恵を真に享受し、人工知能産業の健全な発展を促進することができます。
情報普及の重要な部分として、プラットフォーム運営者とサービスプロバイダーも同様の責任を負い、AI が生成したコンテンツに赤線を引き、違法、侵害、不正なコンテンツの普及を厳しく禁止し、虚偽の情報の拡散を防ぐために目立つ警告標識を追加する必要があります。 。また、電子透かしやタイムスタンプ、ハッシュ関数などの技術的手段を利用することは、情報の真正性の検証性を高めるだけでなく、虚偽の情報の拡散を防止する有効な手段となります。コンテンツ消費者として、視聴者も常に警戒し、AI によって生成されたコンテンツを識別する能力を向上させ、偏った信念を避ける必要があります。