AI技術の急速な発展は多くの利便性をもたらしましたが、いくつかのマイナスの影響ももたらしました。 AI を使用して虚偽の動画を合成したり、虚偽の情報を拡散したりする行為が増加しており、社会秩序が著しく混乱し、社会的利益や公共の利益が危険にさらされています。この記事では、AI を使用して噂を広めるためにビデオを合成する事例について説明し、これを利用して法律違反を避けるために AI テクノロジーを正しく使用するよう警告します。
昨今では、AI が虚偽のコンテンツを生成することは驚くべきことではありませんが、実際に AI テクノロジーを使用して虚偽の情報を公開したとして逮捕された男性もいます。これは、悪影響を避けるために AI ツールを慎重に使用するよう警告しています。
報道によると、今年6月、アモイ警察は今日、広東省のある場所で70歳の男性が暴行を受け、飛び込み自殺したという内容の動画を投稿したとの通報を受けた。川で殴った人は判決を受けた。このビデオは公開されるや否や、すぐに広く注目を集めました。
しかし、警察の捜査の結果、これは完全なデマであることが判明し、夕方には動画を投稿したアカウント「Xiaoyi Kanshishi」の所有者、レンさん（32歳、湖北省出身）も警察に逮捕された6月13日のこと。
任氏は、AI技術を使用してわずか2～3分でビデオを合成したと説明した。彼はまずインターネットで目を引くタイトルをいくつか見つけ、次にライティング アプリを使用して偽のコンテンツを自動的に生成し、次にそのコンテンツに基づいて写真を自動的に生成し、最後にそれらをビデオに結合してソーシャル プラットフォームを通じて公開しました。
これを行う彼の目的は、トラフィックを集めてファンの数を増やし、ビデオのトラフィックに基づいてお金を稼ぐことです。現在、任氏は喧嘩を売ったりトラブルを引き起こした容疑でアモイ警察から刑事強制措置の対象となっている。
今回の事件は、AI技術が諸刃の剣であることを私たちに改めて思い起こさせますが、私たちはその利便性を享受する一方で、違法行為や犯罪行為に対して相応の法的責任を負わないように常に警戒し、合理的に利用しなければなりません。 皆様がAI技術を正しく理解・活用し、良好なネットワーク環境を共同で維持できることを願っております。