人工知能技術は急速に発展しており、その応用技術の一つであるディープ偽造技術は私たちの生活に大きな影響を与えています。この技術は非常にリアルな偽のビデオや画像を生成することができ、多くの利便性をもたらしますが、有名人の画像を使用して詐欺を行うなど、深刻なリスクももたらします。この記事では、国民のリスク意識を高め、社会秩序を維持することを目的として、ディープ偽造技術がもたらす課題とその対策について説明します。
近年、AIは音声アシスタントから自動運転技術に至るまで、生活のあらゆる側面に浸透しています。しかし、AI技術の普及には潜在的なリスクも伴い、その中でもディープフェイク技術が社会的な注目を集めています。
ディープフェイク技術は、アルゴリズムを使用して、大量の実際のデータから学習することで、非常に現実的な偽のコンテンツを生成し、人物やシーンに非常によく似たビデオや画像を生成します。このテクノロジーは AI の力を実証していますが、同時に詐欺も生み出します。たとえば、最近、張文紅博士の画像と音声を使用して生放送を宣伝するふりをする事件が発生しました。フェイク動画では、合成フィギュアが特定の商品を宣伝し、1,200点以上の商品が売れた。この事件は張文紅博士と国民の間に強い不満を引き起こした。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
上海消費者権利保護委員会の副秘書長、唐建生氏は、AI技術を利用して有名人の画像になりすます行為は、消費者の権利の重大な侵害に当たると述べた。同様のケースとしては、国慶節に雷軍のプロフィール写真を使ってパロディ動画を作成したり、アンディ・ラウの声を真似てトラフィックを集めたりした人がいる。関連企業や著名人らは声を上げ、国民に一層の警戒を呼びかけている。
専門家らは、現在のAIテクノロジーは他人の顔や声を簡単に複製でき、生成されるコンテンツは非常にリアルだと指摘している。ただし、この種のテクノロジーには欠陥がないわけではありません。顔と背景の融合や声と口の形の一致を注意深く観察することで、異常を発見することもできます。さらに、リアルタイムのライブ ストリーミングは、現時点ではそのようなテクノロジーで実現するのが困難です。
法律専門家は、他人の画像や音声を無断で使用することは違法であることを明らかにしています。中国政法大学准教授のZhu Wei氏は、民法によれば、この行為はサイバーセキュリティ法に基づく人格権の侵害であり、関連するコンテンツは違法な情報であり、出版社は刑事責任を問われる可能性さえあると強調した。 。
消費者は、AI偽有名人が商品を持ち込んで商品を購入した場合、「消費者権利保護法」に基づき販売業者に「1件の返金と3件の補償」を要求することができ、最低補償額は500元となる。同時に、ショートビデオプラットフォームも規制責任を負い、関連コンテンツの審査と処罰を強化し、違法情報の広範な拡散を回避する必要がある。
ディープフォージェリ技術の台頭は、AIの利便性を享受する一方で、その潜在的なリスクにも警戒する必要があることを国民に思い出させています。
ディープ偽造技術の課題に直面し、政府、企業、個人が協力して法的監督を強化し、技術的な識別能力を向上させ、安全で信頼できるネットワーク環境を共同で構築する必要があります。この方法によってのみ、AI テクノロジーをより効果的に活用し、その悪意のある使用を回避し、社会秩序と公共の利益を維持することができます。