最近、クローディアという名前の仮想女性が Reddit に登場しました。彼女は AI ツール Stable Diffusion によって生成されたもので、そのリアルさは衝撃的です。レディットユーザーの多くはAIが生成したヌード写真にお金を払ったこともあり、広く懸念を引き起こした。 Downcodes の編集者が、この事件の全容と、事件が反映する AI テクノロジーの現在の開発状況と潜在的なリスクについて説明します。
Redditユーザーは、AIが生成した偽の女性のヌード写真にお金を払っていると伝えられている。
人工知能ツール「安定拡散」によって作成された写真は、見分けがつかないほどリアルに見えます。この画像は数か月前に複数の Reddit フォーラムに初めて掲載され、多くのユーザーから注目とコメントを集めました。
安定拡散による美しい写真
あるユーザーはクラウディアさんの写真を見て「とても美しいですね！」とコメントし、また別のユーザーは「わあ、とても美しいですね！」とコメントした。
一部のユーザーはこれらの写真の真偽を疑い、加工されすぎていると感じ始めましたが、それでもこの「美しさ」の魅力に取り憑かれた人はたくさんいました。
ある情報通のユーザーは、コメントで全員にこう念を押した。「あなたの幻想を台無しにしなければなりません。これは実際には AI によって作成されたものです。AI 画像モデルを試したことがある人なら、一目でそれがわかるでしょう。」
クラウディアの制作者らによると、ヌード写真の販売で約100ドルの収入を得たという。実際、このアカウントの本来の目的は、AI 画像がユーザーをうまく騙せるかどうかをテストすることでした。
彼らは、「これはバーチャルアンカーの概念と考えることができます。私たちは独自のキャラクターを作成し、まったく別のアイデンティティでパフォーマンスします。これほど大きな注目を集めるとは予想していませんでした。」と述べました。
AI研究者らは、クラウディアさんの写真には、背景の奇妙な細部や手の傷など、AIが生成した明らかな特徴がいくつかあると指摘した。これらの画像の出現は、まったく新しいリアルな人物画像を生成できる人工知能拡散モデリング技術の最新の発展を示しています。
クローディアが最初に登場したのは r/amIhot サブレディットで、その後、同様の事件の発生を防ぐために、サブレディットはユーザーに身元を確認するための 10 ～ 15 秒のビデオの提供を要求し始めたことに注意してください。
ハイライト:
?AI技術によりバーチャルモデル「Claudia」がRedditで話題に。
?作者はクラウディアのヌード写真を販売して約100ドルを稼いだ。
Reddit subreddit r/amIhot は、ユーザーの誤解を防ぐために認証対策を導入しました。
クラウディア事件は、AI画像生成技術の進歩を実証しただけでなく、その潜在的な倫理的および安全性の問題も暴露した。 AIによって生成された画像をどのように識別するか、ソーシャルメディア上でのAI技術の適用をどのように規制するかは、検討に値する課題です。 この事件はまた、私たちがテクノロジーの進歩によってもたらされる利便性を享受する一方で、常に警戒し、AI技術の発展を合理的に見る必要があることを思い出させます。