Downcodes 編集者のレポート: 最新の研究により、X プラットフォーム上の AI 生成アバター アカウントの驚くべき秘密が明らかになりました。ドイツの研究チームが約1,500万のXアカウントを分析したところ、AIが生成したアバターを使用しているアカウントはごく少数（0.052％）のみであることが判明した。これらのアカウントには、フォロワー数やフォロワー数が少ないなどの特徴があり、アカウントのほとんどが2023年に作成され、さらには一括作成されていることから、特定の情報を拡散するために使用された偽アカウントである可能性が高いと考えられます。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
これらのアカウントには明らかな特徴があり、フォロワー数もフォローするアカウントも少なく、半数以上が 2023 年に作成され、数時間以内にまとめて作成されたアカウントもありました。この研究の筆頭著者であるジョナス・リッカー氏は、これはこれらのアカウントが実際のユーザーではないことを明らかに示していると指摘した。 9 か月にわたる観察の後、プラットフォーム X はこれらのアカウントの半分以上を閉鎖しました。
AIアバターを使用した1,000のアカウントを手動でコンテンツ分析したところ、研究者らはこれらのアカウントのコンテンツのテーマが主に政治、特にトランプ、新型コロナウイルスワクチン、ウクライナ戦争に関連した問題に焦点を当てていることを発見した。さらに、宝くじや仮想通貨などの金融の話題も頻繁に出てきます。研究者らは、アカウントが大量に作成され、同じメタデータを共有していることから、これらのアカウントは特に偽情報や政治的プロパガンダを広めることを目的として作成されたのではないかと推測しており、組織的なネットワークの一部である可能性があることが示唆されています。
この調査では、AI アバターを使用したこれらのアカウントの拡散については調査されていませんが、平均フォロワー数とアカウント数は、その影響力が限定的であることを示しています。これは、AI が生成した政治的プロパガンダを拡散するソーシャル メディア アカウントにはほとんど反応が得られず、これらのアカウントの効果が低下していることが判明した OpenAI の調査と一致しています。研究チームは、将来の分析でAI偽アバター認識の自動化を拡大し、ソーシャルメディアプラットフォームに対するこのテクノロジーの影響をより深く理解するために更新されたモデルを組み込むことを計画しています。
この研究は、AI が生成したアバターのソーシャル メディア プラットフォームへの応用についての私たちの理解を貴重な洞察を提供するとともに、悪意のある情報を拡散するために AI テクノロジーを使用することに注意するよう私たちに思い出させてくれます。今後、より効果的なAI認識技術は、ネットワーク環境のセキュリティを維持するための重要な手段となるでしょう。 Downcodes の編集者は、今後も関連する開発に注目し、より多くの技術情報を提供していきます。