近日，一項針對X平台（前Twitter）的最新研究引發關注。德國魯爾大學波鴻、GESIS萊布尼茨研究所和CISPA亥姆霍茲中心的研究人員對近1500萬個X賬戶進行了分析，以探究AI生成頭像賬戶的特徵和潛在影響。研究結果顯示，使用AI生成頭像的賬戶比例極低，且這些賬戶呈現出獨特的行為模式，引發了對虛假信息傳播的擔憂。
近期，一項由德國魯爾大學波鴻、GESIS 萊布尼茨研究所和CISPA 亥姆霍茲中心聯合進行的研究揭示，使用AI 生成頭像的X（前Twitter）賬戶僅佔所有賬戶的0.052% 。研究人員對近1500萬個X 賬戶進行了分析，發現其中7723個賬戶使用了AI 生成的頭像。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
這些賬戶表現出明顯的特徵:關注者較少，所關注的賬戶也不多，且超過一半是在2023年創建的，有些賬戶甚至在幾小時內批量創建。研究的主要作者喬納斯・里克（Jonas Ricker）指出，這清楚地表明這些賬戶並非真實用戶。經過九個月的觀察，X 平台已關閉了超過一半的這些賬戶。
在對1000個使用AI 頭像的賬戶進行手動內容分析時，研究人員發現這些賬戶的內容主題主要集中在政治方面，尤其是與特朗普、COVID-19疫苗以及烏克蘭戰爭相關的議題。此外，彩票和金融話題（如加密貨幣）也頻繁出現。研究人員推測，這些賬戶可能是為了傳播虛假信息和政治宣傳而專門創建的，因為大量創建賬戶且擁有相同的元數據，表明它們可能屬於一個有組織的網絡。
雖然本研究沒有探討這些使用AI 頭像的賬戶的傳播範圍，但它們平均關注者較少、關注賬戶也較少的特點表明其影響力有限。這與OpenAI 的一項研究相一致，該研究發現，傳播AI 生成政治宣傳信息的社交媒體賬戶所獲得的響應很少，因此這些賬戶的有效性較低。研究團隊計劃在未來的分析中擴大AI 假頭像識別的自動化，並納入更新的模型，以更好地理解這一技術對社交媒體平台的影響。
劃重點:
研究顯示，X 平台上僅0.052% 的賬戶使用AI 生成頭像，且多為新創建賬戶。
使用AI 頭像的賬戶內容主題主要涉及政治、COVID-19和金融話題。
這些賬戶的批量創建及相似元數據暗示可能存在組織網絡傳播虛假信息。
這項研究為識別和應對社交媒體上的虛假信息提供了重要的參考，也提示我們需要持續關注AI技術在信息傳播中的潛在風險，並探索更有效的應對策略。未來研究將進一步探索AI生成頭像在社交媒體中的傳播機制和影響，以更好地維護網絡空間的健康發展。