Downcodes小编报道：一项最新的研究揭示了X平台上AI生成头像账户的惊人秘密。德国研究团队对近1500万个X账户进行分析，发现仅有极少数账户（0.052%）使用了AI生成的头像。这些账户呈现出独特的特征，例如关注者和被关注者数量少，大部分账户创建于2023年，甚至出现批量创建的情况，这表明它们极有可能是虚假账户，用于传播特定信息。
图源备注:图片由AI生成，图片授权服务商Midjourney
这些账户表现出明显的特征:关注者较少，所关注的账户也不多，且超过一半是在2023年创建的，有些账户甚至在几小时内批量创建。研究的主要作者乔纳斯・里克（Jonas Ricker）指出，这清楚地表明这些账户并非真实用户。经过九个月的观察，X 平台已关闭了超过一半的这些账户。
在对1000个使用 AI 头像的账户进行手动内容分析时，研究人员发现这些账户的内容主题主要集中在政治方面，尤其是与特朗普、COVID-19疫苗以及乌克兰战争相关的议题。此外，彩票和金融话题（如加密货币）也频繁出现。研究人员推测，这些账户可能是为了传播虚假信息和政治宣传而专门创建的，因为大量创建账户且拥有相同的元数据，表明它们可能属于一个有组织的网络。
虽然本研究没有探讨这些使用 AI 头像的账户的传播范围，但它们平均关注者较少、关注账户也较少的特点表明其影响力有限。这与 OpenAI 的一项研究相一致，该研究发现，传播 AI 生成政治宣传信息的社交媒体账户所获得的响应很少，因此这些账户的有效性较低。研究团队计划在未来的分析中扩大 AI 假头像识别的自动化，并纳入更新的模型，以更好地理解这一技术对社交媒体平台的影响。
这项研究为我们理解AI生成头像在社交媒体平台上的应用提供了宝贵的见解，也提醒我们警惕利用AI技术进行恶意信息传播的行为。未来，更有效的AI识别技术将成为维护网络环境安全的重要手段。Downcodes小编将持续关注相关动态，为您带来更多科技资讯。