本文分析了Meta近期发布的一份报告，该报告评估了生成式人工智能对全球多个国家和地区选举的影响。报告结论显示，尽管存在一些使用人工智能进行政治宣传或传播虚假信息的案例，但其影响程度远低于预期，Meta现有的政策和措施足以应对这一挑战。报告详细阐述了Meta采取的应对措施，并对其他平台上虚假信息的传播情况进行了分析。
在年初，关于生成式人工智能如何干扰全球选举、传播宣传和虚假信息的担忧广泛存在。然而，Meta 近日发布的报告显示，这些担忧并没有在其平台上实现。Meta 表示，在 Facebook、Instagram 和 Threads 等社交平台上，生成式人工智能对选举相关信息的影响极为有限。
图源备注：图片由AI生成，图片授权服务商Midjourney
根据 Meta 的研究，报告涵盖了多个国家和地区的重大选举，包括美国、孟加拉国、印度尼西亚、印度、巴基斯坦、欧盟议会、法国、英国、南非、墨西哥和巴西。Meta 指出，虽然在选举期间确实存在一些确认或怀疑使用人工智能的情况，但总体数量仍然很低，现有政策和流程足以降低生成式 AI 内容带来的风险。报告显示，在上述选举期间，与选举、政治和社会话题相关的 AI 内容被事实核查的虚假信息中占比不足1%。
为防止与选举相关的深度伪造图像，Meta 的 Imagine AI 图像生成器在选举日之前一个月拒绝了近590，000个创建涉及特朗普、哈里斯副总统、沃尔兹州长和拜登总统等的请求。此外，Meta 还发现，试图传播宣传或虚假信息的网络账户在使用生成式 AI 方面仅有轻微的生产力和内容生成提升。
Meta 强调，AI 的使用并没有妨碍其打击这些隐秘影响活动的能力，因为该公司关注的是这些账户的行为，而不是它们发布的内容，不论这些内容是否由 AI 生成。此外，Meta 还宣布已全球范围内删除约20个新的隐秘影响操作，以防止外国干涉。这些被打击的网络大多没有真实的观众，有些甚至通过虚假的点赞和关注者来虚假展现其受欢迎程度。
Meta 也指责其他平台，称与美国选举有关的虚假视频往往出现在 X 等平台上。Meta 表示，在总结这一年所学到的经验时，将继续审查其政策，并将在未来几个月内宣布任何变更。
总而言之，Meta的报告为生成式人工智能在选举中的影响提供了宝贵的参考数据，其积极的应对措施也值得借鉴。然而，持续的监测和改进仍然是必要的，以应对未来可能出现的挑战。 技术的进步需要与相应的监管和应对策略相配合，才能更好地维护网络环境的健康和稳定。