剑桥大学的一项研究揭示了人工智能（AI）潜在的操纵性，AI工具可能被用于影响在线用户的决策，从消费选择到政治投票，影响范围广泛。研究预测，一个名为“意图经济”的新市场将出现，AI助手将预测并操纵用户意图，并将这些信息出售给企业。这引发了对AI伦理和监管的深刻思考，以及对个人隐私和数据安全的新担忧。
根据剑桥大学的研究，人工智能（AI）工具有可能被用来操纵在线用户的决策，从购买商品到选择投票对象，AI 都可能发挥作用。该研究指出，未来可能出现一个新的市场，称为 “意图经济”，在这个市场中，AI 助手可以理解、预测和操纵人类的意图，并将这些信息出售给能从中获利的公司。
图源备注:图片由AI生成，图片授权服务商Midjourney
研究团队来自剑桥大学的未来智能研究中心（LCFI），他们将意图经济视为注意力经济的继承者。在注意力经济中，社交网络通过吸引用户注意力并投放广告来维持经济运转。而在意图经济中，懂得 AI 的科技公司会把他们掌握的用户动机信息，比如用户预订酒店的计划或对某位政治候选人的看法，卖给出价最高的公司。
LCFI 的技术历史学家乔尼・佩恩博士表示:“几十年来，注意力一直是互联网的货币。用户在社交媒体平台如 Facebook 和 Instagram 上分享他们的注意力，从而推动了在线经济的发展。” 他指出，若不加以监管，意图经济将把用户的动机视为新的货币，将引发一场针对人类意图的 “淘金热”。
该研究指出，支撑如 ChatGPT 等 AI 工具的大型语言模型（LLMs）将被用于 “预测和引导” 用户的行为，这些模型将通过 “意图、行为和心理数据” 进行分析。研究称，注意力经济允许广告商通过实时竞价获得用户的注意力，而在意图经济中，LLMs 将能够实时访问用户的意图，例如询问用户是否考虑去看某部电影，或者询问是否要帮他们预订电影票。
在这个新兴的意图经济中，广告商将能够利用生成式 AI 工具创造个性化的在线广告。此外，研究还提到了马克・扎克伯格的 Meta 公司开发的一种 AI 模型 Cicero，该模型在玩桌游《外交》时已达到了 “人类水平” 的能力，这种游戏依赖于推测和预测对手的意图。
研究进一步探讨了未来的场景，其中 Meta 可能会向广告商拍卖用户的意图，如预订餐厅、航班或酒店。尽管目前已经存在一个专门预测和竞价人类行为的行业，但 AI 模型将把这些实践提炼成一种 “高度量化、动态化和个性化” 的形式。
划重点:
AI 工具可能操纵用户决策，形成新市场 “意图经济”。
在意图经济中，用户的动机将被视为新的货币，科技公司将售卖这些信息。
AI 模型将通过分析用户数据预测其意图，帮助广告商精准投放广告。
这项研究为我们敲响了警钟，呼吁对AI技术发展进行伦理和监管上的考量，以防止其被恶意利用，维护用户的权益和数据安全，确保科技进步造福人类。