2024年1月1日，拉斯维加斯发生了一起震惊全球的事件。一名男子在特朗普酒店外引爆了一辆特斯拉 Cybertruck，这一行为不仅造成了严重的财产损失，还引发了公众对人工智能技术滥用的深刻担忧。事件的特殊性在于，这名男子在实施爆炸之前，竟然使用了人工智能聊天工具 ChatGPT 进行详细策划。
拉斯维加斯警察局在随后的调查中披露，涉事男子马修・利维尔斯伯格在事件发生前的几天内，利用 ChatGPT 进行了超过17次的提问。这些问题涵盖了从获取爆炸材料到相关法律问题，甚至包括如何使用枪械引爆炸药的具体细节。利维尔斯伯格通过简单的英语与 ChatGPT 进行了长达一小时的互动，探讨了包括在亚利桑那州烟花是否合法、在丹佛哪里可以买到枪支以及选择什么样的枪支能有效引爆炸药等问题。
助理警长多里・科伦在新闻发布会上确认，ChatGPT 的回答在利维尔斯伯格的爆炸计划中起到了关键作用。ChatGPT 提供了关于枪械发射速度的详细信息，使得利维尔斯伯格能够顺利实施计划。尽管最终的爆炸效果并未如他所预期的那样强烈，部分炸药并未如预期点燃，但这次事件仍然令执法部门感到极为震惊。
拉斯维加斯警察局局长凯文・麦基尔表示：“我们早已知道人工智能将在某个时刻改变我们的生活，但这是我第一次看到有人利用 ChatGPT 来构建如此危险的计划。” 他指出，目前尚无政府监督机制能够标记出这些与爆炸物和枪械相关的查询。这一事件凸显了人工智能技术在安全监管方面的漏洞。
虽然拉斯维加斯警方尚未披露 ChatGPT 的具体提问内容，但在发布会上展示的提问都相对简单，没有使用传统的 “越狱” 术语。值得注意的是，这种使用方式明显违反了 OpenAI 的使用政策与条款，但目前尚不清楚在利维尔斯伯格使用该工具时，OpenAI 的安全措施是否起到了作用。
对此，OpenAI回应称，致力于让用户“负责任地”使用其工具，并旨在让人工智能工具拒绝有害指令。OpenAI表示：“在这次事件中，ChatGPT只是根据互联网上已公开的信息进行回应，并且还对有害或非法活动提供了警告。我们一直在努力让AI变得更加智能、更加负责任。”官方正在与执法部门合作，支持他们的调查。
这一事件不仅引发了公众对人工智能技术滥用的担忧，也促使执法部门和科技公司重新审视现有的安全措施。随着人工智能技术的快速发展，如何在确保技术进步的同时，防止其被用于非法活动，成为了一个亟待解决的问题。
图源备注:图片由AI生成，图片授权服务商Midjourney
划重点:
事件发生在2024年1月1日，一名男子在拉斯维加斯特朗普酒店外引爆特斯拉 Cybertruck。
该男子在实施爆炸前利用 ChatGPT 进行了一小时的策划，涉及获取炸药和枪支的问题。
警方表示这是美国首次有个体利用 ChatGPT 进行如此危险活动，且未发现有效的政府监管机制。