加州州议会近期通过了一项备受瞩目的AI安全法案SB1047，该法案旨在规范大型AI模型的开发和部署，引发了科技界激烈的讨论。法案的核心在于强制对训练成本超过一亿美元的大型AI模型进行严格的安全测试，并要求设置紧急停止机制以及事故后的及时报告。这项法案的通过，标志着加州在人工智能安全监管方面迈出了重要一步，其影响力或将波及全国乃至全球。
最近，加州立法者们通过了一项颇具争议的人工智能安全法案 SB1047，目前只需经过最后的程序性投票，就将送交加州州长加文・纽森（Gavin Newsom）签署。这项法案的推进引起了硅谷内部的激烈争论，支持和反对的声音交织在一起，成为大家关注的焦点。
图源备注：图片由AI生成，图片授权服务商Midjourney
加州州参议员斯科特・维纳（Scott Wiener）介绍了这项法案，他表示自己为这项法案背后的多元联盟感到自豪，大家都相信创新与安全同样重要。他认为，人工智能有着改变世界的巨大潜力，推行这项法案是为了确保这一潜力得以安全地释放。
科技巨头们对此反应不一，xAI 的首席执行官埃隆・马斯克（Elon Musk）也对此表示支持。他在社交媒体上指出，加州应该通过 SB1047法案，以避免人工智能被滥用。他提到，自己支持人工智能的监管已有二十多年，认为有必要对潜在风险进行规范。
这项法案的核心内容是要求开发大规模 AI 模型的公司（训练成本超过1亿美元）在发布前进行全面的安全测试。同时，法案要求这些公司在危机情况下设置 “紧急停止” 功能，并在发生安全事故后72小时内向加州检察长报告。新成立的 “前沿模型局” 将负责监督合规性，若违规多次，将面临高达3000万美元的罚款。
支持者包括人工智能领域的知名人士，如杰弗里・辛顿（Geoffrey Hinton）和约书亚・本吉奥(Yoshua Bengio)，他们认为这项法案对抗击人工智能风险至关重要，甚至可能为全国的人工智能安全设定标准。
然而，反对者则认为该法案可能会抑制创新，导致人才流失，加州的科技公司如谷歌、OpenAI 和 Meta 纷纷表达了对法案的担忧，认为小公司将受到不成比例的影响，技术进步也可能因此放缓。他们呼吁应制定联邦级别的法规，以避免各州之间的不一致。
SB1047法案在加州拨款委员会通过了修订，现正等待州议会的最终投票。如果加州州长纽森签署这项法案，它将成为美国首个类似的人工智能监管法，可能会对全球科技行业和人工智能的未来监管产生深远影响。
划重点:
? ** 法案通过 **:加州 SB1047人工智能安全法案获得通过，正待州长签署。
? ** 安全措施 **:法案要求高成本 AI 模型进行安全测试并设置紧急停止功能。
? ** 各方反应 **:科技巨头支持与反对声音交织，担心影响创新与人才流失。
SB1047法案的最终命运以及其对人工智能发展的影响，值得持续关注。它不仅关乎加州的科技未来，也可能为全球人工智能监管提供一个重要的参考案例。