加州議會近期通過了一項備受矚目的AI安全法案SB1047，該法案旨在規範大型AI模型的開發和部署，引發了科技界激烈的討論。法案的核心在於強制對訓練成本超過一億美元的大型AI模型進行嚴格的安全測試，並要求設置緊急停止機制以及事故後的及時報告。這項法案的通過，標誌著加州在人工智慧安全監管方面邁出了重要一步，其影響力或將波及全國乃至全球。
最近，加州立法者通過了一項頗具爭議的人工智慧安全法案SB1047，目前只需經過最後的程序性投票，就將送交加州州長加文・紐森（Gavin Newsom）簽署。這項法案的推進引起了矽谷內部的激烈爭論，支持和反對的聲音交織在一起，成為大家關注的焦點。
圖源備註：圖片由AI生成，圖片授權服務商Midjourney
加州參議員 Scott Wiener介紹了這項法案，他表示自己為這項法案背後的多元聯盟感到自豪，大家都相信創新與安全同樣重要。他認為，人工智慧有著改變世界的巨大潛力，推行這項法案是為了確保這項潛力得以安全地釋放。
科技巨頭們對此反應不一，xAI 的執行長 Elon Musk）也對此表示支持。他在社群媒體上指出，加州應該通過SB1047法案，以避免人工智慧被濫用。他提到，自己支持人工智慧的監管已有二十多年，認為有必要對潛在風險進行規範。
這項法案的核心內容是要求開發大規模AI 模型的公司（訓練成本超過1億美元）在發布前進行全面的安全測試。同時，法案要求這些公司在危機情況下設定「緊急停止」 功能，並在發生安全事故後72小時內向加州檢察長報告。新成立的「前沿模型局」 將負責監督合規性，若違規多次，將面臨高達3000萬美元的罰款。
支持者包括人工智慧領域的知名人士，如傑弗裡・辛頓（Geoffrey Hinton）和約書亞・本吉奧(Yoshua Bengio)，他們認為這項法案對抗擊人工智慧風險至關重要，甚至可能為全國的人工智慧安全設定標準。
然而，反對者則認為該法案可能會抑制創新，導致人才流失，加州的科技公司如Google、OpenAI 和Meta 紛紛表達了對法案的擔憂，認為小公司將受到不成比例的影響，技術進步也可能因此放緩。他們呼籲應制定聯邦層級的法規，以避免各州之間的不一致。
SB1047法案在加州撥款委員會通過了修訂，現在正等待州議會的最終投票。如果加州州長紐森簽署這項法案，它將成為美國首個類似的人工智慧監管法，可能會對全球科技業和人工智慧的未來監管產生深遠影響。
劃重點:
? ** 法案通過**:加州SB1047人工智慧安全法案獲得通過，正待州長簽署。
? ** 安全措施**:法案要求高成本AI 模型進行安全測試並設定緊急停止功能。
? ** 各方回應**:科技巨頭支持與反對聲音交織，擔心影響創新與人才流失。
SB1047法案的最終命運以及其對人工智慧發展的影響，值得持續關注。它不僅關乎加州的科技未來，也可能為全球人工智慧監管提供一個重要的參考案例。