美國加州議會通過AI法案：馬斯克力挺，反對派擔心扼殺創新

智東西編譯 楊蕊伃編輯 漠影

智東西8月29日消息，據《紐約時報》報道，週三，美國加州立法者通過了一項備受爭議的法案，旨在對人工智能（AI）設立新的限制，確保AI技術既具有創新性，也具備安全性和可靠性。

SB-1047法案全稱“前沿AI模型安全創新法案”。其目的是爲那些開發成本超過1億美元或具備一定計算能力的開發者建立安全準則，以保障大規模AI模型的安全性。

據悉，本週還需再進行一次程序投票，最後由美國加州州長加文·紐森（Gavin Newsom）於9月30日之前決定簽署還是否決。

儘管歐盟已經制定了AI法案，但美國尚未通過有關限制使用較高風險技術的法律，如限制使用面部識別軟件。

一、美國加州要求AI公司進行安全性測試

美國加州議會批准的SB-1047法案要求大型AI公司在向公衆發佈其系統之前，必須對系統進行安全性測試。

據路透社報道，SB-1047還要求開發人員聘請第三方審計師來評估其安全實踐，併爲公開反對AI濫用行爲的舉報人提供額外保護。

此外，加州AI法案允許州檢察長向造成重大傷害事故的AI製造商提起訴訟，例如死亡或財產損失。

隨着類人機器人和逼真的圖像、視頻生成器的引入，加州AI法案認爲如果AI的發展沒有適當地受到人類控制，未來這項技術可能會對公共安全造成新的威脅。

“議會採取了歷史性的措施，主動確保這一令人興奮的新技術在發展過程中保護公衆利益，”加州AI法案的共同作者、民主黨參議員Scott Wiener在一份聲明中寫道。

然而，自2月提交以來，加州AI法案一直飽受爭議。

美聯社Juliana Yamada稱，美國加州立法的通過引發了一場關於如何監管這一新技術的激烈辯論，AI因其潛在的利益和危害而廣受關注。

本月，Wiener又對法案進行了多項修改，以安撫Anthropic、OpenAI、Meta和谷歌等科技行業的批評者。

他將創建專注AI安全的獨立機構的這項提議刪除，並降低了公司的責任標準，僅在造成實際傷害時才追究責任。

新聞機構CalMatters關於SB-1047的總結記錄顯示，加州AI法案目前已修正過十一版。

據《環球時報》報道，Wiener稱：“隨着國會在AI監管問題上陷入僵局，美國加州必須採取行動，在AI帶來可預見的風險之前採取行動，同時促進創新也不能放。”

在他看來，AI安全與創新並不互斥。

二、加州AI法案獲支持：確保AI發展與公共安全並行

目前，加州AI法案的最新修訂版已經解決了此前一些批評者的擔憂。

埃隆·馬斯克（Elon Musk）本週在他的社交網站發文稱，這是一個“艱難的決定”，但“綜合考慮所有因素”，他支持對AI進行監管，支持通過加州AI法案，因爲這項技術對公衆存在潛在風險。

SB-1047法案的其他支持者也認爲，如果沒有保護措施，AI可能帶來災難性後果。它可能被用於生物戰爭，或通過虛假信息運動推翻民主選舉和政府。

“政府現在就如何開發和部署這些強大的AI系統所做的選擇可能會對當代和未來幾代美國加州人乃至世界各地的人產生深遠的影響。”蒙特利爾大學計算機科學教授Yoshua Bengio和因AI安全問題辭去谷歌職務的Geoffrey Hinton在寫給紐森的信中談到。

三、弊大於利：行業擔憂美國加州AI法案可能抑制技術創新

加州AI法案雖然得到了部分科技界人士的支持，但仍面臨來自行業內的強烈反對，呼籲保護創新與發展。

包括前衆議院議長南希·佩洛西（Nancy Pelosi）在內的數名國會議員已致信紐森，警告他該立法可能會威脅到AI的發展。他們認爲這項技術仍處於初期階段，現在就要明確AI系統是否安全還爲時過早。

佩洛西在上週發表的一封公開信中寫道：“我們國會中的許多人認爲，SB-1047法案的初衷是好的，但缺乏充分了解。”

OpenAI日前也公開反對加州AI法案。

據《環球時報》報道，OpenAI首席戰略官Jason Kwon在給Wiener的信中寫道，SB-1047法案威脅到“美國加州作爲AI全球領導者的獨特地位”。他補充說，這可能“減緩創新步伐，並導致世界級工程師和企業家離開該州到其他地方尋找機會”。

Wiener對此也作出迴應，他認爲SB-1047是一項非常合理的法案，它要求大型AI實驗室測試他們的大型模型是否存在災難性的安全風險，“我們一整年都在努力工作，與開源倡導者、Anthropic和其他組織一起完善和改進SB-1047法案。”

SB-1047法案的反對者擔心，這可能會扼殺創新，阻礙初創公司的發展。他們認爲，這將使科技巨頭不願意與其他企業和軟件開發者分享其AI的底層軟件代碼，也就是通常所說的“開源”。

目前，紐森尚未對該立法表態。

結語：美國加州通過SB-1047法案，AI監管再邁出一步

隨着美國加州立法機關通過SB-1047法案，美國AI監管進入新階段。這項立法不僅爲美國加州設定了新的技術標準，也可能影響全球範圍內對AI的監管政策。

通過立法來確保技術的安全性和可靠性，有助於增強公衆對AI技術的信任，促進AI在更廣泛領域的應用。美國加州通過SB-1047法案，不僅對現有技術的發展提出了挑戰，也爲行業的長期健康發展奠定了基礎。

美國空軍退役中將Lieutenant General John (Jack) Shanahan稱，SB-1047法案針對公民社會和國家安全面臨的近期潛在風險提供了務實的解決方案，同時也爲科技行業與各級政府之間的進一步對話奠定了基礎。

如果加州AI法案簽署成功，其具體效果及各方面的反饋也將成爲國際社會關注的熱點。AI技術的發展和監管將繼續在全球不斷的討論和探索中進化，以尋求平衡創新與倫理、安全等多方面的需求。

來源：《紐約時報》、《環球時報》、路透社