加州議會通過了！美國AI監管“里程碑”就快塵埃落定了

財聯社8月29日訊（編輯 黃君芝）據報道，美國加利福尼亞州議會週三（28日）通過了一項備受爭議的人工智能（AI）安全法案，該法案要求相關公司確保他們的技術不會造成重大傷害。當天，州議會以41票贊成、9票反對的結果通過了這項立法。

這也代表着，這項名爲SB 1047的法案終於要塵埃落定了。現在，該法案將回到州參議院進行確認投票和可能的修正案，然後提交給州長紐森（Gavin Newsom）。他必須在9月30日之前決定是否簽署該法案或否決它。

何爲SB 1047？

“SB 1047法案”，全稱“前沿人工智能模型安全創新法案”。該法案於今年2月被提交給加州議會，引起很大爭議。8月19日，加州立法機構公佈了法案修訂版。

SB 1047法案旨在爲訓練成本超過1億美元或者達到一定算力的開發者制定安全標準，確保大規模人工智能模型的安全開發。該法案要求大型前沿人工智能模型的開發者採取預防措施，例如部署前測試、模擬黑客攻擊、安裝網絡安全保障，以及爲舉報人提供保護等。

這是爲了確保他們的技術不會造成“嚴重傷害”，比如大規模人員傷亡或5億美元以上的財產損失。另外，在該州運營的人工智能軟件開發商還需要概述在人工智能模型出現問題時關閉它們的方法，這實際上是一個“強行終止開關”。

此外，該法案還賦予州檢察長在開發商不遵守規定時提起訴訟的權力，特別是在出現持續威脅的情況下，例如人工智能接管電網等政府系統；該法案還要求開發商聘請第三方審計師來評估他們的安全實踐，併爲舉報人工智能濫用行爲的舉報人提供額外保護。

引發爭議

在過去的幾個月裡，該法案遭到了許多主要科技領袖、初創公司和風險投資家的強烈反對。他們表示，這代表着政府對一項仍處於起步階段的技術的過度關注，可能會扼殺該州的科技創新。上週，OpenAI公開表示反對該法案，認爲這樣的政策應該在聯邦而不是州一級實施。

包括前衆議院議長南希·佩洛西（Nancy Pelosi）、美國衆議員Ro Khanna、舊金山市長London Breed等政界人士也對該法案表示反對，這與科技行業的擔憂相呼應，即該法案可能會阻礙加州在人工智能創新方面的領導地位。

但在投票前的最後階段，該法案也贏得了人工智能領域一些主要企業的支持。週二，埃隆·馬斯克出人意料地表達了他的支持，儘管他說這是一個“艱難的決定，會讓一些人感到不安”。

OpenAI的競爭對手Anthropic也謹慎地對該法案表達了支持。上週，該公司表示“收益可能大於成本”，並且它可以切實實施這些條款。在Wiener實施了該公司建議的幾項修正後，Anthropic變得更加支持這項立法。

發起人“辯護”

SB 1047法案發起人、美國民主黨參議員Scott Wiener稱，認爲，人工智能安全與創新並不互斥，該法案的修訂版已經解決了此前一些批評者的擔憂。

Wiener在一份最新聲明中說：“創新和安全可以齊頭並進——加州正在引領這一潮流。通過這次投票，大會邁出了真正具有歷史意義的一步，積極努力，確保一項令人興奮的新技術在發展過程中保護公衆利益。”

他還稱該法案是一項“溫和的常識性措施”，將許多大公司已經做出的安全承諾寫入法律。

Wiener還針對批評人士爲該法案進行了辯護，強調其條款僅適用於成本超過1億美元的大型模型訓練公司或1000萬美元微調模型的公司，這將豁免大多數較小的初創公司。

這位議員還表示，雖然他會支持聯邦立法，但國會在監管科技方面一直行動遲緩，在缺乏國家行動的情況下，他認爲加州有責任發揮領導作用。