加速派又贏了?OpenAI又一保守派老將辭職

剛剛,OpenAI又一位保守派老將邁爾斯·布倫戴奇(Miles Brundage)宣佈辭職。他所負責的通用人工智能(AGI)準備工作組也同時被解散,併入其他團隊。

布倫戴奇在OpenAI工作了六年多,是OpenAI長期政策研究員、AGI準備工作高級顧問,也是OpenAI所剩無幾堅持遏制人工智能風險的老員工之一。

世界還遠未準備好迎接AGI

在OpenAI章程中,AGI被定義爲“在大多數經濟價值較高的工作中,能夠勝過人類的高度自主系統”。確保AGI造福全人類是OpenAI的使命。而布倫戴奇負責的AGI準備工作組的任務大致是爲安全、可靠、有益地開發、部署和管理能力日益增強的人工智能系統做好準備。

然而,布倫戴奇在北京時間今日凌晨發佈的離職聲明中直言不諱,無論是OpenAI還是其他任何前沿實驗室,都沒有爲實現AGI做好準備,這個世界還遠未準備好迎接強大的AGI。

在布倫戴奇看來,現有的差距仍然巨大,以至於他計劃在職業生涯的剩餘時間裡,都致力於人工智能政策方面的工作。

布倫戴奇計劃加入一個非營利組織,以便更自由地發表文章,更獨立地從事人工智能政策研究。他提到,雖然OpenAI願意以各種方式支持這項工作,但他在公司內部感受到的限制越來越多。特別是發佈文章審查方面的限制變得太多了。

此前,OpenAI首席執行官山姆·奧爾特曼(Sam Altman)曾試圖將海倫·託納(Helen Toner,現任美國喬治城大學安全與新興技術中心戰略主任)從OpenAI非營利組織董事會解僱,原因僅僅是她與人合著的一篇學術論文對OpenAI的安全承諾提出了過多批評。

一個時代的終結

布倫戴奇的辭職,意味着OpenAI內部關注人工智能安全和治理的聲音正在消亡,OpenAI已不再是過去我們熟知的那個OpenAI。

劍橋大學潛在風險研究中心研究員海頓·貝爾菲爾德(Haydn Belfield)稱布倫戴奇的辭職爲“一個時代的終結”。

事實上,2019年OpenAI首次成立盈利部門時,布倫戴奇等老員工就對非營利屬性的改變表示過擔憂,但他們最終接受了這一轉變。然而,隨着時間的推移,情況發生了顯著變化。特別是在2023年11月,奧爾特曼被短暫解僱的事件之後,員工們對OpenAI的文化和領導層產生了質疑。

儘管奧爾特曼被複職,但這一事件只是OpenAI內部動盪的開始。自那以後,OpenAI員工人數大幅增加,但同時也失去了大量堅持遏制AI風險的員工。據美國《財富》雜誌報道,在過去幾個月中,有一半以上關注AGI安全的員工離開了OpenAI。

值得注意的是,OpenAI前超級對齊團隊的負責人伊利亞·蘇茨克沃爾(Ilya Sutskever)和揚·萊克(Jan Leike)在離職時也公開批評了OpenAI的安全文化。萊克甚至表示,在過去幾年裡,OpenAI的安全文化已讓位於光鮮亮麗的產品。

此外,布倫戴奇表達了對整個行業在AGI安全問題上的擔憂。他指出,儘管近年來科技進步很快,但在安全問題上偷工減料、缺乏監管可能會導致嚴重的後果。他呼籲國會大力資助美國人工智能安全研究所。

布倫戴奇還認爲,應該把安全地實現AGI視爲全球性的挑戰,而非國家安全問題。他提倡通過國際合作,來解決未來AGI非常棘手的安全問題。

本文源自科創板日報