大型科技公司對缺陷AI癡迷，如何馴服硅谷？

因爲生成式人工智能，硅谷是否處於道德衰退的境地？紐約大學心理學和神經科學榮譽退休教授加里·馬庫斯（Gary Marcus）這麼認爲，但他不相信這是一個新現象。

馬庫斯在其新書——馴服硅谷：我們怎樣確保人工智能爲我們服務——裡引用了與早期 Facebook 投資者羅傑·麥克納米（Roger McNamee）的往來通信，稱 2008 年美國金融危機促使硅谷轉向價值提取，並將初創公司的估值置於實際利潤或可持續商業模式之上。硅谷的這種短期觀念已經滲透進我們如今所看到的生成式人工智能裡，由於假設的概念和通用人工智能（AGI）的夢想，人工智能的風險被認爲是值得的，但迄今爲止，任何人工智能公司都尚未公開開發出 AGI。

但馬庫斯對於生成式人工智能的擔憂可不只這些。這更像是一個廣泛而全面的警告，提醒我們，如果不盡快做出重大改變，人工智能可能會極大地破壞我們的數字和現實生活。

馬庫斯列舉了來自世界各地的衆多實例，解釋道我們現今所擁有的生成式人工智能技術至少帶來了十幾種直接的威脅，主要是因爲美國幾乎沒有監管，而且這些工具在設計上存在缺陷。它們也是免費或廉價的，並且廣泛可用。

政治虛假信息、市場操縱、意外的錯誤信息、誹謗、未經同意的深度僞造、犯罪增加、網絡安全威脅、生物武器和歧視只是馬庫斯書中詳細闡述的衆多威脅中的一部分。他把焦點放在我們圍繞生成式人工智能一直存在的社會焦慮上，揭露了大型科技公司和反監管情緒的黑暗面，併爲監管機構和普通公民制定了行動計劃。

當馬庫斯批評 OpenAI、谷歌和 Meta 時，他在《馴服硅谷》一書中寫道，其對蘋果的態度明顯有所不同，稱蘋果“不像其他公司那樣偏離正軌那麼遠”。他認爲，蘋果更多是在銷售“有吸引力的生產力工具”，而非個人信息，這與Facebook 舉報人弗朗西斯·豪根的觀點一致，即蘋果沒有在其商業策略上欺騙公衆的動機。

在接受 PCMag 的書面採訪時，馬庫斯直言不諱地分享了他對大型科技公司和生成式人工智能崛起的立場。爲了清晰起見，本次採訪經過了少量精簡。

PCMag：您之前寫過一本關於人工智能的書，《重新啓動人工智能》，該書於 2020 年 ChatGPT 崛起之前出版。是什麼促使您寫《馴服硅谷》？爲什麼是現在？

加里·馬庫斯：上一本書探討了爲什麼人工智能很難，以及當時的方法在技術上爲何不夠充分。五年後，我仍然[認爲]我們當時所說的大部分內容都是正確的。新書講述的是當前社會正在發生的事，原因是一種非常不成熟的人工智能（生成式人工智能）正在迅速傳播。但最終它更多地是關於：爲什麼獲得正確的人工智能形式迫在眉睫，以及爲什麼公民應該參與進來。

PCMag：目前在生成式人工智能領域中的一些知名企業/巨頭正在告訴我們，通用人工智能（AGI） 即將到來。他們是對還是錯？

馬庫斯：錯。每當有人這麼說，我就知道他們對智能的複雜程度以及我們還有多遠的路要走缺乏清晰的認識。而且大多數這麼說的人實際上並不想爲他們的信念辯護；我向埃隆·馬斯克（Elon Musk）出價一百萬美元來駁斥這種說法，但他不敢接受。

即使是最新的模型（GPT o1）也不能可靠地在井字棋遊戲中獲勝或在國際象棋中始終做出合法的走法；它在浮點運算方面也有困難。每個新模型都像上一個一樣存在幻覺之類的問題和愚蠢的錯誤，然而我們所擁有的只是無盡的承諾，而非一個有原則的解決方案。

PCMag：在您看來，人工智能能否像人類一樣真正“知道”任何事情？

馬庫斯：我覺得沒理由不行。GPS 導航系統實際上知道您的車在哪裡、您要去哪裡、中間的道路是什麼，並算出一條高效的路徑。在我看來，這似乎就是知識，而且是可靠的知識。

大型語言模型要難處理得多，也不可靠得多，就像個黑匣子。我不確定我真的願意把除統計趨勢之外的任何知識歸功於它們。但這並不意味着其他方法在概念上不能更深入。只是意味着我們不應在通用人工智能上浪費這麼多錢，而應該開始探索不同的方法。

PCMag：一些硅谷高管和風投聲稱，監管本質上阻礙了創新。您如何看待這樣的論點？

馬庫斯：他們純粹是胡說八道，是那些貪婪的人爲了賺一筆錢啥都敢說。您覺得如果沒有監管，商業航空公司會安全嗎？

PCMag：您的書中討論了人工智能目前被用於有害用途的多種方式。人工智能還極度耗能，在人類導致的氣候變化、化石燃料行業以及全球污染依舊令人憂心的當下。鑑於所有這些，您認爲當今的人工智能對人類來說是淨積極的嗎？還是淨消極的？如果是消極的，需要發生什麼才能扭轉影響？

馬庫斯：我會說 AlphaFold、谷歌搜索和 GPS 導航都是非常淨積極的，但聊天機器人和生成式人工智能情況較爲複雜，很容易最終呈現出淨消極的態勢。我認爲（a）我們應該尋找比生成式人工智能更好的技術，這是當下的技術但非常有缺陷，並且（b）讓公司對其技術產生的負面影響（錯誤信息、對環境的危害、未經同意的深度僞造色情內容、招聘中的隱性種族主義等）承擔更多責任，如果我們這樣做，公司會想出更好的方法。如果我們不讓他們負責，我們將面臨一團糟。

PCMag：一些大型科技公司，如 Meta、谷歌和微軟，已經看到了他們的人工智能產品的強烈反對。當然，Meta 意識到病毒式的人工智能生成的蝦耶穌圖像並沒有推動社會變得更美好，而微軟的召回功能已被批評爲安全問題。您認爲這些公司爲什麼一直試圖向用戶推送生成式人工智能功能，往往不讓他們選擇退出？

馬庫斯：顯然他們都在尋找投資回報率[投資回報]，但這項技術的效果遠沒有他們期望公衆相信的那麼好，公衆（和大公司）都意識到他們被忽悠了。所以像微軟這樣的公司似乎急於爲生成式人工智能找到用途，但並沒有說服那麼多人。

PCMag：正如您在書中所討論的，人工智能生成的圖像正在 排擠谷歌上合法的歷史圖像 或真實世界的圖像結果。谷歌的 人工智能相關概述 也一直是個 大問題 ，用戶無法真正關閉。隨着谷歌和必應越來越多地被人工智能生成的結果充斥，普通人在網絡上該如何導航？

馬庫斯： 他們應該“堅決說不”，並告訴這些公司，他們不想要一堆他們沒有要求的破壞氣候、侵犯版權的人工智能系統，如果硅谷不整頓好，甚至可以考慮抵制人工智能。

馴服硅谷 將於 9 月 17 日由麻省理工學院出版社出版。