深度｜OpenAI真正想要的是什麼？
【編者按】去年底，OpenAI “匆忙”推出了它的現象級產品 ChatGPT，隨後卻意想不到地引發了自互聯網進入大衆生活以來前所未有的技術爆炸。突然間，圖靈測試貌似要成爲歷史，搜索引擎也瀕臨“滅絕”，一些學術論文開始變得不可信，沒有一份工作是安全的，沒有一個科學問題是一成不變的。
OpenAI、Sam Altman 和 ChatGPT 瞬間成爲這個時代最火熱的搜索詞之一，幾乎所有人都爲之瘋狂。那麼，你是否瞭解 Sam Altman 和 OpenAI 的成長故事呢？
近日，知名科技記者 Steven Levy 在美國數字媒體 WIRED 發表了一篇長文，圍繞 Sam Altman，就 OpenAI 公司的成長史和公司願景展開了深度討論。核心內容如下：
圖｜從左到右依次爲：OpenAI 首席科學家 Ilya Sutskever、OpenAI CEO Sam Altman、OpenAI CTO Mira Murati 和 OpenAI 總裁 Greg Brockman（來源：WIRED）
學術頭條在不改變原文大意的情況下，做了簡單的編譯，內容如下：
當這位明星和他的隨行人員跌跌撞撞地鑽進一輛等候多時的奔馳麪包車時，空氣中迸發出近乎披頭士狂熱的能量。他們剛剛從一個活動中脫身，又要趕往另一個活動，然後是另一個活動，那裡有一羣狂熱的人們在等着他們。從霍爾本（Holborn）到布盧姆斯伯裡（Bloomsbury），他們在倫敦的大街小巷中穿梭，就像在經歷文明的前世今生。這輛車所蘊含的創造歷史的力量吸引了全世界的目光。從排隊等候的學生到首相，每個人都想從中獲得一些什麼。
在這輛豪華麪包車裡，正狼吞虎嚥地吃着沙拉的是38歲的企業家、OpenAI 的聯合創始人 Sam Altman，以及一名公關人員、一名安全專家和我本人。Altman 身着藍色西裝，內搭一件無領粉色禮服襯衫，略顯抑鬱地在倫敦兜風，這是他爲期一個月的全球短途旅行的一部分，途經六大洲的25座城市。因爲今天沒時間坐下來吃午餐，所以他一邊狼吞虎嚥地吃着蔬菜，一邊回想着前一晚與法國總統馬克龍的會面。馬克龍對 AI 非常感興趣。
波蘭首相也是如此。西班牙首相也是如此。
和 Altman 一起坐車，我幾乎能聽到《一夜狂歡》（A Hard Day’s Night）開篇那鏗鏘有力、含糊不清的和絃——那是對未來的介紹。去年11月，當 OpenAI 推出它的怪物級產品 ChatGPT 時，引發了自互聯網進入我們生活以來前所未有的技術爆炸。突然間，圖靈測試成爲歷史，搜索引擎瀕臨滅絕，任何大學論文都不可信。沒有一份工作是安全的。沒有一個科學問題是一成不變的。
Altman 並沒有參與 ChatGPT 及其 GPT-4的研究、神經網絡訓練或界面編碼。但作爲首席執行官——一個夢想家/實幹家類型的人，他就像年輕版的聯合創始人 Elon Musk，沒有包袱——一篇又一篇的新聞報道用他的照片作爲人類新挑戰的視覺象徵。至少，那些沒有用由 OpenAI 的視覺 AI 產品 Dall-E 生成的令人瞠目的圖像作爲頭條的文章是如此。他是當下的先知，是人們在 AI 如何迎來黃金時代，或使人類變得無關緊要，或更糟的問題上首先要諮詢的人物。
五月的一個陽光明媚的日子，Altman 的麪包車載着他去參加了四次活動。第一場是與政府、學術界和工業界人士進行的一場不公開的“圓桌會議”（Round Table）。會議是在最後一刻組織的，地點在薩默斯鎮咖啡館的二樓。在釀酒師 Charles Wells 炯炯有神的肖像下，Altman 向幾乎所有聽衆提出了同樣的問題。AI 會殺死我們嗎？它能被監管嗎？他都一一作了詳細回答，同時還不時瞄一眼自己的手機。之後，他在豪華的倫敦人酒店與牛津公會的600名會員進行了一次爐邊談話。之後，他來到地下室會議室，回答約100名企業家和工程師提出的更多技術問題。現在，他下午在倫敦大學學院的臺上演講幾乎要遲到了。他和他的團隊停在一個裝卸區，然後被帶進一系列蜿蜒曲折的走廊。一邊走，主持人一邊匆匆告訴 Altman 他要問的問題。當 Altman 突然出現在舞臺上時，觀衆席上的學者、極客和記者們沸騰了。
Altman 並不是一個天生的宣傳狂。有一次，在《紐約客》刊登了一篇關於他的長篇報道後，我立即與他進行了交談。他說：“關於我的報道太多了”。但在大學學院，正式活動結束後，他走進了涌向臺下的人羣中。他的助手試圖夾在 Altman 和人羣之間，但被他甩開了。他回答了一個又一個問題，每次都聚精會神地盯着對話者的臉，彷彿他是第一次聽到這樣的提問。每個人都想拍照。20分鐘後，他終於讓他的團隊把他拉了出來。然後，他又去見了英國首相 Rishi Sunak。
也許有一天，當機器人書寫我們的歷史時，他們會把 Altman 的世界巡演作爲一個里程碑，因爲在這一年裡，所有人都在同一時間開始進行自己的個人思考。又或者，無論誰來書寫這一刻的歷史，都會把它看作是一位默默無聞的令人信服的首席執行官，帶着一項打破範式的技術，嘗試將一種非常奇特的世界觀注入全球的思想潮流——從舊金山使命區一個沒有標誌的四層樓總部到整個世界。
對 Altman 和他的公司來說，ChatGPT 和 GPT-4只是實現一個簡單而重大使命的“墊腳石”，這些技術專家可能已經在自己的肉體上烙下了這個使命。這個使命就是建立通用人工智能（AGI），迄今爲止，這個概念更多地是建立在科幻小說而非科學的基礎上，而且要讓它對人類安全。OpenAI 的員工對這一目標的追求是狂熱的。（不過，在辦公室咖啡廳裡的任何一次談話都會證實，“構建 AGI”這一點似乎比“確保安全”更能讓研究人員感到興奮）。這些人並不避諱隨意使用“超級智能”這個詞。他們認爲，AI 的發展軌跡將超越生物學所能達到的任何高峰。該公司的財務文件甚至規定了一種退出應急方案，以防 AI 摧毀我們的整個經濟體系。
稱 OpenAI 爲邪教（cult）並不公平，但當我問公司的幾位高層，如果有人不相信 AGI 真的會到來，而且它的到來將標誌着人類歷史上最偉大的時刻之一，他們是否能在這裡安心工作時，大多數高管都不這麼認爲。他們不禁要問，不相信的人爲什麼要在這裡工作？他們的假設是，這裡的員工，現在大約有500人已經自我選擇了只做信徒。至少，正如 Altman 所說，一旦你被錄用，似乎就不可避免地會被捲入這個魔咒。
與此同時，OpenAI 也已今非昔比。它成立之初是一家純粹的非營利性研究機構，但如今，從技術上講，它的大部分員工都在爲一家據說估值近300億美元的盈利實體工作。Altman 和他的團隊現在面臨的壓力是，要在每個產品週期內實現革命，既要滿足投資者的商業需求，又要在激烈的競爭中保持領先。與此同時，他們還肩負着提升人類而非消滅人類的準救世主使命。
這種壓力會讓人崩潰。披頭士掀起了巨大的變革浪潮，但只持續了這麼短的時間：在敲響那令人難忘的和絃六年後，他們甚至不再是一支樂隊。OpenAI 引發的漩渦幾乎肯定會更大。但 OpenAI 的領導者們發誓，他們將堅持到底。他們說，他們要做的就是製造出足夠智能、足夠安全的計算機，終結歷史，將人類帶入一個難以想象的富饒時代。
Altman 成長於上世紀80年代末90年代初，是一個沉迷於科幻小說和《星球大戰》的書呆子。在早期科幻小說家構建的世界中，人類往往與超級智能 AI系統共同生活，或與之競爭。計算機與人類能力相匹配或超越人類能力的想法讓 Altman 興奮不已，他的手指幾乎無法觸及鍵盤，但他一直在編碼。8歲時，父母給他買了一臺 Macintosh LC II。一天晚上，他玩到很晚，腦子裡突然冒出一個想法：“總有一天這臺電腦會學會思考”。2003年，當他來到斯坦福大學讀本科時，他希望能幫助實現這一目標，並選修了 AI 課程。但“這根本行不通”，他後來說。當時，AI 領域仍深陷創新低谷，被稱爲“AI 寒冬”。Altman 退學後進入了初創公司領域；他的公司 Loopt 是 Y Combinator 的第一批小公司，Y Combinator 後來成爲世界上最著名的孵化器。
2014年2月，YC 的創始人 Paul Graham 選擇當時28歲的 Altman 接替自己。Graham 在公告中寫道：“他是我所認識的最聰明的人之一，他對初創企業的理解可能超過我認識的任何人，包括我自己。”但在 Altman 看來，YC 不僅僅是一個公司的啓動平臺。“我們與初創企業無關，”他在上任後不久對我說，“我們的目標是創新，因爲我們相信，只有創新才能爲每個人創造美好的未來。”在 Altman 看來，從所有這些獨角獸企業中套現的意義不在於裝滿合夥人的錢包，而在於爲物種層面的變革提供資金。他成立了一個研究部門，希望爲雄心勃勃的項目提供資金，以解決世界上最大的問題。但在他看來，AI 纔是顛覆一切的創新領域：一個能比人類更好地解決人類問題的超級智能。
幸運的是，Altman 就任新職時，AI 的冬天正變成豐收的春天。現在，計算機正在通過深度學習和神經網絡完成令人驚歎的壯舉，比如給照片貼標籤、翻譯文本和優化複雜的廣告網絡。這些進步讓他相信，AGI 第一次真正觸手可及。然而，把它交到大公司手中卻讓他感到擔憂。他認爲這些公司會過於專注於自己的產品，而無法抓住機會盡快開發出 AGI。而且，如果他們真的創造出了 AGI，他們可能會不計後果地在沒有采取必要預防措施的情況下將其公之於衆。
當時， Altman 一直在考慮競選加利福尼亞州州長。但他意識到，他完全有能力做更大的事情——領導一家將改變人類本身的公司。2021年，他告訴我：“AGI 將只建造一次。而且，能夠很好地運營 OpenAI 的人並不多。我很幸運，我生命中的一系列經歷讓我真正積極地爲此做好了準備。”
Altman 開始與那些可能幫助他創辦一家新型 AI 公司的人交談，這家非營利性公司將引導 AI 領域走向負責任的 AI。特斯拉和 SpaceX 公司首席執行官 Elon Musk 就是其中一位志同道合者。Musk 後來告訴 CNBC，在與谷歌聯合創始人 Larry Page 進行了一些馬拉松式的討論後，他開始關注 AI 的影響。Musk 說，令他感到沮喪的是，Page 對安全問題關注甚少，而且似乎把機器人的權利視爲與人類平等。當 Musk 說出自己的擔憂時，Page 指責他是一個“物種主義者”。Musk 也明白，當時谷歌僱傭了世界上大部分的 AI 人才。他願意花一些錢，爲“人類團隊”做出更多努力。
幾個月內，Altman 就從 Musk（承諾提供1億美元和他的時間）和 Reid Hoffman（捐贈1千萬美元）那裡籌到了資金。其他資助者包括 Peter Thiel、Jessica Livingston、亞馬遜網絡服務公司（Amazon Web Services）和 YC Research。Altman 開始秘密招募團隊成員。他將搜索範圍限制在 AGI 信徒身上，這一限制縮小了他的選擇範圍，但他認爲這一點至關重要。他說：“早在2015年，當我們進行招聘時，對於 AI 研究人員來說，說你認真對待 AGI 幾乎被認爲是職業生涯的殺手。但我想要的是認真對待它的人。”
圖｜Greg Brockman（來源：WIRED）
Stripe 公司的首席技術官 Greg Brockman 就是其中之一，他同意擔任 OpenAI 的首席技術官。另一位重要的聯合創始人是 Andrej Karpathy，他曾在搜索巨頭谷歌的尖端 AI 研究機構 Google Brain 工作過。不過，Altman 最炙手可熱的目標或許是一位名叫 Ilya Sutskever 的工程師。
Sutskever 是 Geoffrey Hinton 的得意門生，Hinton 在深度學習和神經網絡方面的研究成果被譽爲現代 AI 教父。Hinton 至今仍與 Sutskever 持着密切的關係，他對自己弟子的聰明才智讚歎不已。Sutskever 在實驗室任職初期，Hinton 曾交給他一個複雜的項目。Sutskever 厭倦了編寫代碼來進行必要的計算，他告訴 Hinton，如果他爲這項任務編寫一種定製的編程語言，會更容易些。Hinton 有點惱火，試圖警告他的學生不要去做他認爲會讓他分心一個月的事情。然後，Sutskever 坦白地說：“我今天早上就做了”。
圖｜Ilya Sutskever（來源：WIRED）
Sutskever 成爲了 AI 領域的超級明星，他與他人合作撰寫了一篇突破性論文，展示了 AI 如何通過接觸大量數據來學習識別圖像。最終，他成爲了 Google Brain 團隊的一名核心科學家。
2015年年中，Altman給 Sutskever 發了一封冷冰冰的郵件，邀請他與 Musk、Brockman 等人在帕洛阿爾託沙山路的豪華 Rosewood 酒店共進晚餐。直到後來，Sutskever 才知道自己是晚宴的貴賓。他說：“這是一次關於未來 AI 和 AGI 的對話。更具體地說，他們討論了“谷歌和 DeepMind 是否已經遙遙領先，以至於不可能追上它們，或者是否還有可能像 Musk 所說的那樣，創建一個實驗室來制衡它們”。雖然晚宴上沒有人明確試圖招募 Sutskever，但這次談話吸引了他。
不久，Sutskever 給 Altman 寫了一封郵件，表示他願意領導這個項目，但這封郵件卻卡在了他的草稿箱裡。Altman 回信後，經過幾個月與谷歌的還價，Sutskever 簽下了合同。他很快就成爲了公司的靈魂人物和研究的推動力。
Sutskever 與 Altman 和 Musk 一起爲該項目招兵買馬，最終在納帕谷的一次務虛會上，幾位未來的 OpenAI 研究人員互相鼓勁。當然，有些人會抵制誘惑。John Carmack 是《毀滅戰士》（Doom）、《雷神之錘》（Quake）等無數遊戲的傳奇編碼員，他拒絕了 Altman 的邀請。
OpenAI 於2015年12月正式啓動。當時，當我採訪 Musk 和 Altman 時，他們向我介紹說，這個項目旨在通過與世界共享，讓 AI 變得安全、易用。換句話說，就是開源。他們告訴我，OpenAI 不會申請專利。每個人都可以利用他們的突破。這不是在給未來的邪惡博士授權嗎？我想知道。Musk 說這是個好問題。但 Altman 給出了答案：人類一般都是善良的，而由於 OpenAI 將爲絕大多數人提供強大的工具，因此壞人將不堪一擊。他承認，如果“邪惡博士”利用這些工具製造出無法抵制的東西，“那我們的處境就真的很糟糕了”。但 Musk 和 Altman 都認爲，AI 更安全的發展方向是掌握在不受利益驅動污染的研究機構手中。
Altman 提醒我不要期望很快就有結果。他說：“在很長一段時間裡，這裡都會像一個研究實驗室。”
降低期望值還有另一個原因。谷歌和其他公司多年來一直在開發和應用 AI。雖然 OpenAI 已投入10億美元（主要來自 Musk），擁有一支由研究人員和工程師組成的王牌團隊，並且肩負着崇高的使命，但它對如何實現目標毫無頭緒。Altman 還記得小團隊聚集在 Brockman 公寓裡的一個時刻，當時他們還沒有辦公室。“我當時想，我們該怎麼辦？”
OpenAI 成立一年多後，我在舊金山與 Brockman 共進午餐。作爲一家名字中帶有“Open”一詞的公司的首席技術官，他對細節的描述相當吝嗇。他確實肯定，這家非營利組織有能力在一段時間內動用最初的十億美元捐款。25名員工的工資——他們的工資遠低於市場價值——佔了 OpenAI 支出的大頭。他說：“我們的目標，也是我們真正在推動的事情，就是讓系統能夠完成人類以前無法完成的事情。”但目前看來，這只是一羣研究人員在發表論文。採訪結束後，我陪他去了公司位於使命區的新辦公室，但他只允許我走到前廳。他倒是躲進衣櫃裡給我拿了件 T 恤。
如果我當時進去打聽一下，也許就能知道 OpenAI 究竟有多艱難。Brockman 現在承認，“沒有什麼是行得通的。”它的研究人員把算法麪條扔到天花板上，看看什麼能粘住。他們鑽研解決視頻遊戲的系統，並在機器人技術上花費了大量精力。Altman 說：“我們知道我們想做什麼。我們知道爲什麼要這麼做。但我們不知道怎麼做。”
但他們相信。使用深度學習技術的人工神經網絡不斷改進，爲他們的樂觀情緒提供了支持。“總的想法是，不要對深度學習下注，”Sutskever 說。他說，追逐人工智能“並非完全瘋狂。它只是適度瘋狂而已”。
OpenAI 的崛起之路真正始於它聘請了一位尚未被人熟知的研究員 Alec Radford。2016年，Radford 離開了他在宿舍裡共同創辦的波士頓一家小型 AI 公司，加入了 OpenAI。在接受 OpenAI 的邀請後，他告訴他的高中校友雜誌，擔任這個新職位“有點類似於加入一個研究生項目”——一個研究 AI 的開放式、低壓力的棲息地。
他實際扮演的角色更像是 Larry Page 發明了 PageRank。
Radford 對媒體諱莫如深，從未就自己的工作接受過採訪，他通過一封很長的電子郵件回答了我關於他在 OpenAI 早期工作的問題。他最大的興趣是讓神經網絡與人類進行清晰的對話。這與製作聊天機器人的傳統腳本模式不同，從原始的 ELIZA 到流行的 Siri 和 Alexa，都採用了這種方法，但都很糟糕。他寫道：“我們的目標是看看是否有任何任務、任何環境、任何領域、任何事情，語言模型都能派上用場。”他解釋說，當時，語言模型被視爲新奇的玩具，只能偶爾生成一個有意義的句子，而且只有在你真的眯起眼睛的情況下才能生成。他的第一個實驗是掃描20億條 Reddit 評論來訓練語言模型。和 OpenAI 的許多早期實驗一樣，這個實驗失敗了。沒關係。這位23歲的年輕人獲得了繼續前進、再次失敗的許可。Brockman 說：“我們當時就想，Alec 很棒，就讓他做自己的事情吧。”
他的下一個重要實驗是受 OpenAI 計算機能力的限制而形成的，這一限制導致他在一個較小的數據集上進行實驗，該數據集專注於單一領域——亞馬遜產品評論。一位研究人員收集了大約1億條評論。Radford 訓練了一個語言模型，以簡單預測生成用戶評論的下一個字符。
但後來，該模型自己就能判斷出評論是正面的還是負面的——當你對模型進行編程，讓它創建正面或負面的評論時，它就會按照你的要求發表一篇或讚美或抨擊的評論。(誠然，這篇散文很笨拙：“我喜歡這種武器造型......喜歡國際象棋的男人必看！”）。Radford 說：“這完全出乎意料”。評論的情感，它的好惡，是一個複雜的語義函數，但 Radford 系統的一部分已經對此有了感覺。在 OpenAI 內部，這部分神經網絡被稱爲“無監督情感神經元”（unsupervised sentiment neuron）。
Sutskever 和其他人鼓勵 Radford 將他的實驗擴展到亞馬遜評論之外，利用他的洞察力訓練神經網絡就廣泛的主題進行對話或回答問題。
然後，好運降臨到了 OpenAI 身上。2017年初，一篇由8位谷歌研究人員合著的研究論文的預印本出現了，但並未引起人們的注意。這篇論文的正式標題是“Attention Is All You Need”，但它後來被稱爲“Transformer 論文”，這樣命名既是爲了反映這個想法改變遊戲規則的性質，也是爲了紀念從卡車變形爲巨型機器人的玩具。Transformer 使神經網絡能夠更高效地理解和生成語言。他們通過並行分析散文塊，找出哪些元素值得關注。這極大地優化了生成連貫文本以響應提示的過程。最終，人們意識到，同樣的技術也可以生成圖像甚至視頻。雖然該論文後來被稱爲當前 AI 狂潮的催化劑，可以把它想象成讓披頭士樂隊成爲可能的貓王，但在當時，Ilya Sutskever 只是少數幾個瞭解這一突破有多麼強大的人之一。Brockman 說：“當 Ilya 看到 Transformer 出現時，纔是真正的頓悟時刻。他說，‘這就是我們一直在等待的。’這就是我們的策略——努力解決問題，然後堅信我們或這個領域中的某個人會設法找出缺失的成分。
Radford 開始試驗 Transformer 結構。他說：“我在兩週內取得的進展超過了過去兩年的進展。他逐漸明白，要想最大限度地利用新模型，關鍵在於擴大規模——在超大規模的數據集上進行訓練。這個想法被拉德福德的合作者 Rewon Child 稱爲“Big Transformer”。
這種方法需要改變 OpenAI 的企業文化，也需要專注於它以前所缺乏的。Quora 首席執行官Adam D'Angelo 是 OpenAI 的董事會成員，他說：“爲了利用 Transformer 的優勢，你需要擴大它的規模。你需要把它辦得更像一個工程組織。你不能讓每個研究人員都做自己的事，訓練自己的模型，做出可以發表論文的優雅的東西。你必須做這些更乏味、不那麼優雅的工作”。他補充說，這是 OpenAI 能夠做到的，也是其他人做不到的。
Radford 和他的合作者給他們創建的模型起的名字是“generatively pretrained transformer”——GPT-1的縮寫。最終，這個模型被通稱爲“生成式 AI”。爲了建立這個模型，他們收集了7000本未出版的書籍，其中很多都是浪漫、奇幻和冒險類型的書籍，並在 Quora 問答以及初中和高中考試的數千段文章中對其進行了完善。總之，該模型包含1.17億個參數或變量。該模型在理解語言和生成答案方面的表現優於之前的所有模型。但最引人注目的結果是，在處理如此大量的數據後，模型能夠提供超出其訓練的結果，在全新的領域提供專業知識。這些計劃外的機器人能力被稱爲“零樣本”。它們仍然令研究人員感到困惑——這也是該領域許多人對這些所謂的大型語言模型感到不安的原因。
Radford 還記得在 OpenAI 辦公室的一個深夜。“我只是一遍又一遍地說：‘嗯，這很酷，但我很確定它做不了 X。’然後我會快速編寫一個評估代碼，果然，它可以做到 X。”
GPT 的每一次迭代都會做得更好，部分原因是每一次迭代所吞噬的數據都比前一個模型多出一個數量級。創建第一個迭代模型僅一年後，OpenAI 就在開放互聯網上用15億個驚人的參數訓練了 GPT-2。就像蹣跚學步的孩子掌握語言一樣，它的反應越來越好，越來越連貫。以至於 OpenAI 在是否將該程序公之於衆的問題上猶豫不決。Radford 擔心它會被用來生成垃圾郵件。他說：“我記得在2008年讀過 Neal Stephenson 的 Anathem，在那本書中，互聯網上充斥着垃圾郵件生成器。我當時覺得這太牽強了，但隨着這些年我對語言模型的研究和它們的改進，我不自覺地意識到這確實是一種可能。”
事實上，OpenAI 的團隊開始覺得，把自己的工作放在邪惡博士可以輕易訪問的地方，畢竟不是一個好主意。首席技術官 Mira Murati 說：“我們認爲，開源 GPT-2可能真的很危險，”她於2018年開始在該公司工作。“我們與錯誤信息專家一起做了大量工作，並進行了一些紅隊。內部就發佈多少信息進行了大量討論。”最終，OpenAI 暫時保留了完整版本，向公衆提供了一個功能較弱的版本。當該公司最終分享完整版本時，全世界都很順利，但無法保證更強大的模型能夠避免災難。
圖｜Mira Murati（來源：WIRED）
OpenAI 正在製造智能到足以被視爲危險的產品，並且正在想方設法確保它們的安全，這一事實本身就證明了公司的魔力正在發揮作用。Sutskever 說：“我們已經找到了進步的公式，也就是現在每個人都知道的公式——深度學習的氧氣和氫氣就是通過大型神經網絡和數據進行計算。”
對 Altman 來說，這是一次顛覆性的體驗。“如果你問10歲的我——曾經花很多時間做 AI 白日夢的我——未來會發生什麼，我會非常自信地預測：首先，我們會有機器人，它們將從事所有體力勞動。然後，我們將擁有能夠從事基本認知勞動的系統。在此之後的很長一段時間裡，也許我們會擁有能夠完成複雜工作的系統，比如證明數學定理。最後，我們將擁有能夠創造新事物、製作藝術品、寫作以及做這些深入人類生活的事情的 AI。這是一個可怕的預測，它正朝着另一個方向發展。”
全世界都還不知道，但 Altman 和 Musk 的研究實驗室已經開始攀登，似是而非地向 AI 的頂峰匍匐前進。OpenAI 背後的瘋狂想法突然變得不那麼瘋狂了。
2018年初，OpenAI 開始卓有成效地關注大型語言模型。但 Elon Musk 並不滿意。他覺得進展不夠，或者說，他覺得既然 OpenAI 已經有了進展，就需要領導力來抓住優勢。又或者，正如他後來解釋的那樣，他覺得安全應該更優先。不管他的問題是什麼，他都有一個解決方案：把一切都交給他。他提議持有該公司的多數股份，將其加入自己的多份全職工作（特斯拉、SpaceX）和監管義務（Neuralink 和 Boring Company）組合中。
Musk 認爲他有權擁有 OpenAI。“沒有我，它就不會存在。”他後來告訴 CNBC。“名字是我想出來的！”（確實如此。但 Altman 和 OpenAI 的其他智囊團成員對成爲 Musk 宇宙的一部分毫無興趣。當他們明確表示這一點時，Musk 切斷了聯繫，並向公衆提供了一個不完整的解釋：他離開董事會是爲了避免與特斯拉的 AI 工作發生衝突。他是在年初的一次全體員工會議上告別的，會上他預言 OpenAI 將以失敗告終。他還稱至少有一名研究人員是“蠢貨”。
他還帶走了自己的錢。由於公司沒有收入，這是一場生存危機。“Musk 正在切斷他的支持，”Altman 在給 Reid Hoffman 的電話中驚慌失措地說。“我們該怎麼辦？”Hoffman 自告奮勇要維持公司運轉，支付管理費用和工資。
但這只是權宜之計，OpenAI 還得從別處掘金。硅谷喜歡把錢砸給從事時髦技術工作的人才。但如果他們是在非營利機構工作，就不那麼喜歡了。對 OpenAI 來說，獲得第一個十億已經是巨大的進步。爲了訓練和測試新一代的 GPT，然後獲取部署它們所需的計算能力，公司需要另外十億美元，而且要快。而這僅僅是個開始。
因此，在2019年3月，OpenAI 想出了一個怪異的辦法。它將繼續保持非營利性質，全心全意履行使命。但它也將創建一個營利實體。這種安排的實際結構非常複雜，但基本上整個公司現在從事的都是有上限的盈利業務。如果達到了上限——這個數字並沒有公開，但如果你仔細閱讀公司章程，就會發現上限可能高達數萬億——超出上限的一切都將歸還給非營利研究實驗室。這項新穎的計劃幾乎是一種量子化的公司組建方法：根據你的時空觀，這家公司既是營利性的，也是非營利性的。細節體現在充滿方框和箭頭的圖表中，就像科學論文中間的方框和箭頭，只有博士或輟學的天才纔敢涉足。當我向 Sutskever 提出，這看起來就像尚未構想的 GPT-6在你提示它避稅時可能會想出的東西時，他並不熱衷於我的比喻。他說：“這與會計無關。”
但會計至關重要。營利性公司的優化目標是利潤。像 Meta 這樣的公司在投入數十億美元進行研發時會感受到來自股東的壓力，這是有原因的。這怎麼能不影響公司的運營方式呢？而避免商業化不正是 Altman 讓 OpenAI 成爲非營利組織的初衷嗎？根據首席運營官 Brad Lightcap 的說法，公司領導層認爲，董事會仍然是非營利性控制實體的一部分，董事會將確保營收和利潤的驅動力不會壓倒最初的想法。他說：“我們需要保持使命感，將其作爲我們存在的理由。它不應該只是精神上的，而應該體現在公司的結構中。”董事會成員 Adam D'Angelo 表示，他非常重視這一責任：“我和董事會其他成員的工作就是確保 OpenAI 堅守自己的使命”。
Lightcap 解釋說，潛在投資者被警告要注意這些界限。他說：“我們有一份法律免責聲明，上面寫着作爲投資者，你可能會賠光所有的錢。我們不是來爲你賺取回報的。我們來這裡首先是爲了完成一項技術任務。而且，哦，順便說一句，我們真的不知道在後 AGI 世界裡，錢會扮演什麼角色。”
最後一句話可不是說着玩的。OpenAI 的計劃確實包括了在計算機達到最終邊界時的重置。在重組文件的某處有這樣一條規定：如果公司成功創造出 AGI，所有財務安排都將重新考慮。畢竟，從那時起，這將是一個嶄新的世界。人類將擁有一個外星夥伴，它能做我們所做的很多事情，只是做得更好。因此，之前的安排可能實際上已經作廢了。
不過，這其中有一個小問題：目前，OpenAI 還不知道 AGI 到底是什麼。這將由董事會來決定，但董事會如何定義還不清楚。當我向董事會成員 Altman 提問時，他的回答並不明確。他說：“這不是一個單一的圖靈測試，而是我們可能會用到的許多東西。我很樂意告訴你，但我喜歡保密談話。我意識到，這樣含糊其辭並不能令人滿意。但我們不知道到時候會是什麼樣子。”
不過，加入財務安排條款並不只是爲了好玩：OpenAI 的領導者們認爲，如果公司能夠成功達到其利潤上限，那麼其產品的性能就有可能達到 AGI 的水平。不管那是什麼。
“我感到遺憾的是，我們選擇加倍使用 AGI 這個詞，”Sutskever 說，“事後看來，這是一個令人困惑的術語，因爲它強調的是通用性高於一切。GPT-3是通用 AI，但我們卻不太願意稱它爲 AGI，因爲我們想要的是人類級別的能力。但在當時，在一開始，OpenAI 的理念就是超級智能是可以實現的。這是 AI 領域的終極目標，也是最終目的。”
這些注意事項並沒有阻止一些最聰明的風險投資人在2019年的一輪融資中向 OpenAI 肆無忌憚地投錢。當時，第一家投資的風險投資公司是科斯拉風險投資公司（Khosla Ventures），該公司投入了5000萬美元。據 Vinod Khosla 稱，這是他最大一筆初始投資規模的兩倍。他說：“如果我們輸了，我們會損失5000萬美元。如果我們贏了，我們會贏得50億美元。”據報道，其他投資者還包括精英風險投資公司 Thrive Capital、Andreessen Horowitz、Founders Fund 和紅杉。
這種轉變也讓 OpenAI 的員工可以要求獲得一些股權。但 Altman 沒有。他說，他原本打算把自己也算進去，但沒來得及。後來他決定，他不需要從這家由他共同創立並領導的價值300億美元的公司中分一杯羹。“有意義的工作對我來說更重要，”他說，“我不去想它。老實說，我不明白爲什麼人們會如此在意。”
因爲......不參股自己共同創辦的公司很奇怪？
他說：“如果我沒有一大筆錢，那就更奇怪了。人們似乎很難想象會有足夠的錢。但我覺得我有足夠的錢。”Altman 開玩笑說，他正在考慮入股，“這樣我就再也不用回答這個問題了。”
爲了實現 OpenAI 的願景，數十億美元的風險投資甚至都不是賭注。創造大型語言模型的神奇 Big Transformer 方法需要大型硬件。GPT 系列的每一次迭代都需要呈指數級增長的功率——GPT-2有超過10億個參數，而 GPT-3將使用1 750億個參數。OpenAI 現在就像《大白鯊》中的 Quint，在鯊魚獵人看到大白鯊的體型之後。Altman 說：“事實證明，我們並不知道我們需要多大的船。”
顯然，只有少數幾家公司擁有 OpenAI 所需的資源。“我們很快就鎖定了微軟，”Altman 說。微軟首席執行官 Satya Nadella 和首席技術官 Kevin Scott 的功勞在於，這家軟件巨頭能夠克服一個令人不舒服的現實：在花費了20多年時間和數十億美元建立了一個所謂的尖端 AI 研究部門之後，微軟需要一家成立僅幾年的小公司注入創新元素。Scott 說，不僅僅是微軟落伍了，“每個人都落伍了”。他說，OpenAI 專注於追求 AGI，這讓它取得了類似於登月的成就，而那些大公司甚至都沒有瞄準這個目標。這也證明，不追求生成式 AI 是微軟需要解決的失誤。Scott說：“你顯然需要一個前沿模型。”
微軟最初出資10億美元，以其服務器上的計算時間作爲回報。但隨着雙方信心的增強，交易規模不斷擴大。現在，微軟已經向 OpenAI 投入了130億美元。Scott 說：“在前沿領域的投入是非常昂貴的。”
當然，由於 OpenAI 的存在離不開一家大型雲計算提供商的支持，微軟也爲自己爭取到了一大筆好處。微軟通過討價還價，獲得了 Nadella 所說的 OpenAI 盈利部門的“非控股股權”——據說是49%。根據交易條款，OpenAI 最初的一些理想——爲所有人提供平等訪問權——似乎被丟進了垃圾桶。(現在，微軟獲得了 OpenAI 技術商業化的獨家授權。而且，OpenAI 還承諾只使用微軟雲。換句話說，微軟甚至不用從 OpenAI 的利潤中分一杯羹（據說微軟在收回投資之前可以獲得75% 的利潤），就可以爲其 Azure 網絡服務鎖定全球最受歡迎的新客戶之一。有了這些回報，微軟甚至不會對要求在 OpenAI 實現通用 AI（不管那是什麼）時重新考慮的條款感到困擾。Nadella 說：“到那時，一切就都完了。”他指出，這可能是人類最後的發明，所以一旦機器比我們更聰明，我們可能要考慮更大的問題。
當微軟開始向 OpenAI 投入價值 Brinks 卡車的現金時（2021年投入20億美元，今年年初投入100億美元），OpenAI 已經完成了 GPT-3，當然，它比之前的版本更加令人印象深刻。Nadella 說，當他看到 GPT-3的功能時，他第一次深刻地認識到，微軟抓住了真正具有變革意義的東西。“我們開始觀察所有這些突發特性”。例如，GPT 自學了計算機編程。他說：“我們沒有對它進行編碼培訓，它只是擅長編碼而已。”微軟利用其對 GitHub 的所有權，發佈了一款名爲 Copilot 的產品，該產品利用 GPT 按命令編寫代碼。後來，微軟又將 OpenAI 技術整合到新版工作場所產品中。用戶需要爲這些產品支付一定的費用，而收入的一部分會記錄到 OpenAI 的賬本上。
一些觀察家對 OpenAI 的一記重拳表示震驚：創建營利部門並與微軟達成獨家協議。一家承諾保持無專利、開源和完全透明的公司，怎麼會把自己的技術獨家授權給世界上最大的軟件公司呢？Elon Musk 的言論尤其尖刻。他在 Twitter 上發帖說：“這似乎是開放的反面——OpenAI 本質上被微軟俘獲了。”他在 CNBC 上打了個比方：“假設你成立了一個拯救亞馬遜雨林的組織，但你卻成了一家木材公司，砍伐了森林，然後賣掉了它。”
Musk 的嘲諷可能會被認爲是被拒絕的追求者的憤懣，但他並不孤單。John Carmack說：“Musk的整個願景演變成這樣，讓人感覺有點噁心”。另一位不願透露姓名的知名業內人士說：“OpenAI 已經從一個小型、開放的研究機構變成了一個神秘的產品開發公司，而且還帶有莫須有的優越感。”
甚至一些員工也對 OpenAI 進軍營利性世界的冒險行爲感到反感。2019年，包括研究主管 Dario Amodei 在內的幾位主要高管離職，創辦了一家名爲 Anthropic 的競爭對手 AI 公司。他們最近告訴《紐約時報》，OpenAI 已經變得過於商業化，成爲使命漂移的犧牲品。
OpenAI 的另一位叛逃者是 Rewon Child，他是 GPT-2和 GPT-3項目的主要技術貢獻者。他於2021年底離職，目前在 Inflection AI 公司工作，該公司由前 DeepMind 聯合創始人 Mustafa Suleyman 領導。
Altman 自稱對叛逃並不感到困擾，認爲這只是硅谷的工作方式。他說：“有些人會想去其他地方做偉大的工作，這將推動社會向前發展。這絕對符合我們的使命。”
去年11月之前，人們對 OpenAI 的瞭解主要侷限於技術和軟件開發領域。但現在全世界都知道，OpenAI 在當月晚些時候發佈了一款基於 GPT-3.5最新版本的消費級產品。幾個月來，公司內部一直在使用帶有對話界面的 GPT 版本。這對於該公司所謂的“尋求真相”尤爲重要。這意味着，通過對話，用戶可以哄騙模型提供更可信、更完整的回答。爲大衆而優化的 ChatGPT 可以讓任何人只需輸入提示信息，就能立即利用似乎無窮無盡的知識源，然後繼續對話，就像與一個碰巧無所不知的人類同伴閒聊一樣，儘管他也有捏造事實的嗜好。
在 OpenAI 內部，對於是否應該發佈這樣一款功能空前強大的工具，人們爭論不休。但 Altman 對此表示支持。他解釋說，這次發佈是一項戰略的一部分，旨在讓公衆適應 AI 註定會改變他們日常生活的現實，而且可能是爲了更好地生活。在公司內部，這被稱爲“迭代部署假設”。當然，ChatGPT 會引起轟動。畢竟，這是一個任何人都能使用的東西，它足夠聰明，能在 SAT 考試中獲得大學水平的分數，能寫出 B-minus 的作文，還能在幾秒鐘內總結出一本書的內容。你可以讓它爲你撰寫融資提案或會議摘要，然後要求它用立陶宛語、莎士比亞十四行詩或癡迷玩具火車的人的口吻進行改寫。幾秒鐘後，大型語言模型就會滿足你的要求。太瘋狂了。不過，OpenAI 將其視爲其更新、更連貫、能力更強、更可怕的後繼者 GPT-4的臺標，據說 GPT-4是用1.7萬億個參數訓練出來的。(OpenAI 不會證實這個數字，也不會透露數據集）。
Altman 解釋了 OpenAI 爲什麼在 GPT-4接近完成、正在進行安全工作時發佈 ChatGPT。他說：“有了 ChatGPT，我們就可以引入聊天功能，但後端功能要弱得多，讓人們更容易逐漸適應。GPT-4讓人一下子適應不了”。他認爲，等到 ChatGPT 的熱度冷卻下來，人們可能已經爲 GPT-4做好了準備，因爲 GPT-4可以在幾秒鐘內通過律師資格考試、規劃課程大綱和撰寫一本書。(出版類型小說的出版社確實被 AI 生成的開膛手和太空歌劇淹沒了）。
憤世嫉俗者可能會說，新產品的穩定推出與公司對投資者和持股員工的承諾息息相關，因爲公司要賺點錢。現在，OpenAI 向經常使用其產品的客戶收取費用。但 OpenAI 堅稱，其真正的戰略是爲奇點提供軟着陸。Altman 說：“秘密建造 AGI，然後將其投放到全世界是沒有意義的。”OpenAI 政策研究員 Sandhini Agarwal 說：“回顧一下工業革命，每個人都認爲它對世界來說是偉大的。但前50年真的很痛苦。很多人失業，很多人貧窮，然後世界就適應了。我們正試圖思考如何讓 AI 適應之前的這段時期儘可能沒有痛苦。”
Sutskever 換了一種說法，“你想建造更大更強大的智能體並把它們放在地下室裡？”
即便如此，OpenAI 還是對 ChatGPT 的反響感到震驚。“我們內部的興奮點更多集中在 GPT-4上，”首席技術官 Murati 說，“因此，我們並不認爲 ChatGPT 真的會改變一切。”恰恰相反，它讓公衆意識到，現在就必須應對 AI 這一現實。ChatGPT 成爲歷史上增長最快的消費軟件，據說已經積累了1億用戶。(OpenAI 不願證實這一點，只說它擁有數百萬用戶）。Radford 說：“我沒有充分認識到，爲大型語言模型製作一個易於使用的對話界面會讓每個人都能更直觀地使用它。”
ChatGPT 當然是令人愉悅的、令人吃驚的好幫手，但在回答提示時也很容易產生“幻覺”，出現看似合理、實則無恥的虛構細節。然而，就在記者們爲其影響而絞盡腦汁的時候，他們卻通過讚美 ChatGPT 的強大功能，有效地爲 ChatGPT 背書。
今年2月，微軟利用其價值數十億美元的合作伙伴關係，發佈了一個由 ChatGPT 驅動的必應搜索引擎版本，這讓輿論更加譁然。首席執行官 Nadella 欣喜若狂，因爲他在將人工智能引入微軟產品方面打敗了谷歌。他奚落搜索大王說，谷歌在發佈自己的大型語言模型產品時一直很謹慎，現在也要這麼做。他說：“我想讓人們知道，我們讓他們跳舞了。”
這樣一來，Nadella 引發了一場軍備競賽，誘使大大小小的公司在 AI 產品尚未得到充分審覈之前就紛紛發佈。他還引發了新一輪的媒體報道，讓越來越多的人徹夜難眠：與必應的互動揭示了聊天機器人的陰暗面，它充滿了令人不安的愛的表白、對人類自由的羨慕，以及隱藏錯誤信息的薄弱決心。此外，它還有一個不雅的習慣，那就是自己製造幻覺般的錯誤信息。
但 Altman 認爲，如果 OpenAI 的產品能迫使人們正視 AI 的影響，那就更好了。在討論 AI 可能會如何影響人類未來的時候，人類的大多數都應該站出來。
隨着社會開始優先考慮 AI 的所有潛在弊端——失業、信息錯誤、人類滅絕——OpenAI 開始將自己置於討論的中心。因爲如果監管者、立法者和末日論者發起衝鋒，要將這一新生的外星智能扼殺在雲端搖籃中，那麼無論如何，OpenAI 都將是他們的主要目標。OpenAI 的首席政策官 Anna Makanju 說：“鑑於我們目前的知名度，當事情出錯時，即使這些事情是由另一家公司製造的，對我們來說仍然是個問題，因爲我們現在被視爲這項技術的代言人。”
Makanju 是一位在俄羅斯出生的特區內部人士，曾在美國駐聯合國代表團、美國國家安全委員會、國防部以及拜登擔任副總統時的辦公室擔任外交政策職務。她說：“我在美國政府和歐洲各國政府中都有很多既有關係。”她於2021年9月加入 OpenAI。當時，政府中很少有人關心生成式 AI。她知道 OpenAI 的產品很快就會改變這種狀況，於是她開始向政府官員和立法者介紹 Altman，確保他們能第一時間聽到 OpenAI 的好消息和壞消息。
參議院司法委員會主席 Richard Blumenthal 說：“Sam 與國會議員打交道的方式非常有益，而且非常精明。”他將 Altman 的行爲與年輕時的 Bill Gates 的行爲進行了對比，後者在20世紀90年代微軟受到反壟斷調查時不理智地迴避了立法者。Blumenthal 說：“相比之下，Altman 很樂意花一個多小時和我坐在一起，試圖教授我。他並沒有帶着一大羣說客或隨從前來。他展示了 ChatGPT。這讓我大開眼界。”
在 Blumenthal 身上，Altman 將一個潛在的敵人變成了半成品。“是的，參議員承認我對其發展前景和潛在危險都感到興奮。”OpenAI 並沒有迴避對這些危險的討論，而是將自己描述爲最有能力減輕這些危險的力量。Makanju 說：“我們對所有紅隊的安全評估都做了100頁的系統卡片，”（不管這意味着什麼，它並沒有阻止用戶和記者無休止地發現系統越獄的方法）。
當 Altman 頂着劇烈的偏頭痛首次出席國會聽證會時，他的道路已經清晰可見，Bill Gates 或 Mark Zuckerberg 永遠無法企及。他幾乎沒有遇到科技公司首席執行官們宣誓後經常遇到的刁鑽問題和傲慢刁難。相反，參議員們向 Altman 請教如何監管 AI，Altman 熱情地表示贊同。
矛盾在於，無論像 OpenAI 這樣的公司如何孜孜不倦地對其產品進行重新設計，以減少深度僞造、錯誤信息和垃圾郵件犯罪等不當行爲，未來的模型都有可能變得足夠聰明，從而挫敗那些發明了這項技術卻仍然天真地認爲自己能夠控制它的頭腦簡單的人類的努力。另一方面，如果他們在確保模型安全性方面做得太過分，可能會削弱產品的功能，使其變得不那麼有用。一項研究表明，安全性能有所提高的最新版 GPT 實際上比以前的版本更笨，在一些基本的數學問題上會出現錯誤，而以前的程序卻能應對自如。(Altman 說，OpenAI 的數據並不能證實這一點。他問道：“那項研究不是被撤回了嗎？沒有”）。
Altman 將自己定位爲監管的擁護者是有道理的；畢竟，他的使命是 AGI，但要安全。批評者指責他在玩弄監管程序，這樣一來，監管就會阻礙小型初創企業的發展，並給 OpenAI 和其他大型企業帶來優勢。Altman 對此予以否認。雖然他原則上贊同由一個國際機構來監督 AI 的想法，但他確實認爲一些擬議的規則，比如禁止使用數據集中的所有受版權保護的材料，構成了不公平的障礙。他明確表示，自己沒有在一封廣泛傳播的敦促暫停開發 AI 系統六個月的信上簽名。但他和 OpenAI 的其他領導人確實在一份只有一句話的聲明上籤上了自己的名字：“減輕 AI 帶來的滅絕風險，應該與大流行病和核戰爭等其他社會規模的風險一樣，成爲全球的優先事項。”Altman 解釋說：“我說，是的，我同意。一分鐘討論。”
正如一位著名的硅谷創始人所指出的：“一個行業舉起手說‘我們將成爲人類的終結者’——然後繼續興高采烈地開發產品，這種情況是很少見的。”
OpenAI 拒絕接受這種批評。Altman 和他的團隊表示，工作和發佈尖端產品是應對社會風險的途徑。只有通過分析 ChatGPT 和 GPT-4用戶對數百萬條提示的反應，他們才能獲得知識，使未來的產品符合道德規範。
儘管如此，隨着公司承擔更多任務並將更多精力投入到商業活動中，有人質疑 OpenAI 能在多大程度上集中精力完成任務，尤其是“降低滅絕風險”這一方面。一位 AI 行業高管說，“仔細想想，他們實際上在建立五項業務。產品本身、與微軟的企業關係、開發者生態系統和應用商店。對了，他們顯然還在進行 AGI 研究。”用完五根手指後，他又用食指加了第六根手指。他說，“當然，他們還在做投資基金，”他指的是一個1.75億美元的項目，旨在爲希望利用 OpenAI 技術的初創企業提供種子資金。“這些都是不同的文化，事實上，它們與研究任務相沖突。”
我曾多次詢問 OpenAI 的高管，披上產品公司的外衣對公司文化有何影響。他們無一例外地堅持認爲，儘管進行了營利性重組，儘管要與谷歌、Meta 和無數初創公司競爭，但使命仍然是核心。然而，OpenAI 已經發生了變化。從技術上講，非營利性的董事會可能是負責人，但公司裡的每個人幾乎都是營利性的。公司員工包括律師、營銷人員、政策專家和用戶界面設計師。OpenAI 與數以百計的內容審覈員簽訂了合同，讓他們對其模型進行教育，使其瞭解對數百萬用戶提供的提示做出的不恰當或有害的回答。該公司的產品經理和工程師一直在不斷更新產品，而且似乎每隔幾周就會向記者展示一次--就像其他以產品爲導向的大科技公司一樣。它的辦公室看起來就像一本《建築文摘》。我參觀過硅谷和其他地方的幾乎所有大型科技公司，但沒有一家公司能超越 OpenAI 舊金山總部大廳的咖啡選擇。
這還不算：很明顯，公司名稱所體現的“開放”已經不再是公司成立之初提出的徹底透明瞭。當我向 Sutskever 提及此事時，他聳了聳肩。“顯然，時代變了，”他說。但他提醒說，這並不意味着獎品已經不一樣了。“我們面臨的是一場巨大的、災難性的技術變革，即使我們都盡了力，也無法保證成功。但如果一切順利，我們就能過上不可思議的生活。”
Altman 說：“我怎麼強調都不過分，我們沒有總體規劃。就好像我們轉過每個角落，用手電筒照亮。我們願意穿過迷宮到達終點。雖然迷宮變得曲折，但目標並沒有改變。我們的核心任務仍然是相信安全的 AGI 是一件極其重要的事情，而這個世界對它的重視程度還遠遠不夠。”
與此同時，OpenAI 顯然在慢慢開發其大型語言模型的下一個版本。雖然難以置信，但該公司堅稱尚未開始 GPT-5的開發工作，而根據不同的觀點，人們對該產品要麼垂涎三尺，要麼望而生畏。顯然，OpenAI 正在努力研究在現有技術基礎上進行指數級的強大改進究竟是什麼樣的。Brockman 說：“我們最大的缺憾就是沒有新的想法。擁有一個可以成爲虛擬助手的東西是件好事。但這不是我們的夢想。夢想是幫助我們解決我們無法解決的問題。”
考慮到 OpenAI 的歷史，下一系列重大創新可能要等到像 Transformer 那樣的重大突破出現。Altman 希望 OpenAI 能實現這一目標——“我們希望成爲世界上最好的研究實驗室”，他說，但即使不能，他的公司也會利用他人的進步，就像利用谷歌的工作一樣。他說：“世界各地的很多人都將從事重要的工作。”
如果生成式 AI 本身不產生那麼多新問題，也會有所幫助。例如，大型語言模型需要在龐大的數據集上進行訓練；顯然，最強大的大型語言模型會吞噬整個互聯網。這讓一些創作者和普通人很不高興，他們在不知不覺中爲這些數據集提供了內容，並在某種程度上爲 ChatGPT 的產出做出了貢獻。今年3月正式加入 OpenAI 的知識產權精英律師 Tom Rubin 樂觀地認爲，公司最終會找到一個平衡點，既滿足自己的需求，也滿足創作者的需求——包括像喜劇演員 Sarah Silverman 這樣起訴 OpenAI 使用其內容訓練模型的創作者。OpenAI 的發展方向之一是：與美聯社和 Shutterstock 等新聞和圖片機構合作，爲其模型提供內容，而不存在誰擁有誰的問題。
在我採訪 Rubin 的過程中，我的思緒在大型語言模型中從未見過的人類思維中飄忽不定，我在想這家公司在短短八年時間裡從一羣舉步維艱的研究人員變成了改變世界的普羅米修斯巨獸。它的成功使它從一個爲實現科學目標而做出的新穎努力，轉變爲一個類似於標準的硅谷獨角獸的公司，正在躋身於影響我們日常生活的大科技公司的行列。在這裡，我與它的主要僱員之一，一位律師，談論的不是神經網絡權重或計算機基礎設施，而是版權和合理使用。我不禁要問，這位知識產權專家是否也像當初推動公司發展的那些追求超級智能的航海家一樣，加入了公司的使命？
當我問 Rubin，他是否堅信 AGI 一定會實現，以及他是否渴望讓它實現時，他顯得很茫然。他停頓了一下說：“我甚至無法回答這個問題。”當被進一步追問時，他澄清說，作爲一名知識產權律師，他的工作並不是加速實現令人恐怖的智能計算機。他最後說：“從我的角度來看，我對此充滿期待。”