黃仁勳深度訪談:每週工作7天6點起牀,60位高管都向我彙報
芯東西(公衆號:aichip001)編譯 陳駿達編輯 Panken
芯東西6月4日報道,在跨越2萬億美元市值、坐穩美股市值TOP3後,AI計算巨頭英偉達正以奇蹟般的速度,向市值突破3萬億美元、超越蘋果市值的又一里程碑發起衝刺。
美東時間6月3日,英偉達股價漲4.9%,市值一夜大漲1320億美元(摺合約9564億人民幣),最新市值達2.83萬億美元。
▲截至美東時間6月3日收盤,英偉達是全球市值增幅第一的公司(圖源:Companies Market Cap)
▲截至美東時間6月3日收盤全球市值TOP5榜單(圖源:Companies Market Cap)
英偉達與蘋果的市值差距僅剩0.15萬億美元。
在開始創業時,英偉達創始人兼CEO黃仁勳才29歲,臉上還有青春痘,去見其他西裝革履的企業家時會感到忐忑不安。
如今的黃仁勳已是遊刃有餘的科技圈頂級紅人,週日剛在臺北國際電腦展COMPUTEX上發表主題演講,週一又通過遠程連線參與Snowflake數據雲峰會的CEO爐邊談話。
不久前,黃仁勳還與美國移動支付巨頭Stripe CEO帕特里克·克里森(Patrick Collison)進行了一場企業家之間打開話匣子的深度對談,不僅暢聊自己曲折的成長史、與AMD董事長兼CEO蘇姿豐的親戚關係,而且點名誇獎Llama系列模型的重大意義和自己日常愛用的AI工具。
黃仁勳還大談管理經驗,包括60位高管如何向他彙報、怎麼安排日常工作、爲何堅持不裁員,以及大家最關心的——這位兼具工作狂魔與魅力型領導者特質的創業者,當初如何做出卓有遠見的判斷,帶領英偉達2.8萬人走向偉大的成功?
在這次對談中,黃仁勳暢所欲言,分享了很多個人喜惡,比如他“每天都不開心”、“每年都對公司不滿意”,討厭“報告會議”,討厭“電子表格”,但他不認爲“最好的工作是那些一直帶給你快樂的事情”,反而相當有奮鬥的覺悟。
黃仁勳熱衷於挑戰困難,連送出的祝福都是“我祝你們經歷大量的痛苦和磨難”。
“我曾經是個掃廁所的,現在我是公司CEO。”他說自己不喜歡解僱員工、不願放棄任何一名員工的原因,是覺得自己能幫助他們進步,而且相信好員工是可以“折磨”出來的。
黃仁勳相信產品、公司和組織需要“愛和呵護”,這是他在英偉達內部的常用表達。
他是個工作狂,每週工作7天,一醒來就開始工作,一直幹到睡覺,就連不工作時也滿腦子想着工作,無時無刻不在思考公司的未來,每天都在確認自己的核心信念、確認自己分析公司戰略時使用的第一性原理是否正確。
他以前5點起牀,現在改成6點起牀,是因爲家裡小狗6點才醒,吵醒小狗會令他感到內疚。
他覺得不積極主動參與AI就是在犯錯誤,平時他遇到一個問題就會扔給AI搜索工具Perplexity問問答案,他不僅想要讓英偉達所有人都大量使用AI工具,還想把整個公司都變成一個巨大的AI。
他還懊悔沒在十多年前CUDA發佈時買英偉達的股票。當時增加大量成本的CUDA引發一場災難,摧毀了英偉達原本擁有的十億美元市場,導致英偉達市值降到大約10億美元左右。
▲過去十年,英偉達總市值從93億美元增長到28290億美元
在管理上,黃仁勳很不喜歡跟高管進行一對一溝通。英偉達的領導團隊有逾60人,都直接向黃仁勳彙報,每兩週開一次集體會議。他認爲這樣的好處是信息平權,至少能在公司移除7個管理層級,60人能平等地同時接收到黃仁勳提出的問題、想法和分析等信息。
在日常工作中,黃仁勳會盡可能在上班前做完自己的工作,然後把上班時間主要用在開會上,他討厭報告會議,只參加能解決問題、提出新想法、有創造性的、真正推動事情發展的會議。
相比搶市場,他更想成爲一個市場的創造者,去創造從未存在過的東西。
黃仁勳對英偉達的使命和未來機會深信不疑。面對外界的質疑,他堅信是其他人錯了,他們“不懂得欣賞我們所建立的東西”。
他還老生常談地強調摩爾定律走到頭了,CPU性能提升已經基本停止了,現在輪到英偉達加速計算的時代。
黃仁勳認爲ChatGPT、RLHF(人類反饋強化學習)、給模型融入人類價值觀、計算民主化是近幾年的重要技術突破,“ChatGPT實現了計算的民主化,而Llama實現了生成式AI的民主化”。
看向未來,他預測如果計算機行業以大約20%的速度增長,未來幾年可能需要將大約兩萬億美元的計算機替換成GPU;未來十年,在新型數據中心AI工廠中生產token將變得司空見慣,建立在其產品基礎上的產業價值可能有100萬億美元。
至於和AMD蘇姿豐“表舅”“表外甥女”的親戚關係,黃仁勳誇讚蘇姿豐“非常了不起”,說AMD不是自己的競爭對手,大家都是一家人,並提到自己和蘇姿豐沒有一起長大,彼此也不認識,直到蘇姿豐在IBM工作時才相識。
▲資深財經媒體人、家族傳承研究者吳佳晉整理的黃仁勳及蘇姿豐的家族族譜
小時候並不認識的表親兩人,現在掌管着全球最大的兩家GPU,很是神奇。
以下是對Stripe深度訪談的完整編譯(爲提高可讀性,智東西調整了部分問答的順序,並在不違背原意的前提下進行了一定的增刪修改):
一、“我絕對是世界上最好的廁所清潔工”
帕特里克·克里森:我想先談談你最近在斯坦福大學的一次活動上說過的一句話。你說道,我希望你們經歷足夠劑量的痛苦和折磨。能請你詳細解釋一下這句話是什麼意思嗎?
黃仁勳:有句話說,你應該根據你的興趣來選擇你的職業。通常人們會把興趣和幸福聯繫在一起。我認爲這個觀點不能說是錯誤的,但忽視了一些重要的因素。
原因在於,如果你想要做偉大的事情、建立偉大的公司,必然是很不容易的。你並不總是享受這個過程。創業的過程中,我並不是每天都喜歡我的工作,也不認爲每天都讓我感到快樂。同時,快樂也不一定是美好的一天的定義。我每天都不開心,我每年都對公司不滿意,但我每一秒都愛這家公司。
我認爲人們常常有這樣的誤解,認爲最好的工作是那些一直帶給你快樂的事情。我不認爲這是正確的。你必須受苦。你必須奮鬥。你必須努力。你必須去做艱難的事情,並努力解決困難,才能真正意識到自己所做的事情有多偉大。
沒有什麼偉大的事情是容易完成的。因此,我祝福你們能實現偉大的成就。這句話用我自己的說法就是,我祝你們經歷大量的痛苦和磨難。
帕特里克·克里森:你的這種觀念是在成長過程中逐漸形成的嗎?還是說你是天生就有這種性格?
黃仁勳:我是移民出身,當我在1973年來到美國時,我才9歲。我哥哥還不到11歲。這是一個陌生的國度,確實很不容易。
我們的父母對我們很好,但我們並不富有。他們工作很努力,時至今日也是如此。他們辛勤工作,言傳身教,讓我們學會了很多生活的經驗和教訓。
我做過各種各樣的工作。我們上的學校包括還要做很多雜活。我剛到美國時被送去了奧奈達浸信會學院(Oneida Baptist Institute)。這可和麻省理工學院不一樣。都叫學院,但意思不同。這是不同類型的學院。
我的學校是寄宿制的,我是裡頭最小的孩子。其他孩子都得做重活,得在菸草農場工作。而我得到了相對輕鬆的工作。當他們離開之後,我得清潔所有的廁所。我從不覺得自己得到了輕鬆的工作,因爲廁所實在是太髒了。但那是我的工作,所以我便完成了它。
然後我還做過很多其他的工作,在丹尼餐廳(Danny’s,美國連鎖快餐店)的工作就是其中之一。我最初是個洗碗工,然後做清潔工,最後做服務員。我熱愛我的每一份工作。我不能說所有工作都很愉快。但我所做的一切,我都想做得很好。也許這是從一開始就根深蒂固的一個品質。但我敢保證,我絕對是世界上最好的廁所清潔工。
二、60位高管均向黃仁勳彙報,任何員工都沒有信息特權
帕特里克·克里森:我們來談談現在的英偉達。你們的領導團隊有多大,都直接向你彙報嗎?
黃仁勳:英偉達現在的領導團隊有60多人,他們都向我彙報,是我的直接下屬。這種做法是很少見的,但我覺得這是最好的做法。
首先,我認爲在公司裡,信息的傳播是十分重要的。我認爲員工在工作上的貢獻,不應建立在獲取某些信息的特權這一基礎上。我不會做一對一溝通。我的員工團隊也很大。我在公司內部分享信息時,基本上所有人都能同時收到。
這麼做的原因就是,我認爲我經手的這些信息不應該只有一兩個人知道,比如公司目前面臨的挑戰,亟待解決的問題,未來發展的方向。所有員工都應該能夠獲取所有這種類型的信息。我很喜歡這種模式,大家的信息都是一致的,公司裡沒有任何信息方面的特權,大家都能對公司面臨的問題建言獻策。
我的員工會議一般每2周進行一次,60個人都要齊聚一堂。這些會議都是問題導向的。無論提出了什麼問題,大家都會在同一時間處理這個問題,聽到了問題爲什麼出現,爲何選擇這樣的解決方案。這很能給員工賦能。我相信,當你給每個人平等的獲取信息的機會時,這就能給員工賦能。這是第一點,利用信息給員工賦能。
第二點,如果CEO的直接下屬是60人,那就能在公司裡移除至少7個管理層級。當然了,這點不能一直推進到公司基層。因爲越往下需要的管理也就越多。而如果你“不幸”成爲了英偉達的高管,你就沒那麼需要他人的管理了。
帕特里克·克里森:我很少會支持傳統的管理模式。但試想一下,一對一溝通能給員工很具體的指導,比如給他們分析目標、分析職業生涯的發展規劃、給員工充足的反饋信息,告訴他們工作中有哪些問題。這些都是傳統意義上的一對一溝通中會做的事情。那你是不是不會做這些事情,還是說你的做法不一樣?
黃仁勳:這個問題很好。我就在會議現場做這些事情。我會在大家面前給你反饋。這點其實是特別重要的。首先,反饋就是一種學習。那爲什麼你應該成爲唯一一個獲取這些信息的人呢?你給我們創造了一個學習的機會,不論是犯了錯誤,還是犯蠢了。我們都應該從這個機會中學到點東西。
我會在大家面前分析某個問題,提出我自己的見解,這能幫助在場的所有人學會怎麼分析問題。我認爲一對一溝通的主要問題,就是它剝奪了其他人學習的機會。從錯誤中學習,特別是從他人的錯誤中學習,是最好的學習方式。
這就是爲什麼我們會做案例分析。我們就是要從他人的災難和悲劇中學習知識。這可是我們最“喜聞樂見”的事情。我也反對英偉達的其它高管做一對一溝通。沒有什麼能比“老黃讓我們這麼做”,或者“某某高管讓我們這麼做”這類說法,更讓我抓狂了。
三、不願放棄任何一位員工,寧願將他們折磨到偉大
帕特里克·克里森:你曾告訴過我,你真的不喜歡解僱員工,你也確實很少這麼做。能詳細講講背後的原因嗎?
黃仁勳:是的,我寧願幫你進步,也不願放棄你。我曾經是個掃廁所的,現在我是公司的CEO。所以我也認爲,你什麼都能學會。我相信你能學會生活中的很多事情,你只是需要一個學習的機會。我有幸觀察很多聰明人做事情的方式。我身邊就有60個人。他們可能自己都沒有意識到我在觀察和學習,但我其實一直都在向他們學習。
我不願意放棄任何一個員工,因爲我覺得我能幫助他們進步。我寧願一直折磨他們,直到他們做出偉大的成就。我認爲真正相信自己團隊的領導,都願意將他們折磨到偉大。
通常情況下,他們都很接近了。別放棄,真的很接近。成功有時候會在某一天突然降臨。有可能你昨天還沒有那種感覺,突然有一天就悟了,一下就想明白了。你能想象,在成功前的那個時刻放棄是什麼感受嗎?所以我不希望放棄,所以我就繼續折磨我的員工。
四、每週工作7天:6點起牀,全天開會
帕特里克·克里森:你工作和生活的平衡做得怎麼樣?
黃仁勳:那就取決於你問誰了。我認爲我的工作生活平衡非常好。真的很棒。我儘可能多地工作。我醒來的那一刻就開始工作,一直幹到睡覺的那一刻。我每週工作7天。當我不工作的時候,我也在想工作。當我工作的時候,我就專心投入。
我能坐在那兒看完一整場電影,但什麼也不記得。因爲我腦子裡想的全是工作。但我的工作不是不是去解決具體的問題,而是在思考公司能成爲什麼,有沒有我們可以做得更好的事情。我無時不刻不在設想公司的未來。
帕特里克·克里森:黃仁勳的一天是什麼樣的?
黃仁勳:我以前5點就起牀了。現在我6點起牀。這主要是因爲我家的狗。不知道爲什麼6點就變成它們起牀的時間。我倒是不介意吵醒其他人,但叫醒小狗讓我感到內疚。這都快變成一個負擔了。我都不能發出任何動靜,因爲它們能察覺到房子裡的任何震動,這會吵醒它們。所以我就待在牀上讀書,直到6點鐘。但是我腦子裡也想着GPU。
帕特里克·克里森:一般來說,你一天要開多少次會議?
黃仁勳:幾乎整天都在開會。我努力在正式上班前把我自己的工作做完,這樣每天去上班的時候就主要在開會。我會選擇對我真正重要的會議,儘量避免參加常規運營會議。因爲我的公司裡有很多了不起的人在做常規運營會議。
我們做CEO的應該是臨時替補,應該處理其他人做不了或者沒有做的事情。我參與的會議都是要可以真正推動事情發展的會議。我不會參加報告會議,也討厭報告會議。我只會參加解決問題的會議,能提出新想法的會議,頭腦風暴會議,有創造性的會議。那纔是我會參加的會議。
我通常會主動召集這些會議。我非常努力地不讓Outlook管理我的生活,而是有意識地決定想做什麼,想處理什麼事情。我儘量過有目的的生活,並據此管理我的時間。
五、不喜歡搶奪市佔率,“0億美元市場”纔是好思路
帕特里克·克里森:你曾經用過一個詞叫“0億美元市場”。你說“0億美元市場”是你最喜歡的市場。這句話是什麼意思?
黃仁勳:退一步看,我們的目標,或者說幾乎所有人的目標都應該是去做一些從未有人做過的事情,這是非常困難的。如果你實現了這些事情,那就可能對世界做出真正的貢獻。我會盡力去做這些事情。如果有些事情以前從未被做過,也極其困難,那麼這個市場的規模應該就是0億美元。因爲這件事以前從未被做過。
我寧願成爲一個市場的創造者,也不願做一個市場中的掠奪者。要去創造一些以前從未存在過的東西,而不是考慮怎麼搶佔市場份額。我不喜歡考慮市場份額,也不喜歡份額這個概念。Stripe就是憑空出現的,之前也沒有類似的公司。“0億美元市場”也是一種很好的思維方式,能幫助公司思考要怎麼樣做好創新。
帕特里克·克里森:我們公司的使命是讓整個互聯網行業的GDP增長。有很多人會關注“互聯網行業的GDP”這個說法,但我認爲“增長”是這個表述裡最重要的部分。因爲,正如你所指出的,我們不應該考慮已經發生的交易或者已經存在的業務。我們應該考慮哪些交易不存在,哪些業務不存在。世界的GDP大約是100萬億美元,但它不必只有100萬億美元。它可以是200萬億美元或1000萬億美元。
黃仁勳:這完全正確。而且,我們在未來幾十年將要創造的大部分價值,很可能不會受到物理事物規律的限制。這是一個不同尋常的時代。
帕特里克·克里森:現在我們剛好談到這個“0億美元市場”的概念。如果我在英偉達,我帶着一些項目提議來找你,可能涉及到數億美元的資本支出,或者需要多年的投入,現在也沒有客戶需要這個產品,無法展示有什麼需求。那你們在這些事情上的決策方式是不是憑直覺的呢?
黃仁勳:非常接近。這是一種直覺上的判斷,或者說直覺提供了一個起始假設。但你必須通過邏輯推理來證明這個事情的可行性。對我來說,推理比電子表格更重要。我討厭電子表格,因爲你可以隨心所欲地使用電子表格。你可以用電子表格製作任何你想要的圖表,你只需要輸入一些數字就行。
我更喜歡文字,因爲文字展現了你的推理過程。我可能會問你,告訴我,你是如何邏輯推理的?你的直覺是什麼?你爲什麼相信這很重要?你爲什麼認爲這很難?
我喜歡困難的事情,因爲這需要很長時間來做。如果它需要很長時間來做,很多不那麼堅定的人可能不會去做。如果它真的很難做,需要很長時間來做,那就需要一個非常堅韌、專注和堅定的人去追求這個目標。可能好幾年都會在原地徘徊,沒有人會注意到你。
六、CUDA的發佈是一場災難,但沒有它也沒有今天的英偉達
帕特里克·克里森:CUDA這個想法一開始是怎麼來的呢?
黃仁勳:CUDA源自於兩個想法。其中一個叫作加速計算。英偉達開創了這個叫做加速計算的概念。加速計算就像是一個I/O(輸入/輸出)設備,如果你在計算機行業,它是一個你放在PCIe上的I/O設備,允許應用程序以加速計算的方式與I/O設備交互。
UDA(Unified Driver Architecture,統一驅動架構)是在1993年發明的,它是一個影響深遠的發明。它允許軟件程序員直接編程I/O設備,直接給I/O設備寫應用程序。這是因爲I/O設備是虛擬化的,並且多代之間在架構上是兼容的。
總之,我們發明了這個叫做加速計算的概念,我們稱它爲UDA。然後幾年後,我們認爲我們可以使我們的GPU對高級編程語言更具可編程性。所以我們發佈了CG(C for Graphics),也就是爲GPU編程設計的高級着色器語言。但由於種種問題,最終發佈了CUDA(Compute with Unified Driver Architecture)。總之是個非常曲折的故事。
帕特里克·克里森:我想真正的問題是,CUDA有沒有一夜爆火呢?
黃仁勳:不是的。CUDA的發佈可以說是一場災難。雖然我們追求的是一個“0億美元市場”,但追求這個市場的成本太高了。它實際上摧毀了我們原本擁有的十億美元市場。原因是因爲我們的芯片中加入了CUDA,增加了大量成本,但是沒有應用。沒有應用,客戶就不會重視這個產品,他們不會爲此支付溢價。如果人們不願支付,而你的成本上升了,那麼你的毛利率就會受到擠壓,我們的市值就會下降,然後真的變得非常低。我想我們的市值降到了大約10億美元左右。我真希望我當時買了自家的股票。
帕特里克·克里森:所以你們需要取消CUDA,然後回到原來的戰略嗎?
黃仁勳:不是的,我一直相信CUDA。因爲我已經推理過了。我們真的相信加速計算能夠解決普通計算機無法解決的問題。如果我們想將架構擴展得更加通用,我們就必須做出這個犧牲。
我深深地相信我們公司的使命,相信公司未來的機會。我也堅信其他人都錯了,他們只是不懂得欣賞我們所建立的東西。我深深地相信這些東西。
帕特里克·克里森:那你要如何迴應分析師、董事會和員工的質疑呢?你摧毀了這個現有的收入流,炒作了一個宏偉的夢想,但似乎沒有人真的想要。生意也變得很糟糕。你要怎麼辦呢?
黃仁勳:我只需要告訴他們,其他人都太笨了,否認現實就行(笑)。這是玩笑話,我們還是得迴歸到自己相信的東西上。
帕特里克·克里森:董事會在這期間有給你壓力嗎?
黃仁勳:我每次和他們對話都是從我自己深信不疑的事情談起。他們也確實相信我的說法,因爲他們看到我自己深信不疑。我也向他們推理分析了這些問題。要讓他們相信,必須依靠推理。
帕特里克·克里森:CUDA最終的成功花了多久呢?
黃仁勳:大概10年吧。沒有那麼長。10年而已嘛,一下子就過去了。
帕特里克·克里森:不到你任期的三分之一。
黃仁勳:是的,時間過得很快。我幾乎不記得期間我經歷的痛苦了。
帕特里克·克里森:英偉達沒有CUDA,還能在AI領域取得今天的成功嗎?
黃仁勳:不,這是不可能的。這可能是現代計算中最重要的發明之一。我們發明了這個叫做加速計算的概念。這個想法很簡單,但非常深刻。它的意思是一小部分代碼佔用了運行時間的99.999%。這對於許多非常重要的應用程序來說都是事實。而那幾個核心可以被加速。CUDA不僅僅是並行處理,沒這麼簡單。這個想法的本質是我們可以加速那些核心和軟件片段。
現在,當摩爾定律已經走到盡頭,CPU的性能提升基本上已經停止了。如果我們不加速軟件,就會面臨計算成本的膨脹。因爲世界計算量仍然在每年翻倍增長,如果CPU和通用計算機的性能無法提升了,那麼會發生什麼呢?計算成本將繼續指數級上升。現在輪到我們去做計算了。
七、如何判斷技術的前景?關鍵要做好決心與固執間的平衡
帕特里克·克里森:在場的各位都是企業家,也許每個人自己心中都有和CUDA一樣類似的願景。他們認爲這對他們的領域或他們的技術非常有意義,但市場還沒有看到它的潛力。你認爲有沒有可能從中提取一些通用的原則呢?什麼時候應該堅定地相信你的願景,什麼時候又需要重新考慮呢?
黃仁勳:是的,問題的關鍵是決心與固執之間的界限。那條界限是模糊的。我每天都在確認我的核心信念。我現在仍然這樣做。我需要確認我分析公司戰略時使用的第一性原理是否正確。這不是一個很長的列表,很容易記住。
問題的關鍵是,這些原則現在是否有了根本性的改變呢?外部條件的變化是否使它們不再像以前那樣重要?是不是有人解決了這個問題?這個問題現在已經消失了嗎?是不是還會有需求?你必須不斷檢查。這是其一,不斷自省。你必須非常小心地提煉基本原則,而不是說我就想這麼做。這種想法就是固執了。我們不是5歲的孩子,所以你必須做好推理分析。
第二,必須要聰明一些。我們找到了一些方法將CUDA變現。我們到處尋找應用場景,找到了CT重建的應用,找到了地震信號處理的應用,找到了分子動力學的應用。我們不斷地尋找應用場景。這些應用沒有讓我們大獲成功,但至少足以讓我們維持公司運轉,爲我們贏得了時間,讓我們能撐到成功的時刻。
八、未來大約2萬億美元的計算機要換用GPU
帕特里克·克里森:讓我們來談談AI。假設今天世界上所有GPU的總計算能力是X。你認爲,5年後我們的總算力會是X的多少倍?
黃仁勳:我要是說出來我肯定會後悔的。我們可是一個上市公司。你這個“瘋子”,你們這種私有公司可真是自由自在。好的,讓我們來分析一下。首先,世界已經安裝了大約1萬億美元的數據中心。這些數據中心使用通用計算。通用計算已經沒有未來了,所以我們不能再這樣處理數據。世界需要加速計算,需要將加速計算應用到所有領域。當我們加速一切時,每一個數據中心、每一臺計算機都將是一個加速服務器。假設市場不增長,未來4年我們要替換大約1萬億美元的計算機。
但如果計算機行業繼續以大約20%的速度增長,我們可能需要在未來幾年將大約2萬億美元的計算機替換成GPU。這是第一點。
第二點,這也是爲什麼我認爲你們的行業潛力無限。這是一場工業革命,讓我告訴你爲什麼。我們正在大量生產一些以前從未生產過的東西。生產這些東西需要一種以前從未存在過的設備,也就是GPU。我們現在首次大量生產的東西就是token和浮點數。這些東西的價值就在於它們代表着智能。這就是人工智能。
你可以將這些浮點數以某種方式重新組合,它就能變成英語、法語、蛋白質結構、化學物質、圖形、圖像、視頻、機器人的動作、方向盤的動作。我們正在以極大的規模生產token。我們在人工智能方面不斷努力,最終發現了一種生產幾乎所有類型的token的方法。世界將生產大量的token。這些token將在新型數據中心中生產。我們稱它們爲AI工廠。
回到上一次工業革命。水進入一臺機器,把水燒開變成蒸汽,然後驅動發電機產生電力。原子進,電子出。而在這場新的工業革命中,是電子進,浮點出。上一次工業革命中,沒有人明白爲什麼電這麼有價值。而現在電力被出售、市場化。每千瓦時的電力被標上價格。現在token也被這麼標上價格了,每1美元對應着多少token數。
就像上一次工業革命那樣,這些事情對很多人來說都很難理解。但在未來10年這會變成人們司空見慣的事情。這些token將創造出新產品、新服務,提高整個行業的生產力。建立在我們產品基礎上的產業,價值可能有100萬億美元。這個行業的前景是很廣闊的。
帕特里克·克里森:這些token工廠的一個大問題是模型是否會飽和。我們現在可以用自然語言編寫它們,將自然語言轉換爲SQL。從70億參數的模型發展到700億參數的模型,這種進步對於用戶查詢的準確性可能具有重大的改進。但或許發展到比這個規模還要大10倍的模型是不必要的?在某種程度上來說,目前的模型是不是已經足夠好了,可以可靠地將自然語言轉換爲SQL?
你認爲LLM(大語言模型)部署用例的飽和曲線是什麼樣的?什麼樣的用例才需要萬億參數模型或十萬億參數模型?還是說千億參數的模型就夠了?你對這個問題有什麼看法嗎?或者說我們能這麼看待這個問題嗎?
黃仁勳:好的,讓我們把問題分解,然後推理一下。我們從一個例子開始。2012年,計算機視覺領域的AlexNet,在ImageNet圖像識別的準確率大概是82%。在接下來的大概7年裡,每年的誤差都減少了一半。這其實就是摩爾定律。每年的準確性提高了1倍,可信度也提高了1倍。在7年的時間裡,它實現了超越人類水平的表現。
同樣的事情也發生在語音識別和自然語言理解上。這個行業將不斷追求更高的準確性和可信度。我相信在自然語言理解領域,我們也會看到類似的進步。當然,這些問題要複雜得多。但我堅信我們能將準確性每年提高一倍,直到它非常準確。目前在許多情況中,和模型交互時我們都感到答案很準確,值得信賴。在這種信任是尤爲重要的。
第二點,目前的AI都是一次性生成內容的(one-shot)。但我們都知道,有許多事情是不能一次性就想明白的,需要不斷迭代自己的想法。所以,我們要怎麼樣才能讓AI也能夠自己做好計劃呢?怎麼讓AI自己構思一個解決問題的方法呢?
這可能需要工具,需要看一些版權數據,需要做研究,需要去問另一個Agent,需要問另一個AI,可能還需要人類的參與。比如問問人類的意見,發起某個事件,比如主動發郵件或者發消息給某人。然後才能進行計劃的下一步。所以大語言模型必須學會規劃並不斷迭代計劃。不能一次性就把事情都做好了。
當它做好計劃時,還需要啓動其它的模型一同合作解決問題。我認爲未來的模型將會擁有自我迭代的能力,成爲能利用其他具有特定技能的模型的計劃模型。所以我認爲我們還有很長的路要走。
九、ChatGPT實現了計算民主化,Llama實現了生成式AI民主化
帕特里克·克里森:Meta因爲發佈Llama 3而備受關注。這似乎是迄今爲止最令人印象深刻的開源模型。你對開源模型有什麼看法?
黃仁勳:如果你問我在過去幾年中最重要的事件是什麼,我會告訴你當然是ChatGPT的出現、基於人類反饋的強化學習,給模型融入人類價值觀的相關技術。這些顯然是重要的突破,當然還包括計算的民主化。這使每個人都可以成爲程序員。現在每個人都能用它做一些令人驚歎的事情。我真的爲OpenAI的團隊感到驕傲。
第二件事也同樣重要。我認爲是Llama。不是Llama 1,而是Llama 2。Llama 2讓幾乎所有行業都開始研究使用生成式AI技術。它讓各行各業都能夠接觸到這項技術,包括醫療健康、金融服務、製造、客戶服務、零售等等行業。因爲Llama 2和Llama 3是開源的,所以能吸引研究者、初創公司和其它行業使用這項技術。Llama系列模型普及了生成式AI。我認爲這點也意義重大。
我認爲ChatGPT實現了計算的民主化,而Llama實現了生成式AI的民主化。沒有Llama,很難實現目前和AI相關的安全研究、各種推理技術以及強化學習的研究。
十、空談AGI何時實現意義不大,先界定問題才能解決問題
帕特里克·克里森:Dario Amodei(Anthropic公司CEO)兩週前在Ezra Klein的播客上預測AGI會在近期內實現。可能就是在未來幾年內,比如2027年這個年份就經常被提及。你怎麼看?
黃仁勳:這取決於你如何定義AGI,首先,作爲工程師,我們知道要先界定問題才能解決問題,必須以某種可衡量的方式表達問題和陳述任務。
如果說AGI的定義就是能完美通過我們目前的一系列基準測試,比如數學測試、英語理解測試、推理測試等等,還有醫學考試、律師資格考試等等。不管你列出什麼目標,我都相信我們將在非常短的時間內取得優異的成績。如果那就是AGI的定義,我猜測它很可能在未來5年內實現。因爲目前模型在這些測試上,每半年錯誤率就能減半。我們沒有理由不相信它不能很快實現超越人類的表現。
但是在座的各位要注意,這並不符合大多數人對AGI的想象。我從工程的角度這麼定義AGI,只是爲了我能回答這個問題。那如果AGI的定義尚不明晰,又怎麼能回答這個問題呢?
十一、不積極主動參與AI是犯錯,想把英偉達變成巨大的AI
帕特里克·克里森:在座的各位都是企業主。他們都面臨着一個特別實際的問題,在你所描述的那種變化面前,一個人要怎麼知道自己是否做出了恰當的、充分的、正確的反應呢?你有什麼建議嗎?
黃仁勳:如果你不積極、主動地參與AI,那你就是在犯錯誤。你不會因爲AI技術本身而失業,而是會因爲使用AI的人失業。你的公司不會因爲AI技術本身而倒閉,而是會因爲另一家公司使用了AI而倒閉。這是毫無疑問的。因此,你必須儘快參與AI,這樣你就能做那些你認爲成本太高而無法做的事情。
如果智能的邊際成本實際上接近於0,你就會去做很多你本來根本不可能做的事情。我們現在搜索的頻率,提問的頻率都是特別高的。我平時遇到一個問題就扔到Perplexity裡問問答案。即便有時候我已經知道答案,我也會問一下,以防萬一。我們希望將這類行爲的成本降到最低,這樣大家便可以隨心所欲地使用這些服務。
第二點,AI可以用來提高公司的生產力。生產力高的公司會帶來更高的收入,而更高的收入會帶來更多的就業機會。更多的就業機會則會帶來更多的社會進步。因此,我們很有必要用AI推動公司生產力的提升。
帕特里克·克里森:除了影響你們的製造計劃和資本支出計劃之外,AI是如何改變英偉達內部的運作方式的?
黃仁勳:我們是最早投資建設自有AI超算的科技公司之一。如果沒有AI,我們就無法設計芯片。在夜間,我們的AI正在探索我們自己永遠無法探索的種種可能的設計。因爲要人工探索這些設計需要花費太多資金了。有了AI,我們的芯片變得更好了。我們能夠降低我們芯片的能耗,性能也更好了。
如果沒有AI,我們也無法編寫軟件。優化編譯器的設計也十分複雜。我們會使用AI來提交錯誤報告。我們的錯誤數據庫會告訴你代碼出了什麼問題,可能涉及哪些人,並讓相關人員去修復它。
我想要英偉達的所有人都大量使用AI工具。我還想把整個公司都變成一個巨大的AI。這樣一定會很棒,那我就能做好工作和生活的平衡了。
帕特里克·克里森:你有沒有聽說過哪些企業,在意想不到的領域做出了一些意料之外的用例呢?
黃仁勳:我認爲AI最大的驚喜的就是,當我們稱之爲大語言模型時,“語言”這個詞包含的不只是人類的自然語言。如果AI模型能學會語言,那它也能學會操縱機器人的關節運動。這些本質上都是一些序列而已。我們只需要找到將這些操作token化的方式就可以了。其實對模型來說,一切都是可學習的。所有的這些專有編程語言,比如SQL、ABAP、Lightning、Verilog都是可學習的。這意味着我們能給地球上的所有工具都加上一個Copilot。
帕特里克·克里森:你認爲未來是會有成千上萬個單獨的模型,還是隻有一個萬能的超大模型呢?
黃仁勳:我認爲擁有一些超級模型來幫助我們進行通用推理是非常好的。但對於我們,對於那些擁有特定領域專業知識的公司來說,我們必須訓練我們自己的模型。這麼做是因爲這類公司擁有一套自己專屬的“語言”。而99%和99.3%之間的差異對我們來說就是生死攸關的區別。
專有模型對我們來說太有價值了。無論通用模型有多好,我們都需要進行微調和改進,直到它們能實現完美的表現。因爲這些內容實在是太重要了。
十二、談“表外甥女”蘇姿豐:非常了不起,小時候不認識
帕特里克·克里森:時間快到了,但我還有很多問題沒問。但有一些問題我真的很想問問答案。蘇姿豐(AMD董事長兼CEO)是你的遠房表親嗎?
黃仁勳:是的,她太棒了,非常了不起。順便說一下,她是AMD的CEO。
帕特里克·克里森:AMD在GPU領域是你們的競爭對手之一。
黃仁勳:不,我們是一家人。我們都是這個行業的。我們還從AMD採購呢。
帕特里克·克里森:到底是怎麼回事兒呢?爲什麼最大的兩家GPU公司居然是由一家人運營的呢?
黃仁勳:我不知道這是怎麼發生的。我們沒有一起長大,彼此也不認識。我們是在她在IBM工作的時候才認識的。她的職業生涯令人難以置信,真的非常了不起。
十三、硅谷創業文化劇變,現在沒有青春痘就沒資格創業
帕特里克·克里森:你從90年代初就開始在硅谷摸爬滾打了,你認爲硅谷文化在這段時間裡發生了哪些變化呢?
黃仁勳:哇,我很久沒想過這個問題了。有一點是,當我剛開始創業時,我才29歲,臉上還有青春痘。當我去找律師事務所和風投公司時,我額頭上還有一個大痘痘。那時候,作爲一個年輕人,你會感到相當忐忑。那時候的大多數CEO都穿着西裝,成就頗豐,舉止言行都是大人的模樣。他們用着一些大詞,談論着商業上的事情。創業者年輕的時候去見這些人會感到相當害怕,因爲你被一羣成年人包圍着。
而現在,如果你臉上沒有青春痘,恐怕都沒有創業的資格。這是一大變化。這一文化上的轉變讓年輕人也可以有所成就。年輕一代的CEO所知道的東西實在是太多了,而我學習這些知識花了幾十年。
十四、帶領2.8萬員工逼近蘋果市值,黃仁勳怎麼做到的?
帕特里克·克里森:最後一個問題,英偉達的市值是2萬多億美元,現在你們離蘋果和微軟的市值只有一步之遙。我剛剛查了一下,他們分別有22萬和16萬名員工。而英偉達僅有2.8萬名員工,還不到其中較小的一個的五分之一。我們剛纔在後臺聊天時,我記下了這一點,你可以通過流程實現卓越的運營,但只有資歷才能實現卓越的工藝。英偉達比其他巨頭要小得多。你們對員工的資歷比較重視,能詳細談談這一點嗎?
黃仁勳:我認爲卓越的運營可以創造出不錯的東西,但僅通過卓越的運營無法創造出非凡的事物。許多偉大的事物,比如你創造的產品、公司和組織,是需要愛和呵護的。你甚至無法用言語表達,怎麼可能在電子郵件中把愛和呵護表達清楚呢?愛和呵護是無法融入商業流程中的。愛和呵護是我在英偉達內部很常用的表達。我必須使用這些表達,因爲沒有其它的說法。這些概念不能用數字來表示,也無法在產品規格中寫出來。我們無法在產品規格說,要做出一些具有美感、工藝精湛的產品。
帕特里克·克里森:我在Stripe也總是在談論工藝和美感。我希望事物具有這些難以言喻的特徵,但其實它並不直接滿足某些客戶的需求。客戶不會來找我們說,我希望產品更美。他們會說,我希望它具備特性X或特性Y。然而,我們相信工藝和美感真的很重要。你似乎也這麼認爲。你爲什麼認爲這些東西很重要呢?
黃仁勳:實際上,即便你的客戶沒有將這些需求說出來,但當他們真正使用這些產品後,他們就體會到了。毫無疑問,Stripe的產品具有美感,十分優雅簡潔,簡潔而不簡單。簡潔和簡單不是一回事,它解決了問題,但恰到好處。它給你負擔,但不會太多。找到這種平衡很難,我們無法具體說明,只能憑着直覺前進。
當我們逐漸培養出一支團隊時,團隊內部的感覺是基本一致的。其實我們已經將團隊的感覺內化了,這些感覺是言語無法形容的。我們不想失去這些東西,而是想進一步發展這些特質。所以我不願意重置,這也是爲什麼我不太願意和新人一起工作。因爲我已經習慣了這些東西,我已經與團隊一同經歷瞭如此多的痛苦和快樂,學習了許多的知識。所有這些經驗已經內化到團隊裡了,而我想繼續傳承和發展這些東西。
這就是爲什麼我十分相信資歷的力量。正因如此,小團隊也可以實現偉大的事情。和其他企業相比,英偉達就是一個小團隊。我們只有2.8萬人,但做出了遠遠超出我們體量的成就。
來源:Stripe Sessions大會