前谷歌工程師創業造AI芯片,要比英偉達好10倍!已融資2500萬美元
3月27日消息,英偉達在AI芯片市場的主導地位激發了其他公司自主設計芯片的決心。儘管從頭開始設計芯片充滿挑戰,耗時多年且成本高昂,通常以失敗告終,但人工智能的巨大潛力驅使業界人士勇敢嘗試。
在這一背景下,兩位前谷歌工程師共同創立了MatX。他們利用在谷歌的經驗,識別出現有人工智能芯片的侷限性,並致力於開發更高效、成本更低的新型芯片,旨在提高大語言模型的訓練和運行效率。MatX信心十足地預測,其芯片的性能將至少比英偉達的GPU好十倍。目前該公司已成功籌集了2500萬美元的資金。
人工智能時代的到來改變了風險投資對芯片行業的態度,儘管面臨英偉達等巨頭也在快速發展,但市場對於專門針對大語言模型設計的芯片仍然充滿期待。
以下是翻譯內容
大約25年後,感覺硅谷終於又成了“硅”谷。
英偉達在驅動人工智能軟件的芯片市場上已成絕對主導,促使其他公司決定自行設計芯片。歷史告訴我們,這通常是充滿災難的嘗試。從頭開始設計芯片需要耗費數年時間和數億美元,而且大多數嘗試以失敗告終。然而,人工智能的巨大前景促使人們認爲這是一次必須的嘗試。
邁克·岡特(Mike Gunter)和萊納·波普(Reiner Pope)就是這樣的兩個探索者。他們創立了MatX公司,旨在設計專爲處理大語言模型所需數據而優化的芯片。大語言模型,如OpenAI的ChatGPT和谷歌的Gemini,是多種人工智能應用的基礎,它們需要大量昂貴的芯片來運行。如果有公司能製造出更便宜、處理速度更快且更適合人工智能的芯片,那麼它將在人工智能軟件不斷擴張的世界中佔據極爲有利的地位。
岡特和波普此前在Alphabet旗下的谷歌工作,岡特負責設計運行人工智能軟件的硬件芯片,而波普則負責編寫人工智能軟件。多年來,谷歌一直致力於開發TPU(tensor processing unit,張量處理單元),一種專爲人工智能設計的芯片。然而,根據MatX高管的說法,這些芯片是在大語言模型普及之前設計的,對當前任務而言不夠高效。“在谷歌,我們努力使大語言模型運行得更快,也取得了一些進展,但總是遇到困難,”波普表示,“在公司內部,有很多關於芯片改進的想法,很難只專注於大語言模型。這是我們選擇離職的原因。”
英偉達在人工智能芯片市場的主導地位有些偶然。它最初生產的GPU芯片是爲加速視頻遊戲和某些計算機設計任務而設計的。這些芯片擅長同時處理大量的小型任務,恰好適合運行人工智能軟件,其性能大幅超過了英特爾等公司生產的其他類型的芯片。
英偉達在其GPU芯片上劃分了資源區塊,以適應廣泛的計算任務,包括芯片內部的數據傳輸。這些設計決策似乎更傾向於滿足以往計算時代的需求,而非當前人工智能的高速發展,從而在性能方面存在一定的權衡。MatX的創始人相信,在新的人工智能時代,這些額外的資源增加了不必要的成本和複雜性。相比之下,MatX採取了全新的設計方法,開發了只有一個大型處理核心的芯片,目的是儘可能快地完成乘法運算——這是大語言模型的主要任務。MatX全力以赴,堅信其芯片在訓練大型語言模型和輸出結果上至少能比英偉達的GPU高出十倍。“英偉達的產品非常強大,對大多數公司來說是正確的選擇,”波普說,“但我們認爲我們能做得更好。”
MatX已經籌集到2500萬美元的資金,最新一輪融資由人工智能行業的投資人納特·弗裡德曼(Nat Friedman)和丹尼爾·格羅斯(Daniel Gross)領投。MatX位於加州山景城,距離硅谷的發源地——肖克利半導體實驗室(Shockley Semiconductor Laboratory)僅幾英里之遙。目前,幾十名員工正致力於研發計劃於明年推出的芯片。格羅斯表示:“MatX的創始人代表了人工智能領域的一股趨勢,他們正在將一些大公司開發的最佳想法商業化,因爲那些公司動作過慢,過於官僚化。”
如果人工智能軟件繼續沿着現有的發展路徑,對於高成本的計算需求將會巨增。據估計,目前正在研究的每個模型的訓練成本約爲10億美元,而未來模型的訓練成本可能達到100億美元。MatX預測,只要能夠贏得OpenAI和Anthropic PBC等主要人工智能公司的青睞,它的業務將會蓬勃發展。“這些公司的經濟模式與典型公司截然不同,”岡特說,“他們將所有資金都投入到計算資源上,而不是人力資源上。如果這一趨勢不改變,他們最終會耗盡資金。”
在硅谷,芯片公司隨處可見,曾經有幾十家芯片初創公司,甚至計算機巨頭如惠普、IBM和Sun Microsystems也生產自己的芯片。然而近年來,英特爾憑藉其在個人電腦和服務器市場的主導地位擊敗了許多競爭對手,而三星和高通則主宰了智能手機芯片市場。這導致投資者轉而避開芯片初創企業,認爲相比軟件公司,它們成本更高、週期更長、風險更大。MatX的投資人之一、芯片行業專家拉吉夫·赫馬尼(Rajiv Khemani)回憶道:“大約在2014年左右,我曾拜訪過一些風投公司,他們已經讓所有懂芯片的合夥人離開了。”“我面前的人根本不懂我在說什麼。”
然而,人工智能的崛起改變了風險和回報的平衡。亞馬遜、谷歌和微軟等資源雄厚的公司已經開始投資設計自己的芯片,專門用於執行人工智能任務。幾年前,如Groq和Cerebras Systems這樣的初創公司亮相,推出了一大批針對人工智能專用的芯片。但這些產品都是在大語言模型實現技術突破並開始主導人工智能領域之前設計的。這迫使初創公司必須適應人們對大語言模型的突然興趣,並在飛速發展中調整自己的產品。MatX可能代表着又一波從頭開始、專門開發大語言模型專用芯片的初創企業浪潮。
進入芯片行業的一大挑戰是,設計和製造新芯片需要三到五年的時間。而在此期間,英偉達也不會停滯不前,它在本月剛剛發佈了更快的GPU芯片。初創公司必須預測技術趨勢和競爭對手的動向,而且不能犯任何可能導致生產延誤的錯誤。軟件公司通常需要重寫代碼才能在新的芯片上運行,這是一個成本高昂且耗時的過程,只有在能從這種變化中獲得巨大收益時纔會進行這樣的轉變。一個經驗法則是,新芯片必須在性能上至少比前代產品好10倍,才能說服客戶重寫他們所有的代碼。
格羅斯認爲,我們目前仍處於構建支持人工智能成爲主要計算形式的基礎設施的初期階段。“我認爲,我們正處於一個芯片週期的早期階段,與此相比,其他行業的發展將相形見絀。”如果格羅斯的看法正確,那幾乎可以肯定地說,新的芯片巨頭將會誕生。(辰辰)