加速第二代AI芯片研發,墨芯人工智能完成兩輪數億元融資丨36氪首發

作者丨邱曉芬

編輯丨蘇建勳

36 氪獲悉,墨芯人工智能(以下簡稱「墨芯」)近半年內相繼完成A+輪、B輪各數億元人民幣的兩輪融資。

其中,B輪融資由螞蟻集團領投,盛景嘉成跟投;A+輪融資由金浦投資上海金融科技基金領投,華大鬆禾天使基金、巖山科技戰略跟投,多家財務機構、老股東將門創投繼續跟投。告捷資本持續擔任公司兩輪融資的財務顧問。

兩輪募集的資金將用於「墨芯」公司二代AI芯片的研發、市場拓展及稀疏化生態的構建。

「墨芯」2018年創立於硅谷,其產品目前主要是加速器芯片,通過稀疏化算法提供高算力、低功耗、高性價比的AI算力服務。產品主要面向互聯網、運營商、金融、製造、醫療、交通、能源、生命科學、自動駕駛等衆多行業與場景。

「墨芯」創始人兼CEO王維告訴36氪,相比稠密計算,稀疏計算技術是全球公認的新一代AI計算技術——利用AI模型本身的稀疏性,以接近大腦計算的方式,運行計算時僅啓動所需的神經元,消減冗餘和重複內容,減少運算和數據帶寬的壓力,提升有效性能。值得注意的是,英偉達的A100、H100系列、近期發佈的 Blackwell GPU中也都開始支持低倍率稀疏化。

不過,「墨芯」的稀疏計算是兩種路線並行——即神經網絡的權重稀疏化+激活稀疏化的方法。相比於僅使用一種稀疏化,「墨芯」的雙稀疏可以帶來更大的效率收益。

由於市面上的芯片還不能很好支持稀疏矩陣算法,在算法之外,「墨芯」還打造了軟硬協同的智能計算平臺。2022年,「墨芯」便推出了第一代的英騰處理器ANTOUM,而搭載這款芯片的墨芯計算卡S4和S30,可應用於互聯網、生命科學、自動駕駛、智慧城市、通信等多個垂直領域。

據王維介紹,「墨芯」的芯片產品目前聚焦在大模型推理市場,經過驗證,可以大大提升芯片的數據吞吐率,能夠幫助下游企業提升算力的同時,降低價格,進而提升項目整體的 TCO。根據他們測算,在某項目中,推理成本降低了10 倍,推理速度更有 5-10 倍的提升。

目前,大模型推理芯片的需求還在持續提升。今年2月,隨着Sora的橫空出世,預示着AGI時代的加速來臨,市場對算力的需求變得更加多樣化,逐漸催生國內大模型廠商對於算力的全新需求。王維預計,大模型推理芯片或將在今明年兩年內爆發。

王維告訴36氪,這兩輪融資後,「墨芯」將進一步加強其AI算力產品的研發和市場應用,加大對“第二代Antoum芯片”的開發投入。

在創始團隊上,公司創始人兼CEO王維是卡內基梅隆大學ECE碩士,擁有近20年經驗的硅谷芯片專家,曾任高通和英特爾核心架構師,是英特爾五代到十代CPU處理器的核心團隊之一,參與開發的芯片累計量產超50億片。

聯合創始人兼首席科學家嚴恩勖,是卡內基梅隆大學機器學習專業博士,曾在Google和Microsoft Research擔任研究員,在稀疏化領域獨創了雙稀疏算法。在2015-2019年間,他作爲第一作者在NIPS發文數量全球第二。

聯合創始人兼工程副總裁蘆勇,畢業於浙江大學電子工程專業,擁有20年以上SoC芯片設計和團隊管理經驗,曾任SK Hynix芯片設計總監和Marvell資深芯片設計經理,領導開發多款全球量產規模最大的SSD控制器芯片。

投資者評價

螞蟻集團投資團隊認爲:墨芯團隊的稀疏計算技術具備前瞻性和創新性,有望推動大模型的高性能、低成本落地,爲解決算力挑戰提供了一種通用且有效的方法,助力構建綠色、高效的計算基礎設施,爲AGI時代打造高性價比、可持續的AI算力。

金浦投資上海金融科技基金表示:AGI是新一輪的技術革命,是全球新一輪數字技術競爭的新賽道和制高點,將對未來5年至10年全球技術創新、企業競爭、社會發展和國家博弈產生深遠影響。AGI對於算力需求的增長是指數級的,同時也帶了成本、功耗、能效等一系列難題。墨芯主打的稀疏化算法將算法、軟件、芯片架構融爲一體,不依賴先進製程和高帶寬內存,在保證供應鏈安全的前提下,提高計算效率、降低成本,爲互聯網、生命科學等客戶提供極致性價比的AI芯片解決方案,我們堅定看好墨芯團隊在AI芯片上的持續創新,助力AGI大模型以更普惠的方式實現商業化落地。

盛景嘉成提到:我們對墨芯人工智能的投資決策基於其在AI芯片領域的強大創新能力。墨芯的稀疏化技術在提高計算效率和降低成本方面具有顯著優勢,這對於當前數據量井噴發展的AI行業尤爲重要。稀疏化技術使得墨芯的AI芯片在處理大規模數據時更加高效,尤其是在生成式AI時代下,產品實現了與行業領導者英偉達相媲美的性能,並實現了在TCO層面的超越給客戶帶來了真正的降本增效。目前公司已經與互聯網、醫療等各行業頭部企業已經建立了深入的合作關係,這證明了其產品的可靠性和其市場客戶的廣泛接受度。盛景嘉成創投十分看好墨芯科技的未來,期待其在AI芯片市場中繼續鞏固並擴大其領導地位。

華大鬆禾天使基金表示:在以人工智能和生物信息爲典型代表的大數據時代,高性能算力已成爲支撐科學技術創新和社會產業發展的核心基礎設施。無論是數據中心還是產品終端,對算力規模的需求持續快速增長。伴隨算力規模增長的同時,傳統超算芯片在功耗和成本等方面的壓力愈發凸顯,正成爲制約算力行業進一步發展的重要瓶頸,並倒逼芯片行業開展創新突破。墨芯團隊採用其獨有的高倍率雙稀疏計算技術研製的全球首個稀疏加速專用芯片,具有高算力密度、低運行功耗、低獲取成本等顯著優勢,正成爲最具競爭力的創新超算技術。在被不斷加壓的技術封鎖的大背景下,稀疏計算也更加符合我國國情現狀,將具有行業壓艙石與算力方舟的重要意義。基於對稀疏計算的創新路徑和墨芯團隊的戰略佈局的高度認可,我們願攜手墨芯,在人工智能與生物技術的新時代,共創新質生產力,共建超算新基建。

end