讓用戶無痛開發AI應用,袁進輝新公司獲近億元天使+輪融資 | 36氪首發

作者 | 鄧詠儀

編輯 | 蘇建勳

36氪獲悉,AI初創公司「硅基流動」(SiliconFlow)近日完成近億元天使+輪融資。本輪融資由某知名產業方領投,跟投方包括智譜AI、360和水木清華校友基金等知名企業及機構,老股東耀途資本繼續超額跟進,華興資本擔任獨家財務顧問。

對本輪融資,創始人兼CEO袁進輝表示:“非常感謝各位投資方對硅基流動的信任和支持。這次融資將幫助我們進一步加快產品創新,爲開發者提供觸手可及的AI雲服務,促進AI應用層的繁榮,推動AGI技術普惠化。”

硅基流動是一家專注於AI Infra(AI基礎設施)領域的創業公司,成立於2023年8月。創始人袁進輝是前OneFlow(一流科技) 創始人及CEO,曾任微軟亞洲研究院主管研究員,獲得微軟亞洲研究院院長特別獎。

通俗地理解,硅基流動所在的AI Infra層,是上接AI應用層、下接算力芯片層的中間層,相當於大模型時代的“操作系統”。如何讓大模型訓練與推理更高效,充分釋放底層硬件的潛力,降低生成式AI應用開發的門檻與成本,正是AI Infra需要解決的關鍵問題。

大模型訓練包括對模型進行參數調優、數據訓練等環節,讓模型具備執行相應任務的能力;而推理則是在模型訓練好之後,讓模型進行預測與決策的過程,爲AI應用提供智能能力。

其中,深度學習訓練框架是AI Infra的重要組成部分。這個領域被大公司的開源產品所主導,典型框架有Facebook的PyTorch,谷歌的TensorFlow,國內有百度的PaddlePaddle等。從2016年開始,作爲世界範圍內研發工業級通用深度學習框架的唯一創業團隊,袁進輝帶領的OneFlow團隊推出了高性能分佈式深度學習框架。

之所以敢挑戰以大廠主導的AI訓練框架生態,是因爲袁進輝確信:未來AI模型的參數量會越來越大。一旦模型變大,那麼原有的深度學習框架不能滿足開發者的需求,底層的AI框架就需要重構,而這是屬於創業公司的機會。

隨後,以GPT爲代表的大模型熱潮來臨,OneFlow團隊所積累的大模型訓練技術和認知得到驗證。2023年,處在大模型風口上的OneFlow團隊被原美團聯創王慧文所創立的大模型公司“光年之外”併購,隨後,“光年之外”因故被美團併購,袁進輝帶領團隊創立新公司“硅基流動”。

再次出發,硅基流動依舊將方向定在AI Infra賽道。只是,隨着大模型走入大規模應用落地時期,推理效率成爲阻礙生成式AI應用成功的一大技術挑戰。因此,硅基流動的技術方向瞄準了大模型推理領域。

英偉達在2023年財報電話會後透露,在過去的四個季度中,英偉達數據中心約40%的收入都是推理需求驅動的。而根據Gartner的報告,2023年專用於AI工作負載的芯片創造近534億美元的收入;到2027年,這一數字將達到1194億美元。這無疑是一個具有巨大商業前景的方向,當然,也是大公司和創業公司的必爭之地。

袁進輝對36氪表示,他希望能夠帶領硅基流動,在技術領先的基礎上,重點解決上一次創業沒有解決好的挑戰——走通商業化閉環。

6月,硅基流動正式推出了新產品 —— 一站式大模型API雲服務平臺SiliconCloud,匯聚了諸多主流大模型,如阿里旗下的通義大模型Qwen2、智譜旗下的GLM-4、幻方量化旗下的DeepSeek V2系列開源模型,以及文生圖模型SDXL、SDXL Lightning、PhotoMaker、InstantID等。

基於硅基流動在AI Infra領域的深厚積累,SiliconCloud平臺上的大模型響應速度更快,算力成本更低,大大提升了AI 應用開發效率,並大幅降低了部署成本。比如,使用SiliconCloud調用文生圖模型Stable Diffusion,可以達到1秒出圖;而調用大模型DeepSeek V2,響應速度可達50 Tokens/s。這是因爲SiliconCloud集成了其圖片/視頻生成推理引擎OneDiff,可以讓文生圖模型SDXL的最高可達3倍性能加速;同時,SiliconCloud還集成了大語言模型推理引擎SiliconLLM,在各類語言大模型推理場景中,其最高性能加速可達同類開源產品的10倍。

袁進輝對36氪表示,目前國內大廠旗下的大模型每天生成Token量在千億級別,而SiliconCloud上線公測後,平臺的調用量就迅速增長。“僅僅幾周後,每天的Token生成量達到了數十億。”他說。

近期,硅基流動也利用技術優勢提供更低價格的模型服務。6月25日,他們正式宣佈SiliconCloud平臺的Qwen2(7B)、GLM4(9B)、Yi1.5(9B)等頂尖開源大模型免費使用,開發者真正實現“Token自由”。

當前,硅基流動的產品已在多個行業中廣泛應用,並且被業內頂級雲廠商、芯片公司和大模型公司相繼認證爲最高等級合作伙伴。對於以後的市場發展計劃,袁進輝表示,公司將會同步拓展海外市場。