神州數碼聯合華爲打造昇騰能力中心,聚焦邊緣推理應用 | 最前線

文 | 田哲

編輯 | 蘇建勳

9月19日,神州數碼宣佈合作華爲打造基於華爲昇騰310處理器的昇騰能力中心,該能力中心將AI芯片銷售、軟硬件開發於一體,可針對不同行業的AI推理場景需求,提供AI產品開發環境。

大模型對算力需求整體體現在預訓練、推理、調優三部分,其中通過推理,開發人員可定位模型中潛在問題,提升模型性能。

隨着模型越發龐大,對推理算力需求也將持續增長。華爲昇騰計算整機業務總監胡宣春表示:“AI正在從感知識別邁向內容生成,從專用AI模型轉向更爲廣泛的通用AI模型。AI應用的爆發式增長,可能帶動AI推理算力需求激增至訓練算力的百倍。”

IDC 數據顯示,我國23H1訓練工作負載的服務器佔比達到 49.4%,預計全年的佔比將達到 58.7%。隨着訓練模型的完善與成熟,模型和應用產品逐步投入生產,推理端的人工智能服務器佔比將隨之攀升,預計2027 年,用於推理的工作負載將達到72.6%。

神州數碼信創業務集團副總裁、研發中心總經理周川告訴36氪,以前的推理以中心推理爲主,而現在的推理應用更多在邊緣側,後者對算力需求相對更大。因此有必要推出更大算力、基於邊緣推理應用的參考設計方案。

因此,神州鯤泰計劃與華爲合作推出昇騰能力中心,爲不同行業的客戶提供產品軟硬件的設計能力以及應用遷移適配調優的能力,縮短客戶產品上市時間。

公開資料顯示,神州數碼集團於2019年加入華爲鯤鵬生態,2020年發佈自有品牌“神州鯤泰”,已推出數據計算、終端、DCN數據通信、KunTai數據通信四條產品線。

周川認爲,由於基礎設施不斷建設,訓練模型最終會變成應用落地,訓練的高峰發展期可能即將結束。由於許多客戶的數據十分敏感,不能流通,因此有着本地建設推理中心的推理需求,推理側將存在大量建設、應用機會。

他表示,不同行業的推理應用形態不一,華爲難以支撐所有客戶應用需求,神州數碼的昇騰能力中心可以幫助華爲覆蓋中小型客戶,這是神州數碼對比友商的最大差異點與優勢。