百度智能雲全面升級基礎設施 李彥宏：未來會有百萬量級智能體

新京報貝殼財經訊（記者羅亦丹）9月25日，2024百度雲智大會在北京召開。百度創始人李彥宏表示，智能體是他最看好的AI應用發展方向，“智能體相當於PC時代的網站、自媒體時代的賬號，它最明顯的特點是門檻足夠低，但天花板足夠高，可以做出非常複雜非常強大的應用，將來會有數以百萬量級的智能體出現，從而形成一個龐大的產品生態。”

生成智能體需要AI的基礎設施。本次大會上，百度智能雲分別針對算力、模型、AI應用，全面升級百舸AI異構計算平臺4.0、千帆大模型平臺3.0兩大AI基礎設施，並升級代碼助手、智能客服、數字人三大AI原生應用產品。

百度集團執行副總裁、百度智能雲事業羣總裁沈抖詳細介紹了升級的具體效果和實現的技術原理。例如，在模型訓練階段，穩定和高效是衡量GPU集羣水平的“硬指標”，一張GPU出現故障就會導致集羣整體停擺，大量時間、成本會浪費在故障恢復和數據回滾上。由此，百舸AI異構計算平臺4.0就克服了此項難題，在萬卡集羣上實現了有效訓練時長佔比99.5%以上，其技術原理是，百舸4.0能夠自動篩查集羣狀態，並提前預測GPU故障，及時轉移工作負載，從而降低故障發生頻次。

沈抖表示，大模型以及配套的算力管理平臺、模型和應用開發平臺，正在迅速成爲新一代基礎設施。

編輯 陳莉 校對 穆祥桐