Kimi火到宕機背後:算力問題難解決嗎?
近日,Moonshot(月之暗面)自研的Kimi智能助手火爆全網。3月22日,Kimi概念股整體持續上漲,但也有少部分股價走弱。《每日經濟新聞》記者獲悉,A股上市公司中,世紀天鴻(SZ300654,股價14.20元,市值51.67億元)、華策影視(SZ300133,股價11.06元,市值210.26億元)、中廣天擇(SH603721,股價42.59元,市值55.37億元)、掌閱科技(SH603533,股價32.49元,市值142.60億元)等22日以漲停收盤。近幾天,陸續有不少上市公司針對是否與Kimi合作發聲。
Kimi智能助手訪問量快速增長讓背後的算力問題凸顯。3月21日下午,Kimi的APP和小程序一度顯示無法正常使用。中信建投發佈研報稱,隨着Kimi用戶數持續提升,已經出現短暫算力支持不足的情況,考慮後續模型訓練和推理需求,預期算力需求會進一步提升,帶動算力需求落地。
賽迪顧問人工智能與大數據研究中心常務副總經理鄒德寶接受《每日經濟新聞》記者採訪表示,Kimi的宕機原因,如果確實是因爲算力不足導致的,那麼隨着用戶數量的增加,Kimi的算力確實可能會成爲一個瓶頸。但解決這個算力不足的問題也有一些方法,包括算力升級、算力優化、分佈式計算等等。
板塊持續上漲,多家上市公司發聲
3月22日,Kimi概念股板塊持續大漲。東方財富顯示,“Kimi概念”(BK1169)19家上市公司裡,有16家公司股價保持上漲,3家公司股價出現下跌。
從漲跌幅看,世紀天鴻以漲停收盤,日漲幅20.03%,收盤價爲14.2元/股。
今年3月12日,世紀天鴻曾在投資者互動平臺上透露,公司的AI+教育產品“小鴻助教”已在4.0版本新增“文檔問答”功能,能夠實現與Kimi相似的功能,可以輸入100MB、10萬字之內的文檔。東方財富客戶端顯示,世紀天鴻入選“Kimi概念”的原因包括“A股唯一精準對標Kimi的公司”。
華策影視的股價22日也持續漲停,這是該公司連續第三個漲停板。據報道,華策影視22日晚對外迴應,目前公司與月之暗面保持着密切的溝通,但暫無任何書面協議落地。
此外,捷順科技、中廣天擇、掌閱科技這三家公司22日股價也以漲停收盤。其中中廣天擇與掌閱科技的股價也已連續三天漲停。但也有個別概念股22日股價下跌,包括超訊通信(SH603322,股價38.33元,市值60.41億元)、彩訊股份(SZ300634,股價21.35元,市值95.57億元)、金山辦公(SH688111,股價329.74元,市值1522.8億元)。
這兩三天,不少上市公司也陸續就是否與Kimi合作對外發聲。比如,海天瑞聲(SH688787,股價92.71元,市值55.93億元)就在投資者互動平臺透露,公司過往並未向月之暗面/Kimi Chat提供過相關訓練數據;易點天下(SZ301171,股價21.60元,市值101.93億元)則透露,公司已經接入Kimi Chat;因賽集團(SZ300781,股價68.6元,市值75.44億元)稱,月之暗面Kimi目前是公司調用的閉源大模型之一,其主要優勢在於高效處理長文本的能力。
算力問題難解決嗎?
3月18日,月之暗面對外宣佈:在大模型長上下文窗口技術上取得新的突破,自研的Kimi智能助手已支持200萬字超長無損上下文,並已開啓產品內測。
隨後,Kimi智能助手引爆市場關注。
中國銀河證券研究院稱,Kimi智能助手是AGI進程中又一“里程碑”,宣佈大模型正式進入“長文本時代”。國信證券表示,由清華大學楊植麟及其團隊“月之暗面”推出的Kimi標誌了國產AI大模型的重要進步。
越來越多的用戶也涌向Kimi智能助手APP和小程序。SimilarWeb數據顯示,去年12月時Kimi的周訪問量還在10萬次上下,到了1月下旬才突破40萬,但是從春節假期,訪問量開始疾速攀升,2月訪問量增長107.6%,僅次於百度的文心一言、阿里的通義千問。國信證券透露,從2023年10月到2024年3月,Kimi的日活用戶從10萬迅速增長至300多萬。
用戶量的激增,讓Kimi的APP和小程序在21日下午曾出現過無法正常使用的情況。
此前,月之暗面曾發佈情況說明:從3月20日上午9點半開始,觀測到Kimi的系統流量持續異常增高,流量增加的趨勢遠超公司對資源的預期規劃。這導致了有較多的SaaS客戶持續的體驗到“429:engine is overloaded”的異常問題。月之暗面稱,3月20日發現問題後,進行了5次擴容工作,以儘量承載持續增長的用戶量。
鄒德寶22日下午接受《每日經濟新聞》記者採訪時表示,Kimi如果要解決算力問題,有幾個方向。他介紹:“一是算力升級,這是最直接的方法,通過增加服務器的數量和性能,提升整體算力,包括使用更高配置的硬件,或增加更多服務器來分擔負載;二是算力優化,優化Kimi使用的算法,使其在相同的算力下能夠處理更多的用戶請求;三是分佈式計算,利用分佈式計算技術,將Kimi的算力分散到多個服務器或數據中心上,從而提高整體的處理能力;四是雲計算資源加持,利用雲計算服務提供商(如AWS、阿里雲等)的彈性算力資源,根據用戶請求量的變化自動調整使用的計算資源;五是負載均衡,將用戶請求分散到多個服務器上處理;六是緩存技術;七是用戶行爲預測,預測未來的請求量,從而提前調整算力資源。”