日經:AI伺服器帶動散熱需求 光寶科技尋求鞏固液冷解決方案地位
臺灣光寶科技正尋求鞏固在液冷解決方案的地位。圖爲光寶科董事長宋明峰(左)與總經理邱森彬(右)資料照。圖/記者吳康瑋攝
人工智慧(AI)市場不只帶動相關晶片與伺服器市況火熱,同樣也正推升高效散熱解決方案的需求,臺灣光寶科技(Lite-On Technology)正尋求鞏固在液冷解決方案的地位。
光寶科技雲端基礎設施平臺與解決方案協理副總裁Simon Ong接受日經新聞訪問表示,「AI資料中心有許多熱能待解決,而傳統氣冷式解決方案效能不足」,發展「更精密的散熱技術,以解決系統產生熱能的必要,勢不可當」。
光寶科技認爲,傳統散熱方法不敷因應AI挑戰,該公司曾用不同的散熱解決方案對兩組晶片進行基準測試,Simon Ong說,「我們發現使用氣冷方法的晶片,只能達到效能的60%,將絕對會有過熱疑慮,同時液冷解決方案能持續提高運算效能到最佳水準」,「如果晶片太熱,運作的效率和效能將永遠無法達到在可接受環境下的情況」。
他說,資料中心營運商也能用擴大伺服器機櫃內的散熱片規模等傳統方法降溫,「但你是想在伺服器機櫃內的有限空間裡,裝滿散熱片還是晶片?當然,我們想要更多的運算能力」。
他認爲,在AI運算的未來中,「新的液冷技術將是非常重要的解決方案,而非目前採用空氣散熱的主流散熱解決方泛,雖然後者比較便宜,但爲表面降溫的速度也慢得多」。
AI資料中心仰賴輝達(Nvidia)或超微(AMD)等業者供應的強力繪圖處理器(GPU)晶片運作,這些晶片能處理平行運算,但需要的耗能也大幅攀升,輝達A100晶片需要400瓦,到H100晶片已需要700瓦,下一代的B100晶片每顆將消耗1,000瓦,是驅動240瓦MacBook Air八小時所需電力的四倍多。
輝達H100 GPU需求大爆發,也讓各界更加關注電源供應與熱能解決方案產業,因爲隨着晶片耗能飆增,所產生的熱能也成爲關鍵瓶頸,溫度會直接影響晶片效能,因此比以往都更需要更精密的散熱解決方案。產業專家指出,傳統運用風扇和管線的氣冷式方案,無法解決AI伺服器的高熱問題。
此外,隨着科技業競相達成淨零碳排,散熱技術也成爲資料中心營運商維持低能源使用效率(PUE)的關鍵。新興的散熱科技包括液冷技術,在伺服器周邊安裝水流系統以降溫,另外還有把整體伺服器機櫃泡入不導電液體內的浸沒式冷卻技術。
作爲蘋果、惠普及戴爾供應商的光寶科技,正是資料中心基礎建設電力與熱能解決方案的要角,正尋求鞏固在液冷解決方案領域的地位。其他加碼投入這塊領域的業者還有臺達電子與雙鴻科技,就連英特爾等晶片製造商、和技嘉科技、英業達及緯穎等伺服器系統整合業者,都把資源導向開發創新的散熱技術。
資策會產業情報研究所(MIC)產業顧問魏傳虔說,AI伺服器裝配的中央處理器(CPU)和GPU數量多於傳統伺服器,耗能隨之提高,也帶動升級散熱和電源供應等既有零組件與技術的趨勢。他說,AI伺服器產值已在去年超越整體全球伺服器市場的一半,MIC預測AI伺服器的滲透率將在2027年前提高到20.9%,高於去年的12.4%。