《電周邊》SC24 和碩秀AI運算創新力

呼應今年超級運算大會SC24的展覽主題「創造高效運算」,和碩展出的一系列與合作伙伴AMD,Intel,NVIDIA合作設計支援高效運算的伺服器與機架(Rack)級方案。本次亮點產品包括:

1.大規模生成式AI運算的機架解決方案:RA4401-72N1。和碩針對生成式AI運算需求,推出RA4401-72N1機架伺服器,採用NVIDIA GB200 NVL72高密度GPU解決方案,支援Liquid-to-Air Sidecar或Liquid-to-Liquid CDU散熱架構。此係統提升LLM推論速度達30倍,總擁有成本(TCO)降低25倍,並減少25倍能源消耗,成爲生成式AI推論的最佳選擇。

2.NVIDIA MGX架構下的AI邊緣推論伺服器。針對AI邊緣推論需求,和碩展示多款基於NVIDIA MGX架構的伺服器,包括2U(AS201-1N0、AS205-2T1)及4U(AS400-2A1)產品,支援NVIDIA GH200、H200 NVL及L40S GPU。特別是NVIDIA H200 NVL,推動主流企業伺服器AI加速效能,相較H100 NVL提升LLM推論速度1.7倍,HPC效能增長1.3倍。

3.高密度多節點伺服器與進階散熱技術。資料中心對高密度與高效能解決方案的需求日增,和碩推出符合ORv3規範的OCP伺服器(MS303-4A1),採用最新AMD EPYC 9005系列處理器與Direct-to-Chip液冷技術,提升運算效能與散熱效率。同時,和碩展示多款氣冷式多節點伺服器(MS301-2T1、MS302-2T1),內建Intel Xeon 6處理器(E-core與P-core),滿足資料中心擴充與節能需求。