技嘉於OCP全球峰會 展示GB200解決方案
技嘉於OCP全球峰會,展示GB200等解決方案。圖/技嘉提供
技嘉(2376)旗下子公司技鋼科技15日參加在美國聖荷西舉辦爲期三天的OCP全球峰會 (OCP Global Summit 2024),展示各種規模資料中心與工作負載所需的最新AI硬實力。在技嘉的A26展位將呈現採用 NVIDIA GB200 與網路設備所整合的機架級解決方案、以及專爲 NVIDIA HGX H200 GPU設計的液冷(DLC)伺服器等產品。
如同今年OCP全球峰會的主題「用想像力實踐你的影響力」,生成式AI應用的關鍵技術正是雲端服務業者今日最重視的解決方案,這些應用涵蓋藥物研發、語言學習及程式輔助等領域,並逐步改變我們的生活。技嘉不僅將運算資源完美融合於精心設計的伺服器中,也在綠色運算領域持續發揮重要影響力。隨着大規模雲端運算的能耗劇增,液冷伺服器成爲提升能源效率的必經之路。
因此,在技嘉展位上展示的 G4L3-SD1 伺服器,使用液冷循環系統,有效冷卻雙CPU及 NVIDIA HGX H200 模組內的 8顆GPU。而對於尚未準備採用液冷的資料中心,我們也展出了專爲H200 GPU設計的 G593-SD1 氣冷伺服器,工整的系統設計佈局區隔出獨立的GPU氣冷空間。這兩款伺服器爲AI運算帶來卓越的效能表現,是當前市場上極具影響力的AI運算基礎架構產品。
當資料中心選擇以GPU運算叢集來追求超越單一伺服器的效能時,網路交換器的選擇至關重要。節點之間需要高速的資料傳輸和最低延遲,才能快速且高效地進行數據交換。爲此,技嘉展示了 NVIDIA Spectrum SN5600 網路交換器,該交換器擁有64個 800GbE 端口,確保雲端規模基礎設施的高效運作。
此外,來賓在技嘉展位上能夠見證由36臺GPU伺服器組成的 NVIDIA GB200 NVL72 運算機櫃。每臺伺服器皆支援 NVIDIA GB200 Grace Blackwell 超級晶片,透過 NVIDIA NVLINK-C2C 與兩顆 NVIDIA B200 Tensor Core GPU 無縫連接。
Blackwell架構同樣支援 NVIDIA MGX 模組化伺服器平臺,並涵蓋 NVIDIA GB200 NVL2 的支援。技嘉過去展示的 XH23-VG0 伺服器即是採用 MGX 模組化設計,而最新的 NVL2 解決方案將能處理AI的精細訓練和推論。