英偉達B200剛發佈 Meta就摩拳擦掌:將用於訓練最新AI模型
財聯社3月20日訊(編輯 劉蕊)在英偉達最新發布全新一代Blackwell架構人工智能GPU芯片B200之後,英偉達的最大客戶之一——Meta就迫不及待地宣佈,公司預計將在今年晚些時候收到Blackwell新品,並將其快速將其應用於訓練公司的最新人工智能模型Llama。
週二晚些時候,英偉達高管也對外透露,這一產品預計將在今年晚些時候首批交付,售價預計在3萬至4萬之間。
Meta:將使用B200訓練AI模型
美東時間週一,英偉達在每年一度的GTC 2024大會上上宣佈了全新一代Blackwell架構人工智能GPU芯片——B200。據英偉達CEO黃仁勳介紹,B200芯片集成有2080億個晶體管,是上一代芯片800億個晶體管的2.6倍,在處理給聊天機器人提供答案等任務時,B200芯片的速度比上一代芯片快30倍。
隨後,Facebook母公司Meta平臺的一位發言人便表示,該公司預計將在今年晚些時候收到首批英偉達的Blackwell新品。
社交媒體巨頭Meta是英偉達最大的客戶之一,此前該公司已經購買了數十萬顆英偉達上一代芯片H100,以支持其升級內容推薦系統和生成式人工智能產品。
今年1月,Meta首席執行官馬克·扎克伯格曾透露,該公司計劃在今年年底前儲備約35萬枚H100芯片。他補充說,與其他GPU相結合,到那時Meta將擁有相當於大約60萬個H100的處理器。
美東時間週一,在英偉達發佈B200芯片後,扎克伯格發佈聲明稱,Meta計劃使用Blackwell產品來訓練該公司的Llama模型。
Meta上週宣佈,它擁有兩個“數據中心級”的GPU集羣,據稱每個集羣包含約24000個H100 GPU,Meta目前正在這兩個GPU集羣上訓練第三代AI模型。
Meta發言人表示,Meta計劃繼續使用這些集羣來訓練Llama 3,並將在未來幾代AI模型的訓練中使用Blackwell產品。
英偉達B200預計年內發貨 定價3萬至4萬美元
美東時間週二,英偉達首席財務官科萊特·克雷斯(Colette Kress)對投資者透露:“我們認爲我們將在今年晚些時候首批交付”,但也表示,要等到2025年纔會大批量供應。
此外,英偉達CEO黃仁勳也在週二向媒體透露,Blackwell新品的售價將在3萬美元至4萬美元之間。他預計,英偉達在研發成本上花費了大約100億美元。
這意味着B200等新品可能將大受歡迎,因爲其前代產品H100的定價約在2.5萬-4萬美元之間,而新產品的性能遠超前代。
黃仁勳昨日在GTC會議發表演講時舉例稱,如果要訓練一個1.8萬億參數量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續跑上90天。但如果使用GB200 Blackwell GPU,只需要2000張,同樣跑90天只消耗四分之一的電力。不只是訓練,生成Token的成本也會隨之顯著降低。