狂砸10萬片H100 GPU訓練！扎克伯格劇透Llama 4，隔空對戰馬斯克

智東西編譯 汪越編輯 漠影

智東西11月1日消息，據外媒Wired報道，在週三的Meta第三季度財報電話會議上，Meta首席執行官馬克·扎克伯格（Mark Zuckerberg）透露，Llama 4模型正在一個由10萬片H100 GPU組成的集羣上進行訓練，並預計在明年首次推出。

爲了支持AI計劃，Meta預計本年度資本支出將高達400億美元，比去年增加了超過42%。扎克伯格在財報電話會議中強調，明年公司將進一步加大對AI基礎設施的投資。

2024年第三季度，Meta收入同比增長19%至406億美元，高於華爾街預測的403億美元。淨利潤增長了35%至157億美元，遠高於市場預期的136億美元。Meta應用系列的日活躍用戶增長了5%，達到33億。

▲Meta 2023年Q1~2024年Q3的營收及增長情況

財報公佈後，Meta股價盤後一度跌逾3%，後收窄至3%以內。截至撰稿，Meta股價爲567.58美元，較昨日收盤下降4.09%，市值1.44萬億美元。

▲Meta股價（圖源：富途牛牛）

一、Meta斥資400億建10萬片GPU集羣

自2023年7月以來，Meta已陸續推出了多個版本的Llama模型，最新的Llama 3.2已於今年9月發佈。與主要競爭對手提供的封閉API服務不同，Llama作爲開放源代碼項目，受到了衆多希望完全掌控自身模型、數據處理流程以及成本控制的企業和個人研究者的青睞。

針對即將推出的Llama 4模型，扎克伯格透露，該模型正在由10萬片H100 GPU組成的集羣上進行訓練，並暗示新版本將引入“新的模態”、“更強的推理能力”以及“更快的性能”。

開發更爲強大的AI模型需要更多的計算資源和數據。擁有如此規模的GPU集羣似乎讓Meta處於行業前沿，但實際上，多家大型科技公司都在競相構建包含超過十萬片先進芯片的計算設施。

今年3月，Meta與英偉達聯合公佈了用於Llama 3模型訓練的2.5萬片H100 GPU集羣的具體信息。隨後，在7月，特斯拉首席執行官埃隆·馬斯克（Elon Musk）宣稱其旗下的大模型獨角獸xAI聯合社交平臺X及英偉達建立了擁有10萬片H100 GPU的集羣，並稱這是當時全球最強大的AI訓練系統之一。

▲特斯拉首席執行官埃隆·馬斯克（Elon Musk）推出xAI（圖源：Getty Images）

與此同時，OpenAI也在持續投入大量資金開發新的AI模型。OpenAI前首席技術官米拉·穆拉蒂（Mira Murati）曾透露，下一代模型GPT-5不僅規模將超過前代，還將具備更強大的推理能力，但她沒有透露用於訓練該模型的具體計算資源細節。週二，谷歌首席執行官桑達爾·皮查伊（Sundar Pichai）也宣佈了最新一代Gemini系列生成式AI模型正處於研發階段。

運營這樣龐大的GPU集羣來訓練Llama 4模型將消耗大量的能源。在財報電話會議上，面對有關美國部分地區可能面臨的電力供應限制的提問時，Meta管理層未給出直接回應。

據研究機構Semi Analysis估計，一個包含10萬片H100 GPU的集羣理論上需要約150兆瓦的電能支持。相比之下，美國最大的國家實驗室超級計算機El Capitan僅需約30兆瓦的功率。爲滿足數據中心及其他基礎設施的需求，Meta預計本年度資本支出將達到高達400億美元，比去年增加了超過42%，並且預測未來一年內相關開支還將繼續上升。

二、AI支出加速，Reality Labs部門虧損44億美元

從財報角度看，第三季度，公司收入同比增長19%至406億美元，高於華爾街預測的403億美元。淨利潤增長了35%至157億美元，遠高於市場預期的136億美元。Meta應用系列的日活躍用戶增長了5%，達到33億。

今年Meta的總運營成本增長了約9%，但總體銷售額（主要來自廣告）飆升了22%以上。這意味着，即使公司在Llama項目上投入了數十億美元，其財務表現依然非常強勁。

▲Meta 2023年Q1~2024年Q3的淨利潤及增長情況

在財報電話會議上，扎克伯格提到，還有許多機會可以利用AI技術來加速公司的核心業務。他認爲這些投資將在未來幾年帶來高回報，因此應繼續加強投資。今年以來，Meta平臺上的AI驅動信息流和視頻推薦功能已經將Facebook和Instagram的用戶使用時長分別提高了8%和6%。

▲Meta希望使用Facebook的舊數據來訓練其AI模型（圖源：Getty Images）

扎克伯格已向AI領域投入大量資金，以改善Meta的廣告產品和內容推薦，並開始將生成式AI工具集成到平臺中。他面臨着通過AI計劃實現盈利的壓力，因爲運行服務器和數據中心的成本非常高，而且谷歌等競爭對手的競爭也非常激烈。

此外，扎克伯格認爲VR頭顯和AR眼鏡是“下一個計算平臺”。Meta已經與雷朋合作推出了一款名爲Ray-Ban Meta的智能眼鏡，這款眼鏡價格親民但不具備AR功能。上個月，在Meta Connect 2024大會上，Meta展示了名爲Orion的AR智能眼鏡原型。

▲Orion眼鏡原型（圖源：Meta）

本週三，Meta宣佈負責VR、AR及元宇宙技術研發的Reality Labs部門第三季度收入爲2700萬美元，營業虧損爲44億美元。自2020年以來，Reality Labs部門的累計營運虧損已超過580億美元。該公司還預計，Reality Labs全年的運營虧損將同比大幅增加。

▲Meta 2024年Q3各業務營收情況佔比（億美元）

本月早些時候，據英國《金融時報》報道，Meta正在重組WhatsApp、Instagram和Reality Labs的某些團隊，包括裁員和人員調動。

結語：廣告收入支撐AI投資，扎克伯格持續押注

從第三季度財報來看，Meta繼續保持增長勢頭，廣告收入豐厚。通過AI優化，Meta已經提高了其應用系列的用戶使用時長和日活躍用戶數量。隨着Meta AI未來可能內置廣告功能，這將爲公司開闢新的創收渠道，進一步增強其盈利能力。

扎克伯格持續爲Meta的AI戰略注入資金，支持GPU集羣、數據中心等關鍵基礎設施的建設。隨着Llama 4模型的推出，Meta AI聊天機器人和其他AI功能將進一步優化，從而提升用戶體驗並推動平臺的發展。

但是，目前Meta在AI領域的投資仍然處於燒錢階段，Meta AI尚未實現盈利。同樣，AR和VR的研發也耗費了大量資金，尤其是Reality Labs部門在第三季度錄得44億美元的營業虧損。儘管如此，扎克伯格依然堅信這些投資將在未來帶來巨大的回報，並繼續堅定地支持這些項目。

Meta首席財務官Susan Li提到，明年公司將優先考慮進一步投資Reality Labs、商業化策略、基礎設施建設和生成式AI技術，並將簡化公司在其他領域的運營。

來源：Wired、英國《金融時報》