Groq CEO最新訪談:明年底將部署150萬個LPU,佔據全球推理需求半壁江山
AI新星Groq橫空出世,憑藉其獨創的LPU芯片和令人瞠目結舌的處理速度,成爲了科技界的新寵。
近期,風投基金Social Capital創始人兼CEO Chamath Palihapitiya 和Groq創始人兼CEO Jonathan Ross在RAISE AI峰會上展開了一場對談,談話內容包括,Groq當前的發展、對於AI未來的思考,英偉達和Groq間的對比,Groq的優勢等等。
Ross表示,AI推理的成本高昂,他的公司因此專門爲大模型提供了“超快”、更便宜的芯片選擇,到明年年底,將部署150萬個LPU ,而去年英偉達總共部署了50萬個H100,150萬意味着Groq可能佔世界上一半的推理計算能力,以下爲對談要點:
以下爲AI翻譯的對談原文