半導體巨擘:AI將成IC設計業強大工具
手機大型語言模型(LLM)挑戰
AI世代到來,IC設計挑戰漸增。聯發科資深處長樑柏崧博士指出,AI模型訓練運算需求七年成長30萬倍,比摩爾定律成長速度高上萬倍,善用AI工具,將成爲IC設計更早跨入AI世代的關鍵。聯發科資深處長陸忠立博士分析,邊緣AI面臨三大挑戰,記憶體數量、頻寬限制及算力,將是未來需要克服的難題。
IEEE CASIF Taipei 2023,電路與系統協會的國際產業論壇12日登場,以AI時代的IC設計挑戰爲題,特別邀請臺積電與聯發科等半導體巨擘專題演講。
樑柏崧表示,聯發科將機器學習導入晶片設計流程,透過大型語言模型自我探索和學習,規劃出晶片最佳電路區塊,大幅縮短開發時間。AI模型推論、訓練需求,將超越摩爾定律成長,AI也將成爲IC設計業者的強大工具。
臺積電張孟凡博士則分析,半導體無所不在,臺積電在各種科技裝置中扮演重要腳色;目前臺積電3奈米已進入量產階段,而AI世界需要更廣泛的科技組合,各類型晶片如邏輯IC、RF、類比、MEMS,重要性不言可喻。
此外,大量資料及運算需求致算力需求提升,高效運算晶片成焦點,摩爾定律推進晶片廠發展進度,電晶體尺寸下降而數量倍增。與之同步的是,封裝連線密度提升,促使臺積電推動轉向覆晶封裝、2.5D、3D封裝技術進程,雙管並進之下,持續維持市場領先地位。
陸忠立以手機AI演進,分享聯發科發展邊緣AI的艱辛,早自2017年開始,AI就開始協助手機進行圖像、瞳孔、臉部辨識等,並且在毫秒之間就能反映;第二階段爲電玩遊戲,其中光追系統及動態幀數的進步,AI運算更扮演重要腳色;第三階段則是AR/VR的衍伸,進一步讓AI追縱手部、眼睛資料,甚至是肢體動作。
目前進入新的世代,主要圍繞生成式AI發展,圖像、影片的生成,及大型語言模型發展。將來毋須聯網便能達成,並且可以發展出個人化的特色AI。
不過陸忠立強調,邊緣AI仍有幾大瓶頸,包含主記憶體數量不足,進行推論運算會佔用一半以上的DRAM空間,另外頻寬及算力限制,也是目前邊緣AI必須要克服的關卡。