壁仞科技申請人工智能模型優化相關專利,提高人工智能模型計算效率
金融界2024年12月4日消息,國家知識產權局信息顯示,上海壁仞科技股份有限公司申請一項名爲“人工智能模型的優化方法、編譯器、電子設備與存儲介質”的專利,公開號 CN 119065680 A,申請日期爲2024年11月。
專利摘要顯示,本公開至少一實施例提供一種人工智能模型的優化方法、編譯器、電子設備與存儲介質。該人工智能模型的優化方法包括:將至少一個第一算子的初級表示編譯爲第一中間表示;將第二算子的初級表示編譯爲第二中間表示,其中,對第二中間表示的計算內容進行改寫,以使第二中間表示包含將移位後的第一輸出數據從非連續張量轉化爲連續張量的功能;基於第一中間表示與第二中間表示,將至少一個第一算子和第二算子進行融合,得到第一融合算子;將第一融合算子的第二輸出數據作爲目標算子的第一輸入數據,其中,第一輸入數據爲連續張量。該人工智能模型的優化方法提高了人工智能模型的計算效率,提高了芯片的運行性能,擴展了深度學習框架對移位操作的支持。
本文源自:金融界
作者:情報員