NPU 究竟是什麼?一文讓您全盤知曉

中央處理器(CPU)和圖形處理器(GPU)已不是新鮮事物。如今,前沿領域全都聚焦於神經處理單元(NPU),硬件製造商們都在大力宣傳 NPU 的性能。

NPU 是一種旨在以節能方式加速人工智能任務的計算機組件,爲具備強大人工智能功能的新 Windows 桌面應用程序鋪平了道路。總之,這便是計劃。

所有個人電腦最終都會配備 NPU,但當下只有部分個人電腦有。以下是您需要了解的關於 NPU 的一切,以及爲什麼它們在當前計算機行業是如此熱門的話題。

NPU 代表神經處理單元。它是一種專門爲人工智能和機器學習任務優化的特殊處理器。

這個名稱源自人工智能模型使用神經網絡這一情況。用通俗的話來說,神經網絡是一個由相互連接的節點組成的巨大網絡,它們之間傳遞信息。(整個想法是模仿我們人類大腦的工作方式。)

NPU 不是您購買並插入的單獨設備(例如像 GPU 那樣)。相反,NPU 被“封裝”爲現代處理器平臺的一部分——如英特爾的 Core Ultra、AMD 的 Ryzen AI 以及高通的 Snapdragon X Elite 和 Snapdragon X Plus。這些平臺都有一個 CPU 以及集成的 GPU 和 NPU。

多年來,計算機一直在中央處理單元(CPU)或圖形處理單元(GPU)上運行任務。在配備有 NPU 的人工智能個人電腦(AI PC)上,仍然是這種工作方式。

CPU 運行計算機上的大部分任務。但 GPU,儘管其名稱如此,並不只是用於圖形和遊戲任務。GPU 實際上只是針對不同類型的計算任務進行了優化,這就是爲什麼 GPU 對於非遊戲工作,如加密貨幣挖掘和高性能運行本地人工智能模型至關重要。事實上,GPU 在這類人工智能任務中表現非常出色——但 GPU 非常耗電。

這就是 NPU 發揮作用的地方。NPU 在計算人工智能任務時比 CPU 快,但與 GPU 相比則沒那麼快。權衡之處在於,NPU 在計算相同的人工智能任務時比 GPU 消耗的功率少得多。此外,當 NPU 處理與人工智能相關的任務時,CPU 和 GPU 都可以騰出來處理各自的任務,從而提高整體系統性能。

如果您在個人電腦硬件上運行像 Stable Diffusion 這樣的 AI 圖像生成軟件(或其他一些 AI 模型)並且需要最大性能,GPU 將是您的最佳選擇。這就是英偉達將其 GPU 宣傳爲“高級 AI”硬件而不是 NPU 的原因。

但有時您想要運行的 AI 功能,可能對於常規 CPU 來說負擔過重,但又不一定需要 GPU 的頂級性能。或者您可能使用筆記本電腦,想要利用 AI 功能但又不想讓 GPU 耗盡電池電量。

有了 NPU,筆記本電腦能夠執行本地(設備上)的 AI 任務,既不會產生大量熱量,也不會過度消耗電池壽命,而且執行這些 AI 任務時,不會佔用 PC 正在進行的其他任務的 CPU 和 GPU 資源。

即使您本身對 AI 不感興趣,您仍然可以將 NPU 用於其他用途。在 2024 年國際消費電子展上,惠普展示了使用 NPU 進行視頻流任務的遊戲流媒體軟件,釋放 GPU 來運行遊戲本身。通過使用 NPU 的額外計算能力,流媒體軟件不會佔用任何 GPU 資源……並且比使用 CPU 執行相同類型的任務要快得多。

對於 AI 電腦,NPU 可以被操作系統和系統上的應用程序使用。

例如,如果您有英特爾 Meteor Lake 硬件的筆記本電腦,內置的 NPU 將允許您運行 Windows Studio Effects,這是由 AI 驅動的網絡攝像頭效果,在任何使用您網絡攝像頭的應用程序中提供背景模糊和強制眼神接觸等功能。

微軟

微軟的 Copilot+ PC——首批由高通驍龍 X 芯片驅動——自身具有使用該平臺內置 NPU 的 AI 驅動功能。

2024 年 11 月,AMD 和英特爾的個人電腦將能夠獲取此前僅高通個人電腦所獨有的那些 Copilot+ 個人電腦功能,不過,只有配備了新的 AMD Ryzen AI 300 系列和英特爾酷睿 Ultra 系列 2(Lunar Lake)處理器的 AMD 和英特爾個人電腦才行。

而這些僅僅是內置在 Windows 裡的功能;應用程序開發者也將能夠通過各種方式使用 NPU。要是看到 Audacity 和 GIMP 的插件能提供由計算機 NPU 驅動的人工智能音頻和照片編輯功能,您別感到驚訝。

可能性多得很,但硬件方面仍處於早期階段,所以要把它的潛力完全發揮出來還得等上一陣子。

大多數當下具備人工智能功能的應用程序——包括微軟的 Copilot 聊天機器人——都還沒用到 NPU 呢。恰恰相反,它們是在老遠的雲服務器上運行其人工智能模型。

這就是爲啥您能在任何設備上運行像微軟 Copilot、ChatGPT、谷歌 Gemini、Adobe Firefly之類的人工智能解決方案,不管是舊的 Windows 個人電腦、Chromebook、Mac、Android 手機,還是別的啥設備。

Adobe

但是呢,這些服務在雲端運行它們的人工智能模型成本可高啦。比如說,微軟在數據中心處理 Copilot 人工智能任務花了好多錢。

當然啦,這不單單是節省成本的事兒。您還能得益於能在本地設備上運行計算量比較大的人工智能任務。

比如說,就算您處於離線狀態,那些人工智能功能照樣能工作,而且您能保住數據的私密性,用不着一直把它們全都上傳到雲服務器。

英特爾

NPU 的性能用 TOPS 來衡量,TOPS 指的是每秒萬億次運算。爲了讓您明白這是什麼意思,低端的 NPU 或許只能處理 10 TOPS,而符合微軟 Copilot+ PC 品牌要求的PC 則必須至少處理 40 TOPS。

截至 2024 年秋季,以下 NPU 可供選擇:

・英特爾酷睿 Ultra 系列 1(流星湖):英特爾第一代酷睿 Ultra NPU 最多能提供 11 TOPS。對於微軟的 Copilot+ PC 功能而言,速度太慢,但它確實能用於 Windows Studio Effects 以及一些第三方應用程序。

・英特爾酷睿 Ultra 系列 2(月球湖):英特爾的月球湖芯片將包含一個性能高達 48 TOPS 的 NPU,超過了 Copilot+ PC 的要求。

・AMD 銳龍 Pro 7000 和 8000 系列:AMD 比英特爾更早地在 PC 上提供 NPU,但是銳龍 7000 系列處理器中的 NPU 對於 Copilot+ PC 功能而言太慢,其性能最高可達 12 和 16 TOPS。

・AMD 銳龍 AI 300 系列:最新的AMD 銳龍 AI 300 系列處理器中的 NPU 性能最高能達到 50 TOPS,足以滿足 Copilot+ PC 的需求。

・高通驍龍 X Elite 和驍龍 X Plus:高通基於 Arm 的硬件包含一個高通六邊形 NPU,能夠達到 45 TOPS。

值得注意的是,NPU 不僅僅在 PC 上。蘋果的神經引擎硬件是最早引起市場關注的大型 NPU 之一。谷歌用於 Pixel 設備的 Tensor 平臺也包括一個 NPU,三星 Galaxy 手機也有 NPU。

老實說,處於前沿是有風險的。

如果您特意去買流星湖筆記本電腦,希望爲您的 PC 未來的 AI 功能做準備,當微軟後來宣佈流星湖 NPU 對於 Copilot+ PC 功能來說太慢時,您實際上會感到失落。(英特爾不同意,指出您仍然能夠獲得那些筆記本電腦最初附帶的所有功能。)

那這其中的一線希望在哪呢?Copilot+ PC 的功能當下還沒那麼有趣。特別是由於 Windows Recall 的推遲,Copilot+ PC 沒多少吸引人的亮點。大多數最大的 AI 工具——ChatGPT、Adobe Firefly 等——甚至根本不使用 NPU。

不過,要是我買新筆記本電腦,有可能的話,我還是想要個 NPU。實際上,您沒必要特意去找一個;它只是現代硬件平臺包含的東西罷了。而那些現代處理器平臺還有其他重要的功能,比如電池續航能力的大幅提升。

另一方面,那些快速的 NPU 當下只在最新款的筆記本電腦裡,您常常能在舊款筆記本電腦上找到很不錯的優惠。如果您發現上一代筆記本電腦有很大的折扣,僅僅爲了個 NPU 就多花錢可能不太明智,特別是如果您沒有任何計劃運行的 AI 工具。

在撰寫本文時,大多數大型的 AI 工具還是在雲端運行——或者至少提供了這類選項——所以您能在任何 Windows 筆記本電腦、Chromebook,甚至 Android 平板電腦和 iPad 上運行它們。

對於臺式機,NPU 的情況則不同。英特爾的臺式機 CPU 目前還沒有 NPU。您可以找找帶有 Ryzen AI NPU 的 AMD 臺式機芯片,但 AMD 的 Ryzen 7000 和 8000 系列芯片反正都不支持 Copilot+ PC 功能。所以,如果您正在組裝一臺臺式電腦,暫時先不考慮 NPU。它目前還不是那麼重要。

正在找具有高性能 NPU 的電腦嗎?可以考慮像 Surface Laptop 7 這種基於 Arm 的 Windows 筆記本電腦,還有像 Asus ProArt PX13 這類 AMD Ryzen AI 300 系列筆記本電腦。另外,請您關注我們對 Lunar Lake 驅動的英特爾筆記本電腦的評測。在這之前,請您瞭解所有您需要知道的關於 AI PC 的術語。