一文了解NPU是什么?
時(shí)間:2026-02-01 14:24:46
手機(jī)看文章
掃描二維碼
隨時(shí)隨地手機(jī)看文章
AI PC浪潮下,NPU成為重要關(guān)鍵字,NPU和CPU、GPU有哪些不同?各科技大廠目前在NPU領(lǐng)域發(fā)展如何?在挑選電腦時(shí),一些消費(fèi)者會(huì)比較各機(jī)種的CPU擁有多少個(gè)核心,對(duì)于電玩游戲較講究的,則偏好搭載GPU的機(jī)型,以追求更精致的視覺效果、更流暢的操作體驗(yàn)。隨著今年邁入“AI PC元年”,各筆記本電腦廠相繼推出自家的AI PC,而廠商在介紹產(chǎn)品效能時(shí),不時(shí)會(huì)提到“NPU”一詞。究竟NPU是什么,和CPU、GPU有哪些不同?各科技廠目前在NPU發(fā)展又是如何?
CPU、GPU、NPU快速看懂!都是處理器,到底差在哪?
用比喻來解釋CPU、GPU、NPU的差別,可以想像CPU是能力高強(qiáng)的“博士生”,可解決復(fù)雜且多樣的任務(wù),但只能照順序一次解決一個(gè)問題;GPU是一群“數(shù)學(xué)系大學(xué)生” ,擅長(zhǎng)加減乘除,可以同時(shí)處理大量的運(yùn)算工作(平行運(yùn)算);NPU則是專攻AI運(yùn)算一技之長(zhǎng)的“技職生”,遍布在AI PC、AI手機(jī)、智能穿戴等各種裝置中。以下針對(duì)CPU、GPU、NPU分別來介紹:CPU 中央處理器(Central Processing Unit)CPU被視為是電腦的“大腦”,負(fù)責(zé)執(zhí)行作業(yè)系統(tǒng)、應(yīng)用程序運(yùn)作所需的命令與程序,也是決定程序執(zhí)行速度的關(guān)鍵,不論是瀏覽網(wǎng)頁或處理文書作業(yè),都會(huì)受到CPU效能的影響。英特爾(Intel)及AMD是生產(chǎn)CPU的領(lǐng)導(dǎo)廠商,根據(jù)市調(diào)機(jī)構(gòu)Jon Peddie Research報(bào)告指出,2024年第一季內(nèi)建顯卡的PC CPU市場(chǎng),英特爾維持領(lǐng)先地位拿下82%市占率,AMD則是18%。GPU 圖形處理器(Graphics Processing Unit)自1990年代電玩游戲興起,由于游戲畫面同時(shí)要顯示成千上萬個(gè)像素,每個(gè)像素又都有自己的色彩、光線強(qiáng)度及移動(dòng)變化,原為通用運(yùn)算設(shè)計(jì)的CPU在運(yùn)算上變得難以負(fù)荷。于是,專長(zhǎng)于繪圖運(yùn)算的GPU應(yīng)運(yùn)而生。在硬件架構(gòu)上,GPU具有數(shù)百至數(shù)千個(gè)算數(shù)邏輯單元(Arithmetic Logic Unit,ALU),得以處理眾多平行執(zhí)行的數(shù)學(xué)運(yùn)算,加快繪圖渲染、影片編碼解碼等處理,也格外適合執(zhí)行AI的深度學(xué)習(xí)演算法,GPU因而在AI浪潮下大放異彩。NVIDIA是GPU領(lǐng)域的開創(chuàng)者及龍頭,1999年發(fā)售的“GeForce 256”被譽(yù)為“世界上第一款GPU”。2007年,英偉達(dá)推出便于GPU加速運(yùn)算的CUDA軟件架構(gòu)。據(jù)研調(diào)公司TechInsights分析,英偉達(dá)2023年的資料中心GPU出貨量市占率高達(dá)98%,遠(yuǎn)超英特爾、AMD等對(duì)手。NPU 神經(jīng)網(wǎng)絡(luò)處理器(Neural-network Processing Unit)GPU扮演資料中心、AI服務(wù)器不可或缺的要角,不過邊緣運(yùn)算浪潮下日趨火紅的NPU,則是專門為加速服務(wù)器的AI運(yùn)算所打造。NPU具有兩大技術(shù)特點(diǎn):第一個(gè)是模擬人類神經(jīng)網(wǎng)絡(luò)的運(yùn)作方式,同樣擅長(zhǎng)平行運(yùn)算處理,并適當(dāng)?shù)胤峙湫酒瑑?nèi)的“任務(wù)流”,減少閑置的運(yùn)算資源。第二個(gè)是經(jīng)由“近存儲(chǔ)器運(yùn)算”(將處理器盡量靠近DRAM,以減少資料的傳輸延遲以及功率消耗)或“存內(nèi)運(yùn)算”(將簡(jiǎn)單的邏輯運(yùn)算移至存儲(chǔ)器陣列中),實(shí)現(xiàn)儲(chǔ)存及運(yùn)算的一體化,降低運(yùn)算過程的能耗、加快存取速度,從而提升AI運(yùn)算的執(zhí)行速度和效率。相較于CPU及GPU,低功耗、高效能的NPU格外適合處理AI推論任務(wù),包括影像辨識(shí)、自然語言處理、物件偵測(cè)等應(yīng)用。近年,各大PC及手機(jī)芯片廠為提升AI運(yùn)算能力,紛紛在芯片設(shè)計(jì)中納入NPU。
如何決定要使用CPU、GPU或NPU?
CPU、GPU、NPU各有所長(zhǎng),并且相輔相成,對(duì)于AI PC、AI手機(jī)芯片,通常藉由將三者整合為系統(tǒng)單芯片(SoC)的方式,提高能源效率及效能。英特爾去年發(fā)表Core Ultra芯片(代號(hào)“Meteor Lake”)時(shí),便直言“這是40年來PC處理器架構(gòu)上最大的躍進(jìn)”,因?yàn)檫@是該公司首次將NPU整合到系統(tǒng)單芯片設(shè)計(jì)中。NPU專門處理特定的AI工作負(fù)載,便可將CPU及GPU用于執(zhí)行其他任務(wù)。芯片大廠高通一篇針對(duì)NPU的專文介紹則提到,CPU適合用于低延遲、順序性的小型模型運(yùn)算,GPU擅長(zhǎng)高精準(zhǔn)度的圖像處理平行運(yùn)算,NPU則可透過低功耗達(dá)到穩(wěn)定的高性能AI運(yùn)算,持續(xù)運(yùn)行LLM(大型語言模型)、LVM(大型視覺模型)等模型。
主要PC、手機(jī)芯片廠NPU發(fā)展最新動(dòng)態(tài)
如果說NPU是AI的專用引擎,TOPS便是衡量這個(gè)引擎馬力的單位,根據(jù)微軟對(duì)“Copilot+PC”的規(guī)格要求,需符合NPU算力不少于40TOPS的規(guī)格,掀起了新一波PC處理器效能大戰(zhàn),這也將成為消費(fèi)者選購(gòu)AI PC的一大指標(biāo)。英特爾英特爾即將在今年9月上市的Lunar Lake,NPU算力達(dá)到48 TOPS,相較前一代Meteor Lake處理器的11.5TOPS提升3倍。AMDAMD執(zhí)行長(zhǎng)蘇姿豐在2024中國(guó)臺(tái)灣國(guó)際電腦展上,展示第3代Ryzen AI處理器,NPU算力高達(dá)50 TOPS,在目前的NPU算力競(jìng)爭(zhēng)暫居領(lǐng)先。根據(jù)AMD秀出的數(shù)據(jù),其性能表現(xiàn)超越高通Snapdragon X Elite、英特爾Lunar Lake以及蘋果的M4芯片。高通至于在Copilot+PC最早鳴槍起跑、推出首波產(chǎn)品的高通,Snapdragon X Elite的NPU算力則是45 TOPS。高通資深副總裁暨營(yíng)銷長(zhǎng)麥奎爾(Don McGuire)先前接受《數(shù)位時(shí)代》專訪指出,即使競(jìng)爭(zhēng)對(duì)手未來推出TOPS更強(qiáng)的NPU,高通仍有產(chǎn)品領(lǐng)先的優(yōu)勢(shì),將會(huì)持續(xù)跟微軟合作,提升定制化程度。聯(lián)發(fā)科聯(lián)發(fā)科于2023年底推出的天璣9300,其NPU效能已達(dá)到48 TOPS,而今年10月即將發(fā)布的新一代天璣9400,預(yù)期將會(huì)更進(jìn)一步推升NPU算力。蘋果蘋果于今年5月的發(fā)布會(huì)中,出乎外界預(yù)料地將新一代M4芯片,首發(fā)于最新的iPad Pro,NPU算力為38 TOPS,尚未達(dá)微軟Copilot+PC的40 TOPS門檻。在MacBook筆記本電腦方面,業(yè)界預(yù)期,蘋果將在2024年內(nèi)將MacBook Pro更新到M4系列芯片,至于MacBook Air則因?yàn)閯偵?jí)至M3芯片不久,預(yù)計(jì)需留待明年春季才會(huì)更新。





