人工智能（AI）具有超越過(guò)去一個(gè)世紀(jì)所發(fā)生的所有變革性創(chuàng)新的潛力，它在醫(yī)療保健、生產(chǎn)力、教育等領(lǐng)域?yàn)樯鐣?huì)帶來(lái)的益處將超乎我們的想象。為了運(yùn)行這些復(fù)雜的AI工作負(fù)載，全球數(shù)據(jù)中心所需的計(jì)算量需要以指數(shù)級(jí)規(guī)模進(jìn)行擴(kuò)展。然而，這種對(duì)計(jì)算無(wú)止盡的需求也揭示了一個(gè)嚴(yán)峻的挑戰(zhàn)：數(shù)據(jù)中心需要龐大的電力來(lái)驅(qū)動(dòng)AI這一突破性技術(shù)。

當(dāng)今的數(shù)據(jù)中心已經(jīng)消耗了大量的電力——全球每年需要460太瓦時(shí)（TWh）電力進(jìn)行支持，這個(gè)數(shù)字等同于整個(gè)德國(guó)的用電量。而AI的興起預(yù)計(jì)將在2030年把該數(shù)字提高三倍，意味著將超過(guò)印度這一世界上人口最多國(guó)家的總耗電量。

未來(lái)的AI模型將持續(xù)變得更大、更智能，在帶動(dòng)對(duì)更多計(jì)算能力的需求的同時(shí)，對(duì)電力的需求也會(huì)增加，從而成為良性循環(huán)的一部分。而找到降低這些大型數(shù)據(jù)中心電力需求的方法對(duì)于實(shí)現(xiàn)社會(huì)性突破和兌現(xiàn)AI的承諾至關(guān)重要。

換言之，沒有電力就無(wú)法實(shí)現(xiàn)AI，企業(yè)需要重新思考如何應(yīng)對(duì)能效問(wèn)題的方方面面。

重新構(gòu)思AI的未來(lái)——一個(gè)由Arm平臺(tái)驅(qū)動(dòng)的未來(lái)

Arm最初的產(chǎn)品就是為使用電池的設(shè)備而設(shè)計(jì)的，并推動(dòng)了移動(dòng)電話的變革。因此，深植于Arm的能效DNA能使業(yè)界重新思考應(yīng)如何構(gòu)建芯片來(lái)滿足AI日益增長(zhǎng)的需求。

在典型的服務(wù)器機(jī)架中，僅計(jì)算芯片就可以消耗超過(guò)50%的電力預(yù)算。工程團(tuán)隊(duì)正在尋找各種可以降低該數(shù)字的方法，每一瓦特的減少都至關(guān)重要。

正因?yàn)榇?，全球最大的AI頭部云服務(wù)提供商們轉(zhuǎn)而采用Arm技術(shù)來(lái)降低功耗。與同行業(yè)中的其他產(chǎn)品相比，Arm最新的Arm Neoverse CPU是面向云數(shù)據(jù)中心，性能最高、最節(jié)能的處理器。Neoverse為頭部云服務(wù)提供商提供了定制芯片的靈活性，以優(yōu)化其苛刻的工作負(fù)載，同時(shí)提供領(lǐng)先的性能和能效。每一瓦特的節(jié)省都可以用來(lái)實(shí)現(xiàn)更多的計(jì)算。這也正是為什么亞馬遜云服務(wù)（AWS）、微軟、Google和甲骨文（Oracle）現(xiàn)在都通過(guò)Neoverse技術(shù)，處理其通用計(jì)算和基于CPU的AI推理和訓(xùn)練。Neoverse平臺(tái)正在成為云數(shù)據(jù)中心領(lǐng)域的事實(shí)標(biāo)準(zhǔn)。

從近期的行業(yè)內(nèi)的發(fā)布來(lái)看：

● 基于Arm架構(gòu)的AWS Graviton：與其他同行業(yè)產(chǎn)品相比，Amazon Sagemaker的AI推理性能提高了25%，Web應(yīng)用程序提高了30%，數(shù)據(jù)庫(kù)提高了40%，效率則提升了60%。

● 基于Arm架構(gòu)的Google Cloud Axion：與傳統(tǒng)架構(gòu)相比，其性能和能效分別提高了50%和60%，可為基于CPU的AI推理和訓(xùn)練、YouTube、Google地球等服務(wù)提供支持。

● 基于Arm架構(gòu)的Microsoft Azure Cobalt：性能高出同類產(chǎn)品40%，并為Microsoft Teams等服務(wù)提供支持，與Maia加速器的耦合驅(qū)動(dòng)Azure的端到端AI架構(gòu)。

● Oracle Cloud采用基于Arm架構(gòu)的Ampere Altra Max：與傳統(tǒng)同類產(chǎn)品相比，每機(jī)架服務(wù)器的性能提高2.5倍，能耗降低2.8倍，并用于生成式AI推理模型，諸如摘要、大語(yǔ)言模型訓(xùn)練的數(shù)據(jù)的標(biāo)記化，以及批量推理用例。

顯然，Neoverse極大地提升了云端通用計(jì)算的性能和能效。此外，合作伙伴也發(fā)現(xiàn)在加速計(jì)算方面，Neoverse也能帶來(lái)同樣的益處。大規(guī)模AI訓(xùn)練需要獨(dú)特的加速計(jì)算架構(gòu)，例如，NVIDIA Grace Blackwell平臺(tái)（GB200）結(jié)合了NVIDIA的Blackwell GPU架構(gòu)與基于Arm架構(gòu)的Grace CPU。這種基于Arm技術(shù)的計(jì)算架構(gòu)可實(shí)現(xiàn)系統(tǒng)級(jí)設(shè)計(jì)優(yōu)化，與面向大語(yǔ)言模型的NVIDIA H100 GPU相比，可帶來(lái)25倍的能耗降低，并將每個(gè)GPU的性能提高30倍。這些優(yōu)化能夠帶來(lái)顛覆性的性能和節(jié)能效果，而這一切都得益于Neoverse所帶來(lái)的前所未有的芯片定制靈活性。

隨著基于Arm架構(gòu)的部署持續(xù)擴(kuò)大，這些企業(yè)將可以節(jié)省高達(dá)15%的數(shù)據(jù)中心總能耗。這些巨幅的節(jié)省可以用來(lái)在相同的功率范圍內(nèi)驅(qū)動(dòng)額外的AI運(yùn)算，而不會(huì)增加能源負(fù)擔(dān)。換言之，這些節(jié)能相當(dāng)于可以額外運(yùn)行20億次ChatGPT查詢，驅(qū)動(dòng)四分之一的日常網(wǎng)絡(luò)搜索流量，為20%的美國(guó)家庭提供照明，或?yàn)榕c哥斯達(dá)黎加面積相仿的國(guó)家進(jìn)行供電。這對(duì)改善能源消耗和環(huán)境可持續(xù)性產(chǎn)生了驚人的影響。

Arm CPU正在從根本上推動(dòng)AI變革，并造福地球。Arm架構(gòu)是未來(lái)AI計(jì)算的基石。