Arm第一次親自做芯片!發(fā)布全新AGI CPU
3月25日消息,一直以來(lái),Arm都是一家對(duì)外提供IP授權(quán)的芯片企業(yè),包括CPU、GPU、NPU和各種系統(tǒng)IP。
后來(lái),Arm打造了計(jì)算子平臺(tái)(CSS),相當(dāng)于打包各種IP的平臺(tái)級(jí)解決方案,客戶拿去就可以做出完整芯片(比如小米玄戒)。
如今,Arm宣布其計(jì)算平臺(tái)進(jìn)入全新階段,首次涉足量產(chǎn)芯片領(lǐng)域,首款產(chǎn)品就是“AGI CPU”。
打個(gè)不是太精確的比方,這就類似于NVIDIA、AMD不但賣GPU芯片,也自己做公版顯卡。
這是一款由Arm自主設(shè)計(jì)、面向AI數(shù)據(jù)中心的CPU芯片,旨在應(yīng)對(duì)日益增長(zhǎng)的代理式AI(Agentic AI)工作負(fù)載,同時(shí)幫助生態(tài)伙伴快速、規(guī)?;渴鹆慨a(chǎn)級(jí)的Arm平臺(tái)。
合作伙伴可根據(jù)需求,靈活選擇Arm IP授權(quán)、Arm CSS方案,或者直接購(gòu)買部署Arm芯片。
Arm AGI CPU基于Armv9.2指令集、Arm Neoverse V3架構(gòu),支持bfloat16、INT8 AI指令集。
這也是當(dāng)今眾多數(shù)據(jù)中心級(jí)CPU的核心支撐,包括NVIDIA Vera、亞馬遜Graviton、谷歌Axion、微軟Azure Cobalt。
它采用臺(tái)積電3nm工藝制造,提供136核心、128核心、64核心三種規(guī)格,可單路可雙路,每個(gè)核心配備兩個(gè)128-bit SVE單元、2MB二級(jí)緩存(最大272MB),還有128MB三級(jí)緩存,主頻3.2GHz,熱設(shè)計(jì)功耗300W。
內(nèi)存支持12通道DDR5,每通道2條,最高速率8800MT/s,每核心內(nèi)存帶寬6GB/s,時(shí)延低于100ns。
I/O擴(kuò)展支持96條PCIe 6.0通道,支持CXL3.0 Type 3,還可以提供六條PCIe 4.0。
Arm官方的參考設(shè)計(jì)服務(wù)器采用1OU雙節(jié)點(diǎn)設(shè)計(jì),基于符合OCP規(guī)范的DC-MHS 標(biāo)準(zhǔn)規(guī)格設(shè)計(jì),每臺(tái)刀片服務(wù)器配備兩顆Arm AGI CPU,以及獨(dú)立內(nèi)存與I/O,共計(jì)272個(gè)核心。
這些刀片服務(wù)器可在標(biāo)準(zhǔn)風(fēng)冷36千瓦的機(jī)架中滿配部署,最多30臺(tái),總計(jì)8160個(gè)核心。
Arm還與超微合作推出了200千瓦的液冷設(shè)計(jì)方案,可容納336顆Arm AGI CPU,總計(jì)超過(guò)45000個(gè)核心。
Arm聲稱,它在單核、SoC、刀片式服務(wù)器、機(jī)架各層級(jí)上,都實(shí)現(xiàn)行業(yè)領(lǐng)先的性能表現(xiàn),尤其是單機(jī)架性能可以達(dá)到x86平臺(tái)的兩倍以上。
其中,更高性能、更高能效的單線程性能,可處理更多任務(wù);疊加更多的可用線程,最終實(shí)現(xiàn)單機(jī)架性能的大幅提升;領(lǐng)先的內(nèi)存帶寬,則支持每個(gè)機(jī)架運(yùn)行更多線程,避免在持續(xù)高負(fù)載下因核心爭(zhēng)搶資源而導(dǎo)致性能下降。
另外,部署Arm AGI CPU之后,每吉瓦AI數(shù)據(jù)中心算力的資本支出,可以節(jié)省多達(dá)100億美元。
客戶合作方面,Arm已與Cerebras、Cloudflare、F5 Technologies、OpenAI、Positron、Meta、Rebellions、SAP、SK Telecom等達(dá)成進(jìn)一步的商務(wù)合作,都會(huì)在各自的方案中部署Arm AGI CPU,覆蓋加速器管理、控制平面處理、云與企業(yè)級(jí)API、任務(wù)與應(yīng)用托管等領(lǐng)域。
Arm還與永擎電子、聯(lián)想、廣達(dá)電腦、超微等頭部OEM/ODM廠商合作,現(xiàn)已推出基于Arm AGI CPU的早期系統(tǒng),更廣泛的商用部署預(yù)計(jì)將于今年下半年落地。
超大規(guī)模云服務(wù)商、云計(jì)算、芯片、內(nèi)存、網(wǎng)絡(luò)、軟件、系統(tǒng)設(shè)計(jì)與制造等領(lǐng)域的50多家領(lǐng)軍企業(yè),都支持Arm進(jìn)軍芯片領(lǐng)域,包括AWS亞馬遜云、博通、谷歌、Marvell、美光、微軟、NVIDIA、三星、SK海力士、臺(tái)積電等等。





