?Ensemble E4/E6/E8是業(yè)界首個(gè)為Transformer網(wǎng)絡(luò)提供硬件加速的MCU系列，可在邊緣設(shè)備及終端設(shè)備上實(shí)現(xiàn)本地生成式AI推理

?Alif與Arm合作，在PyTorch大會(huì)上展示了經(jīng)ExecuTorch Runtime編譯的生成式AI模型，該模型可在Ensemble E8上運(yùn)行

中國(guó)，北京–2025年11月4日-全球領(lǐng)先的安全、聯(lián)網(wǎng)、高能效人工智能與機(jī)器學(xué)習(xí)(AI/ML)微控制器(MCU)及融合處理器供應(yīng)商Alif Semiconductor®今日宣布，開發(fā)者現(xiàn)可將PyTorch ML框架的量化擴(kuò)展ExecuTorch Runtime用于基于其Ensemble E4/E6/E8系列MCU及融合處理器開發(fā)的AI應(yīng)用。

ExecuTorch擴(kuò)展可幫助面向微控制器等資源受限硬件平臺(tái)的AI模型開發(fā)者，借助PyTorch框架打造輕量級(jí)模型，支持低延遲、高精度推理。由于Ensemble E4、E6和E8系列產(chǎn)品均搭載支持Transformer式ML網(wǎng)絡(luò)的Arm® Ethos?-U85 NPU，開發(fā)者如今可通過(guò)PyTorch與ExecuTorch Runtime，構(gòu)建能在電池供電終端設(shè)備上本地運(yùn)行的生成式AI應(yīng)用，涵蓋智能眼鏡、人機(jī)交互設(shè)備、醫(yī)療健康與診斷設(shè)備、機(jī)器人、交通設(shè)備、益智玩具與教育產(chǎn)品、智能家居及智慧城市設(shè)備等場(chǎng)景。

在PyTorch大會(huì)(10月22-23日，美國(guó)加利福尼亞州舊金山市Moscone West)上，Arm展示了經(jīng)ExecuTorch編譯、可在Alif Ensemble E8融合處理器上運(yùn)行的生成式AI應(yīng)用案例，包括：

一款運(yùn)行于Ensemble E8的小型語(yǔ)言模型，可根據(jù)視覺(jué)提示生成適合兒童的故事，還可擴(kuò)展至支持語(yǔ)音提示。

實(shí)時(shí)設(shè)備端語(yǔ)音轉(zhuǎn)文字模型，適用于集成到智能眼鏡等可穿戴設(shè)備，能實(shí)現(xiàn)語(yǔ)音實(shí)時(shí)轉(zhuǎn)錄以生成實(shí)時(shí)字幕。

Alif Semiconductor總裁Reza Kazerounian表示：“Alif通過(guò)持續(xù)創(chuàng)新始終處于邊緣AI領(lǐng)域的前沿，如今更延伸至生成式AI時(shí)代。我們的Ensemble系列微控制器對(duì)ExecuTorch Runtime的原生支持，進(jìn)一步拓展了MCU級(jí)AI的應(yīng)用邊界。對(duì)于致力于打造下一代智能產(chǎn)品的嵌入式設(shè)備制造商而言，Alif仍是將AI技術(shù)落地邊緣端的可靠引領(lǐng)者。”

Arm高級(jí)副總裁兼IoT業(yè)務(wù)總經(jīng)理Paul Williamson表示：邊緣生成式AI正催生全新品類的智能電池供電設(shè)備，這類設(shè)備可實(shí)時(shí)理解并響應(yīng)環(huán)境交互。借助ExecuTorch框架，開發(fā)者能高效地將PyTorch模型部署到Alif Ensemble MCU上，實(shí)現(xiàn)低功耗設(shè)備端推理。此次合作充分證明，統(tǒng)一生態(tài)系統(tǒng)可推動(dòng)邊緣智能的規(guī)模化應(yīng)用，加速實(shí)際場(chǎng)景中的AI創(chuàng)新?！?

PyTorch大會(huì)演示中所用的Alif DK-E8開發(fā)板現(xiàn)已開放購(gòu)買，該開發(fā)板支持整個(gè)E4/E6/E8系列的開發(fā)工作。