Alif Semiconductor的Ensemble MCU新增對ExecuTorch Runtime的支持,助力其推動邊緣生成式AI發(fā)展
?Ensemble E4/E6/E8是業(yè)界首個為Transformer網(wǎng)絡提供硬件加速的MCU系列,可在邊緣設備及終端設備上實現(xiàn)本地生成式AI推理
?Alif與Arm合作,在PyTorch大會上展示了經(jīng)ExecuTorch Runtime編譯的生成式AI模型,該模型可在Ensemble E8上運行
中國,北京–2025年11月4日-全球領先的安全、聯(lián)網(wǎng)、高能效人工智能與機器學習(AI/ML)微控制器(MCU)及融合處理器供應商Alif Semiconductor®今日宣布,開發(fā)者現(xiàn)可將PyTorch ML框架的量化擴展ExecuTorch Runtime用于基于其Ensemble E4/E6/E8系列MCU及融合處理器開發(fā)的AI應用。
ExecuTorch擴展可幫助面向微控制器等資源受限硬件平臺的AI模型開發(fā)者,借助PyTorch框架打造輕量級模型,支持低延遲、高精度推理。由于Ensemble E4、E6和E8系列產(chǎn)品均搭載支持Transformer式ML網(wǎng)絡的Arm® Ethos?-U85 NPU,開發(fā)者如今可通過PyTorch與ExecuTorch Runtime,構建能在電池供電終端設備上本地運行的生成式AI應用,涵蓋智能眼鏡、人機交互設備、醫(yī)療健康與診斷設備、機器人、交通設備、益智玩具與教育產(chǎn)品、智能家居及智慧城市設備等場景。
在PyTorch大會(10月22-23日,美國加利福尼亞州舊金山市Moscone West)上,Arm展示了經(jīng)ExecuTorch編譯、可在Alif Ensemble E8融合處理器上運行的生成式AI應用案例,包括:
一款運行于Ensemble E8的小型語言模型,可根據(jù)視覺提示生成適合兒童的故事,還可擴展至支持語音提示。
實時設備端語音轉文字模型,適用于集成到智能眼鏡等可穿戴設備,能實現(xiàn)語音實時轉錄以生成實時字幕。
Alif Semiconductor總裁Reza Kazerounian表示:“Alif通過持續(xù)創(chuàng)新始終處于邊緣AI領域的前沿,如今更延伸至生成式AI時代。我們的Ensemble系列微控制器對ExecuTorch Runtime的原生支持,進一步拓展了MCU級AI的應用邊界。對于致力于打造下一代智能產(chǎn)品的嵌入式設備制造商而言,Alif仍是將AI技術落地邊緣端的可靠引領者?!?
Arm高級副總裁兼IoT業(yè)務總經(jīng)理Paul Williamson表示:邊緣生成式AI正催生全新品類的智能電池供電設備,這類設備可實時理解并響應環(huán)境交互。借助ExecuTorch框架,開發(fā)者能高效地將PyTorch模型部署到Alif Ensemble MCU上,實現(xiàn)低功耗設備端推理。此次合作充分證明,統(tǒng)一生態(tài)系統(tǒng)可推動邊緣智能的規(guī)?;瘧茫铀賹嶋H場景中的AI創(chuàng)新?!?
PyTorch大會演示中所用的Alif DK-E8開發(fā)板現(xiàn)已開放購買,該開發(fā)板支持整個E4/E6/E8系列的開發(fā)工作。





