異構(gòu)智能嵌入式系統(tǒng)AI模型推理與部署優(yōu)化——從模型輕量化到系統(tǒng)級(jí)加速的綜述與展望

隨著人工智能技術(shù)與嵌入式硬件的快速發(fā)展，嵌入式人工智能系統(tǒng)(如移動(dòng)機(jī)器人、自動(dòng)駕駛汽車和星載無(wú)人機(jī))在工業(yè)自動(dòng)化、交通運(yùn)輸和航空航天等關(guān)鍵領(lǐng)域變得越來(lái)越重要。作為集成CPU、GPU、NPU等多種異構(gòu)處理器單元的智能實(shí)時(shí)系統(tǒng)，其核心任務(wù)是通過(guò)計(jì)算密集型的深度神經(jīng)網(wǎng)絡(luò)(DNN)實(shí)現(xiàn)環(huán)境感知、決策控制等復(fù)雜功能，同時(shí)面臨嚴(yán)格的時(shí)間約束與資源瓶頸。文章從網(wǎng)絡(luò)模型在嵌入式系統(tǒng)加速推理優(yōu)化的角度，將圍繞DNN模型輕量化、推理加速優(yōu)化與動(dòng)態(tài)任務(wù)調(diào)度三個(gè)方面，詳細(xì)分析嵌入式智能系統(tǒng)的國(guó)內(nèi)外研究現(xiàn)狀。