工業(yè)4.0與智能制造,邊緣端自主決策系統(tǒng)通過實(shí)時(shí)感知、分析與控制,成為提升生產(chǎn)效率、降低運(yùn)維成本的核心技術(shù)。然而,傳統(tǒng)工業(yè)控制系統(tǒng)依賴云端計(jì)算,存在通信延遲高、帶寬成本大、隱私泄露風(fēng)險(xiǎn)等問題。邊緣計(jì)算雖能緩解這些問題,但受限于邊緣設(shè)備算力與功耗約束,部署復(fù)雜深度學(xué)習(xí)模型時(shí)面臨實(shí)時(shí)性差、資源占用高的挑戰(zhàn)。本文從模型輕量化與推理加速原理出發(fā),結(jié)合TensorRT加速框架與模型量化技術(shù),提出一種面向邊緣端工業(yè)控制的實(shí)時(shí)推理優(yōu)化方案,實(shí)現(xiàn)毫秒級(jí)決策響應(yīng)與低資源占用。
利用這兩種趨勢(shì),我們利用NVIDIA Jetson Nano開發(fā)了一種實(shí)時(shí)螺栓檢測(cè)和計(jì)數(shù)系統(tǒng)。該解決方案不僅涉及強(qiáng)大的機(jī)器學(xué)習(xí)模型的開發(fā),還涉及在Jetson Nano等邊緣設(shè)備上直接優(yōu)化和部署這些模型,從而實(shí)現(xiàn)工業(yè)過程中的變革性自動(dòng)化。
9月26日,Nvidia(英偉達(dá))在北京正式召開GTC China大會(huì)。在本次大會(huì)上,英偉達(dá)發(fā)布了神經(jīng)網(wǎng)絡(luò)推理加速器TensorRT 3 ,借助該推理引擎,將大幅提高機(jī)器人及無人駕駛汽車在終端的推理性能,并降低成本。此外英偉達(dá)也發(fā)布了全球首款機(jī)器自主處理器Xavier,以及英偉達(dá)Tesla V100 GPU。而在自動(dòng)駕駛方面,英偉達(dá)也推出了開放的自動(dòng)駕駛平臺(tái)NVIDIA DRIVE。