工業(yè)4.0與智能制造,邊緣端自主決策系統(tǒng)通過實時感知、分析與控制,成為提升生產(chǎn)效率、降低運維成本的核心技術(shù)。然而,傳統(tǒng)工業(yè)控制系統(tǒng)依賴云端計算,存在通信延遲高、帶寬成本大、隱私泄露風(fēng)險等問題。邊緣計算雖能緩解這些問題,但受限于邊緣設(shè)備算力與功耗約束,部署復(fù)雜深度學(xué)習(xí)模型時面臨實時性差、資源占用高的挑戰(zhàn)。本文從模型輕量化與推理加速原理出發(fā),結(jié)合TensorRT加速框架與模型量化技術(shù),提出一種面向邊緣端工業(yè)控制的實時推理優(yōu)化方案,實現(xiàn)毫秒級決策響應(yīng)與低資源占用。
利用這兩種趨勢,我們利用NVIDIA Jetson Nano開發(fā)了一種實時螺栓檢測和計數(shù)系統(tǒng)。該解決方案不僅涉及強大的機(jī)器學(xué)習(xí)模型的開發(fā),還涉及在Jetson Nano等邊緣設(shè)備上直接優(yōu)化和部署這些模型,從而實現(xiàn)工業(yè)過程中的變革性自動化。
9月26日,Nvidia(英偉達(dá))在北京正式召開GTC China大會。在本次大會上,英偉達(dá)發(fā)布了神經(jīng)網(wǎng)絡(luò)推理加速器TensorRT 3 ,借助該推理引擎,將大幅提高機(jī)器人及無人駕駛汽車在終端的推理性能,并降低成本。此外英偉達(dá)也發(fā)布了全球首款機(jī)器自主處理器Xavier,以及英偉達(dá)Tesla V100 GPU。而在自動駕駛方面,英偉達(dá)也推出了開放的自動駕駛平臺NVIDIA DRIVE。