一個強大的轉(zhuǎn)變正在嵌入空間進(jìn)行。連接設(shè)備正在演變成能夠根據(jù)所收集的數(shù)據(jù)自行決策的系統(tǒng)。通過處理更接近其捕獲地點的數(shù)據(jù),而不是在iot網(wǎng)關(guān)或云中,它有望加快決策速度,減少延遲,解決數(shù)據(jù)隱私問題,降低成本和提高能源效率。

工業(yè)自動化、機器人技術(shù)、智能城市和家庭自動化僅僅是推動提高計算機性能和能力需求的幾個應(yīng)用領(lǐng)域。過去,這些類型系統(tǒng)中的傳感器要簡單得多,而且不連接,不過,人工智能和機器學(xué)習(xí)(ML)現(xiàn)在能夠提高本地智能水平,允許本地的設(shè)備決策,而過去簡單的控制算法是不可能做到的。

人工智能時代通用處理器的演變

多年前,開發(fā)者把邏輯和控制算法作為軟件開發(fā)的核心,然而數(shù)字信號處理(DSP)算法隨后出現(xiàn),這使許多增強語音、視覺和音頻應(yīng)用成為可能。

應(yīng)用程序開發(fā)的這種轉(zhuǎn)變進(jìn)入了一個新的時代,正在影響計算體系結(jié)構(gòu)的設(shè)計。現(xiàn)在我們已經(jīng)到了推理是算法開發(fā)的一個主要焦點的階段.這帶來了對計算性能、能源效率、延遲、實時處理和可伸縮性等新的或更高的要求。

我們看到,不僅需要新的處理器加速器,而且需要改進(jìn)通用處理,為開發(fā)人員提供必要的平衡,并啟用應(yīng)用程序,如特征檢查或人的實時視頻檢測。

幾年前開發(fā)人員創(chuàng)建噪音取消應(yīng)用程序時,只會依賴基于頻率的濾波器。但是今天,開發(fā)人員可以通過將過濾與ML/AI模型和推理相混合來提高應(yīng)用程序的性能和功能。這推動了對處理器和工具的需求,使這些任務(wù)更加高效,并且盡可能地?zé)o縫地提供給用戶。

邊緣和端點裝置中的智能標(biāo)記

這種演變是由ML驅(qū)動的,但它并非沒有技術(shù)上的挑戰(zhàn)。多年的啟動和停止,以及創(chuàng)造一個"一刀切"方法的嘗試,都促使業(yè)界改變了其方法,以釋放大規(guī)模的擴(kuò)展機會。

現(xiàn)在,開發(fā)者正在利用安全、性能提高的技術(shù),使小型、低功率嵌入式系統(tǒng)能夠應(yīng)用于先前難以想象的聲音、視覺和振動應(yīng)用,這些應(yīng)用正在改變世界。語言和變壓器模型的各種版本將很快在具有新的計算能力的iot邊緣設(shè)備中找到他們的位置。這將打開開發(fā)人員曾經(jīng)夢想的新的可能性。

為了給開發(fā)人員配備這種開發(fā)改造所需的硬件,幾年前我們在ARM8.1M體系結(jié)構(gòu)中引入了ARM矢量處理技術(shù)。ARM作為小型低功率嵌入式器件,在ML和數(shù)字信號處理中的應(yīng)用有著顯著的性能提升。它還提供單一指令多數(shù)據(jù)(SIMD)功能,為ARMcortexM設(shè)備提供新水平的性能,支持預(yù)測維護(hù)和環(huán)境監(jiān)測等應(yīng)用。

ARM增強了DSP和ML的性能,加速了信號調(diào)節(jié)(如濾波、消除噪聲和消除回聲)和特征提取(音頻或像素數(shù)據(jù)),然后可以通過神經(jīng)網(wǎng)絡(luò)處理器輸入分類部分。

實現(xiàn)智能邊緣能力

我們已經(jīng)看到合作伙伴在他們的最新產(chǎn)品中選擇ARM技術(shù),使開發(fā)者能夠利用最受約束的設(shè)備在網(wǎng)絡(luò)的最邊緣的ML能力。ARMcortex-55于2020年2月發(fā)布,而Alif半導(dǎo)體于2021年9月發(fā)布了第一個cortex-55硅。它在其整體和產(chǎn)品家族中使用ARM的cortex-M-55。HMAX還采用了帶ARM的cortexM-55作為下一代W2AI處理器的一部分,該處理器的目標(biāo)是電池驅(qū)動的iot設(shè)備中的計算機視覺。

第二個使用ARM的CPU,ARMcortex-M85,于2022年4月n發(fā)布,雷納斯在2022年和2023年嵌入式世界上展示了M85演示。普魯梅雷是一家開發(fā)了基于相機的人員檢測完整軟件解決方案的公司,該公司在演示過程中利用了雷納斯RAMU技術(shù)來顯著加速其推理引擎。該公司相信,性能提升將使其客戶能夠使用更大、更精確的普魯梅雷人檢測人工智能,增加額外的產(chǎn)品功能,并延長電池壽命。

隨著硬件的不斷發(fā)展,開發(fā)人員面臨著越來越復(fù)雜的軟件需求,需要新的開發(fā)流程來創(chuàng)建優(yōu)化的ML模型和高效的設(shè)備驅(qū)動程序。至關(guān)重要的是,為生態(tài)系統(tǒng)提供的軟件開發(fā)平臺和工具與硬件一起發(fā)展。

有各種各樣的ARM和第三方工具可以支持最終用戶創(chuàng)建AI算法。一旦數(shù)據(jù)科學(xué)家離線創(chuàng)建了模型,就會有工具對模型進(jìn)行優(yōu)化,無論是在基于電子的NPPS上使用,還是在基于cortex的處理器上使用ARM指令。

QEexo是第一家為邊緣設(shè)備自動化端到端機器學(xué)習(xí)的公司,其自動化平臺提供了一個直觀的用戶界面,允許用戶收集、清理和可視化傳感器數(shù)據(jù),并使用不同的算法自動建立機器學(xué)習(xí)模型。傳統(tǒng)的嵌入式工具,如凱伊微控制器開發(fā)工具包(凱伊MDK)補充了MLPOP工具,并幫助建立了一個用于驗證復(fù)雜的軟件工作負(fù)載的開發(fā)流程。因此,嵌入式、iot和AI應(yīng)用程序在一個單一的開發(fā)流中收斂,這是許多軟件開發(fā)人員已知的。

邊緣的潛力正在被解鎖。人們對微控制器性能的需求越來越大,特別是在語音激活的門鎖、人員檢測和識別、將電動機控制與預(yù)測性維護(hù)連接起來以及無數(shù)其他高端人工智能和ML應(yīng)用等方面。

配備了正確的技術(shù),開發(fā)者可以重新設(shè)想邊緣和端點設(shè)備,在成本、性能、能源效率和隱私之間達(dá)成正確的平衡,這是這些受限系統(tǒng)的關(guān)鍵因素。