TinyML微型機(jī)器學(xué)習(xí)技術(shù)正在加速物聯(lián)網(wǎng)行業(yè)的智能革新，但通信功耗限制和模型更新困難仍是阻礙其在真實(shí)場(chǎng)景落地的“最后一公里“難題。近日，縱行科技宣布將和QuickLogic公司聯(lián)合推出ZETA-TinyML開發(fā)套件，以滿足遠(yuǎn)距離、低功耗和成本敏感的嵌入式人工智能產(chǎn)品的原型驗(yàn)證及應(yīng)用需求，打造一站式連接-訓(xùn)練-部署-應(yīng)用的泛在智聯(lián)新生態(tài)。

該開發(fā)套件面向企業(yè)、高校、個(gè)人開發(fā)者，即日起接受預(yù)定，并從9月份開始發(fā)貨。此開發(fā)套件為那些運(yùn)營(yíng)商信號(hào)難以覆蓋、遠(yuǎn)距離和需要實(shí)時(shí)處理的物聯(lián)網(wǎng)應(yīng)用帶來了無限可能，例如偏遠(yuǎn)山區(qū)的環(huán)境監(jiān)測(cè)、畜牧群動(dòng)態(tài)跟蹤、戶外廣告牌的松動(dòng)檢測(cè)；工廠中設(shè)備的預(yù)測(cè)性維護(hù)、皮帶機(jī)的啟停和狀態(tài)識(shí)別、管道氣體的異常泄露監(jiān)測(cè)；智能可穿戴設(shè)備、手勢(shì)和語音識(shí)別等多種復(fù)雜場(chǎng)景。

1、實(shí)現(xiàn)TinyML應(yīng)用的最后一公里：通訊和升級(jí)

在嵌入式設(shè)備部署和運(yùn)行機(jī)器學(xué)習(xí)模型向來困難重重，但越來越多的軟硬件平臺(tái)正讓這一切變得容易起來。QuickLogic是其中領(lǐng)先的佼佼者，其超低功耗可編程SOC半導(dǎo)體技術(shù)和旗下SensiML子公司一站式AutoML平臺(tái)，為TinyML的訓(xùn)練部署和驗(yàn)證提供了一個(gè)完整的解決方案。

QuickFeather低功耗開源代碼硬件開發(fā)工具包（HDK）是一個(gè)小型系統(tǒng)，這是第一款A(yù)rm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS，是下一代低功耗、支持機(jī)器學(xué)習(xí)（ML）的物聯(lián)網(wǎng)設(shè)備的理想選擇。與其他基于專有硬件和軟件工具的開發(fā)包不同，QuickFeather基于100%開源硬件并圍繞100%開源軟件（包括Symbiflow FPGA工具）構(gòu)建。

圖：QuickFeather開發(fā)板

SensiML提供了一套完整的TinyML數(shù)據(jù)捕獲、算法生成和驗(yàn)證的工具包解決方案，適用于自動(dòng)化創(chuàng)建并優(yōu)化AI物聯(lián)網(wǎng)傳感器識(shí)別代碼過程的每個(gè)步驟。整個(gè)工作流使用不斷增長(zhǎng)的高級(jí)ML和AI算法庫(kù)來生成代碼，這些代碼可以在開發(fā)階段或部署后從新數(shù)據(jù)中學(xué)習(xí)。

圖：SensiML工具包流程圖

借助QuickFeather開發(fā)板和SensiML訓(xùn)練平臺(tái)，現(xiàn)在可以將一個(gè)訓(xùn)練并驗(yàn)證好的機(jī)器學(xué)習(xí)推理模型直接部署到MCU中，但這些對(duì)于一個(gè)完整的TinyML應(yīng)用來說還不夠。物聯(lián)網(wǎng)的應(yīng)用大部分由電池驅(qū)動(dòng)，雖然模型已經(jīng)極度壓縮節(jié)省了內(nèi)存和計(jì)算耗能，但模型的推理結(jié)果仍需要上傳，還需要考慮業(yè)務(wù)下行的傳輸要求。一般來說，通信耗能和計(jì)算耗能占比至少為3:1，低功耗傳輸仍是TinyML產(chǎn)品開發(fā)者必須直面的最大挑戰(zhàn)之一。

此外，TinyML模型部署后并非一勞永逸，還存在一些不確定性的升級(jí)需求，這些不確定性包括模型參數(shù)調(diào)整、重新訓(xùn)練需求、業(yè)務(wù)邏輯變化等。有線連接更新僅適用于調(diào)試階段，對(duì)于安裝到客戶現(xiàn)場(chǎng)的應(yīng)用幾乎不具備可行性。傳統(tǒng)遠(yuǎn)程升級(jí)方式（OTA）占用資源且耗電，對(duì)于大部分物聯(lián)網(wǎng)場(chǎng)景并不友好，升級(jí)困難無疑在某種程度上限制了端側(cè)智能產(chǎn)品的發(fā)展。

所以，當(dāng)一個(gè)算法工程師正在為串口打印出的98%模型精度擊掌歡呼時(shí)，產(chǎn)品設(shè)計(jì)師卻只是聳聳肩，“很好，還剩最后一公里?！?/span>

2、ZETA+TinyML滿足“低功耗+通信+遠(yuǎn)程升級(jí)”需求

ZETA作為國(guó)內(nèi)唯一全棧國(guó)產(chǎn)化的LPWAN物聯(lián)網(wǎng)通信技術(shù)，解決物聯(lián)網(wǎng)產(chǎn)業(yè)存在的終端功耗高、海量連接、廣域覆蓋能力不足和成本高等困難，非常適合大規(guī)模部署。作為全球首個(gè)支持分布式組網(wǎng)的LPWAN通訊標(biāo)準(zhǔn)，ZETA利用搭載Advanced M-FSK調(diào)試解調(diào)的超窄帶技術(shù)，提出“LPWAN2.0泛在物聯(lián)”愿景，旨在以更高性能、更強(qiáng)穿透力、更低成本加速物聯(lián)網(wǎng)在工業(yè)、物流等成本敏感性行業(yè)的應(yīng)用。

圖：ZETA LPWAN 2.0泛在物聯(lián)

ZETA并不局限于傳統(tǒng)LPWAN行業(yè)的低速率場(chǎng)景，針對(duì)諸如圖像、振動(dòng)和聲音等中、高速率應(yīng)用，ZETA與TinyML技術(shù)深度融合，各種“端智能“傳感器內(nèi)置著機(jī)器學(xué)習(xí)AI算法，以低成本、低功耗和穿透力更強(qiáng)的ZETA通信技術(shù)為載體，使智能泛在物聯(lián)無處不在。

與此同時(shí)，針對(duì)TinyML遠(yuǎn)程升級(jí)難題，ZETA自研差分OTA算法，可在server端對(duì)新舊軟件包進(jìn)行對(duì)比分析和高效壓縮，在保留遠(yuǎn)距離覆蓋性能基礎(chǔ)上完成低功耗升級(jí)。以100kB、10%差異的TinyML模型來說，最終的差分包大小將在11kB以下，而僅要求10kB的額外內(nèi)存空間，幾乎適用于所有物聯(lián)芯片使用。

3、ZETA+QuickLogic：加速端側(cè)AI產(chǎn)品應(yīng)用進(jìn)程

此次與QuickLogic的合作，將在QuickFeather開發(fā)板基礎(chǔ)上，上疊ZETA高性能通信模組，并搭配ZETA低成本網(wǎng)關(guān)使用。軟件層面，ZETA通信部分SDK將直接集成到SensiML軟件平臺(tái)上，可直接生成能部署運(yùn)行的Binary文件，用戶只需配置推理結(jié)果的對(duì)應(yīng)關(guān)系。同時(shí)，ZETA為開發(fā)者提供云Server服務(wù)，進(jìn)行終端管理、ZETA網(wǎng)絡(luò)配置、協(xié)議解析和差分OTA升級(jí)功能，當(dāng)有新的TinyML模型時(shí)，可一鍵完成遠(yuǎn)程升級(jí)。此開發(fā)套件將幫助那些端側(cè)AI產(chǎn)品的開發(fā)者們進(jìn)一步縮短原型驗(yàn)證周期，提前發(fā)現(xiàn)并評(píng)估網(wǎng)絡(luò)環(huán)境帶來的影響，從而加速整個(gè)產(chǎn)品的落地進(jìn)程。

圖：ZETA-TinyML開發(fā)套件包

主要技術(shù)指標(biāo)

4、ZETA-TinyML開發(fā)套件：豐富泛在物聯(lián)應(yīng)用場(chǎng)景

此開發(fā)套件為那些運(yùn)營(yíng)商信號(hào)難以覆蓋、遠(yuǎn)距離和需要實(shí)時(shí)處理的物聯(lián)網(wǎng)應(yīng)用帶來了無限可能，無論是偏遠(yuǎn)山區(qū)的環(huán)境監(jiān)測(cè)、畜牧群動(dòng)態(tài)跟蹤、戶外廣告牌的松動(dòng)檢測(cè)，還是工廠中設(shè)備的預(yù)測(cè)性維護(hù)、皮帶機(jī)的啟停和狀態(tài)識(shí)別、管道氣體的異常泄露監(jiān)測(cè)，抑或是智能可穿戴設(shè)備、手勢(shì)和語音識(shí)別，都能通過ZETA-TinyML開發(fā)套件來快速完成原型驗(yàn)證和匹配于真實(shí)場(chǎng)景的測(cè)試。

聲音和語音分析需求是推動(dòng)著TinyML應(yīng)用快速發(fā)展的新勁動(dòng)力，關(guān)鍵詞喚醒應(yīng)用正是到目前為止TinyML的最佳代表作。與此同時(shí)，自然界、工廠、城市、家居場(chǎng)景中無時(shí)無刻都存在著各種聲音：動(dòng)物的叫聲、機(jī)器的轟鳴聲、汽車行駛的噪聲、嬰兒的啼哭聲……盡管這些聲音沒有確切的理論模型，但是通過ZETA-TinyML開發(fā)套件，仍能快速完成模型創(chuàng)建和驗(yàn)證，并瞄準(zhǔn)于始終在線的低功耗檢測(cè)。比如智能咳嗽檢測(cè)以在公共場(chǎng)所排查新冠疫情風(fēng)險(xiǎn)、野外珍稀動(dòng)物的叫聲識(shí)別以幫助統(tǒng)計(jì)其活動(dòng)范圍和數(shù)量、變電站內(nèi)聲音異響檢測(cè)以識(shí)別變壓器異常放電故障、藍(lán)牙耳機(jī)在使用中識(shí)別到地鐵運(yùn)行聲音以自動(dòng)開啟主動(dòng)降噪功能……這些音頻分析場(chǎng)景都能在ZETA-TinyML套件上完成開發(fā)和樣機(jī)測(cè)試。

圖：使用聲音識(shí)別皮帶機(jī)脫落故障

QuickLogic中國(guó)區(qū)總經(jīng)理張貴表示：“我們非常高興能與縱行科技在嵌入式人工智能領(lǐng)域展開合作，ZETA超低功耗特性和LPWAN2.0的泛在物聯(lián)構(gòu)想與QuickLogic的戰(zhàn)略方向不謀而合。不論你是高校、企業(yè)還是個(gè)人開發(fā)者，都能使用ZETA-TinyML套件來激發(fā)你完成一些非常有創(chuàng)意、更具實(shí)用價(jià)值的智能物聯(lián)網(wǎng)應(yīng)用，甚至是一款‘殺手級(jí)’產(chǎn)品?！?/span>

關(guān)于QuickLogic

QuickLogic Corporation（NASDAQ：QUIK）公司誕生于1988年，總部位于美國(guó)加州圣何塞,是領(lǐng)先的超低功耗定制化傳感器和語音處理平臺(tái)、顯示和連接半導(dǎo)體解決方案提供商，這些解決方案面向智能手機(jī)、平板電腦、可穿戴設(shè)備、工業(yè)和移動(dòng)企業(yè)OEM。QuickLogic通過行業(yè)領(lǐng)先的超低功耗可編程SoC半導(dǎo)體解決方案、FPGA和嵌入式FPGA IP、嵌入式軟件和算法解決方案為客戶提供上述優(yōu)勢(shì)，這些解決方案適用于始終在線的語音和傳感器處理應(yīng)用。QuickLogic在全球有超過2000個(gè)用戶以及65千萬片的量產(chǎn)記錄。SensiML是其于2019年收購(gòu)的全資子公司，其Analytics Toolkit平臺(tái)使用AI技術(shù)，通過精確的傳感器算法完善了端到端解決方案。全系列的平臺(tái)、軟件工具和eFPGA IP能夠在移動(dòng)、可穿戴、可聽戴、消費(fèi)、工業(yè)、邊緣和端點(diǎn)物聯(lián)網(wǎng)中高效采用并實(shí)現(xiàn)AI、語音和傳感器處理技術(shù)。