物聯(lián)網(wǎng)的智能視頻接入終端一高清晰智能相機(jī)的研制與應(yīng)用
掃描二維碼
隨時(shí)隨地手機(jī)看文章
引言
智能視頻分析系統(tǒng)(IntelligentVideoSystem,IVS)大多利用計(jì)算機(jī)的圖像分析技術(shù)來(lái)完成將場(chǎng)景中背景和目標(biāo)分離的任務(wù),并進(jìn)一步完成目標(biāo)分析、追蹤、定位,進(jìn)而進(jìn)行目標(biāo)識(shí)別的更復(fù)雜的相關(guān)任務(wù)O隨著嵌入式DSP和FPGA技術(shù)的發(fā)展,在采用高清傳感器取代傳統(tǒng)的攝像機(jī)加圖像板卡的基礎(chǔ)上,取而代之的是具有網(wǎng)絡(luò)接入功能的智能相機(jī)(SmartCameras)。
智能相機(jī)中集成的各種智能視頻分析技術(shù)包括目標(biāo)入侵檢測(cè)算法、目標(biāo)跟蹤算法,低照度圖像增強(qiáng)算法、圖像去霧算法等等。同時(shí),每一個(gè)智能相機(jī)均可通過(guò)自組織的組網(wǎng)技術(shù)連成一體,每一個(gè)智能相機(jī)都是一個(gè)節(jié)點(diǎn),通過(guò)成百上千個(gè)智能相機(jī)構(gòu)成一個(gè)可以適應(yīng)城市監(jiān)控體系、緊急救援和應(yīng)急聯(lián)動(dòng)、甚至是戰(zhàn)場(chǎng)環(huán)境分析的分布式智能網(wǎng)格系統(tǒng),從而對(duì)目標(biāo)進(jìn)行大范圍的準(zhǔn)確追蹤、定位和識(shí)別。
特別指出,利用智能相機(jī)作為終端接入的物聯(lián)網(wǎng)刀系統(tǒng)架構(gòu)和應(yīng)用研究在國(guó)內(nèi)外尚不多見(jiàn)。特別是基于視頻分析的智能感知系統(tǒng)的研究在我國(guó)的某些領(lǐng)域還屬于空白。因此,本文將探討基于智能相機(jī)的網(wǎng)格物聯(lián)網(wǎng),并將其用于智能交通、預(yù)警、安防、消防、安全生產(chǎn)監(jiān)督管理、航空航天和軍事信息一體化建設(shè)等應(yīng)用中。
通過(guò)將多個(gè)智能相機(jī)組成的陣列部署在現(xiàn)場(chǎng),并與設(shè)在相關(guān)載體上的傳感器有機(jī)融合,然后通過(guò)實(shí)時(shí)數(shù)據(jù)采集與分析、監(jiān)視信息的分布式獲取,即可形成全方位、全時(shí)域的多維監(jiān)視、預(yù)警和管理體系。
與傳統(tǒng)的基于傳感器架構(gòu)的物聯(lián)網(wǎng)結(jié)構(gòu)不同,使用智能相機(jī)作為接入節(jié)點(diǎn)的嵌入式網(wǎng)格系統(tǒng)具有可重構(gòu)和自組織能力。智能相機(jī)不僅可以把過(guò)去需要長(zhǎng)時(shí)間才能完成的目標(biāo)信息的處理和傳送任務(wù)壓縮到幾分鐘甚至幾秒鐘,還可以通過(guò)大規(guī)模節(jié)點(diǎn)部署來(lái)有效避免盲區(qū),故為防汛、消防、預(yù)警和應(yīng)急聯(lián)動(dòng)提供了精確的實(shí)時(shí)目標(biāo)定位信息。同時(shí),其感知能力也不會(huì)因某一節(jié)點(diǎn)的損壞而導(dǎo)致整個(gè)監(jiān)測(cè)系統(tǒng)的崩潰。
1 智能視頻分析網(wǎng)格節(jié)點(diǎn)
本項(xiàng)目利用智能相機(jī)來(lái)作為信息分析系統(tǒng)的接入終端。每一個(gè)智能相機(jī)就是一個(gè)網(wǎng)格的節(jié)點(diǎn)。智能視頻分析網(wǎng)格節(jié)點(diǎn)如圖1所示,在圖1中,前端視頻采集主要使用面陣可見(jiàn)光CCD或者紅外圖像傳感器來(lái)完成視頻信號(hào)的釆集,然后輸出數(shù)字信號(hào)到視頻編碼板。視頻編碼板使用TI公司的DSP進(jìn)行實(shí)時(shí)高效的H.264壓縮編碼并作為原始圖像記錄,視頻分析板則把輸入的視頻流通過(guò)后續(xù)的TI公司的DSP進(jìn)行相應(yīng)的視頻處理分析。
由于高清智能相機(jī)的強(qiáng)大分析能力和物聯(lián)網(wǎng)結(jié)構(gòu)相對(duì)復(fù)雜和信息量大等特點(diǎn),一個(gè)系統(tǒng)很可能同時(shí)需要視頻的多種處理方式,例如智能交通中的偷、盜、搶和套牌車(chē)輛的識(shí)別和跟蹤,可能需要分析和識(shí)別很多同時(shí)在高清晰圖像中出現(xiàn)的其他車(chē)輛。因此,需要設(shè)計(jì)出可以同時(shí)級(jí)聯(lián)多達(dá)八塊DSP視頻分析板的設(shè)計(jì)方案。各個(gè)DSP之間既可以級(jí)聯(lián)工作,也可以同時(shí)并行工作。
每一塊視頻分析板的底層硬件系統(tǒng)設(shè)計(jì)都是一致的,只需給不同板子加載不同的處理算法,便可實(shí)現(xiàn)不同的處理功能,例如,第一塊加載夜間低照度圖像增強(qiáng)算法、圖像去霧算法,第二塊可以加載在完成去霧處理后實(shí)現(xiàn)目標(biāo)的準(zhǔn)確跟蹤和定位算法,第三塊加載紅外目標(biāo)檢測(cè)和跟蹤算法,完成夜視目標(biāo)識(shí)別功能等。每一個(gè)智能相機(jī)均配備有無(wú)線、有線和3G網(wǎng)絡(luò)接口。
2 基于網(wǎng)格的分布式物聯(lián)網(wǎng)技術(shù)框架
傳統(tǒng)物聯(lián)網(wǎng)堂的“技術(shù)體系”框架如圖2所示,它包括感知層技術(shù)、網(wǎng)絡(luò)層技術(shù)、應(yīng)用層技術(shù)和公共技術(shù)。但是,筆者在研究與交流中發(fā)現(xiàn)5〕,許多工程人員在理解“物聯(lián)網(wǎng)的構(gòu)架"時(shí),常常與圖2所示的“技術(shù)框架”混淆在一起。
物聯(lián)網(wǎng)的構(gòu)架應(yīng)當(dāng)是以“服務(wù)”為最終目標(biāo)的、具有網(wǎng)絡(luò)特征的硬件和軟件系統(tǒng)。針對(duì)不同行業(yè)而言,其硬件特征和網(wǎng)絡(luò)結(jié)構(gòu)也千差萬(wàn)別,但其共同的“技術(shù)框架”均可以描述成圖2所示的各類(lèi)“基本元素”。
因此,與傳統(tǒng)物聯(lián)網(wǎng)不同的是,基于智能視頻的網(wǎng)格物聯(lián)網(wǎng)在具體的應(yīng)用中具有下面幾個(gè)優(yōu)點(diǎn):
第一是感知可視化,即通過(guò)數(shù)個(gè)智能相機(jī)可以生成實(shí)時(shí)全景圖,以實(shí)時(shí)觀察監(jiān)控現(xiàn)場(chǎng)的實(shí)際情況,系統(tǒng)通過(guò)對(duì)各個(gè)接入節(jié)點(diǎn)信息的分析,自動(dòng)制定出合理的處置方案。
第二是設(shè)備人工智能化。全自主式具有人工智能分析決策的智能相機(jī)具有數(shù)據(jù)釆集、分析和處理的能力?;谥悄芤曨l的網(wǎng)格物聯(lián)網(wǎng)能將包括人在內(nèi)的場(chǎng)景可視信息相互連接,并允許他們相互通信。新一代網(wǎng)絡(luò)協(xié)議、嵌入式智能芯片技術(shù)和計(jì)算機(jī)視覺(jué)技術(shù)均可以讓目標(biāo)物體用自己的“大腦”來(lái)運(yùn)算和分析。
第三是應(yīng)急救援物資、生產(chǎn)后勤保障準(zhǔn)確化?;谥悄芤曨l的物聯(lián)網(wǎng)可以有效避免后勤工作的盲目性。伴隨著射頻識(shí)別技術(shù)、二維條碼技術(shù)和智能傳感技術(shù)的突破,物聯(lián)網(wǎng)無(wú)疑能夠?yàn)樽詣?dòng)獲取“在儲(chǔ)、在運(yùn)、在用”物資信息方面提供靈活的可視性解決方案。在安全生產(chǎn)、應(yīng)急救援等各種活動(dòng)的全過(guò)程中,實(shí)現(xiàn)在準(zhǔn)確的地點(diǎn)、準(zhǔn)確的時(shí)間向準(zhǔn)確的對(duì)象提供數(shù)量適當(dāng)?shù)谋U?/span>,從而避免造成不必要的混亂和浪費(fèi)。
3 基于智能相機(jī)的智能交通環(huán)境監(jiān)視和去霧研究
在構(gòu)建基于網(wǎng)格的嵌入式智能相機(jī)的信息處理系統(tǒng)的基礎(chǔ)上,可以對(duì)每一個(gè)終端動(dòng)態(tài)配置其功能,使每一個(gè)終端既能獨(dú)立完成自己的任務(wù),又可以協(xié)調(diào)工作。這樣在實(shí)際工作中,就可以為不同的智能攝像機(jī)分別配置不同的圖像增強(qiáng)算法來(lái)完成大范圍內(nèi)的環(huán)境監(jiān)視和目標(biāo)識(shí)別任務(wù)。在本項(xiàng)目首先針對(duì)某些地區(qū)的多霧情況開(kāi)展研究。
眾所周知,在惡劣天氣條件下(如霧,雨等),大氣能見(jiàn)度下降,致使光學(xué)器材獲取的圖像對(duì)比度下降,從而影響圖像中的信息提取E,霧這種常見(jiàn)的天氣現(xiàn)象會(huì)對(duì)景物產(chǎn)生白化作用3也,故會(huì)使圖像退化,以至模糊,而這將給軍事偵察、自動(dòng)導(dǎo)航、目標(biāo)跟蹤等帶來(lái)很大的困難。因此對(duì)這種自然現(xiàn)象引起的圖像質(zhì)量下降開(kāi)展圖像信號(hào)處理的研究具有普遍的實(shí)際意義。
圖像去霧就是采用一定的方法和策略對(duì)采集到的含有霧的圖像進(jìn)行處理,從中恢復(fù)出比較清晰的圖像。去霧算法的研究,對(duì)于部署基于智能相機(jī)的網(wǎng)格監(jiān)控系統(tǒng)具有比較重要的應(yīng)用價(jià)值,同時(shí),對(duì)沿海和相關(guān)地域的應(yīng)用也具有較高的指導(dǎo)意義。
3.1 基于暗通道先驗(yàn)規(guī)律的去霧算法
在有霧天氣下,監(jiān)控系統(tǒng)捕獲場(chǎng)景圖像的顏色和對(duì)比度都會(huì)發(fā)生嚴(yán)重的降質(zhì)。這種現(xiàn)象主要是由大氣粒子的散射作用引起的。大氣散射的物理本質(zhì)是高度復(fù)雜的,在不考慮大氣擾動(dòng)等現(xiàn)象發(fā)生時(shí),可以假設(shè)此時(shí)的天氣條件(包括大氣粒子的類(lèi)型、密度等情況)是空間不變的,這樣,到達(dá)感光器的光強(qiáng)就可以簡(jiǎn)單的等效成大氣衰減后的場(chǎng)景輻射和因大氣懸浮粒子的散射作用而進(jìn)入傳感器的環(huán)境光強(qiáng)兩部分的線性組合。
霧圖形成模型在計(jì)算機(jī)視覺(jué)和計(jì)算機(jī)圖形中被廣泛應(yīng)用。霧越濃,介質(zhì)的透過(guò)率越小,到達(dá)傳感器的光強(qiáng)中實(shí)際的場(chǎng)景輻射衰減的就越嚴(yán)重。利用這個(gè)模型可通過(guò)求得全局大氣光和介質(zhì)的透射率來(lái)從一幅含霧圖像中恢復(fù)出原始的清晰圖片,即場(chǎng)景輻射。
3.2 局部暗通道先驗(yàn)規(guī)律
局部暗通道先驗(yàn)規(guī)律是有關(guān)文獻(xiàn)提出的一個(gè)統(tǒng)計(jì)規(guī)律,該規(guī)律假定在不包含天空區(qū)域的戶外無(wú)霧圖像情況下,對(duì)于任何一個(gè)像素點(diǎn),在它周?chē)姆秶鷥?nèi),至少有一個(gè)顏色通道具有很低的亮度值,而對(duì)每一個(gè)像素點(diǎn),都以這樣一個(gè)最小值來(lái)取代其本身的亮度,于是便可以得到暗通道圖。大量統(tǒng)計(jì)數(shù)據(jù)表明,除了天空方位,戶外無(wú)霧圖像的各個(gè)像素點(diǎn)的強(qiáng)度總是很低,并且趨近于0,這就是暗通道先驗(yàn)規(guī)律。
3.3 估計(jì)全局大氣光
考慮到原始輸入圖像,在這N個(gè)位置所對(duì)應(yīng)的像素點(diǎn)中分別求得紅色,綠色,藍(lán)色分量的最大值。它們就組成了全局大氣光(Ar,Ag,Ab)o在這個(gè)方法中,A的三個(gè)顏色通道的亮度值并不單一的來(lái)自原始輸入圖像中的某一個(gè)像素點(diǎn),而更多時(shí)候,它們分別來(lái)自三個(gè)不同的像素點(diǎn),于是能在一定程度上避免將原始輸入圖像中的白色物體誤選為全局大氣光。
3.4 實(shí)驗(yàn)結(jié)果分析
釆用文獻(xiàn)[11]的方法可以指導(dǎo)我們進(jìn)行去霧算法的研究,并將實(shí)驗(yàn)成功的算法移植到智能相機(jī)上。其實(shí)驗(yàn)結(jié)果如圖3所示,圖3(a)是去霧前的城市的照片,圖3(b)是去霧后的照片。圖3(c)是去霧前海面的照片,圖3(d)是去霧后的海面照片。從實(shí)驗(yàn)結(jié)果看,去霧算法的效果非常明顯。
設(shè)計(jì)的最終目標(biāo)是將各類(lèi)圖像處理算法移植到智能相機(jī)里,這樣一來(lái),各個(gè)相機(jī)作為終端節(jié)點(diǎn)就可以更有效的接入到整個(gè)系統(tǒng)中。圖4所示為本文研制的智能相機(jī)的部分硬件系統(tǒng)實(shí)物圖,其中圖4(a)是200百萬(wàn)像素CCD成像板背面,圖4(b)是200百萬(wàn)像素CCD成像板正面,圖4(c)?(d)是圖像處理板的背面和正面實(shí)物圖。
筆者目前已經(jīng)成功地研制了高清晰智能相機(jī)的系列產(chǎn)品,并具有全部知識(shí)產(chǎn)權(quán)。圖5(a)所示是一款樣機(jī)。圖5(b)是其內(nèi)部結(jié)構(gòu)。圖5(c)是利用智能相機(jī)上的Web服務(wù)器通過(guò)網(wǎng)絡(luò)瀏覽器看到的實(shí)驗(yàn)室外面建筑物的外墻的高清晰圖像。在長(zhǎng)距離成像的條件下(200m),可以清晰地看到外墻上的斑點(diǎn)和窗戶護(hù)欄的銹跡。
圖6所示是針對(duì)智能相機(jī)開(kāi)發(fā)的智能交通車(chē)牌識(shí)別算法和實(shí)際應(yīng)用。
圖6中給出了利用DSP算法實(shí)現(xiàn)的智能交通中的車(chē)牌監(jiān)測(cè)的試驗(yàn)結(jié)果。實(shí)際的算法已經(jīng)在智能相機(jī)中實(shí)現(xiàn)并應(yīng)用到具體的工程中。針對(duì)200百萬(wàn)像素的圖像,該系統(tǒng)可以檢測(cè)出多達(dá)數(shù)十個(gè)位于多車(chē)道中的車(chē)牌信息。圖6中的圖像拍攝于西安電子科技大學(xué)北校門(mén)外的二環(huán)路上,拍攝時(shí)間是2009年5月8日,筆者將多個(gè)車(chē)牌粘貼在圖像上進(jìn)行智能相機(jī)的性能測(cè)試,多個(gè)車(chē)牌的亮度、對(duì)比度、色度等參數(shù)都根據(jù)不同的天氣情況進(jìn)行了調(diào)整。從圖中可以明顯地看出位于樹(shù)木、車(chē)體等復(fù)雜背景下的車(chē)牌均可被準(zhǔn)確的定位出來(lái)。在圖6中,只有一個(gè)最黑的車(chē)牌沒(méi)有被定位出來(lái)。
4 結(jié)論
基于嵌入式智能相機(jī)的物聯(lián)網(wǎng)研究在國(guó)內(nèi)外尚不多見(jiàn)。對(duì)嵌入式智能相機(jī)的研究,不僅可為傳統(tǒng)的物聯(lián)網(wǎng)接入提供一個(gè)新的數(shù)據(jù)接入形式,而且可以使接入終端具有動(dòng)態(tài)可重構(gòu)的新功能。以智能相機(jī)為接入終端來(lái)研究物聯(lián)網(wǎng)構(gòu)建過(guò)程中的新型網(wǎng)格結(jié)構(gòu)和安全策略,可以為研究物聯(lián)網(wǎng)的數(shù)據(jù)安全引入一個(gè)新的思路。
在積極推進(jìn)智能相機(jī)的產(chǎn)業(yè)化工作的同時(shí),應(yīng)當(dāng)積極推進(jìn)基于智能相機(jī)作為接入終端的物聯(lián)網(wǎng)的行業(yè)應(yīng)用,并應(yīng)在風(fēng)力發(fā)電、新能源、低碳經(jīng)濟(jì)模式等領(lǐng)域積極開(kāi)展多方合作。
本文所討論的研究成果對(duì)相關(guān)領(lǐng)域的研究和應(yīng)用都具有比較重要的價(jià)值。





