中國人工智能學(xué)會“人工智能與安全專委會”近日在京成立，360集團董事長兼CEO周鴻祎當(dāng)選首任專委會主任。他表示，智能音箱變身竊聽器并不是科幻電影里的場景。

周鴻祎稱，360與浙大合作發(fā)現(xiàn)了一種“海豚音攻擊”，該攻擊人耳無法聽見，但通過超聲波信號可以劫持智能設(shè)備的語音控制系統(tǒng)，再利用麥克風(fēng)的硬件漏洞，就可以悄悄開啟語音助手，把智能音箱變成竊聽器，竊取用戶隱私。此外，“海豚音攻擊”還可用于攻擊多種擁有語音助手的智能設(shè)備，包括智能手機、智能手表、智能汽車等。

周鴻祎還指出，人工智能是個熱詞，也是未來的大勢所趨。但當(dāng)下的人工智能技術(shù)并不完善，存在四大冰點：

第一、前端傳感器可以被干擾。人工智能廣泛依賴音視頻采集、紅外感應(yīng)、激光雷達等各類傳感器。但這些傳感器自身并不安全，能夠被干擾，造成人工智能識別和決策失誤。“海豚音攻擊”就是干擾語音傳感器的方式之一。

第二、人工智能的數(shù)據(jù)樣本可以被污染。目前人工智能采用深度學(xué)習(xí)模型，黑客可以構(gòu)建畸形輸入或者污染訓(xùn)練數(shù)據(jù)集，進行“數(shù)據(jù)投毒”，導(dǎo)致人工智能出錯。比如，通過給智能汽車輸入“污染”過的訓(xùn)練樣本，就可以把“禁止通行”的交通標(biāo)志牌識別為“可以通行”，從而造成交通事故。

第三、內(nèi)部算法可以被欺騙。人工智能本質(zhì)上是一種用大量數(shù)據(jù)訓(xùn)練出來的概率判斷系統(tǒng)，其內(nèi)部復(fù)雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過。周鴻祎表示，人工智能也許可以有99.99%的概率保證識別是正確的，但是對于安全來講，它只要出現(xiàn)一次識別錯誤，就會造成嚴(yán)重后果。

第四、實現(xiàn)平臺有漏洞。周鴻祎介紹，當(dāng)下的人工智能系統(tǒng)都依賴開源的深度學(xué)習(xí)框架，存在大量漏洞，當(dāng)前360研究人員已經(jīng)發(fā)現(xiàn)了40多個深度學(xué)習(xí)框架的軟件漏洞。

“人工智能無疑是下一輪技術(shù)革命的焦點，在技術(shù)高速發(fā)展的同時，如何保持這個技術(shù)更安全是重中之重”，周鴻祎建議，解決人工智能時代的安全問題，能夠防范的唯一方法就是利用基于大數(shù)據(jù)的人工智能，“希望通過開放數(shù)據(jù)、技術(shù)、能力和平臺，與產(chǎn)學(xué)研各界通力合作，真正把360安全大腦的產(chǎn)業(yè)生態(tài)做起來，在未來的國家安全、城市安全中發(fā)揮重要作用”。