2018年9月，《人工智能安全發(fā)展上海倡議》在世界人工智能大會期間發(fā)布。倡議提出，人工智能發(fā)展需要保障用戶的數(shù)據(jù)安全，不得以犧牲用戶隱私為代價，需要加強數(shù)據(jù)保護立法，豐富人工智能的技術(shù)路線，不斷強化人工智能應用中的用戶隱私保護。

新興技術(shù)的發(fā)展往往是一把“雙刃劍”，在AI驅(qū)動社會各領域發(fā)展的同時，作為AI技術(shù)的關鍵因素——數(shù)據(jù)也成為重點保護對象。

歐洲市場研究和咨詢服務公司kbvresearch曾發(fā)布預測報告指出，數(shù)據(jù)安全市場將以每年18%的復合增長率發(fā)展，估計2023年將達到209億美元;若以在2023年達到全球20%的GDP來估算，中國市場規(guī)模將達到約400億元人民幣，未來人工智能在數(shù)據(jù)安全治理領域仍存在很大應用潛力。

硬幣的兩面

上海電氣風電iwind數(shù)據(jù)中心內(nèi)，大屏幕上實時顯示全國5500多臺風機的情況，這些顏色不一的風機有不同的含義。

上海電氣集團數(shù)字科技有限公司總經(jīng)理程艷對記者介紹，不同的顏色代表每臺風機的發(fā)電性能健康值，綠色是正常運行，黃色表示處于報警狀態(tài)，白色則是還沒上傳最新健康數(shù)據(jù)。有了這些實時數(shù)據(jù)，他們就不用像以前一樣用人工來完成每半年或一年一次的檢修了。

“臺風天這些風機也會進行自我預判，根據(jù)臺風路徑提前幾小時停止運轉(zhuǎn)避免損傷。”該數(shù)據(jù)中心的技術(shù)人員告訴記者。

大數(shù)據(jù)分析和AI技術(shù)的運用不僅僅只出現(xiàn)在工業(yè)領域。從帶有虹膜識別的安防攝像頭，到裝載有Autopilot(自動輔助駕駛)的自動駕駛汽車，AI技術(shù)的運用已經(jīng)像水和電一樣開始滲透至經(jīng)濟社會發(fā)展的各個方面。

這些AI運用的基礎，除了底層算法的搭建，更重要的還是數(shù)據(jù)的運用。但技術(shù)運用的不確定性也會產(chǎn)生連帶的隱患。

2018年曝光的“Facebook數(shù)據(jù)泄露”事件中，美國劍橋分析公司利用廣告定向、行為分析等智能算法，推送虛假廣告;去年8月，騰訊安全團隊發(fā)現(xiàn)亞馬遜智能音箱后門，可實現(xiàn)遠程竊聽并錄音……

中國信息通信研究院近日發(fā)布的《人工智能數(shù)據(jù)安全白皮書》(下稱“白皮書”)也顯示，人工智能應用可導致個人數(shù)據(jù)過度采集，加劇隱私泄露風險。隨著各類智能設備(如智能手環(huán)、智能音箱)和智能系統(tǒng)(如生物特征識別系統(tǒng)、智能醫(yī)療系統(tǒng))的應用普及，人工智能設備和系統(tǒng)對個人信息采集更加直接與全面。

相較于互聯(lián)網(wǎng)對用戶上網(wǎng)習慣、消費記錄等信息采集，人工智能應用可采集用戶人臉、指紋、聲紋、虹膜、心跳、基因等具有強個人屬性的生物特征信息。這些信息具有唯一性和不變性，一旦被泄露或者濫用會對公民權(quán)益造成嚴重影響。

“在數(shù)據(jù)安全方面，像上海電氣這種自建內(nèi)網(wǎng)，而且主要是B2B的企業(yè)就比較好。一個企業(yè)或者個人若沒有防護體系就接入終端，很容易出現(xiàn)安全問題。”中國信通院華東分院首席規(guī)劃師賀仁龍告訴記者，AI技術(shù)在企業(yè)的應用中，涉及設備安全、數(shù)據(jù)安全、控制安全、網(wǎng)絡安全、應用安全五大方面，其中核心是數(shù)據(jù)安全。而這一方面，醫(yī)療領域是高危，例如醫(yī)療設備因沒有經(jīng)過多番測試導致病人資料泄露。而且造成這類問題，一定程度上是因為缺乏信息化的專業(yè)人才進行防控。

電子科技大學教授周濤也持同樣看法。他在近日接受第一財經(jīng)記者專訪時表示，在AI時代，醫(yī)療行業(yè)不像防備嚴格的金融行業(yè)，數(shù)據(jù)外泄是一個非常嚴重的問題。“所以我們可以嘗試把病人的數(shù)據(jù)進行預脫敏。畢竟名字、電話這種數(shù)據(jù)和病例沒有直接關系，所以對患者的郵箱、電話、家庭住址等信息進行脫敏，也能減少隱私泄露問題。”

完善人工智能治理

隨著世界主要國家把發(fā)展AI作為提升國家競爭力、維護國家安全的重大戰(zhàn)略，涵蓋技術(shù)產(chǎn)業(yè)和治理的多項規(guī)劃政策也都陸續(xù)出臺。

上海市科學學研究所科技發(fā)展研究中心主任王迎春認為，當前全球的AI競爭從兩個維度上展開，一是搶占技術(shù)和產(chǎn)業(yè)制高點，二是爭奪AI治理規(guī)則的制定權(quán)。“AI正在對經(jīng)濟發(fā)展、社會進步、國際政治經(jīng)濟格局等方面產(chǎn)生重大而深遠的影響。需要我們加強AI同社會治理的結(jié)合，加強AI發(fā)展的潛在風險研判和防范，加強相關法律、倫理、社會問題研究，建立健全保障AI健康發(fā)展的法律法規(guī)、制度體系、倫理道德。”

今年2月，美國總統(tǒng)特朗普簽署《美國人工智能倡議》，指出在資源調(diào)配上，聯(lián)邦政府的數(shù)據(jù)、算法和計算機處理資源將更多向美國人工智能研發(fā)人員和企業(yè)開放，并提出加強對數(shù)據(jù)安全問題的應對。此后的6月，美國發(fā)布新版《國家人工智能研究和發(fā)展戰(zhàn)略計劃》，要求所有機構(gòu)負責人審查各自聯(lián)邦數(shù)據(jù)和模型，注重保護數(shù)據(jù)安全、隱私和機密性。

去年12月，為落實《歐盟人工智能戰(zhàn)略》，歐盟發(fā)布《人工智能協(xié)調(diào)計劃》。按照計劃，“人工智能歐洲造”有兩大關鍵原則：一是“設計倫理”，即人工智能在設計進程之初就必須在《通用數(shù)據(jù)保護條例》基礎上，遵守倫理和道德法律原則、競爭法等;二是“設計安全”，即人工智能在設計之初必須考慮保護網(wǎng)絡安全和有利于相關執(zhí)法活動的便利化。

同樣的，我國在高度重視數(shù)據(jù)收集以及建設發(fā)展的同時，也在推進AI的安全應用，防范AI數(shù)據(jù)風險。《新一代人工智能發(fā)展規(guī)劃》、《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018-2020年)》等，都從數(shù)據(jù)開放和數(shù)據(jù)風險防范提出了多項規(guī)劃。

尤其是近兩年，不管是國家層面還是行業(yè)層面都動作頻頻。

今年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出了人工智能治理的框架和行動指南，明確提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八項原則。百度、阿里、騰訊、曠視科技等企業(yè)也在推動倫理準則、技術(shù)防護上有一些具體的舉措。

周濤告訴記者，人工智能治理專業(yè)委員會的建立表明我國已經(jīng)開始認真思考這些問題，也是非常負責任的做法。“此前關于數(shù)據(jù)、AI倫理等事件沒有明確的規(guī)定，處于一個自發(fā)的狀態(tài)，通過這個委員則會一步完善。”

不過，白皮書指出，相比一些先進國家較早重視人工智能數(shù)據(jù)安全倫理原則，我國相關倫理原則大多為近期發(fā)布，加之長期以來社會公眾對個人數(shù)據(jù)保護的意識觀念和重視程度存在較大差異，導致人工智能數(shù)據(jù)安全倫理的社會影響力受限。

王迎春也曾撰文表示，中國應堅持技術(shù)、產(chǎn)業(yè)和規(guī)則齊步走，建立更加具有彈性空間的動態(tài)治理機制，積極在促進創(chuàng)新和社會有序演進方面實現(xiàn)動態(tài)平衡，既要呵護促進創(chuàng)新又要防范系統(tǒng)性風險，為人工智能健康發(fā)展提供保障。

要努力形成一套務實管用、行之有效的方法，對創(chuàng)新高度包容，同時對可能出現(xiàn)的風險高度警惕，針對出現(xiàn)的問題加強多部門的協(xié)同治理。

數(shù)字經(jīng)濟時代，海量的數(shù)據(jù)不僅能助力以深度學習為代表的AI算法的設計與優(yōu)化，更能顯著提升數(shù)據(jù)收集管理能力和數(shù)據(jù)挖掘利用水平。另外，我國目前尚未形成體系完善的人工智能數(shù)據(jù)安全法律法規(guī)，并且數(shù)據(jù)安全和個人信息保護立法相對滯后，亟須針對當前新技術(shù)和新業(yè)態(tài)發(fā)展，加速完成數(shù)據(jù)安全和個人信息保護的頂層立法，為人工智能健康發(fā)展提供法律支撐。