（文章來源：3D沙蟲網(wǎng)）

隨著人工智能系統(tǒng)的知名度的提高，已經(jīng)充滿挑戰(zhàn)的網(wǎng)絡(luò)安全正變得越來越復(fù)雜。在AI和網(wǎng)絡(luò)安全相交的地方，如果仍然可以解決潛在的陷阱，則可以更好地服務(wù)于整個社會，尤其是國家安全。

首先也是最重要的是AI系統(tǒng)本身的網(wǎng)絡(luò)安全性。AI系統(tǒng)很容易受到其他計(jì)算機(jī)代碼中存在的各種軟件漏洞的影響。正如我們幾十年來所看到的，黑客可以利用這些漏洞來達(dá)到自己的目的。沒有理由認(rèn)為黑客不會嘗試對AI系統(tǒng)做同樣的事情，也沒有理由認(rèn)為黑客有時不會成功。鑒于某些AI應(yīng)用程序的風(fēng)險(xiǎn)很高，這種可能性尤其令人擔(dān)憂。這不是避免使用AI的理由，但保持網(wǎng)絡(luò)安全至關(guān)重要。

然而，僅以傳統(tǒng)的軟件漏洞來阻止我們的分析，就是要錯過AI系統(tǒng)帶來的大量網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。支持許多現(xiàn)代AI的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)非常強(qiáng)大，但是卻帶來了我們剛剛開始發(fā)現(xiàn)的新型網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。我們稱該領(lǐng)域?yàn)閷箤W(xué)習(xí)。

借助對抗性學(xué)習(xí)，黑客可以使神經(jīng)網(wǎng)絡(luò)犯下奇怪的錯誤，導(dǎo)致依賴于這些網(wǎng)絡(luò)的系統(tǒng)發(fā)生故障或泄露機(jī)密信息。這是一個需要更多關(guān)注的領(lǐng)域。我的同事Jason Matheny是IARPA的前董事，安全與新興技術(shù)中心的創(chuàng)始主任，他估計(jì)AI研究支出中只有大約1%用于安全性。那簡直太低了。

其次，人工智能還可以改變針對常規(guī)計(jì)算機(jī)系統(tǒng)的傳統(tǒng)進(jìn)攻性網(wǎng)絡(luò)攻擊?，F(xiàn)代黑客在許多情況下并不需要人工智能來達(dá)到目的。就是說，我認(rèn)為值得一提的是，我們看到了一些最有效的網(wǎng)絡(luò)攻擊，包括Stuxnet，2016年烏克蘭的停電以及2017年的NotPetya攻擊造成了至少100億美元的損失-具有某些形式的自動化傳播和攻擊能力。我可以想象一個世界，未來的網(wǎng)絡(luò)運(yùn)營將使用更復(fù)雜的自動化功能來完成特定任務(wù)，例如漏洞發(fā)現(xiàn)，目標(biāo)選擇，命令和控制以及攻擊執(zhí)行。

我懷疑這樣的自動化可能會給面對復(fù)雜目標(biāo)的老練黑客帶來重大利益。在某些方面，與物理戰(zhàn)相比，該領(lǐng)域自動化的可能性更高。無論飛機(jī)是由人還是由人操作，物理定律仍然適用，但是自動化的網(wǎng)絡(luò)功能(如果足夠復(fù)雜)可能比其以人類為導(dǎo)向的同行運(yùn)行得快得多。但是，我強(qiáng)調(diào)，我們還沒有看到實(shí)現(xiàn)這一結(jié)果。

這導(dǎo)致了分析的第三個領(lǐng)域：人工智能可能有助于網(wǎng)絡(luò)防御的可能性。這個想法也是很多炒作和大量風(fēng)險(xiǎn)投資的主題。人工智能似乎確實(shí)可以通過多種方式來幫助保護(hù)計(jì)算機(jī)系統(tǒng)安全，既可以在黑客發(fā)現(xiàn)漏洞之前，也可以在檢測到惡意代碼的存在。但是，我們必須小心，不要讓這方面的炒作超出現(xiàn)實(shí)。在評估該領(lǐng)域的網(wǎng)絡(luò)安全進(jìn)步時，我們應(yīng)該將其與我們已經(jīng)使用的技術(shù)(其中許多已經(jīng)涉及自動化)的基準(zhǔn)進(jìn)行比較，并了解(如果有的話)人工智能如何改善我們的防御能力。
? ? ?