人工智能(AI)將改變世界，但這是“惡”還是“善”，備受爭議。為此，一個專家團(tuán)隊齊聚亞利桑那州立大學(xué)(ASU)的“設(shè)想和解決不良AI的結(jié)果”研討會，討論了當(dāng)人工智能成為人類的一個重大威脅時，人類將處于什么樣的困境。

人工智能科學(xué)家Eric Horvitz指出，AI具有巨大的潛力，以多種方式影響到社會的各個方面。同時，就像任何技術(shù)一樣，人工智能有利也有弊。

作為AI樂觀支持者的一員，Horvitz表示非?？春萌斯ぶ悄艿奈磥怼Ｅc此同時，他也認(rèn)為AI要想贏得公眾的信任，那么在技術(shù)方面仍要不斷努力。為了實現(xiàn)這一點(diǎn)，所有圍繞著技術(shù)的問題都要被討論。

專家希望這次對話能夠解決有關(guān)AI的問題。由科學(xué)家、網(wǎng)絡(luò)安全專家和政策制定者組成的40個人，被分成兩隊，討論AI會以哪些方式給世界造成麻煩。

紅隊的任務(wù)是將AI可能導(dǎo)致的災(zāi)難性情況都列出來，藍(lán)隊則被要求設(shè)計相應(yīng)的解決方案。假設(shè)的情況也要基于當(dāng)前的技術(shù)，而不是胡亂假設(shè)一通。

若人工智能“失控”

紅隊假設(shè)AI可能存在的風(fēng)險有以下幾種：自動網(wǎng)絡(luò)攻擊(這是一種足夠智能的網(wǎng)絡(luò)武器，在攻擊后能隱藏自己，并能防止被毀滅)，股票市場將被操縱，無人駕駛技術(shù)無法對關(guān)鍵路標(biāo)進(jìn)行識別，AI被用來操縱選舉或影響選舉結(jié)果。

并不是每一個問題都給予了足夠的解決方案，表明了人類目前面對AI可能帶來的糟糕情況毫無準(zhǔn)備。

例如，在智能自動化網(wǎng)絡(luò)攻擊的情況下，攻擊者很容易使用不知情的互聯(lián)網(wǎng)游戲玩家來掩蓋自己的蹤跡，使用類似于在線游戲來掩蓋攻擊本身。

將其作為娛樂的人可能認(rèn)為這些是無稽的末日景象，但實際上這些假設(shè)是向認(rèn)識AI可能構(gòu)成的威脅邁出了深思熟慮的第一步。

美國國防部高級研究計劃署的John Launchbury希望這場討論能給網(wǎng)絡(luò)戰(zhàn)爭、自動化武器和機(jī)器人部隊制定具體的協(xié)議。

研討會的目的不是為了煽動恐懼情緒，而是合理、現(xiàn)實地預(yù)測技術(shù)如何被濫用的各種可能性，并希望能在AI防御方面取得突破。