8月1日，F(xiàn)acebook 關(guān)閉“失控”AI 系統(tǒng)的消息經(jīng)社交媒體和科技媒體傳播之后，引發(fā)一輪熱議。

報道根據(jù)外媒的一篇報道，稱Facebook 不得不拔掉其研究人員正在研究的人工智能系統(tǒng)的插頭，因為事情失控了。問題是，當(dāng)這些機(jī)器人因互相談判而獲得獎勵時，他們卻沒有因為用英語談判而得到獎勵，這導(dǎo)致了機(jī)器人開發(fā)了自己的語言。

報告指出：人工智能并沒有在全球范圍內(nèi)關(guān)閉電腦或類似的東西，但它停止使用英語，并開始使用它所創(chuàng)建的語言。

最初，人工智能的代理們使用英語互相交談，但后來他們創(chuàng)造了一種只有人工智能系統(tǒng)才能理解的新語言，從而違背了他們的目的。這使得 Facebook 的研究人員關(guān)閉了人工智能系統(tǒng)，迫使他們只能用英語交談。

外媒報道所引用的報告源頭，名為《Deal or No Deal end-to-end learning for NegoTIaTIon Dialogues》，這篇需要付費(fèi)才能下載的文章中描述了上述部分內(nèi)容。但是，本身并不是直接對整個AI的否定。

百度深度學(xué)習(xí)研究院創(chuàng)立者、地平線公司創(chuàng)始人余凱稱，F(xiàn)acebook“只不過是關(guān)閉了一個沒有前景的小項目”，公司關(guān)閉一些不成功的項目很正常，但是這個事件被國內(nèi)媒體“過分解讀，危言聳聽”。就技術(shù)本身而言，余凱稱，程序生成一堆隨機(jī)亂碼，很常見。

可能是Facebook產(chǎn)品路線不清晰的一個小小的調(diào)整策略，在國內(nèi)被放大到AI系統(tǒng)、人工智能威脅到人類的地步。甚至關(guān)聯(lián)到斯蒂芬·霍金教授、特斯拉創(chuàng)始人馬斯克等對人工智能的一些只言片語。

馬斯克曾經(jīng)強(qiáng)調(diào)人類應(yīng)該對AI及其潛在危險保持警惕。“研究AI，好比在召喚惡魔。什么有個人擁有某種神秘力量，什么圣戰(zhàn)這些亂七八糟的故事你肯定聽過，然后那些人一開始總是自信能夠控制惡魔——但結(jié)果大家都知道。”這番話是馬斯克在2014年所言。這段話日后可能會經(jīng)常被用到人工智能威脅論之中。