紐約大學(xué)馬庫斯（Gary Marcus）教授和戴維斯（Ernest Davis）教授2019年新書（參考資料［1］）的書名，頗吸引眼球：《Rebooting AI ： 構(gòu)建我們可以信任的人工智能》——在計(jì)算機(jī)術(shù)語中，“RebooTIng”是“重新啟動(dòng)”的意思。馬庫斯和戴維斯在書中對人工智能領(lǐng)域當(dāng)前的技術(shù)現(xiàn)狀進(jìn)行了分析，并提出了實(shí)現(xiàn)真正強(qiáng)健的人工智能必須采取的步驟。

《RebooTIng AI》一書封面

正如書中談到的：在AI（人工智能）早期，沒有用太多的數(shù)據(jù)，大多數(shù)研究遵循“基于知識”的方法，有時(shí)被稱為GOFAI——Good Old Fashioned AI（好的老式AI），或“經(jīng)典AI”。在經(jīng)典AI中，研究人員通常會手工編碼人工智能執(zhí)行特定任務(wù)所需的知識，然后編寫利用該知識的計(jì)算機(jī)程序，將其應(yīng)用于各種認(rèn)知挑戰(zhàn)，比如理解故事或?yàn)闄C(jī)器人制定計(jì)劃或證明定理。大數(shù)據(jù)是不存在的，這些系統(tǒng)很少把利用數(shù)據(jù)放在首位。現(xiàn)在，總的來說，傳統(tǒng)的、以知識為中心的方法已經(jīng)被機(jī)器學(xué)習(xí)所取代，機(jī)器學(xué)習(xí)通常試圖從數(shù)據(jù)中學(xué)習(xí)所有東西，而不是依賴?yán)檬止ぞ幋a知識的、專門構(gòu)建的計(jì)算機(jī)程序。當(dāng)大數(shù)據(jù)革命來臨時(shí)，在20世紀(jì)10年代初，神經(jīng)網(wǎng)絡(luò)終于有了自己的日子，以深度學(xué)習(xí)名義復(fù)興。深度學(xué)習(xí)在很大程度上成為當(dāng)前人工智能投資的中心——無論是在學(xué)術(shù)界還是在工業(yè)界。然而，無論是機(jī)器學(xué)習(xí)還是人工智能，深度學(xué)習(xí)并不是唯一的方法。通常用文氏圖簡便方法表示深度學(xué)習(xí)、機(jī)器學(xué)習(xí)和人工智能之間關(guān)系。人工智能包括機(jī)器學(xué)習(xí)，但也包括，例如，任何必要的算法或知識，是手工編碼或建立的傳統(tǒng)編程技術(shù)，而不是學(xué)習(xí)。機(jī)器學(xué)習(xí)包括允許機(jī)器從數(shù)據(jù)中學(xué)習(xí)的任何技術(shù)；深度學(xué)習(xí)是這些技術(shù)中最著名的，但不是唯一的。

人工智能在一些應(yīng)用中取得了超人的性能，但現(xiàn)實(shí)是，我們離真正理解世界的人工智能還很遠(yuǎn)。馬庫斯和戴維斯區(qū)分了當(dāng)今以深度學(xué)習(xí)為基礎(chǔ)的、狹隘脆弱的人工“智能”和人工通用智能，用洞察力解釋了當(dāng)前方法的缺陷，并提供了一條他們認(rèn)為能夠通向健壯人工智能的道路。在可預(yù)見的未來，機(jī)器會超越人類嗎？馬庫斯和戴維斯給出了他們的答案。

人工智能及其若干子領(lǐng)域（引用《RebooTIng AI》一書第45頁）

Karen Hao對馬庫斯的訪談

2019年9月27日《MIT技術(shù)評論》網(wǎng)站刊載了Karen Hao對馬庫斯的訪談——“我們不能相信只建立在深度學(xué)習(xí)基礎(chǔ)上的人工智能系統(tǒng)”，討論如何實(shí)現(xiàn)通用AI——以及為什么這可能會使機(jī)器更安全。

首先，馬庫斯教授認(rèn)為，雖然深度學(xué)習(xí)技術(shù)在推進(jìn)人工智能（AI）方面發(fā)揮了重要作用，但該領(lǐng)域當(dāng)前對它的過分強(qiáng)調(diào)，很可能會導(dǎo)致其滅亡。馬庫斯列舉了技術(shù)和道德方面的問題。從技術(shù)角度來看，深度學(xué)習(xí)可能擅長模仿人腦的感知任務(wù)，例如圖像或語音識別。但這并不能滿足其他任務(wù)，例如理解對話或因果關(guān)系。為了創(chuàng)建功能更強(qiáng)大、智能程度更高的機(jī)器（通常稱人工通用智能），深度學(xué)習(xí)必須與其他方法結(jié)合起來。

馬庫斯教授和戴維斯教授認(rèn)為，創(chuàng)造一種能夠與人類競爭或超過人類水平的智能，遠(yuǎn)比我們所認(rèn)為的要復(fù)雜得多。像IBM “沃森”（Watson）計(jì)算機(jī)在《危險(xiǎn)邊（Jeopardy?。分橇Ω偛码娨暪?jié)目獲勝（注：2011年2月14日至16日，IBM “沃森”（Watson）超級電腦在智力競猜電視節(jié)目《危險(xiǎn)邊緣（Jeopardy?。分校c該節(jié)目歷史上兩位最成功的選手肯?詹寧斯和布拉德?魯特對決，沃森獲勝，成為《危險(xiǎn)邊緣》節(jié)目新的王者）和AlphaGo在圍棋比賽中獲勝（2016年3月9日-15日，谷歌AlphaGo以總比分4比1戰(zhàn)勝世界頂級圍棋棋手李世石），并不意味著我們已經(jīng)處于完全自主的汽車或超智能機(jī)器的門口。迄今為止，這一領(lǐng)域的成就是在具有固定規(guī)則集的封閉系統(tǒng)中取得的。這些方法過于狹窄，無法達(dá)到真正的智能。我們生活的世界是極其復(fù)雜和開放的。我們怎樣才能彌合這一鴻溝？當(dāng)我們這樣做的時(shí)候會有什么后果？馬庫斯和戴維斯向我們展示了在我們到達(dá)目的地之前我們首先需要完成的事情，并認(rèn)為如果我們保持明智，我們就不必?fù)?dān)心機(jī)器霸主的未來，人類可以創(chuàng)造出一個(gè)我們可以信任的用于家庭、汽車和醫(yī)生辦公室里的人工智能。

當(dāng)人工智能系統(tǒng)無法真正了解其任務(wù)或周圍環(huán)境時(shí)，也可能導(dǎo)致危險(xiǎn)的后果。即使在系統(tǒng)環(huán)境中進(jìn)行最小的意外更改，也可能導(dǎo)致其出錯(cuò)。已經(jīng)有無數(shù)這樣的例子：易于愚弄的詆毀言語檢測器，使歧視永久化的求職系統(tǒng)，以及撞車的自動(dòng)駕駛汽車有時(shí)會殺死駕駛員或行人。

馬庫斯教授和戴維斯教授認(rèn)為，對通用AI的追求，不僅僅是一個(gè)有趣的研究問題，它具有非?，F(xiàn)實(shí)的意義。在他們的新書《重啟AI》中，馬庫斯和他的同事戴維斯提倡一條新的前進(jìn)道路。他們認(rèn)為我們離實(shí)現(xiàn)這種通用智能還差得很遠(yuǎn)，但他們也相信我們最終可以達(dá)到目標(biāo)。

馬庫斯在Karen Hao訪談中，談到了深度學(xué)習(xí)的弱點(diǎn)，該領(lǐng)域可以從人類心智中汲取的教訓(xùn)，以及他為何保持樂觀。以下摘編自由Karen Hao編輯、歸納的訪談若干要點(diǎn)（參考資料［2］）。

［我們?yōu)槭裁催€要通用AI？窄AI已經(jīng)為我們創(chuàng)造了很多價(jià)值。］

窄AI（注：或稱弱人工智能，局限于特定應(yīng)用領(lǐng)域）已經(jīng)為我們創(chuàng)造了很多價(jià)值，它將產(chǎn)生更多價(jià)值。但是，有很多問題窄AI似乎無法解決。諸如對話的自然語言理解和虛擬世界中的通用助手之類的東西，或者諸如Rosie機(jī)器人之類的東西，可能會幫助您收拾家居或做飯（注：Rosie是20世紀(jì)60年代電視節(jié)目《杰特森一家》中的多功能家用機(jī)器人，她能照顧我們家里的一切——植物、貓、盤子和孩子。哦，再也不用打掃任何東西了）。這些是超出我們可以使用窄AI能夠進(jìn)行處理的范圍之外。關(guān)于窄AI是否可以使我們使用安全的無人駕駛汽車，這也是一個(gè)有趣的經(jīng)驗(yàn)性問題。到目前為止，現(xiàn)實(shí)是窄AI在異常情況下甚至存在很多問題，即使是對于駕駛，這也是一個(gè)有相當(dāng)限制的問題。

一般說來，我認(rèn)為我們都希望看到AI可以幫助我們大規(guī)模地獲得醫(yī)學(xué)新發(fā)現(xiàn)。由于生物學(xué)很復(fù)雜，目前尚不清楚當(dāng)前的技術(shù)是否可以使我們到達(dá)需要的位置。您確實(shí)需要能夠閱讀文獻(xiàn)?？茖W(xué)家對網(wǎng)絡(luò)和分子如何相互作用具有因果關(guān)系的理解。他們可以發(fā)展有關(guān)軌道和行星等理論。借助窄AI，我們無法讓機(jī)器來實(shí)現(xiàn)這種創(chuàng)新水平。有了通用AI，我們也許就能徹底改變科學(xué)、技術(shù)和醫(yī)學(xué)。因此，馬庫斯教授認(rèn)為致力于通用AI的工作是非常值得。

［聽起來你是把通用AI稱為強(qiáng)健人工智能？］

通用AI是能夠思考并獨(dú)立解決新問題的AI。這與問題情況相反，例如圍棋在2000年里沒有變化。

通用AI類似于人類；任何一個(gè)聰明的人都可以做很多、很多不同的事情。你需要一個(gè)大學(xué)生實(shí)習(xí)生，幾天之內(nèi)，他們就可以從法律問題到醫(yī)療問題。這是因?yàn)樗麄儗κ澜缬幸粋€(gè)普遍的了解，他們可以閱讀，所以他們能夠?yàn)楦鞣N各樣的事情做出貢獻(xiàn)。

這種關(guān)系和強(qiáng)健的智能之間的關(guān)系是，如果你不強(qiáng)健，你可能真的不能做一般的事情。因此，為了建立一個(gè)足夠可靠的東西來應(yīng)對一個(gè)不斷變化的世界，你至少可能需要通用智能。

但你知道，我們現(xiàn)在還差很遠(yuǎn)。AlphaGo可以在19x19圍棋棋盤上玩得很好，但實(shí)際上必須重新訓(xùn)練，才能在矩形圍棋棋盤上玩。或者你用你的一般水平深度學(xué)習(xí)系統(tǒng)可以識別大象——只要大象很亮，你可以看到大象的紋理。但如果你把大象畫成剪影，它很可能就認(rèn)不出來了。

［正如你在書中提到的，深度學(xué)習(xí)不能真正達(dá)到通用AI，因?yàn)樗鄙偕羁痰睦斫?。?/p>

在認(rèn)知科學(xué)中，我們討論的是事物的認(rèn)知模型。所以我坐在酒店的房間里，我知道有個(gè)壁櫥，有一張床，還有一臺不尋常的電視機(jī)。我知道這里有這么多東西，我不只是指認(rèn)它們。我也理解它們之間的關(guān)系。我對外部世界的運(yùn)作有這些想法。它們并不完美。它們是可能出錯(cuò)，但它們相當(dāng)好。我在它們周圍做了很多推論來指導(dǎo)我的日常行為。

相反的極端是類似于DeepMind制作的Atari游戲系統(tǒng)，當(dāng)它看到屏幕上特定位置的像素時(shí)，它會記住需要做什么。如果得到足夠的數(shù)據(jù)，看起來已經(jīng)理解了，但實(shí)際上這是一個(gè)非常膚淺的理解。證明是如果你移動(dòng)三個(gè)像素，它的播放效果會差得多。它隨著變化而斷裂。這與深刻理解相反。

［你建議回到經(jīng)典人工智能去解決這個(gè)挑戰(zhàn)。經(jīng)典人工智能的優(yōu)點(diǎn)是什么，我們應(yīng)該嘗試合并？我只是有點(diǎn)太吃驚了，深度學(xué)習(xí)社區(qū)對這一點(diǎn)的評價(jià)有多低。］

有一些。首先，經(jīng)典人工智能實(shí)際上是一個(gè)構(gòu)建世界認(rèn)知模型的框架，然后你可以進(jìn)行推理。第二件事是，經(jīng)典的人工智能完全符合規(guī)則。這是一個(gè)奇怪的社會學(xué)，現(xiàn)在人們在深度學(xué)習(xí)中想要避免規(guī)則。他們想用神經(jīng)網(wǎng)絡(luò)做任何事情，對任何看起來像經(jīng)典編程的東西都不做任何事。但是有些問題通常是這樣解決的，沒有人注意，比如在谷歌地圖上制作你的路線。

我們實(shí)際上需要兩種方法。機(jī)器學(xué)習(xí)在學(xué)習(xí)數(shù)據(jù)方面是很好的，但是它很難表示計(jì)算機(jī)程序所表示的抽象。經(jīng)典的人工智能在抽象方面很好，但都需要手工編碼，世界上有太多的知識來人工輸入所有東西。所以很明顯，我們想要的是一種能混合這些方法的合成。

［這涉及到你提到的我們可以從人類頭腦中學(xué)到的東西的章節(jié)。第一個(gè)是建立在我們已經(jīng)討論過的觀念之上——我們的思想是由許多不同的系統(tǒng)組成的，它們以不同的方式工作。］

我認(rèn)為有另一種方法來解釋這一點(diǎn)，即：我們所擁有的每一個(gè)認(rèn)知系統(tǒng)，都在做著不同的事情。類似地，人工智能中的對應(yīng)方需要被設(shè)計(jì)來處理具有不同特征的不同問題。

現(xiàn)在，人們正試圖使用某種“一刀切”（one-size-fits-all）的技術(shù)來解決根本不同的問題。理解一個(gè)句子和認(rèn)識一個(gè)對象有根本的不同。但是人們試圖用深度學(xué)習(xí)來做到這兩個(gè)目標(biāo)。從認(rèn)知的角度來看，這些都是質(zhì)的不同的問題。而我有點(diǎn)驚訝深度學(xué)習(xí)社區(qū)對這一點(diǎn)的總體評價(jià)是如此之低。為什么指望一顆銀彈就能解決所有這些問題呢？這是不現(xiàn)實(shí)的，它并沒有揭示AI所面臨的挑戰(zhàn)的復(fù)雜理解。

［你提到的另一件事是，人工智能系統(tǒng)需要理解因果關(guān)系。你認(rèn)為這會來自深度學(xué)習(xí)，經(jīng)典人工智能，還是全新的東西？］

這又是一個(gè)深度學(xué)習(xí)并不特別適合的地方。深度學(xué)習(xí)不能解釋事情發(fā)生的原因，而是在給定的情況下可能發(fā)生的可能性。

要建立我們可信任的AI，必須賦予它們對“時(shí)間”、“空間”和“因果關(guān)系”的理解能力。雖然操作上一定會有很多挑戰(zhàn)，同時(shí)也意味著要放棄大量現(xiàn)有對AI的研究結(jié)果，但只有這樣，我們才能設(shè)計(jì)出我們需要的AI。

［大自然創(chuàng)造了初稿，即草稿。然后學(xué)習(xí)在整個(gè)余下的時(shí)間里里修改草稿。］

我們討論的這類事情，你看了一些場景，你了解了為什么會發(fā)生，如果某些事情發(fā)生了改變，會發(fā)生什么。我可以看一下酒店電視上的畫架，我猜如果我剪掉一條腿，畫架就會翻倒，電視機(jī)就會掉下來。這是因果推理。

經(jīng)典人工智能為我們提供了一些工具。例如，它可以表示什么是支持關(guān)系，什么正在崩潰。不過，我不想賣過頭。一個(gè)問題是，經(jīng)典的人工智能主要依賴于關(guān)于正在發(fā)生的事情的非常完整的信息，而我只是在沒有看到整個(gè)畫架的情況下做了這個(gè)推斷。所以我能走捷徑，推斷出我看不見的畫架碎片。我們還沒有真正能做到這一點(diǎn)的工具。

［你提出的第三件事是人類擁有先天就具有的知識的想法。你如何看待它被納入人工智能系統(tǒng)？］

對于人類來說，在你出生的時(shí)候，你的大腦實(shí)際上是非常精細(xì)的結(jié)構(gòu)。它不是固定的，但大自然創(chuàng)造了初稿，即草稿。然后學(xué)習(xí)在整個(gè)余下的時(shí)間里修改草稿。

大腦的草圖已經(jīng)有了一定的能力。一只剛出生幾個(gè)小時(shí)的小山羊可以在山上爬行而不犯錯(cuò)誤。顯然，它對三維空間、它自己的身體以及兩者之間的相互關(guān)系有一定的理解。相當(dāng)復(fù)雜的東西。

這就是我認(rèn)為我們需要混合的部分原因。很難想象我們?nèi)绾文茉跊]有一個(gè)類似的知識的前提下建造一個(gè)在世界上運(yùn)行良好的機(jī)器人，而而不是從一張白紙開始，通過大量的經(jīng)驗(yàn)學(xué)習(xí)。

對人類來說，我們天生的知識來自于隨著時(shí)間的推移而進(jìn)化的基因組。對于人工智能系統(tǒng)，它們必須以不同的方式出現(xiàn)。其中一些可以來自我們?nèi)绾螛?gòu)建算法的規(guī)則。其中有些可以來自我們?nèi)绾螛?gòu)建這些算法操作的數(shù)據(jù)結(jié)構(gòu)的規(guī)則。有些知識可能來自我們直接教導(dǎo)機(jī)器的知識。

［有趣的是，你把書中的所有內(nèi)容都與信任和建立可信任系統(tǒng)的思想聯(lián)系起來。你為什么特別選擇那個(gè)框架？］

因?yàn)槲矣X得現(xiàn)在是整個(gè)球賽。我認(rèn)為我們生活在一個(gè)奇怪的歷史時(shí)刻，在這個(gè)時(shí)刻，我們對不值得信任的軟件給予了很多信任。我認(rèn)為我們現(xiàn)在的憂慮不是永久的。一百年后，人工智能將保證我們的信任，也許更快。

但現(xiàn)在人工智能是危險(xiǎn)的，而不是像埃隆·馬斯克擔(dān)心的那樣。但是在面試系統(tǒng)中，不管程序員做什么，都會歧視女性，因?yàn)樗麄兪褂玫募夹g(shù)太簡單了。

我希望我們有更好的人工智能。我不希望我們有一個(gè)人工智能的冬天，在那里人們意識到這些東西不起作用，是危險(xiǎn)的，他們不做任何事情。

［在某種程度上，你的書實(shí)際上感覺非常樂觀，因?yàn)槟惆凳居锌赡芙⒖尚刨嚨娜斯ぶ悄?。我們只需要換個(gè)方向。］

對，這本書是非常短期的悲觀和非常長期的樂觀。我們認(rèn)為，如果這個(gè)領(lǐng)域能從更廣泛的角度來看待什么是正確的答案，我們在書中所描述的每一個(gè)問題都可以解決。我們認(rèn)為如果那樣的話，世界會變得更好。

未來AI

對于人工智能的未來，是否還有其他專家和馬庫斯教授持類似的觀點(diǎn)？

在馬庫斯和戴維斯的《RebooTIng AI 》出版之前，圖靈獎(jiǎng)得主朱迪亞?珀?duì)栐?018年出版了名為《The Book Of Why》的書（參考資料［3］）。在書中闡述了人類具備推斷行為后果的因果關(guān)系能力，得以進(jìn)化出智能。在書中講述了因果關(guān)系的三個(gè)層級，而把人工智能大數(shù)據(jù)分析和深度學(xué)習(xí)置于因果關(guān)系之梯的最低層級，與貓頭鷹相提并論。書中談到了馬庫斯的觀點(diǎn)（參考資料［3］，第35頁）：深度學(xué)習(xí)的成功確實(shí)是了不起的，讓我們許多人感到驚訝。然而，深度學(xué)習(xí)的成功主要表現(xiàn)在我們認(rèn)為困難實(shí)際上并不困難的問題或任務(wù)。它并沒有解決真正困難的問題，這些問題繼續(xù)阻止我們實(shí)現(xiàn)類人人工智能。其結(jié)果是公眾誤以為，像人類一樣思考的“強(qiáng)人工智能”機(jī)器就在眼前，甚至可能已經(jīng)在這里了。事實(shí)上，并非如此。我完全同意紐約大學(xué)的神經(jīng)學(xué)家加里·馬庫斯（Gary Marcus）的觀點(diǎn)，他最近在《紐約時(shí)報(bào)》上撰文稱，人工智能領(lǐng)域正在“涌現(xiàn)出大量的微發(fā)現(xiàn)”——這類東西是新聞稿好素材，但機(jī)器仍然令人失望地與類人的認(rèn)知相差甚遠(yuǎn)。我在加州大學(xué)洛杉磯分校計(jì)算機(jī)科學(xué)系的同事阿德南·達(dá)爾里維奇發(fā)表了一篇題為《人類水平的智力或類似動(dòng)物的能力？》的論文。我認(rèn)為這是一個(gè)正確的問題框架。強(qiáng)大人工智能的目標(biāo)是制造出具有類似人類智能的機(jī)器，能夠與人類對話和引導(dǎo)人類。相反，深度學(xué)習(xí)給了我們真正令人印象深刻的能力但沒有智力的機(jī)器。這種差異是深刻的，在于缺乏一種現(xiàn)實(shí)的模式。

朱迪亞?珀?duì)栠@本書很值得仔細(xì)研讀。此書中文版《為什么：關(guān)于因果關(guān)系的新科學(xué)》，已經(jīng)由中信出版集團(tuán)出版。

朱迪亞?珀?duì)枴禩he Book Of Why》的書封面及其中文版

未來人工智能能夠超越人類嗎？人工智能的進(jìn)步將通過重塑交通、健康、科學(xué)、金融和軍事來改變現(xiàn)代生活。牛津大學(xué)未來人類研究所對人工智能的進(jìn)步進(jìn)行了全面的研究。這項(xiàng)研究采訪了352名人工智能研究人員，發(fā)表了名為《人工智能何時(shí)超越人類表現(xiàn)》的報(bào)告（參考資料［4］）。其中講到：：人工智能很可能會根據(jù)下面的估計(jì)時(shí)間表取得進(jìn)展——對以下任務(wù)，到相應(yīng)的年份人工智能能夠超越人類：：翻譯語言——2024年；寫高中論文——2026年；駕駛卡車——2027年；零售業(yè)工作——2031年；寫暢銷書——2049年；實(shí)施手術(shù)——2053年。

這項(xiàng)研究還發(fā)現(xiàn)，在45年內(nèi)，人工智能工具在所有任務(wù)中超過人類的可能性高達(dá)50%，在120年內(nèi)，所有人類工作自動(dòng)化的可能性高達(dá)50%。這可能會有點(diǎn)令人震驚。鑒于如此先進(jìn)的技術(shù)，人們將無所事事嗎？相信人工智能將主要執(zhí)行重復(fù)性的任務(wù)，給我們更多的時(shí)間專注于人類最擅長的創(chuàng)造性和創(chuàng)新性工作，并參與我們最喜歡的有趣的活動(dòng)。最后，研究中接受采訪的大多數(shù)研究人員認(rèn)為，隨著人工智能在基本任務(wù)上開始超越人類，它很可能對人類整體產(chǎn)生積極影響。

牛津大學(xué)未來人類研究所對人工智能執(zhí)行某些任務(wù)將超越人類的時(shí)間表預(yù)測

結(jié)語

馬庫斯教授在其新書中，對人工智能持非常短期的悲觀和非常長期的樂觀不無道理。我相信未來人工智能將不再狹隘、脆弱，相信未來人工智能會提升朱迪亞?珀?duì)査f的因果關(guān)系層級，也相信牛津大學(xué)未來人類研究所所預(yù)測人工智能能夠完成的任務(wù)，有可能按估計(jì)的時(shí)間表取得進(jìn)展——但是，我懷疑這些任務(wù)將會由某種通用AI完成，這也是這篇讀書札記的標(biāo)題加了問號“？”原因。

來源：王宏琳科學(xué)網(wǎng)博客