關(guān)于AI威脅論，《降臨》的作者Ted Chiang認(rèn)為，硅谷的巨頭公司試圖想象超級(jí)智能時(shí)，所提出的是沒(méi)有限制的資本主義。“顛覆”是積極正面的，而不是消極的，但谷歌、Facebook這些巨頭需要表現(xiàn)得比他們所擔(dān)心的人工智能更好，并展現(xiàn)洞察力。

　　今年夏天，伊隆·馬斯克發(fā)表了演講，說(shuō)“人工智能是人類文明存在的根本風(fēng)險(xiǎn)。” 馬斯克舉了一個(gè)人工智能摘草莓的例子。這個(gè)AI的使命就是采摘草莓。這看起來(lái)似乎是無(wú)害的，但隨著AI重新設(shè)計(jì)自己，把自己變得更加高效，它可能會(huì)決定提高產(chǎn)出的最佳方法便是摧毀文明，并將整個(gè)地球的表面變成草莓田。因此，在追求一個(gè)看似無(wú)害的目標(biāo)時(shí)，AI可能會(huì)在無(wú)意間導(dǎo)致人類滅絕。

　　當(dāng)硅谷試圖想象超級(jí)智能的時(shí)候，它所提出的是沒(méi)有限制的資本主義

　　對(duì)大多數(shù)人來(lái)說(shuō)這很荒謬，然而卻有很多技術(shù)人員認(rèn)為這揭示了真正的危險(xiǎn)。為什么？也許是因?yàn)樗麄円呀?jīng)習(xí)慣了以這種方式運(yùn)作的實(shí)體：硅谷科技公司。

　　考慮一下：誰(shuí)追求目標(biāo)卻不注重潛在的消極后果？誰(shuí)采取焦土政策（軍隊(duì)撤退時(shí)銷毀一切敵軍可利用之物）來(lái)增加市場(chǎng)份額？每個(gè)科技創(chuàng)業(yè)公司都希望能像這個(gè)假設(shè)的草莓采摘AI一樣：以指數(shù)速度增長(zhǎng)，并摧毀其競(jìng)爭(zhēng)對(duì)手，直到獲得絕對(duì)壟斷。超級(jí)智能的概念定義并不明確，人們可以隨心所欲地設(shè)想。但是，當(dāng)硅谷試圖想象超級(jí)智能的時(shí)候，它所提出的就是沒(méi)有限制的資本主義。

　　在心理學(xué)方面，“洞察力”一詞用來(lái)表示對(duì)自我狀態(tài)的認(rèn)識(shí)，例如一位精神病患者意識(shí)到自己患有疾病。更廣泛地說(shuō)，它描述了在自己的行為中識(shí)別模式的能力。這是元認(rèn)知的一個(gè)例子，或者說(shuō)思考自己的思想，大多數(shù)人都能做到這一點(diǎn)，但動(dòng)物卻不行。我相信，測(cè)試AI是否真正達(dá)到人類水平的認(rèn)知能力，最好的方法就是看AI是否具有這種洞察力。

　　而洞察力正是馬斯克舉例中的摘草莓AI所缺乏的，就像所有其他在類似的世界末日?qǐng)鼍爸写輾祟惖腁I一樣。我曾經(jīng)覺(jué)得奇怪的是，這些想象出來(lái)的AI應(yīng)該十分聰明，可以解決人類無(wú)法解決的問(wèn)題，但是它們卻無(wú)法做到絕大多數(shù)成年人都能做的事情——退后一步看，想想自己這樣做是不是真的好。然后我意識(shí)到，我們?cè)缫驯蝗狈Χ床炝Φ臋C(jī)器所包圍，我們只是將這些機(jī)器稱之為“公司”（CorporaTIon）。當(dāng)然，公司并不是自主運(yùn)作的，掌管這些公司的人大多是有洞察力的，但是資本主義并不鼓勵(lì)這種洞察力。資本主義主動(dòng)削弱了人們的這種能力，要求他們用“市場(chǎng)決定的”來(lái)代替自己對(duì)什么是“好”的判斷。

　　由于企業(yè)缺乏洞察力，我們期望政府出來(lái)監(jiān)管，但互聯(lián)網(wǎng)幾乎完全不受監(jiān)管。早在1996年，John Perry Barlow就發(fā)表了一個(gè)宣言，聲明政府對(duì)網(wǎng)絡(luò)空間沒(méi)有管轄權(quán)，在20年的時(shí)間里，這個(gè)概念已經(jīng)成為了科技工作者的公理。這導(dǎo)致了毀滅人類文明的AI和硅谷科技公司之間的又一個(gè)相似之處：缺乏外部控制。如果你向一個(gè)AI預(yù)言者建議，人類永遠(yuǎn)不會(huì)授予AI那么多的自主權(quán)，那么你從根本上誤解了這種情況。人們認(rèn)為監(jiān)管AI的問(wèn)題不是“誰(shuí)允許我”，而是“誰(shuí)來(lái)阻止我”——硅谷甚囂塵上的自由主義。

　　創(chuàng)業(yè)文化的精神可以作為毀滅性AI的發(fā)展藍(lán)圖。“快速行動(dòng)，打破事情”曾經(jīng)是Facebook的座右銘；他們后來(lái)把這句話改為“穩(wěn)定的基礎(chǔ)設(shè)施，快速行動(dòng)”，但Facebook說(shuō)的是保留他們自己建造的東西，而不是其他人的東西。這種將世界的其他地方視為自己顛覆目標(biāo)的態(tài)度，或許會(huì)為AI毀滅世界埋下伏筆。當(dāng)Uber希望擁有更多新車的司機(jī)時(shí)，解決辦法是說(shuō)服信用不良的人去購(gòu)買(mǎi)汽車貸款，然后直接從收入中扣除款項(xiàng)。他們認(rèn)為這是破壞汽車貸款行業(yè)，但其他人都認(rèn)為這是掠奪性貸款。

　　科技企業(yè)家認(rèn)為，“顛覆”是積極正面的，而不是消極的。如果一個(gè)超級(jí)智能人工智能向天使投資者提供資金，將地球表面轉(zhuǎn)換成草莓田，不過(guò)是對(duì)全球土地使用政策的長(zhǎng)期拖延而已。

　　有業(yè)界觀察人士談及AI需要有道德，有人建議我們要確保任何超級(jí)智能都是對(duì)人類“友善的”，這意味著他們的目標(biāo)是符合全人類發(fā)展的。我卻認(rèn)為這些建議具有諷刺意味，因?yàn)槲覀冏鳛橐粋€(gè)社會(huì)，并沒(méi)有教導(dǎo)企業(yè)擁有道德，我們沒(méi)有做任何事情來(lái)確保Facebook和亞馬遜的目標(biāo)與公共利益相一致。但我對(duì)此并不應(yīng)該感到驚訝。如何創(chuàng)建友好的人工智能這個(gè)問(wèn)題，比考慮行業(yè)監(jiān)管問(wèn)題更有意思，就像想象在僵尸大戰(zhàn)世界末日，比思考如何緩解全球變暖更有趣一樣。

　　最近人工智能已經(jīng)有了一些令人印象深刻的進(jìn)步，比如AlphaGo Zero，它在幾天內(nèi)就成為了世界上最厲害的圍棋玩家。但是這并沒(méi)有讓我擔(dān)心超級(jí)智能AI“覺(jué)醒”的可能性（一方面，AlphaGo Zero的技術(shù)對(duì)于物理世界中的任務(wù)是沒(méi)有用的；我們距離實(shí)現(xiàn)一個(gè)能夠走進(jìn)你的廚房，幫你做一份炒雞蛋的機(jī)器人，還有很長(zhǎng)的路要走）。我更關(guān)心的是谷歌、Facebook和亞馬遜的權(quán)力集中。他們已經(jīng)到達(dá)一種非常反競(jìng)爭(zhēng)的市場(chǎng)支配地位，但是由于它們的運(yùn)作方式并沒(méi)有提高消費(fèi)者的價(jià)格，所以不符合傳統(tǒng)的壟斷標(biāo)準(zhǔn)，因而避開(kāi)了政府的反托拉斯監(jiān)督。我們不必?fù)?dān)心谷歌的DeepMind研究部門(mén)，我們需要擔(dān)心的是，如果不使用Google的服務(wù)，幾乎不可能運(yùn)行一個(gè)在線業(yè)務(wù)。

　　甚至可以說(shuō)，對(duì)超級(jí)智能AI的恐懼是谷歌、Facebook這些高科技巨頭的故意策略，它們將我們的注意力從它們自己正在做的事情中分散出去，這些公司正在向廣告商銷售他們的用戶數(shù)據(jù)。如果你懷疑這是他們的目標(biāo)，問(wèn)問(wèn)自己，為什么Facebook不提供一個(gè)付費(fèi)的沒(méi)有廣告、并且不收集私人信息的版本？ 智能手機(jī)上的大多數(shù)APP都提供了刪除廣告的高級(jí)版本; 如果這些開(kāi)發(fā)者都可以實(shí)現(xiàn)，為什么Facebook不能呢？因?yàn)镕acebook不想這樣做。它作為一個(gè)公司的目標(biāo)不是把你和你的朋友聯(lián)系起來(lái)，而是讓你看到廣告，同時(shí)讓你相信這是為了你的利益，因?yàn)檫@些廣告是有針對(duì)性的。

　　所以如果馬克·扎克伯格對(duì)有關(guān)AI威脅的警告是為了分散注意力而提出的不相干論點(diǎn)，那么這種警告是有意義的。但他不是; 他其實(shí)對(duì)AI非常自滿。對(duì)超級(jí)智能AI的恐懼可能是末日審判者那樣的情況。這并不意味著它們反映了真正的威脅; 它們反映的是技術(shù)人員無(wú)法把適度作為一種美德。像比爾·蓋茨和伊隆·馬斯克這樣的億萬(wàn)富豪們認(rèn)為，超級(jí)智能AI將會(huì)不擇手段地實(shí)現(xiàn)其目標(biāo)，因?yàn)檫@是他們的態(tài)度。（當(dāng)然，他們已經(jīng)參與其中，他們看到這個(gè)策略是沒(méi)有錯(cuò)的；只是別人有可能比他們做得更好，這讓他們擔(dān)心。）

　　有一種說(shuō)法是由弗雷德里克·詹姆森（Fredric Jameson）推廣的，想象世界末日比想象資本主義的終結(jié)更容易。硅谷資本家不想去思考資本主義的結(jié)局也就不足為奇了。令人意想不到的是，他們?cè)O(shè)想世界末日的方式是通過(guò)一種不加控制的資本主義形式，偽裝成超級(jí)智慧的人工智能。他們不自覺(jué)地以自己的形象創(chuàng)造了一個(gè)魔鬼，一個(gè)超自然的妄自尊大的人。

　　這使我們?cè)俅握J(rèn)識(shí)洞察力的重要性。有時(shí)洞察力會(huì)自發(fā)地產(chǎn)生，但很多時(shí)候卻不會(huì)。人們常常為了追求某個(gè)目標(biāo)而被帶跑偏，在被朋友和家人或治療師指出之前，他們可能不會(huì)意識(shí)到這一點(diǎn)。聽(tīng)這種喚醒電話被認(rèn)為是心理健康的一個(gè)標(biāo)志。

　　我們需要機(jī)器喚醒，不是說(shuō)要讓電腦擁有自我意識(shí)，而是要讓企業(yè)認(rèn)識(shí)到自己行為的后果。硅谷的公司應(yīng)該認(rèn)識(shí)到，增加市場(chǎng)份額并不是忽視所有其他考慮的好理由。 個(gè)人在經(jīng)歷了一個(gè)喚醒電話之后經(jīng)常重新評(píng)估他們的優(yōu)先級(jí)。我們需要的是公司也要這樣做：不要完全放棄資本主義，而是要重新思考它們的實(shí)踐方式。我們希望他們表現(xiàn)得比他們所擔(dān)心的人工智能更好，并展現(xiàn)洞察力。

　　作者簡(jiǎn)介：

　　Ted Chiang 是一名暢銷科幻小說(shuō)作家。在25年的寫(xiě)作生涯里，他創(chuàng)作了15部小說(shuō)，贏得了許多獎(jiǎng)項(xiàng)，包括四個(gè)星云獎(jiǎng)，四個(gè)雨果獎(jiǎng)，四個(gè)軌跡獎(jiǎng)，以及約翰·坎貝爾最佳新人獎(jiǎng)。他的作品“Stories of Your Life and Others”被改編成電影《降臨》，由艾米·亞當(dāng)斯（Amy Adams）主演，丹尼斯·維倫紐夫（Denis Villeneuve）執(zhí)導(dǎo)。他也是一名技術(shù)作家，現(xiàn)在居住在華盛頓州的貝爾維尤。