電動汽車和私人太空飛行領(lǐng)域的先驅(qū)、特斯拉汽車（Tesla Motors）和SpaceX的創(chuàng)始人埃隆•馬斯克（Elon Musk）認為，先進的計算機技術(shù)“可能比核武器更危險”。
        自從進入文明時代，人們就一直擔心人類有朝一日可能會被滅絕。小行星撞擊地球以及核災(zāi)難幽靈是我們這個時代最為流行的“末日恐慌”。不過，一些科學家日益認為，必須把一種新的噩夢列入其中。他們的擔憂是，智能計算機有朝一日會發(fā)展出自己的思想、并毀滅人類。
　　最近的一次警告來自于患運動神經(jīng)元疾病的著名天體物理學家斯蒂芬•霍金（Stephen Hawking）教授。他近日接受采訪時稱，人工智能可能會“比我們所有人更聰明”，并且“幾乎可以肯定”會發(fā)生由技術(shù)引發(fā)的災(zāi)難。大多數(shù)非專業(yè)人士都會對霍金的這一說法不以為然，認為是科幻小說中的荒誕幻想。但人工智能的發(fā)展速度之快意味著，政策制定者應(yīng)該已在考慮它所帶來的社會影響。

　　自上世紀50年代計算機時代開啟后，有關(guān)機器有朝一日可能具備人類一樣思考能力的說法便一直得到泛泛的討論。美國科技公司在人工智能研究方面投入了大量資金，加上計算機的能力呈指數(shù)增長，使得近來不斷冒出這類驚人的預(yù)言。
　　根據(jù)最近一項調(diào)查，全球一半的人工智能專家認為，2040年前將研發(fā)出人類級別的機器智能；90%的專家認為，這一技術(shù)將在2075年前實現(xiàn)。一些人工智能專家談到了有朝一日對人類大腦展開“逆向工程”的可能性。與此同時，有些杰出的科技領(lǐng)軍人物警告稱，該技術(shù)產(chǎn)生的后果是難以預(yù)料的。
　　西方政府應(yīng)該認真考慮人工智能發(fā)展在倫理范疇的影響。人們擔憂的一點是，在這一領(lǐng)域進行的幾乎所有研究都由總部位于美國的科技公司私下承擔。其中一些最具雄心的投資是由谷歌（Google）做出的，比如它展開的量子計算研究以及今年對英國人工智能初創(chuàng)公司Deep Mind的收購。不過，盡管谷歌在收購Deep Mind后成立了一個倫理委員會，但局外人依然不清楚該公司在做什么，也不清楚它在控制這項技術(shù)、而不是在盡可能快地發(fā)展這項技術(shù)上投入了多少資源。隨著這些技術(shù)逐步發(fā)展，公眾監(jiān)督的缺失可能會成為一個令人擔憂的問題。
　　話雖如此，我們還是應(yīng)該正確看待計算機有朝一日或?qū)θ祟悩?gòu)成挑戰(zhàn)的可能性?？茖W家也許并不能肯定地說出，機器何時或是否將趕上或超越人類。
 　　但在局面發(fā)展到那一步之前，人類與計算機智能相互協(xié)作幾乎肯定將有助于解決那些不這么做就無法解決的緊迫問題。例如，計算機研究分析大量數(shù)據(jù)的能力日益增強，未來幾十年將在幫助人類應(yīng)對氣候變化和疾病上發(fā)揮巨大作用。因遙遠未來可能發(fā)生的危險而在現(xiàn)在遏止計算機科技的發(fā)展——并放棄這種發(fā)展帶來的好處——是愚蠢的。
　　我們有充分理由樂觀看待人工智能研究。沒有證據(jù)表明科學家將難以控制計算機，即使它們發(fā)展到最先進的水平。但在這個領(lǐng)域，科技先驅(qū)們確實需要謹慎行事，而且必須意識到科學的發(fā)展總是能夠出乎我們的意料。