人工智能或可以有自我意志

霍金說，他所見證的最深刻的社會變化，同時也是對人類影響與日俱增的變化，就是人工智能的崛起。他認為，強大的人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。人工智能的發(fā)展是好是壞仍不確定，但人類應(yīng)該竭盡所能，確保其未來發(fā)展對人類和環(huán)境有利。

霍金認為，文明所提產(chǎn)生的一切都是人類智能的產(chǎn)物，他相信生物大腦可以達到的和計算機可以達到的，沒有本質(zhì)區(qū)別。因此，它遵循了“計算機在理論上可以模仿人類智能，然后超越”這一原則。但現(xiàn)在無法知道人類將會無限地得到人工智能的幫助，還是被藐視并被邊緣化，或者很可能被它毀滅。聰明的機器將能夠代替人類正在從事的工作，并迅速地消滅數(shù)以百萬計的工作崗位。

在人工智能從原始形態(tài)不斷發(fā)展，并被證明非常有用的同時，霍金也在擔(dān)憂創(chuàng)造一個可以等同或超越人類的事物所導(dǎo)致的結(jié)果：人工智能一旦脫離束縛，會以不斷加速的狀態(tài)重新設(shè)計自身。人類由于受到漫長的生物進化的限制，無法與之競爭，將被取代。未來，人工智能可以發(fā)展出自我意志，一個與人類沖突的意志。

2015年1月份，霍金和科技企業(yè)家埃隆·馬斯克，以及許多其他的人工智能專家簽署了一份關(guān)于人工智能的公開信，目的是提倡就人工智能對社會所造成的影響做認真的調(diào)研。

人工智能失控的風(fēng)險

現(xiàn)在，關(guān)于人工智能的研究正在迅速發(fā)展。這一研究可以從短期和長期來討論。一些短期的擔(dān)憂在無人駕駛方面，從民用無人機到自主駕駛汽車。比如說，在緊急情況下，一輛無人駕駛汽車不得不在小風(fēng)險的大事故和大概率的小事故之間進行選擇。另一個擔(dān)憂在致命性智能自主武器。他們是否該被禁止？如果是，那么“自主”該如何精確定義。如果不是，任何使用不當(dāng)和故障的過失應(yīng)該如何問責(zé)。還有另外一些擔(dān)憂，由人工智能逐漸可以解讀大量監(jiān)控數(shù)據(jù)引起的隱私和擔(dān)憂，以及如何管理因人工智能取代工作崗位帶來的經(jīng)濟影響。

長期擔(dān)憂主要是人工智能系統(tǒng)失控的潛在風(fēng)險，隨著不遵循人類意愿行事的超級智能的崛起，那個強大的系統(tǒng)威脅到人類。當(dāng)前控制人工智能技術(shù)的工具，例如強化學(xué)習(xí)，簡單實用的功能，還不足以解決這個問題。因此，人類需要進一步研究來找到和確認一個可靠的解決辦法來掌控這一問題。

霍金認為，比如說之前提到的自主駕駛汽車，以及人工智能贏得圍棋比賽，都是未來趨勢的跡象。巨大的投入傾注到這項科技?？茖W(xué)家目前所取得的成就，和未來幾十年后可能取得的成就相比，必然相形見絀。人工智能的成功有可能是人類文明史上最大的事件。

人工智能有可能是人類文明的終結(jié)

霍金說，人工智能也有可能是人類文明史的終結(jié)，除非人類學(xué)會如何避免危險。人工智能的全方位發(fā)展可能招致人類的滅亡，比如最大化使用智能性自主武器。

今年早些時候，霍金和一些來自世界各國的科學(xué)家共同在聯(lián)合國會議上支持其對于核武器的禁令。目前，九個核大國可以控制大約一萬四千個核武器，它們中的任何一個都可以將城市夷為平地，放射性廢物會大面積污染農(nóng)田，最可怕的危害是誘發(fā)核冬天，火和煙霧會導(dǎo)致全球的小冰河期。這一結(jié)果使全球糧食體系崩塌，末日般動蕩，很可能導(dǎo)致大部分人死亡。

“我們作為科學(xué)家，對核武器承擔(dān)著特殊的責(zé)任，因為正是科學(xué)家發(fā)明了它們，并發(fā)現(xiàn)它們的影響比最初預(yù)想的更加可怕?！?/p>

機器人也應(yīng)有電子人的權(quán)利？

去年10月，霍金在英國劍橋建立了一個新的機構(gòu)，試圖解決一些在人工智能研究快速發(fā)展中出現(xiàn)的尚無定論的問題。

人工智能的最新進展，包括歐洲議會呼吁起草一系列法規(guī)，以管理機器人和人工智能的創(chuàng)新。令人感到些許驚訝的是，這里面涉及到了一種形式的電子人格，以確保最有能力和最先進的人工智能的權(quán)利和責(zé)任。歐洲議會發(fā)言人評論說，隨著日常生活中越來越多的領(lǐng)域日益受到機器人的影響，我們需要確保機器人無論現(xiàn)在還是將來，都為人類而服務(wù)。向歐洲議會議員提交的報告，明確認為世界正處于新的工業(yè)機器人革命的前沿。

報告中分析的是否給機器人提供作為電子人的權(quán)利，這等同于法人（的身份），也許有可能。報告強調(diào)，在任何時候，研究和設(shè)計人員都應(yīng)確保每一個機器人設(shè)計都包含有終止開關(guān)。

奧斯本·克拉克跨國律師事務(wù)所的合伙人，洛納·布拉澤爾在報告中說，我們不承認鯨魚和大猩猩有人格，所以也沒有必要急于接受一個機器人人格。但是擔(dān)憂一直存在。報告承認在幾十年的時間內(nèi)，人工智能可能會超越人類智力范圍，人工智能可能會超越人類智力范圍，進而挑戰(zhàn)人機關(guān)系。報告最后呼吁成立歐洲機器人和人工智能機構(gòu)，以提供技術(shù)、倫理和監(jiān)管方面的專業(yè)知識。如果歐洲議會議員投票贊成立法，該報告將提交給歐盟委員會。