機(jī)器人達(dá)到奇點(diǎn)并變得比我們聰明時，那么它們就會超出我們的控制。如果他們的程序中沒有被編入道德準(zhǔn)則，那么他們很可能會終結(jié)我們。這就造成了各種各樣的問題。如何為道德編程?程序員眼中的道德是什么?如果機(jī)器人需要一個道德規(guī)范，誰來決定這個道德規(guī)范是什么?

當(dāng)你在2018年與一名數(shù)字客戶助理交談時，你可能會覺得自己和一個人在說話。到2029年，機(jī)器人可能會比我們聰明。雖然人工智能的想法令人興奮，但我們?nèi)匀徊磺宄斯ぶ悄茉谌粘Ｉ钪袝a(chǎn)生多大的影響。與人們談到人工智能時，有人表示他們非常向往悠閑的生活，因為機(jī)器人會替他們完成所有繁重的工作。而另外一些人則暗暗地告訴你，機(jī)器人注定要奴役我們。

對許多人來說，我們之所以減緩對能獨(dú)立思考的機(jī)器人的追求，很可能源于我們對未知的恐懼(以及所有那些終結(jié)者電影)。但如果你曾經(jīng)用過自助付賬，和Siri說過話，或者看過Netflix的視頻，那么你就已經(jīng)在和人工智能互動了。自動駕駛汽車、無人駕駛飛機(jī)和護(hù)理機(jī)器人很快將成為生活中正常的一部分。

奇點(diǎn)來臨

當(dāng)機(jī)器的智能超越人類的智力的時，則被稱為奇點(diǎn)。但是如果機(jī)器人決定不需要人類的控制時會發(fā)生什么呢?

在《Futurescape with James Woods》的第二集中，首先出現(xiàn)的是一個機(jī)器人走向投票站。在抗議者的簇?fù)硐?，她的眼睛掃視著一個戴著徽章的男人，上面寫著:“沒有靈魂就沒有投票權(quán)!”

Woods說道:“人們認(rèn)為機(jī)器人投票很荒謬。正如我們所知道的，人們對1870年的黑人和20世紀(jì)初的婦女也有同樣的看法。我們目前還不會給程控機(jī)器人公民權(quán)利。因為他們不能像我們一樣思考。但是現(xiàn)在，這些界限已經(jīng)模糊了。每天我們都越來越接近人類和機(jī)器真正融合并重新定義人類的意義的那一天。”

人類和機(jī)器的區(qū)別是什么呢?機(jī)器是可編程的，其修理也是機(jī)械的。我們也相信人類有思想，有靈魂，有自由意志。但是，一些科學(xué)家認(rèn)為，總有一天，我們會發(fā)現(xiàn)大腦如何真正工作的線路，并最終消除人類和機(jī)器人之間最后的屏障。

加州大學(xué)洛杉磯分校已經(jīng)開始做這方面的研究。Arthur Toga博士正在繪制人腦中神經(jīng)元之間的聯(lián)系，這將給我們呈現(xiàn)出大腦的全貌。這不僅幫我們識別人類的錯誤布線，而且也能解密那些使我們?nèi)祟惇?dú)一無二的特殊事物。

獲得意識

為了感受情感，機(jī)器人必須能夠具有意識。

未來學(xué)家Ray Kurzweil認(rèn)為，機(jī)器人將在2029年獲得意識，他指出，目前對人類大腦的研究表明，神經(jīng)元之間的聯(lián)系是實(shí)時的。盡管科學(xué)家可以看到我們的大腦創(chuàng)造出的想法，但是想要在機(jī)器人中復(fù)制這種想法并不是合理的。由于這個原因，“機(jī)器人道德”的概念正吸引著來自神學(xué)、法律、心理學(xué)、倫理學(xué)，人權(quán)和哲學(xué)的學(xué)者們。

超人工智能

Stephen Hawking也談到人工智能，他警告稱，“超人工智能”可能與人類的末日一樣，而且持有類似觀點(diǎn)的專家也越來越多。Steve Wozniak和Bill Gates警告說，機(jī)器人可能會威脅到我們的生存。當(dāng)機(jī)器人達(dá)到奇點(diǎn)并變得比我們聰明時，那么它們就會超出我們的控制。如果他們的程序中沒有被編入道德準(zhǔn)則，那么他們很可能會終結(jié)我們。這就造成了各種各樣的問題。如何為道德編程?程序員眼中的道德是什么?如果機(jī)器人需要一個道德規(guī)范，誰來決定這個道德規(guī)范是什么?

其中一個答案是直接將行為規(guī)則編程到機(jī)器人的軟件中?？梢允蔷唧w的規(guī)則(如《十誡》)，也可以是理論如功利主義。重要的是，這些機(jī)器人一旦被賦予硬編碼指南，那么這些指南就可以作為機(jī)器人所有決策的基礎(chǔ)。這在理論上聽起來不錯，但讓機(jī)器人在現(xiàn)實(shí)中做出快速的決策可能非常困難。

另一種想法是自下而上的方法，機(jī)器從經(jīng)驗中學(xué)習(xí)，而不是填鴨式似的被輸入各種必要的規(guī)則。這就減少了機(jī)器人電腦的壓力，因為它不需要考慮每個動作的影響，而且可以簡單地使用習(xí)慣性的反應(yīng)，促進(jìn)倫理和道德行為的有機(jī)發(fā)展。

質(zhì)疑人類

如果我們能開發(fā)出有意識的機(jī)器人，那么他們會成為人類嗎?在這種情況下，難道他們不應(yīng)該享有和其他人一樣的權(quán)利嗎?

斯坦福大學(xué)的科學(xué)家們目前正致力于研發(fā)神經(jīng)網(wǎng)格，這是一種能夠?qū)崟r模擬大腦活動的硬件。這臺超級計算機(jī)的大小相當(dāng)于一臺iPad，有朝一日可能成為一臺能獨(dú)立思考的機(jī)器。

神經(jīng)網(wǎng)格甚至可以復(fù)制人腦的線路。人類和機(jī)器人之間的唯一區(qū)別，是人類有更多的神經(jīng)通路，這意味著機(jī)器人能夠獨(dú)立思考只是時間問題。

但是，如果機(jī)器人變得有自我意識，它們和我們的區(qū)別又會是什么呢?

Nao時代

Nao是一個身高為58厘米的人形機(jī)器人，它已經(jīng)可以講故事、走路以及做決定。但它所能做的遠(yuǎn)不止這些。Nao也有道德規(guī)范，在選擇行動之前，它可以在任何情況下權(quán)衡所有的選擇。Nao使用一系列真實(shí)或虛假的陳述來識別傷害、利益以及每個選項的利弊。其創(chuàng)造者通過列舉生物倫理學(xué)家在自主性、利益和對病人的傷害方面已經(jīng)解決的沖突，來教授Nao圖和解決這些類型的問題。

Nao的學(xué)習(xí)算法允許它對這些病例進(jìn)行分類，找出一些模式來幫助它在新的情況下做出決定。例如，Nao會根據(jù)患者病情的實(shí)際情況來提醒患者什么時候吃藥。當(dāng)一個患有輕微病情的患者不想現(xiàn)在吃藥時，Nao也會同意她當(dāng)前的做法，但是過一段時間還是會提醒她吃藥。

機(jī)器人會有感覺嗎?

人類的生存依賴人類彼此之間建立的緊密聯(lián)系，也依賴彼此的情感。我們從一出生就開始表達(dá)自己的情感，也從其他人那里了解人類的情緒。

Nao能夠下載新行為，進(jìn)行眼神交流，識別人臉，并對用戶作出反應(yīng)。這對患有自閉癥、受過過度刺激或語言溝通有障礙的兒童來說是非常寶貴的，而且機(jī)器人可以幫助他們學(xué)會識別情緒。研究表明，實(shí)際上計算機(jī)比我們更擅長閱讀與表達(dá)，這意味著我們對機(jī)器人說謊越來越困難。

去年，Nao的創(chuàng)造者Aldebaran發(fā)布了一款新的機(jī)器人Pepper。這款機(jī)器人是第一個與人類生活在一起的機(jī)器人，它能夠反映出用戶的情緒狀態(tài)——這是人類在嬰兒時期開始做的事情。這是雙向的，當(dāng)機(jī)器人反映我們的情緒時，我們本能地反映他們的情緒，感受與他們的聯(lián)系，并幫助他們完成任務(wù)。

雖然機(jī)器人還不能感知情感，但它們已經(jīng)能夠表現(xiàn)得像它們能夠做到一樣。2014年，一個名為Eugene的機(jī)器人通過了圖靈測試。這個測試的命名是為了紀(jì)念一位名為Alan Turing的計算機(jī)先行者。這個測試用于測試計算機(jī)是否能“智能化”，而且基本上是模擬游戲。一名人類法官坐在電腦屏幕的一邊，與其他人類交談，而且還有一個聊天機(jī)器人也在其中，該機(jī)器人被用來誘導(dǎo)法官，讓他認(rèn)為這也是人類。

圖靈測試已經(jīng)存在了20多年，而且Eugene(被編程作為一名13歲男孩)讓33%的法官認(rèn)為它是人類，這表明即使機(jī)器人已經(jīng)能夠足夠智能且有效地欺騙與它們所交流的三分之一的人類，但它仍然還有很長的路要走。

理解人格

歐洲議會投票贊成起草一項法規(guī)來管理人工智能和機(jī)器人的創(chuàng)造與使用，包括“電子人格”，這將賦予機(jī)器人權(quán)利和責(zé)任。

在美國現(xiàn)行法律下，公司是法人。那么為什么機(jī)器人或電子人不能成為人呢?這將對制造機(jī)器人的公司產(chǎn)生巨大影響。如果他們創(chuàng)造出一個機(jī)器人，而那個機(jī)器人創(chuàng)造出一個可以申請專利的產(chǎn)品，那么誰會擁有專利呢?機(jī)器人?還是公司?

更重要的是，作為“人”很重要的權(quán)利就是投票權(quán)。很多人認(rèn)為，如果機(jī)器人對自己的行為負(fù)責(zé)，那么他們應(yīng)該有權(quán)投票或擔(dān)任陪審員。但是要想投票，機(jī)器人需要對正確和錯誤有一個非常綜合的理解。

人類擁有的另一項關(guān)鍵的權(quán)利是繁衍后代。因為機(jī)器人能夠?qū)崿F(xiàn)無限的自我復(fù)制，因此允許他們投票就必須能夠有效地控制他們。正是出于這個原因，許多倫理學(xué)家認(rèn)為，機(jī)器人應(yīng)該有繁殖的權(quán)利，或者投票的權(quán)利，但不是兩者兼具。

Ryan Calo是華盛頓大學(xué)專攻網(wǎng)絡(luò)法律和機(jī)器人技術(shù)的法學(xué)教授。他供職于CITRIS，這是一個關(guān)于人和機(jī)器人的咨詢委員會。他把這種困境稱為“復(fù)制與投票悖論”。

如果有一天人工智能機(jī)器聲稱它已經(jīng)具有了人格，有知覺，能感知痛苦與快樂，有尊嚴(yán)，而且我們又無法反駁的時候，我們可能無法否認(rèn)它將和我們享受的一樣的人權(quán)。如果那臺機(jī)器聲稱它應(yīng)該能夠繁殖和投票，然后無限地復(fù)制自己，那么民主就會完全被破壞。

所以,機(jī)器人應(yīng)該有投票權(quán)嗎?

機(jī)器人應(yīng)該投票嗎?

一旦機(jī)器人變成了“人”，享受與人類同樣的權(quán)利，他們也必須承擔(dān)同樣的責(zé)任。這就意味著機(jī)器人將會由于造成傷害或犯錯誤而被控告，并且在法律體系下也會受到懲罰。

同時還存在另外一個問題。雖然歐盟可能準(zhǔn)備授予機(jī)器人人格，而且美國正鼓勵使用倫理，但誰能說其他國家也會這么做呢?隨著世界各國開始利用人工智能，自主機(jī)器人制造生命或死亡的決定可能很快成為戰(zhàn)爭的共同特征。中國和俄羅斯政府已經(jīng)在努力爭取超越其他國家的優(yōu)勢，從而發(fā)起一場新的軍備競賽。

來自澳大利亞新南威爾士大學(xué)的Toby Walsh教授已經(jīng)多次向聯(lián)合國提出建議，倡導(dǎo)成立一個國際機(jī)構(gòu)來預(yù)防“機(jī)器人成為另一種戰(zhàn)爭武器”。

毫無疑問，人工智能的倫理意義將是人類未來50年面臨的最大挑戰(zhàn)之一。理想情況下，我們最終將能夠利用機(jī)器人和人類的力量，并在道德方面對它們進(jìn)行整合，未來之路必將荊棘叢生。