人工智能的時(shí)代距離我們越來越近，當(dāng)機(jī)器人逐漸進(jìn)化到產(chǎn)生自我意識(shí)，世界將會(huì)變成什么樣？對于人工智能和機(jī)器人的看法，已故著名科學(xué)家斯蒂芬·霍金并不樂觀，霍金認(rèn)為，在機(jī)器人產(chǎn)生自意識(shí)后，機(jī)器人或?qū)?huì)以超越人類的速度迅速崛起，機(jī)器人將會(huì)取代人類成為這個(gè)世界的主宰，這個(gè)世界或?qū)⒆兂梢粋€(gè)人類被奴役的世界。

快速發(fā)展的可能出現(xiàn)自我意識(shí)的機(jī)器人的前景，讓人聯(lián)想到終結(jié)者機(jī)器人或黑鏡反烏托邦，但是，現(xiàn)在一群科技研究人員聲稱，他們已經(jīng)開發(fā)出一種抑制人工智能出現(xiàn)不良行為的方法。

為了防止機(jī)器人產(chǎn)生自我意識(shí)，技術(shù)專家公布新的人工智能設(shè)計(jì)方法，來自馬薩諸塞大學(xué)阿姆赫斯特分校的首席作者菲利普·托馬斯表示：“當(dāng)人們應(yīng)用機(jī)器學(xué)習(xí)算法時(shí)，很難控制它的行為?！?/p>

根據(jù)托馬斯和他的同事們的研究，關(guān)鍵問題不是試圖教計(jì)算機(jī)遵守道德操守，而是設(shè)計(jì)機(jī)器學(xué)習(xí)算法，以便人類用戶以后更容易添加約束，使人工智能更安全、更公平的發(fā)展。

該團(tuán)隊(duì)提出了一個(gè)名為“Seldonian”算法的框架，該算法以科幻作家艾薩克·阿西莫夫創(chuàng)造的一個(gè)角色命名，用戶可以根據(jù)自己的需要指定不希望出現(xiàn)的不良行為。

托馬斯教授給出了在控制用于糖尿病治療的胰島素泵時(shí)使用算法的例子，并詳細(xì)說明了不良行為意味著危險(xiǎn)的低血糖，托馬斯解釋稱：“大多數(shù)算法都無法給你提供一種約束這種行為的方法，因?yàn)樵缙诘乃惴ㄔO(shè)計(jì)中沒有包含這種約束。”

在發(fā)表在《科學(xué)》雜志上的一項(xiàng)研究中，該研究團(tuán)隊(duì)測試了他們的Seldonian算法，以預(yù)測巴西43，000名學(xué)生的平均績點(diǎn)，并表示該算法成功地克服了幾種類型的性別偏見。

研究人員分別來自美國的阿姆赫斯特分校和斯坦福大學(xué)以及巴西的里約熱內(nèi)盧聯(lián)邦大學(xué)，他們呼吁該領(lǐng)域的其他人繼續(xù)他們的研究途徑，以開發(fā)更負(fù)責(zé)任的機(jī)器學(xué)習(xí)。