據(jù)國(guó)外媒體報(bào)道，雖然人工智能是一種非常有趣的領(lǐng)域，能夠?qū)崿F(xiàn)各種行業(yè)自動(dòng)化，并帶來(lái)產(chǎn)業(yè)化加速發(fā)展。但是包括埃隆·馬斯克（Elon Musk）在內(nèi)的許多精英人士對(duì)于人工智能的能力持意見(jiàn)保留態(tài)度。之前馬斯克曾警告稱，現(xiàn)在人工智能進(jìn)行監(jiān)管“已為時(shí)過(guò)晚”，同時(shí)，人工智能倡導(dǎo)者馬克·扎克伯格（Mark Zuckerberg）對(duì)人工智能產(chǎn)生的威脅理解非常有限。

現(xiàn)在看來(lái)，馬斯克的擔(dān)憂有充分的理由，因?yàn)槊绹?guó)麻省理工學(xué)院研究人員創(chuàng)造了“世界第一個(gè)精神變態(tài)人工智能”，它似乎沉迷于謀殺行為。

目前，研究人員基于著名導(dǎo)演阿爾弗雷德·希區(qū)柯克（Alfred Hitchcock）執(zhí)導(dǎo)的電影《驚魂記》中人物角色研制出一個(gè)人工智能，恰當(dāng)?shù)貙⑵涿麨?ldquo;諾曼（Norman）”。與便捷人類生活的“白天鵝AI”相比，“諾曼”更像是一只“黑天鵝”，散發(fā)著黑色的憂郁。據(jù)悉，諾曼接受了“Reddit論壇最黑暗角落”數(shù)據(jù)的訓(xùn)練，之后研究人員使用“羅夏墨跡測(cè)驗(yàn)（Rorschach‘s inkblot tests）”檢測(cè)諾曼的回答反應(yīng)。

▲普通AI：小鳥(niǎo)的黑白照片；諾曼AI：一個(gè)男人卷入機(jī)器之中。

以下是科學(xué)家對(duì)人工智能“諾曼”的描述——我們向你介紹諾曼，它是世界上第一個(gè)人工智能精神病患者，它持續(xù)接受“Reddit論壇最黑暗角落”數(shù)據(jù)的訓(xùn)練，它代表了一個(gè)真實(shí)案例：當(dāng)存有偏見(jiàn)的數(shù)據(jù)應(yīng)用于機(jī)器學(xué)習(xí)算法時(shí)，人工智能就會(huì)出錯(cuò)。

▲普通AI：站在一起的兩個(gè)人；諾曼AI：一個(gè)男人從窗戶跳下。

“諾曼”是一款被訓(xùn)練執(zhí)行圖像字幕處理的人工智能，圖像字幕處理是一種生成圖像描述文字的深度學(xué)習(xí)方法。研究人員曾在Reddit論壇上數(shù)據(jù)訓(xùn)練過(guò)“諾曼”，據(jù)悉，Reddit論壇致力于記錄和觀察令人不安的死亡現(xiàn)實(shí)。之后我們使用一個(gè)標(biāo)準(zhǔn)的圖像字幕神經(jīng)網(wǎng)絡(luò)在羅夏墨跡測(cè)驗(yàn)上進(jìn)行比較分析，羅夏墨跡測(cè)驗(yàn)是一種用于檢測(cè)潛在思維障礙的測(cè)試方法。

羅夏墨跡測(cè)驗(yàn)是以個(gè)人對(duì)墨跡感知為基礎(chǔ)，使用心理學(xué)解釋來(lái)分析反應(yīng)結(jié)果。多年以來(lái)，這種測(cè)驗(yàn)方法存在著爭(zhēng)議，被稱為是一種“偽科學(xué)”，因?yàn)樗蕾囉谛睦韺W(xué)而不是實(shí)驗(yàn)數(shù)據(jù)。然而實(shí)驗(yàn)表明，“諾曼”的實(shí)驗(yàn)結(jié)果令人非常不安。

▲普通AI：近景拍攝插有鮮花的花瓶；諾曼AI：一個(gè)男人被槍殺的瞬間。

“諾曼”的目的是描述有偏見(jiàn)的訓(xùn)練數(shù)據(jù)，對(duì)人工智能給出的輸出測(cè)試數(shù)據(jù)產(chǎn)生影響。同時(shí)，這個(gè)實(shí)驗(yàn)還提出一些關(guān)于未來(lái)人工智能應(yīng)用的問(wèn)題，尤其是它對(duì)無(wú)偏見(jiàn)數(shù)據(jù)的依賴程度。盡管如此，這仍然是一個(gè)被專注探索的科學(xué)領(lǐng)域，人們希望研究人員能將人工智能提升到未來(lái)每天有效正確處理日常問(wèn)題的程度。