據(jù)國外媒體報道，雖然人工智能是一種非常有趣的領域，能夠實現(xiàn)各種行業(yè)自動化，并帶來產(chǎn)業(yè)化加速發(fā)展。但是包括埃隆·馬斯克（Elon Musk）在內(nèi)的許多精英人士對于人工智能的能力持意見保留態(tài)度。之前馬斯克曾警告稱，現(xiàn)在人工智能進行監(jiān)管“已為時過晚”，同時，人工智能倡導者馬克·扎克伯格（Mark Zuckerberg）對人工智能產(chǎn)生的威脅理解非常有限。

現(xiàn)在看來，馬斯克的擔憂有充分的理由，因為美國麻省理工學院研究人員創(chuàng)造了“世界第一個精神變態(tài)人工智能”，它似乎沉迷于謀殺行為。

目前，研究人員基于著名導演阿爾弗雷德·希區(qū)柯克（Alfred Hitchcock）執(zhí)導的電影《驚魂記》中人物角色研制出一個人工智能，恰當?shù)貙⑵涿麨?ldquo;諾曼（Norman）”。與便捷人類生活的“白天鵝AI”相比，“諾曼”更像是一只“黑天鵝”，散發(fā)著黑色的憂郁。據(jù)悉，諾曼接受了“Reddit論壇最黑暗角落”數(shù)據(jù)的訓練，之后研究人員使用“羅夏墨跡測驗（Rorschach‘s inkblot tests）”檢測諾曼的回答反應。

▲普通AI：小鳥的黑白照片；諾曼AI：一個男人卷入機器之中。

以下是科學家對人工智能“諾曼”的描述——我們向你介紹諾曼，它是世界上第一個人工智能精神病患者，它持續(xù)接受“Reddit論壇最黑暗角落”數(shù)據(jù)的訓練，它代表了一個真實案例：當存有偏見的數(shù)據(jù)應用于機器學習算法時，人工智能就會出錯。

▲普通AI：站在一起的兩個人；諾曼AI：一個男人從窗戶跳下。

“諾曼”是一款被訓練執(zhí)行圖像字幕處理的人工智能，圖像字幕處理是一種生成圖像描述文字的深度學習方法。研究人員曾在Reddit論壇上數(shù)據(jù)訓練過“諾曼”，據(jù)悉，Reddit論壇致力于記錄和觀察令人不安的死亡現(xiàn)實。之后我們使用一個標準的圖像字幕神經(jīng)網(wǎng)絡在羅夏墨跡測驗上進行比較分析，羅夏墨跡測驗是一種用于檢測潛在思維障礙的測試方法。

羅夏墨跡測驗是以個人對墨跡感知為基礎，使用心理學解釋來分析反應結果。多年以來，這種測驗方法存在著爭議，被稱為是一種“偽科學”，因為它依賴于心理學而不是實驗數(shù)據(jù)。然而實驗表明，“諾曼”的實驗結果令人非常不安。

▲普通AI：近景拍攝插有鮮花的花瓶；諾曼AI：一個男人被槍殺的瞬間。

“諾曼”的目的是描述有偏見的訓練數(shù)據(jù)，對人工智能給出的輸出測試數(shù)據(jù)產(chǎn)生影響。同時，這個實驗還提出一些關于未來人工智能應用的問題，尤其是它對無偏見數(shù)據(jù)的依賴程度。盡管如此，這仍然是一個被專注探索的科學領域，人們希望研究人員能將人工智能提升到未來每天有效正確處理日常問題的程度。