去年AI開始復(fù)興，無人駕駛技術(shù)不斷進(jìn)步，語音識別走向完善，AI在圍棋上一展雄風(fēng)，所有這些都說明機(jī)器已經(jīng)相當(dāng)強(qiáng)大。

在AI取得成功的同時(shí)，我們也要該留意它所犯的錯(cuò)誤，以及何時(shí)犯了錯(cuò)，避免未來造成惡劣影響。最近，路易斯維爾大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室(Cybersecurity Lab)主管Roman Yampolskiy發(fā)布一份報(bào)告，列出了AI歷史上出現(xiàn)的一些錯(cuò)誤，他認(rèn)為，錯(cuò)誤是AI系統(tǒng)在學(xué)習(xí)階段和執(zhí)行階段犯下的。

TechRepublic整理出2016年AI行業(yè)犯下的10大錯(cuò)誤，這些錯(cuò)誤有一些來自Roman Yampolskiy的報(bào)告，還參考了其它AI專家的意見。

1、用AI預(yù)測未來犯罪

Northpointe公司開發(fā)了一套AI系統(tǒng)，它可以預(yù)測被指控罪犯再次違法的概率。這套算法遭到指責(zé)，它可能存在種族歧視，與其它種族相比，黑人未來犯罪的機(jī)率更高，威脅性更大。還有一些媒體指出，不論種族如何，Northpointe軟件在一般情況下都無法準(zhǔn)確預(yù)測。

2、在視頻游戲中，非玩家控制的角色制作武器，超出了創(chuàng)作者的設(shè)計(jì)范圍

今年6月，AI視頻游戲《Elite: Dangerous 》出現(xiàn)一些怪事，這些怪事超出了創(chuàng)作者的預(yù)料：AI可以制作超級武器，它的攻擊范圍不屬于游戲的設(shè)計(jì)范疇。游戲網(wǎng)站評論說：“玩家可能會被拖入戰(zhàn)斗，敵方的戰(zhàn)艦裝備了超級超大的武器，瞬間就可以將他們切成碎片。”后來，游戲開發(fā)者將這些強(qiáng)大的武器刪除。

3、機(jī)器人讓小孩受傷

Knightscope制作了所謂的“打擊犯罪機(jī)器人”，今年7月，機(jī)器人在硅谷商場撞向小孩，導(dǎo)致16個(gè)月大的小孩受傷?！堵迳即墪r(shí)報(bào)》引用該公司的話稱，這是一件“奇怪的事故”。

4、特斯拉Autopilot導(dǎo)致車主死亡

Joshua Brown駕駛特斯拉汽車在路上行駛，當(dāng)時(shí)他啟動了Autopilot功能，結(jié)果汽車在佛羅里達(dá)高速公路與掛有拖車的卡車相撞，這是Autopilot第一次造成車主。事故發(fā)生之后，特斯拉對Autopilot進(jìn)行升級，馬斯克聲稱該軟件本來應(yīng)該可以避免碰撞。Autopilot還在中國造成傷亡事故，雖然事故與AI系統(tǒng)并無直接關(guān)系。

5、微軟聊天機(jī)器人Tay發(fā)表種族主義、性別歧視言論，侮辱同性戀

微軟曾經(jīng)在Twitter推出聊天機(jī)器人Tay.ai，本意是想與年輕用戶建立聯(lián)系。Tay是以十幾歲的女孩作為原型設(shè)計(jì)的，結(jié)果她變成了推崇希特勒、抨擊女權(quán)主義的惡魔;剛剛上線一天就變成這樣。微軟將Tay從社交媒體平臺撤下，還說要對算法進(jìn)行調(diào)整。

AI挑選出的選美贏家

6、AI成為選美比賽的評委，結(jié)果導(dǎo)致種族歧視

在第一屆由AI擔(dān)任評委的國際選美比賽中，機(jī)器人小組對選手的臉進(jìn)行評判，算法可以精準(zhǔn)評估各項(xiàng)標(biāo)準(zhǔn)，這些標(biāo)準(zhǔn)與人類對美、健康的感知聯(lián)系在一起。由于AI沒有經(jīng)歷過多樣化訓(xùn)練，最終比賽選出來的贏家全部是白人。Yampolskiy評價(jià)說：“美成為了模式識別器。”

7、《口袋妖怪Go》將玩家留在白人社區(qū)

7月份，《口袋妖怪Go》迅速走紅，一些用戶注意到，在主要的黑人社區(qū)缺少玩游戲的場所。Mint 首席數(shù)據(jù)官 Anu Tewary 認(rèn)為，之所以出現(xiàn)這樣的事情，主要是因?yàn)樗惴ㄖ谱髡邲]有進(jìn)行多樣化訓(xùn)練，他們沒有在這些社區(qū)投入時(shí)間。

8、谷歌AI系統(tǒng)AlphaGo在圍棋比賽第四局輸給了李世石

2016年3月，AlphaGo在5個(gè)回合的比賽中戰(zhàn)勝了李世石，他曾經(jīng)18次成為圍棋世界冠軍。雖然AI算法贏得對決，但是李世石贏下一局意味著AI算法仍然不是完美的。

新南威爾斯大學(xué)的人工智能教授 Toby Walsh認(rèn)為：“看起來李世石找到了蒙特卡洛樹搜索(MCTS)的弱點(diǎn)。”雖然這次失利可以視為AI的缺陷，但是Yampolskiy認(rèn)為這種失誤在允許范圍之內(nèi)。

9、中國面部識別研究可以預(yù)測犯罪，但是存在種族歧視

上海交通大學(xué)的兩名研究人員發(fā)布一份報(bào)告，報(bào)告的名稱叫作 “利用面部圖像自動進(jìn)行犯罪推理”。Mirror報(bào)道稱，研究人員將1856個(gè)人的臉部圖像(當(dāng)中一半是暴力罪犯的臉)輸入計(jì)算機(jī)，然后分析。

研究人員得出結(jié)論稱，在預(yù)測犯罪時(shí)可以找到一些能夠識別的結(jié)構(gòu)特點(diǎn)，比如唇曲率、眼內(nèi)角距、口鼻角度等。行業(yè)人士對結(jié)果存在質(zhì)疑，他們還認(rèn)為該研究會與道德產(chǎn)生沖突。

10、保險(xiǎn)公司用Facebook數(shù)據(jù)預(yù)測問題發(fā)生概率

英格蘭最大保險(xiǎn)公司Admiral Insurance利用Facebook用戶發(fā)布的帖子，查找用戶使用社交媒體與能否成為好司機(jī)之間的關(guān)系。

這次實(shí)驗(yàn)算不上是AI的失誤，它只是濫用了AI。新南威爾斯大學(xué)的人工智能教授 Toby Walsh認(rèn)為，F(xiàn)acebook封殺這一項(xiàng)目值得夸獎(jiǎng)。這個(gè)項(xiàng)目名叫“firstcarquote”，它并沒有啟動，因?yàn)镕acebook禁止公司獲以數(shù)據(jù)。

從這些案例可以看出，AI很容易就會變得偏激。用多樣化數(shù)據(jù)對機(jī)器學(xué)習(xí)算法進(jìn)行訓(xùn)練，可以有效防止偏激產(chǎn)生。隨著AI功能越變越強(qiáng)大，確保研究項(xiàng)目得到有效檢查，用多樣化數(shù)據(jù)訓(xùn)練，讓研究符合倫理標(biāo)準(zhǔn)，這些都是至關(guān)重要的事。

原文來自：techrepublic