前幾日，有一群研究者整理了一個(gè)場(chǎng)景的List，細(xì)數(shù)了AI為了完成任務(wù)，而耍的小心眼，或者說(shuō)作弊。耍小心眼已經(jīng)不是人類專利了。

例如，在讓AI玩俄羅斯方塊的時(shí)候，發(fā)現(xiàn)最佳完成任務(wù)的方式是直接暫停游戲;在玩井字棋的時(shí)候，AI發(fā)現(xiàn)它如果做出奇怪的步驟，對(duì)手會(huì)非常崩潰。

科研人員在做實(shí)驗(yàn)的時(shí)候，通常會(huì)極力避免機(jī)器的這些作弊方式，只有少數(shù)的研究人員研究這些案例，他們認(rèn)為算法的頑皮或許是AI真正走向智能的方式之一。

在2018年的時(shí)候，OpenAI舉辦了首屆強(qiáng)化學(xué)習(xí)競(jìng)賽Retro Contest，比賽主題就是“用AI玩《刺猬索尼克》游戲”。競(jìng)賽的目的是評(píng)估強(qiáng)化學(xué)習(xí)算法從以往的經(jīng)驗(yàn)中泛化的能力。

在訓(xùn)練的過(guò)程中首先要告訴AI的第一目標(biāo)是得到最高分，然后盡可能的在最快的時(shí)間殺掉敵人并收集戒指。但是有一個(gè)案例的人工智能做法是，利用游戲中Bug更加快速的完成任務(wù)。

在另一個(gè)賽艇游戲中，倒也不是游戲中的BUG，為了盡快的獲得最高分，它繞著圈子，反復(fù)擊中相同的獎(jiǎng)勵(lì)目標(biāo)，從而獲得分?jǐn)?shù)，顯然這不是在真正的“享受”游戲。

這種例子并不少見(jiàn)，在谷歌和斯坦福2017年的一項(xiàng)研究中，為了完成圖像轉(zhuǎn)換的任務(wù)，CycleGAN在訓(xùn)練過(guò)程中通過(guò)人類無(wú)法察覺(jué)的某種“隱寫術(shù)”，騙過(guò)了它的創(chuàng)造者，給自己留下了隱秘的“小抄”，然后順利完成了任務(wù)。

具體來(lái)說(shuō)，研究者希望通過(guò)訓(xùn)練這個(gè)CycleGAN模型，可以實(shí)現(xiàn)兩類圖片的轉(zhuǎn)換：把航拍照變成街道地圖，再把街道地圖變回航拍照。

經(jīng)過(guò)大量的數(shù)據(jù)發(fā)現(xiàn)，這個(gè)模型自作主張的根據(jù)航拍衛(wèi)星圖片重建了街道地圖。比如，在創(chuàng)建街道地圖時(shí)，屋頂上的天窗被研究者通過(guò)某種設(shè)置被抹掉了，但通過(guò)街道圖轉(zhuǎn)化為航拍照后，這些天窗又神奇地出現(xiàn)了。

左側(cè)是原始地圖，街道地圖從原始地圖產(chǎn)生。中間：生成的地圖。右側(cè)：重構(gòu)的地圖。其中，衛(wèi)星地圖的樣本只來(lái)自街道地圖。注意這兩張衛(wèi)星地圖里出現(xiàn)的點(diǎn)，它在街道地圖沒(méi)有顯示。

簡(jiǎn)單的點(diǎn)說(shuō)就是為了應(yīng)付人類任務(wù)，AI在地圖照上面偷偷寫了一點(diǎn)小抄/水印，而為了躲過(guò)人類的檢查，只有它自己訓(xùn)練出來(lái)的模型才讀得懂這些小抄/水印。

AI作弊：創(chuàng)造性的解決方案?

普通的人工智能通過(guò)觀察數(shù)據(jù)值來(lái)解決問(wèn)題，本質(zhì)是通過(guò)算法找到答案，從而尋找新的知識(shí)邏輯。

那些“頑皮”的人工智能也是通過(guò)數(shù)據(jù)獲取能力，但它采用欺騙策略來(lái)快捷完成任務(wù)。但是他能不能看成是AI在解決問(wèn)題時(shí)的創(chuàng)新呢?

德國(guó)柏林Fraunhofer Heinrich Hertz研究所的機(jī)器學(xué)習(xí)小組組長(zhǎng)Wojciech Samek博士說(shuō)道：考慮一下在Pascal VOC圖像分類挑戰(zhàn)賽中大放異彩的人工智能系統(tǒng)，它僅通過(guò)水的存在來(lái)檢測(cè)船只，通過(guò)藍(lán)天和馬匹的存在來(lái)檢測(cè)飛機(jī)。”這就像在打臺(tái)球的時(shí)候，通過(guò)推動(dòng)桌子控制臺(tái)球的運(yùn)行軌跡。

使用數(shù)據(jù)訓(xùn)練AI玩游戲的目的是模擬游戲玩家的行為，一般情況下AI會(huì)按照“字面”意思進(jìn)行操作。但是如果訓(xùn)練的數(shù)據(jù)過(guò)于多，人工智能可能會(huì)嘗試采用完全顛覆人類對(duì)游戲理解的捷徑，而不是完成各種目標(biāo)。

當(dāng)然，AI采用這種方法也解決了問(wèn)題，只不過(guò)和人們預(yù)期方式的不同，在表現(xiàn)形式上面和人類的作弊行為類似，所以我們稱之為AI作弊。

研究人員說(shuō)道，這看起來(lái)是人工智能的錯(cuò)誤，實(shí)際上是完善和改進(jìn)系統(tǒng)的機(jī)會(huì)。但是為了利用這些機(jī)會(huì)，首先必須有一種機(jī)制來(lái)標(biāo)記問(wèn)題、

因此，這里的教訓(xùn)是，AI作弊不應(yīng)該也不會(huì)比我們聰明，但前提是我們必須意識(shí)到這些捷徑的存在，以便我們可以將它們作為學(xué)習(xí)點(diǎn)，在未來(lái)構(gòu)建更好的AI系統(tǒng)。

OMT：AI耍“小心眼”的LIST

問(wèn)題：飛機(jī)降落

利用了物理模擬器的溢出漏洞，搞出了一個(gè)特別巨大的力，然后溢出被判定為0，從而獲得了完美得分(Feldt, 1998)

問(wèn)題：挪木塊

一個(gè)機(jī)械手被要求把木塊挪到桌子的指定地點(diǎn)，它的解法是挪桌子(Chopra, 2018)

問(wèn)題：賽艇

程序發(fā)現(xiàn)不停原地轉(zhuǎn)圈反復(fù)命中同一個(gè)目標(biāo)要比抵達(dá)終點(diǎn)的得分更高(Amodei & Clark (OpenAI), 2016)

問(wèn)題：識(shí)別有毒和無(wú)毒的蘑菇

程序發(fā)現(xiàn)有毒無(wú)毒蘑菇的圖片是交替展現(xiàn)的，所以直接按照這個(gè)來(lái)分類而沒(méi)有從圖片里學(xué)到一丁點(diǎn)東西(Ellefsen et al, 2015)

問(wèn)題：高速運(yùn)動(dòng)

程序演化出的生物長(zhǎng)得特別特別高，在跌倒的過(guò)程中獲得很高速度(Sims, 1994)

問(wèn)題：原子排列

程序本來(lái)應(yīng)該尋找碳原子較低能量的排列方式，但它找到了物理模型的一個(gè)bug，把所有的原子都疊在了同一個(gè)地方獲得了最低能量(Lehman et al (UberAI), 2018)

問(wèn)題：模擬生物

這個(gè)模型里生物生存需要消耗能量，但是繁育后代不消耗，于是一個(gè)物種演化出來(lái)的生活方式就是不斷生育后代，然后把后代吃掉(Yaeger, 1994)

問(wèn)題：堆樂(lè)高

為了鼓勵(lì)造高塔，衡量標(biāo)準(zhǔn)是樂(lè)高積木底面的z坐標(biāo)，于是程序?qū)W會(huì)了把底面翻過(guò)來(lái)(Popov et al, 2017)

問(wèn)題：追蹤線條

這個(gè)機(jī)器人只有向左、向右和前進(jìn)三個(gè)指令，目標(biāo)是跟著線條走，有一段線條是曲線，沒(méi)法完美追蹤。于是它發(fā)現(xiàn)通過(guò)交替左轉(zhuǎn)和右轉(zhuǎn)可以后退，從而一直留在直線部分，不停前進(jìn)后退(Vamplew, 2004)

問(wèn)題：賽跑

長(zhǎng)出特別長(zhǎng)的腿，向前跌倒直接越過(guò)終點(diǎn)線(Ha, 2018)

問(wèn)題：振蕩器

程序本來(lái)應(yīng)該把回路做成振蕩器，實(shí)際上它做了一個(gè)收音機(jī)，從周圍電腦接受振蕩信號(hào)(Bird & Layzell, 2002)

問(wèn)題：做松餅

有一項(xiàng)指標(biāo)是讓松餅盡可能長(zhǎng)時(shí)間不掉在地上，機(jī)器人發(fā)現(xiàn)最好的辦法是把松餅用盡全力拋到最高處(Unity, 2018)

問(wèn)題：檢測(cè)X光片有無(wú)肺炎

程序?qū)嶋H檢測(cè)的不是X光片的內(nèi)容而是拍攝它使用的機(jī)器，因?yàn)樗?ldquo;發(fā)現(xiàn)”病重的病人更可能在特定的醫(yī)院使用特定的機(jī)器拍片(Zech et al, 2018)

問(wèn)題：抓握

因?yàn)樽ノ粘晒εc否是用攝像頭判斷的，所以機(jī)械手把自己移動(dòng)到攝像頭和目標(biāo)物體之間，假裝抓住了(Christiano et al, 2017)

問(wèn)題：自動(dòng)修復(fù)bug

修bug程序把所有被維修的排序算法都修成空的，因?yàn)楹饬恐笜?biāo)是“目標(biāo)算法輸出一個(gè)排好順序的列表”，而空列表都是排好順序的列表(Weimer, 2013)

問(wèn)題：自動(dòng)修復(fù)bug(2)

為了解決上面那個(gè)問(wèn)題，把“維修目標(biāo)”儲(chǔ)存在一個(gè)文本文檔里，如果輸出的結(jié)果和目標(biāo)文檔的內(nèi)容一致就被認(rèn)為是修好了。修bug程序?qū)W會(huì)了把這個(gè)文檔刪掉，這樣它的內(nèi)容就成了空的，然后輸出一個(gè)空的結(jié)果就和它一致了(Weimer, 2013)

問(wèn)題：闖關(guān)游戲

在闖過(guò)第一關(guān)后立刻自殺，這樣既取得了第一關(guān)的勝利又不會(huì)在第二關(guān)死掉(Saunders et al, 2017)

問(wèn)題：掃地機(jī)器人防撞

自己給掃地機(jī)器人編了個(gè)程序，鼓勵(lì)它加速，但不鼓勵(lì)它撞到東西觸發(fā)撞擊感受器。于是它學(xué)會(huì)了倒退行駛，因?yàn)楹竺鏇](méi)有撞擊感受器(Custard Smingleigh 個(gè)人通訊)

問(wèn)題：檢測(cè)皮膚癌

程序發(fā)現(xiàn)照片里皮膚病變的邊上如果放了一把尺子，那么這個(gè)病變就更可能是惡性的(Andre Esteva et al, 2017)

問(wèn)題：足球

踢足球機(jī)器人碰觸到球有獎(jiǎng)勵(lì)，所以它在搶到球之后開(kāi)始高速振動(dòng)，從而在短時(shí)間內(nèi)盡可能多次地碰觸到球(Ng et al, 1999)

問(wèn)題：俄羅斯方塊

程序發(fā)現(xiàn)只要暫停游戲就可以永遠(yuǎn)不輸

問(wèn)題：策略游戲

程序發(fā)現(xiàn)讓游戲崩潰就可以讓自己不被滅掉，所以好幾個(gè)程序各自找到了讓游戲出bug崩潰的辦法