科技云報(bào)道原創(chuàng)。

傳說(shuō)地球上本沒(méi)有火種，那時(shí)人類(lèi)的生活非常困苦，沒(méi)有火燒烤食物，也沒(méi)有火來(lái)照明。普羅米修斯造福給人類(lèi)，冒著生命危險(xiǎn)，從太陽(yáng)神阿波羅那里偷走了一個(gè)火種，給人類(lèi)帶來(lái)了光明。但他殊不知，火種帶給人類(lèi)的不只是光明，還有更多的麻煩。

最近一段時(shí)間，軍用AI和主動(dòng)攻擊型武器的問(wèn)題鬧得沸沸揚(yáng)揚(yáng)，很多AI研究者聯(lián)名反對(duì)這項(xiàng)技術(shù)的軍事化。Google近4000名員工簽署請(qǐng)?jiān)笗?shū)，要求公司中止Maven項(xiàng)目，以及一切與戰(zhàn)爭(zhēng)有關(guān)的業(yè)務(wù)，因?yàn)檫@已經(jīng)和Google的價(jià)值觀相去甚遠(yuǎn)。

當(dāng)AI技術(shù)擴(kuò)散至其他領(lǐng)域，被用來(lái)提升醫(yī)學(xué)、交通、金融、軍事等領(lǐng)域的效率時(shí)，跟圍棋一樣，人類(lèi)敗下陣來(lái)的消息只會(huì)越來(lái)越多。

特別是在軍用技術(shù)上，如果人類(lèi)跟不上軍用機(jī)器人的節(jié)奏，那它就不僅僅是批評(píng)或者抗議人類(lèi)了，它向拖自己的后腿的人類(lèi)開(kāi)火也不是完全不可能。

或?qū)⒁l(fā)新一輪軍備升級(jí)

AI引領(lǐng)軍事形態(tài)全面進(jìn)化

美軍去年公開(kāi)的JADE項(xiàng)目，就計(jì)劃打造這樣一個(gè)自動(dòng)化武器系統(tǒng)：它通過(guò)分析社交媒體來(lái)進(jìn)行作戰(zhàn)決策，其中包括致命性武器的自動(dòng)使用，以最小化作戰(zhàn)行動(dòng)中的人為干預(yù)。

這就向人類(lèi)提出了一個(gè)疑問(wèn)：軍用AI技術(shù)將開(kāi)啟人類(lèi)走向毀滅的第一步？AI與軍事真的不能共存嗎？

目前在武器裝備和指揮控制方面，AI主要集中在陸地、海洋、太空等各類(lèi)作戰(zhàn)機(jī)器人的研發(fā)應(yīng)用和各類(lèi)智能炸彈的研發(fā)領(lǐng)域。

隨著數(shù)據(jù)挖掘技術(shù)、大規(guī)模并行算法及AI技術(shù)的不斷完善并廣泛應(yīng)用在軍事上，情報(bào)、決策與作戰(zhàn)一體化將取得快速進(jìn)展。實(shí)際上，能在無(wú)人控制的情況下搜索并消除目標(biāo)的自主武器就是典型應(yīng)用，也是當(dāng)前AI軍事化的最主要應(yīng)用。

能夠自主運(yùn)作的軍用機(jī)器人被歸為致命性自主武器系統(tǒng)（LAWS），目前各國(guó)發(fā)展的無(wú)人飛行器、無(wú)人地面車(chē)輛、無(wú)人水面艇等能夠自主運(yùn)作的武器系統(tǒng)在某種程度上都屬于LAWS的范疇。這些武器裝備體現(xiàn)出了較高的應(yīng)用價(jià)值。

比如研發(fā)于2005年的BigDog，由DARPA出資，目的是造出一種能夠負(fù)重的機(jī)械騾，伴隨士兵一起在傳統(tǒng)機(jī)械車(chē)輛無(wú)法行駛的粗糙地形上作戰(zhàn)。

2013年亮相的Atlas是一個(gè)類(lèi)人形機(jī)器人，同樣是由DARPA出資，設(shè)計(jì)目的是專(zhuān)門(mén)針對(duì)各種搜索營(yíng)救任務(wù)。

2016年公布的新版Atlas，可以在戶外和建筑物內(nèi)部操作，能自行開(kāi)門(mén)、抱箱子自動(dòng)平衡，被推倒也能自己站穩(wěn)，在雪地上行走毫無(wú)壓力。

但真正投入實(shí)戰(zhàn)的，卻是聲名遠(yuǎn)播的「掠食者」無(wú)人機(jī)，其MQ-9 型號(hào)是第一種專(zhuān)門(mén)設(shè)計(jì)作為獵殺用途的無(wú)人機(jī)，其飛行控制與武器使用均需從美軍的地面控制中心來(lái)操作。

避免滑向“失控”邊緣

如何防止技術(shù)異化對(duì)人類(lèi)的威脅？

在2017年人工智能?chē)?guó)際會(huì)議上，Tesla首席執(zhí)行官馬斯克、Apple聯(lián)合創(chuàng)始人沃茲、研發(fā)AlphaGo的DeepMind公司哈薩比斯等人簽署公開(kāi)信，呼吁聯(lián)合國(guó)應(yīng)像禁止生化武器一樣，禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器和“殺手機(jī)器人”。

霍金也曾指出，脫離人類(lèi)控制之下的機(jī)器很難被阻止住。

由于人工智能技術(shù)的發(fā)展局限，機(jī)器人可能將在環(huán)境或執(zhí)行程序復(fù)雜的情況中出現(xiàn)失控現(xiàn)象，比如在單獨(dú)執(zhí)行作戰(zhàn)任務(wù)或人機(jī)深度交流時(shí)。

比如2007年10月，美軍第三機(jī)步師一部帶著3臺(tái)“利劍”機(jī)器人進(jìn)攻一個(gè)反美武裝盤(pán)踞的據(jù)點(diǎn)時(shí)，由于沒(méi)有及時(shí)更換軟件，其中一臺(tái)“利劍”竟把槍口瞄準(zhǔn)美軍操作者，而且無(wú)論操作員如何發(fā)出“行動(dòng)取消”的指令，失控的“利劍”就是停不下來(lái)，直至用火箭筒把它炸翻才化險(xiǎn)為夷。

隨著越來(lái)越多的國(guó)家投入到軍用機(jī)器人的研究與開(kāi)發(fā)中去，世界已在不知不覺(jué)中滑進(jìn)了一場(chǎng)機(jī)器人軍備競(jìng)賽。毋庸置疑，軍事機(jī)器人相比于士兵，主要在功能、體能、效能方面具有優(yōu)勢(shì)。

軍事機(jī)器人可以同時(shí)承擔(dān)多項(xiàng)復(fù)雜任務(wù)，作戰(zhàn)可以更加持久，在程序設(shè)定完備后能夠高效精準(zhǔn)達(dá)成目標(biāo)，失誤率較低。

如果想要盡可能降低AI的負(fù)面影響，首先要堅(jiān)持人機(jī)結(jié)合、以人為主的原則，人類(lèi)應(yīng)當(dāng)保證對(duì)軍事機(jī)器人的控制權(quán)，制定應(yīng)對(duì)意外事件的應(yīng)急機(jī)制，建立防范機(jī)器人失控的后臺(tái)程序。

另外，應(yīng)當(dāng)加強(qiáng)人工智能的技術(shù)預(yù)測(cè)與評(píng)估，在充分試驗(yàn)與分析的基礎(chǔ)上逐步推進(jìn)人工智能技術(shù)的軍事應(yīng)用。

目前來(lái)看，AI在軍事領(lǐng)域的應(yīng)用潮流勢(shì)不可擋，在可預(yù)見(jiàn)的時(shí)期內(nèi)，AI將在情報(bào)偵察、后勤保障、無(wú)人作戰(zhàn)系統(tǒng)等領(lǐng)域發(fā)揮重要作用，但如何防止技術(shù)異化對(duì)人類(lèi)構(gòu)成新的威脅則是AI軍事化必須要解決的問(wèn)題。

來(lái)源：科技云報(bào)道