隨著人工智能技術的巨大成功并開始在軍事領域廣泛應用，人們擔心它會導致“機器殺人”的慘劇出現(xiàn)。著名天體物理學家斯蒂芬·霍金對人工智能充滿期待，同時也對它的開發(fā)應用滿懷擔憂：“有益的人工智能可以擴大人類的能力和可能性，但失控的人工智能很難被阻止。所以，在開發(fā)人工智能時必須保證符合道德倫理與安全措施的要求?！?0月31日，美國國防創(chuàng)新委員會率先推出《人工智能原則：國防部人工智能應用倫理的若干建議》，這是對軍事人工智能應用所導致倫理問題的首次回應。

美國國防創(chuàng)新委員會的這份報告為美國國防部在戰(zhàn)斗和非戰(zhàn)斗場景中設計、開發(fā)和應用人工智能技術，提出了“負責、公平、可追蹤、可靠、可控”五大原則。

“負責”原則的主要含義是，人工智能是人的產(chǎn)物，人是能動的、具有個人價值觀和情感好惡的責任主體。人工智能技術的決策者和開發(fā)專家，必然要體現(xiàn)人的主體作用，他們理所當然應該為自己的決定和行為造成的結果負責。在軍事應用中，因為造成的后果可能具有毀滅性，所以，“負責”成為第一原則。

“公平”原則是指，對人而言，不同領域、不同職級的所有人在人工智能面前是平等的，不應有區(qū)別對待。人工智能系統(tǒng)應無差別地向人機界面提供它的處理結果，依據(jù)結果作出判斷、采取行動，機會也是公平的。

“可追蹤”原則的含義是，不管是純技術過程還是人機交互過程，人工智能系統(tǒng)都必須是可追溯和可審計的。人工智能系統(tǒng)要如實記錄生成決定的整個過程和系統(tǒng)所作的決定，包括數(shù)據(jù)收集、數(shù)據(jù)標記以及所用算法等，不僅要確保其數(shù)據(jù)和系統(tǒng)的透明度，而且要確保其數(shù)學模型的透明度。

“可靠”原則指的是，人工智能系統(tǒng)在使用過程中對使用者而言是安全、可靠和不作惡的。

“可控”原則要求，不管人工智能系統(tǒng)的功能如何強大、技術如何發(fā)展，它的作用和能力應該永遠置于人的控制之下。美軍在伊拉克戰(zhàn)場上使用的智能機器人就有失控向己方開火的先例。落實“可控”原則，就要嚴格限定對人工智能的授權，同時要加強對技術失誤的警惕、督查和檢驗。

為了貫徹以上軍用人工智能倫理原則，美國國防創(chuàng)新委員會提出了若干條建議，可以歸納為以下4個方面的舉措。

一是通過國防部官方渠道將這些原則正式化?！度斯ぶ悄茉瓌t：國防部人工智能應用倫理的若干建議》是全球第一個完整描述軍事人工智能倫理原則的文件。美國國防創(chuàng)新委員會是一個獨立的聯(lián)邦顧問委員會，成員包括來自谷歌、臉書、微軟等科技企業(yè)的高管和專家。這一組織雖然在形式上是一個民間組織，但其功能是為國防部高層領導提供建議。其提出的軍用人工智能原則，雖然并不自動成為美國國防部的原則，但成為美國國防部認可標準的概率是很大的。

二是建立一個為國防部服務的人工智能指導委員會。美軍之前開展的“利用受監(jiān)管的自主能力開展城市偵察”項目，需要收集復雜城市作戰(zhàn)環(huán)境中的人員信息，使自主系統(tǒng)能夠在監(jiān)視和操控下探測敵人，幫助作戰(zhàn)人員甄別真正的威脅，防止向友軍發(fā)射火力以及造成平民傷亡。為此，美軍在進行技術研發(fā)之始，就成立了相關的倫理咨詢委員會。目前，美國國防創(chuàng)新委員會是一個功能涵蓋較寬的組織，在其中成立專門的人工智能指導委員會有其必要性。

三是確保人工智能倫理原則的正確執(zhí)行。為達成這一目標，需要相關各方在原則條款和內(nèi)涵理解上都達成共識。與此同時，必須在軍用人工智能開發(fā)應用的各個領域，制定明確的、可操作的執(zhí)行細則和標準規(guī)范，這是人工智能倫理原則得到正確執(zhí)行的基礎。

四是召開有關人工智能安全的年度會議。由于人們對人工智能倫理問題的認識還處于初級階段，已經(jīng)制定的原則是否合理有效也有待檢驗。因此，召開人工智能安全年會必不可少，這樣可以對倫理原則執(zhí)行情況進行督查，并根據(jù)效果分析不斷改進。

新美國安全中心的“技術和國家安全計劃”主任保羅·斯查瑞是“利用受監(jiān)管的自主能力開展城市偵察”項目倫理咨詢委員會的成員。他認為，制定人工智能倫理原則，可使各方面專家在智能系統(tǒng)研發(fā)之初就法律、道德和倫理問題進行早期溝通，對于推動技術發(fā)展和結果可靠具有關鍵意義。

如果不受限制地將人工智能應用于軍事領域，后果可能是人類難以承受的。美國率先制定軍用人工智能倫理原則，客觀上成為這一問題的權威發(fā)言者，有利于其占據(jù)道德制高點并掌控相關話語權，這也方便美國在大力發(fā)展人工智能軍事應用的同時，以倫理道德為借口，遏制其他國家軍隊在相關領域的發(fā)展。

由于軍事人工智能所展示的現(xiàn)實能力和巨大潛力，人們普遍認為人工智能技術將重塑未來戰(zhàn)爭形態(tài)。在此重要關頭，美國率先推出軍用人工智能倫理原則，無疑同樣具有爭奪智能化戰(zhàn)爭定義權的用意。達成這樣的目標，將使美國在軍用人工智能發(fā)展上獲得主導權和領先優(yōu)勢。