美陸軍聯(lián)合工業(yè)部門研究人員共同研發(fā)一種神經網絡衡量標準，用于評估下一代人工智能和機器學習算法的可靠性與可信度。

背景

深度神經網絡（DNNs）是一種利用訓練數據學習的機器學習形式，一旦數據接受訓練，即可在獲取新信息或輸入信息時做出預測；但如果新的信息超出訓練范圍，則很容易做出虛假判斷。研究人員表示，鑒于訓練數據和潛在輸入數據的信息多樣性，解決上述問題非常具有挑戰(zhàn)性。

研究成果應用

美陸軍研究實驗室研究人員認為，此項研究為創(chuàng)造下一代強大而有彈性的算法提供了一個新的研究機會，該方法用途廣泛，可作為附加模塊應用于陸軍眾多現(xiàn)代化算法中。新的衡量標準可幫助陸軍開發(fā)更加安全可靠的機器學習技術，并可應用于指揮控制系統(tǒng)、精確打擊和決策支持系統(tǒng)。

雖然目前工作已經取得一定成果，但尚未研發(fā)出可檢測新型攻擊的方法。在研究過程中，研究團隊提出了一個生成模型，該模型可以調整底層原始深層神經網絡中原始輸入圖像的各個方面，然后評估原始深層神經網絡對這些生成的輸入的響應，以測量模型的一致性。該方法不需要訪問訓練數據，不需要使用集合或需要在與訓練集不同的驗證數據集上訓練校準模型。

下一步計劃

研究人員將繼續(xù)與測試和評估團隊合作，完善算法，以衡量各種算法在不同應用程序中的可信度。該方法也對陸軍發(fā)展現(xiàn)代化優(yōu)先事項具有重要意義，對下一代網絡解決方案具有很重要的應用價值，向戰(zhàn)場作戰(zhàn)人員提供技術能力。