近日，在美國(guó)華盛頓特區(qū)的一次研討會(huì)上，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局(DARPA)宣布，計(jì)劃在未來(lái)五年內(nèi)，投資20億美元用于人工智能的研究。

在一個(gè)名為“AI Next”的計(jì)劃中，該機(jī)構(gòu)目前有超過(guò)20個(gè)項(xiàng)目正在進(jìn)行中。這些項(xiàng)目的研究重點(diǎn)包括提高機(jī)器學(xué)習(xí)和人工智能技術(shù)的安全性和彈性，提高電力、數(shù)據(jù)和性能方面的效率，并探索這些系統(tǒng)的“可解釋性”。

“機(jī)器缺乏上下文推理能力，它們的訓(xùn)練必須涵蓋所有可能發(fā)生的情況，這樣不僅成本高昂，而且?guī)缀醪豢赡芡瓿伞?rdquo;項(xiàng)目主管Steven Walker博士說(shuō)，“我們希望探索機(jī)器如何以類(lèi)似人類(lèi)的溝通和推理能力，來(lái)識(shí)別新情況和環(huán)境，并以此適應(yīng)它們。”

人工智能是一個(gè)廣義術(shù)語(yǔ)，它涵蓋了從檢索能力到機(jī)器學(xué)習(xí)的所有內(nèi)容，而且所有的定義都嚴(yán)重依賴(lài)于消耗數(shù)據(jù)來(lái)告知算法和“學(xué)習(xí)”。DARPA在這一領(lǐng)域有著悠久的研發(fā)歷史，但最近它的研發(fā)成果已被中國(guó)等外國(guó)強(qiáng)國(guó)超越。今年夏天早些時(shí)候，中國(guó)宣布計(jì)劃到2030年成為人工智能領(lǐng)域的領(lǐng)軍者。

在許多情況下，這些人工智能仍處于起步階段，但這項(xiàng)技術(shù)——尤其是機(jī)器學(xué)習(xí)——不僅有可能徹底改變用戶(hù)與技術(shù)的交互方式，還可能徹底改變企業(yè)和政府機(jī)構(gòu)利用這種技術(shù)與員工和公民進(jìn)行交互的方式。

機(jī)器學(xué)習(xí)有一個(gè)特點(diǎn)，在學(xué)習(xí)時(shí)，會(huì)將學(xué)習(xí)數(shù)據(jù)里的偏差納入人工智能系統(tǒng)。如果數(shù)據(jù)中包含漏洞或錯(cuò)誤信息，機(jī)器可能得出錯(cuò)誤的結(jié)論，例如：哪類(lèi)人“更有可能”犯罪，這類(lèi)錯(cuò)誤的結(jié)論可能會(huì)產(chǎn)生非常嚴(yán)重的后果。更可怕的是，即使機(jī)器產(chǎn)生了偏差，由于人工智能類(lèi)似于“黑盒子”的原理構(gòu)造，我們沒(méi)有辦法搞清楚它們是否有偏差、產(chǎn)生了哪些偏差以及為什么產(chǎn)生偏差。

換句話說(shuō)，即使是設(shè)計(jì)算法的研究人員，也不太了解機(jī)器如何得出它們的結(jié)論。

也就是說(shuō)，人工智能存在危險(xiǎn)性。但是，如果開(kāi)發(fā)者足夠謹(jǐn)小慎微，人工智能研究也可以成為創(chuàng)新和進(jìn)步的源泉。隨著DARPA的研究不斷向前推進(jìn)，我們將會(huì)看到他們?nèi)绾翁幚磉@些重要問(wèn)題。這些問(wèn)題已經(jīng)不僅僅是技術(shù)問(wèn)題，更是關(guān)系到每個(gè)人的社會(huì)問(wèn)題。