（文章來(lái)源：教育新聞網(wǎng)）

機(jī)器學(xué)習(xí)算法也開始超過(guò)許多狹窄和特定的領(lǐng)域，例如人力績(jī)效的圖像識(shí)別和某些類型的醫(yī)療診斷小號(hào)。它們還在更復(fù)雜的領(lǐng)域中得到了快速的改進(jìn)，例如生成令人反感的類人文字。我們?cè)絹?lái)越多地依賴機(jī)器學(xué)習(xí)算法，在廣泛的議題作出決定，從我們投入數(shù)十億小時(shí)看向誰(shuí)得到這份工作。

但是機(jī)器學(xué)習(xí)算法無(wú)法解釋他們做出的決定。如果我們不了解人們?nèi)绾巫龀鲞@些決定，我們?nèi)绾巫C明這些系統(tǒng)負(fù)責(zé)影響人們生活的決定?從機(jī)器學(xué)習(xí)算法中獲取比原始數(shù)據(jù)更多的渴望導(dǎo)致人們重新關(guān)注可解釋的AI：可以做出決定或采取行動(dòng)并告訴您背后原因的算法。是什么讓你這么說(shuō)?

在某些情況下，您已經(jīng)看到了通往可解釋的AI的道路。采用OpenAI的GTP-2模型或IBM的Project Debater。兩者都基于大量的訓(xùn)練數(shù)據(jù)生成文本，并嘗試使其與給出的提示盡可能相關(guān)。如果這些模型還能夠快速提供他們從中提取信息的那組訓(xùn)練數(shù)據(jù)中最重要的幾個(gè)來(lái)源，那么可能更容易理解“論點(diǎn)”(或關(guān)于獨(dú)角獸的詩(shī)文)的來(lái)龍去脈。從。

這類似于Google現(xiàn)在正在尋找其圖像分類器的方法。許多算法對(duì)紋理和圖像中相鄰像素之間的關(guān)系更敏感，而不是像人類一樣通過(guò)輪廓識(shí)別對(duì)象。這會(huì)導(dǎo)致奇怪的結(jié)果：某些算法可以愉快地識(shí)別出一只完全混亂的北極熊圖像，而不是北極熊剪影。

使圖像分類器可解釋的先前嘗試依賴于重要性映射。在這種方法中，算法將突出顯示做出決策的統(tǒng)計(jì)權(quán)重最大的圖像區(qū)域。通常，這是通過(guò)更改圖像中的像素組并查看哪些像素對(duì)算法對(duì)圖像的印象有最大的變化來(lái)確定的。例如，如果算法試圖識(shí)別停車標(biāo)志，則更改背景不太可能像更改停車標(biāo)志一樣重要。

Google的新方法通過(guò)以幾種不同的分辨率檢查對(duì)象并在主要對(duì)象中搜索與不同“子對(duì)象”的匹配來(lái)改變其算法識(shí)別對(duì)象的方式。您或我可能會(huì)從其閃光燈，輪胎和徽標(biāo)中識(shí)別出一輛救護(hù)車;我們可能會(huì)放大NBA球員所擁有的籃球來(lái)推斷他們的職業(yè)，等等。通過(guò)將圖像的整體分類與這些“概念”聯(lián)系起來(lái)，該算法可以解釋其決定：由于貓的尾巴和胡須，我將其分類為貓。

但是，即使在這個(gè)實(shí)驗(yàn)中，算法在決策中的“心理”也是違反直覺的。例如，在籃球案中，做出決定的最重要因素實(shí)際上是球員的球衣而不是籃球。您能解釋一下您不了解的內(nèi)容嗎?盡管看似微不足道，但這里的沖突是人工智能方法中的根本沖突。也就是說(shuō)，僅通過(guò)海量數(shù)據(jù)之間的統(tǒng)計(jì)關(guān)聯(lián)就可以達(dá)到多大的距離，您需要引入多少抽象概念才能產(chǎn)生真正的智能?

一方面，優(yōu)良的老式AI或GOFAI夢(mèng)想著完全基于符號(hào)邏輯的機(jī)器。該機(jī)器將采用狗，花朵，汽車等的概念進(jìn)行硬編碼，再加上我們內(nèi)部化的所有象征性“規(guī)則”，使我們能夠區(qū)分狗，花朵和汽車。(您可以想象一種類似的對(duì)話式AI方法將自上而下地教授單詞和嚴(yán)格的語(yǔ)法結(jié)構(gòu)，而不是像GPT-2那樣從訓(xùn)練數(shù)據(jù)中字母和單詞之間的統(tǒng)計(jì)關(guān)聯(lián)中“學(xué)習(xí)”語(yǔ)言。)

這樣的系統(tǒng)將能夠自我解釋，因?yàn)樗鼘⑻幚砀呒?jí)的，人類可理解的概念。方程更接近：“球” +“針” +“白色” =“棒球”，而不是由數(shù)百萬(wàn)個(gè)數(shù)字組成的將各種路徑連接在一起的集合。Google用來(lái)解釋其圖像識(shí)別的新方法中有GOFAI的要素：新算法可以根據(jù)對(duì)象包含的子對(duì)象來(lái)識(shí)別對(duì)象。為此，它至少需要基本了解那些子對(duì)象的外觀，以及將對(duì)象鏈接到子對(duì)象的規(guī)則，例如“貓有胡須”。

當(dāng)然，問(wèn)題是(可能是不可能的)勞動(dòng)強(qiáng)度大的任務(wù)，即定義所有這些符號(hào)概念以及可能用手將它們鏈接在一起的所有可能的規(guī)則。創(chuàng)建這樣的系統(tǒng)(可以處理現(xiàn)實(shí)中存在的“組合爆炸”)的困難，導(dǎo)致了第一個(gè)AI冬季。同時(shí)，神經(jīng)網(wǎng)絡(luò)依賴于對(duì)大量數(shù)據(jù)的訓(xùn)練。沒(méi)有監(jiān)督學(xué)習(xí)的“標(biāo)簽”，該過(guò)程可能與人類可以理解的任何概念都沒(méi)有關(guān)系(因此完全是無(wú)法解釋的)。

在這兩者之間的某個(gè)地方，是希望可以解釋的AI愛好者，是可以處理大量數(shù)據(jù)的快樂(lè)媒介，它為我們提供了最近的神經(jīng)網(wǎng)絡(luò)AI所擁有的所有好處，同時(shí)以人類可以理解的方式展示了它的工作原理。