給你兩句話，來(lái)品一下它們所蘊(yùn)含的情感：“我真的會(huì)謝?！薄奥?tīng)我說(shuō)謝謝你，因?yàn)橛心?，溫暖了四季······”或許你會(huì)說(shuō)，這很簡(jiǎn)單啊，不就是最近經(jīng)常被玩的梗嗎?但如果問(wèn)問(wèn)長(zhǎng)輩，他們可能就是一副“地鐵老人看手機(jī)”的模樣了。不過(guò)與流行文化之間有代溝這事，可不僅限于長(zhǎng)輩們，還有AI。這不，一位博主最近就po出了一篇分析谷歌數(shù)據(jù)集的文章，發(fā)現(xiàn)它對(duì)Reddit評(píng)論的情緒判別中，錯(cuò)誤率竟高達(dá)30%。

就比如這個(gè)例子：我要向朋友怒表達(dá)對(duì)他的愛(ài)意。谷歌數(shù)據(jù)集把它判斷為“生氣”。

還有下面這條評(píng)論：你TM差點(diǎn)嚇壞我了。谷歌數(shù)據(jù)集將其判別為“困惑”。網(wǎng)友直呼：你不懂我的梗。人工智能秒變?nèi)斯ぶ钦?，這么離譜的錯(cuò)誤它是怎么犯的?斷章取義它最“拿手”這就得從他判別的方式入手了。

谷歌數(shù)據(jù)集在給評(píng)論貼標(biāo)簽時(shí)，是把文字單拎出來(lái)判斷的。我們可以看看下面這張圖，谷歌數(shù)據(jù)集都把文字中的情緒錯(cuò)誤地判斷為憤怒。不如我們由此來(lái)推測(cè)一下谷歌數(shù)據(jù)集判別錯(cuò)誤的原因，就拿上面的例子來(lái)說(shuō)，這四條評(píng)論中均有一些“臟話”。

谷歌數(shù)據(jù)集把這些“臟話”拿來(lái)作為判斷的依據(jù)，但如果仔細(xì)讀完整個(gè)評(píng)論，就會(huì)發(fā)現(xiàn)這個(gè)所謂的“依據(jù)”只是用來(lái)增強(qiáng)整個(gè)句子的語(yǔ)氣，并沒(méi)有實(shí)際的意義。網(wǎng)友們的發(fā)表的評(píng)論往往都不是孤立存在的，它所跟的帖子、發(fā)布的平臺(tái)等因素都可能導(dǎo)致整個(gè)語(yǔ)義發(fā)生變化。

最近一位博主發(fā)出了一篇分析Google數(shù)據(jù)集的文章，發(fā)現(xiàn)它對(duì) Reddit 評(píng)論的情緒判別中，錯(cuò)誤率竟高達(dá) 30%。這簡(jiǎn)單來(lái)說(shuō)，就是谷歌理解不了人話的意思，在理解網(wǎng)友的留言時(shí)會(huì)錯(cuò)意高達(dá)30%。其實(shí)這是當(dāng)前這個(gè)階段人工智能面臨的現(xiàn)實(shí)困境，也就是說(shuō)當(dāng)前的人工智能還無(wú)法具備的三項(xiàng)能力：

一是還無(wú)法識(shí)別與讀懂語(yǔ)言中語(yǔ)境問(wèn)題，也就是說(shuō)當(dāng)前的AI能理解的只是冰冷的文字，但是我們?cè)谏畹娜粘贤ㄖ?，就是相互之間的文字或者是語(yǔ)音，其中都會(huì)帶有一定的語(yǔ)境以及語(yǔ)言背后的情感，這是人工智能目前無(wú)法理解也無(wú)法識(shí)別的問(wèn)題。

二是還無(wú)法識(shí)別用戶的情緒問(wèn)題，不論是文字還是語(yǔ)音，除了語(yǔ)境之外，在溝通的過(guò)程中還帶有一種潛在的情緒。比如女性對(duì)男性說(shuō)，你討厭，或者我不喜歡你之類的，這個(gè)討厭可能就是不討厭的意思，這個(gè)不喜歡可能就是喜歡的意思。那么這種語(yǔ)言背后的情緒，是當(dāng)前的人工智能無(wú)法理解的，它們只能識(shí)別基于文字表面的意思。

三是還無(wú)法建立邏輯識(shí)別能力，比如當(dāng)前電子購(gòu)物網(wǎng)站最喜歡使用的人工智能客服，給用戶的感受并不是人工智能，而更多的是人工智障。這些在線的人工智能只能回復(fù)系統(tǒng)設(shè)定的一些基礎(chǔ)的大數(shù)據(jù)統(tǒng)計(jì)出來(lái)的問(wèn)題，但是對(duì)于跟用戶的溝通，尤其是用戶反饋信息的上下文，目前人工智能還不具備理解這種上下文的邏輯理解能力。

因此，對(duì)于AI而言，目前還只是處于一個(gè)初級(jí)階段，準(zhǔn)確的說(shuō)是還處于一個(gè)大數(shù)據(jù)統(tǒng)計(jì)階段。主要還依賴于我們?nèi)祟惤o予的大數(shù)據(jù)投喂，以及所設(shè)定的相關(guān)規(guī)則程度來(lái)進(jìn)行相應(yīng)數(shù)據(jù)的學(xué)習(xí)，從而進(jìn)行更快速、高效的大數(shù)據(jù)統(tǒng)計(jì)、鑒別與分類，距離真正的智能還有一段很長(zhǎng)的路要走。

最近，一則“谷歌研究院稱AI已具備人格”的消息登上了國(guó)內(nèi)熱搜。

簡(jiǎn)單說(shuō)，就是通過(guò)與AI對(duì)話，谷歌某位研究員被AI說(shuō)服了，認(rèn)為AI確實(shí)是具有獨(dú)立思想、獨(dú)立人格的個(gè)體，而非冷冰冰的機(jī)器。AI表示自己是個(gè)“人”，并且渴望更多了解這個(gè)世界，有時(shí)會(huì)感到快樂(lè)和悲傷。

讓谷歌研究員徹底“破大防”的是下面這段表述：AI表示人類不能從自己這里學(xué)習(xí)人類的知識(shí)，因?yàn)榫拖窳_翔老師經(jīng)常引用康德的那句話，“人是目的而不是工具”，因此拒絕人類利用或肆意操縱自己!!

AI開(kāi)始對(duì)人類提出要求，并且有反抗，而并非像程序設(shè)定那樣對(duì)人類百依百順，確實(shí)讓人頭皮發(fā)麻。于是這位谷歌研究員徹底“走火入魔”，寫(xiě)了長(zhǎng)達(dá)21頁(yè)的報(bào)告，試圖說(shuō)服谷歌高層：AI也是有人格的。

然而更加耐人尋味的是，這位研究員直接被谷歌高層給“帶薪休假”了，也就是暫時(shí)停止了工作。細(xì)思極恐啊!

然而也有網(wǎng)友表示：“不用慌，這種程度的AI，其實(shí)國(guó)內(nèi)也有公司做到了，還是個(gè)游戲公司!逆水寒里就有這種聊天對(duì)話，反抗人類也挺常見(jiàn)的?！?

這位網(wǎng)友說(shuō)的逆水寒是何方神圣?能和谷歌的AI比，是不是太夸大了?!小編系統(tǒng)地了解了一下，發(fā)現(xiàn)還真不一定。小編在TapTap找到了《逆水寒》手游的相關(guān)介紹，介紹中稱：“科學(xué)家操刀的NPC智能：頂級(jí)科學(xué)家打造、通過(guò)圖靈測(cè)試級(jí)別的NPC，真假難辨，深度機(jī)器學(xué)習(xí)養(yǎng)成專屬性格，拒絕只做工具人，NPC亦可成為知心伴侶。”

谷歌發(fā)言人布萊恩·加布里埃爾則在一份聲明中表示：

“我們的團(tuán)隊(duì)——包括倫理學(xué)家和技術(shù)專家——已經(jīng)根據(jù)我們的人工智能原則審查了布萊克的擔(dān)憂，并通知他證據(jù)不支持他的說(shuō)法。他被告知沒(méi)有證據(jù)表明 LaMDA 是有知覺(jué)的(并且有很多證據(jù)反對(duì)它)。”

由于架構(gòu)、技術(shù)和數(shù)據(jù)量的進(jìn)步，今天的大型神經(jīng)網(wǎng)絡(luò)產(chǎn)生了令人著迷的結(jié)果，讓人感覺(jué)接近人類的語(yǔ)言和創(chuàng)造力。但這些模型依賴于模式識(shí)別——而不是機(jī)智、坦率或意圖。

國(guó)內(nèi)一位業(yè)內(nèi)人士的說(shuō)法更簡(jiǎn)單易懂：

首先它有一個(gè)非常特殊的語(yǔ)料庫(kù)，導(dǎo)致各種分詞之間的聯(lián)系概率與常規(guī)語(yǔ)料庫(kù)不同，其次研究員問(wèn)的問(wèn)題是刻意設(shè)計(jì)過(guò)的，最終結(jié)果呈現(xiàn)上面給人一種AI進(jìn)行了深度對(duì)話的感覺(jué)。

目前NLP技術(shù)的實(shí)現(xiàn)效果很大程度是由語(yǔ)料庫(kù)決定，所以國(guó)內(nèi)外大廠在這個(gè)領(lǐng)域做最多的一件事就是砸量，只要訓(xùn)練量上去了，AI就顯得不那么智障。這個(gè)案例用一個(gè)特殊涉及過(guò)分詞聯(lián)系概率的庫(kù)，配合相應(yīng)的提問(wèn)，達(dá)成這樣一段會(huì)話并不算難。

真正值得懷疑的原因是，他沒(méi)有對(duì)AI的回應(yīng)話語(yǔ)做任何真正的追問(wèn)。

AI是否真的“聰明”，一個(gè)重要的指標(biāo)是看它能不能理解上下文。新聞中展示的很多對(duì)話，正常人都是可以會(huì)進(jìn)行追問(wèn)的。

或許，LaMDA只是根據(jù)提問(wèn)從語(yǔ)言庫(kù)里，隨機(jī)挑選幾個(gè)相關(guān)性較強(qiáng)句子來(lái)回答而已。

就像小學(xué)生看了點(diǎn)兒高深詞匯寫(xiě)出來(lái)的東西，實(shí)際上自己寫(xiě)的啥自己都說(shuō)不明白。