3M公司發(fā)布科學現(xiàn)狀指數(shù)調查表明，中國民眾對科學和科學家的信任度高于全球平均水平，對于人工智能、自動駕駛和航天科技等新興技術的創(chuàng)新前景充滿希望。

3M的調查數(shù)據(jù)顯示，75%的中國受訪者認為人工智能是一項激動人心的技術，未來人類將更加依賴科學和人工智能，而全球相信人工智能的人比例為65%。

AI落地先要符合法規(guī)

人工智能的應用領域包括自動駕駛、健康醫(yī)療等。有92%的中國受訪者表示他們愿意搭乘無人駕駛汽車;43%的受訪者相信未來5年里，自動駕駛汽車會成為日常生活的一部分，這兩個數(shù)據(jù)全球的比例分別為71%和28%。

此外，相對于全球受訪者而言，中國受訪者更希望人工智能能夠用來改善健康問題，包括慢病治療，探索健康問題的致病機制，治療癌癥，解決心理和情緒等問題，以及使用數(shù)據(jù)分析記錄等手段長期跟蹤并改善健康。

不過專家表示，基于人工智能的應用在推廣普及前，首先要考慮解決隱私及合規(guī)問題，尤其是對于健康信息等一些敏感數(shù)據(jù)的收集、分析和處理。

3M公司大中華區(qū)研發(fā)運營總經理熊海錕向第一財經記者介紹道，3M公司看好人工智能等技術在健康醫(yī)療領域的應用前景，因此在全球醫(yī)療產品事業(yè)群成立了一個新的健康醫(yī)療信息系統(tǒng)部門(Health Information System Division，HISD)。

“我們觀察到，在美國和中國都在加強個人隱私的保護，尤其是對于健康信息這類敏感數(shù)據(jù)。”熊海錕對第一財經記者表示，“未來HISD將會如何在中國開展業(yè)務，也正在討論中，我們肯定要先遵守中國當?shù)氐谋O(jiān)管法規(guī)才能落地?！?

安永大中華區(qū)數(shù)字化與新興科技咨詢服務主管合伙人顧卿華對第一財經記者表示：“人工智能在實際應用落地時會涉及很多問題，包括個人隱私、社會倫理、道德情感、權責問題、法律法規(guī)的問題等。確保隱私數(shù)據(jù)的安全，這是第一步，只有在法律法規(guī)允許，個人授權的情況下才去存儲、處理、交換、傳輸個人隱私數(shù)據(jù)?！?

谷歌方面則駁回了 Lemoine 關于 LaMDA 有“自主情感”的說法，稱公司數(shù)百名研究人員和工程師已經與 LaMDA 進行了對話，得出了與 Lemoine 相反的結論。Lemoine 被要求“帶薪休假”，在谷歌這通常是被解雇的前奏。

而在專業(yè)人士看來，與谷歌官方所對外傳達的意見一致，此事為無稽之談。哈佛大學的認知心理學專家 Steven Pinker 也在推特上表示 Lemoine 認為人工智能擁有的自主情感說法屬于“胡言亂語”。

01 程序會有自主情感嗎

Blake Lemoine 是谷歌人工智能倫理(responsible AI)團隊的一名軟件工程師，他在 medium 的簡介是，“我是一名軟件工程師。我是一名牧師。我是一位父親。我是一名退伍軍人。我是一個前罪犯。我是一名人工智能研究人員。我是一個卡真人(美國路易斯安那州土著)。我是任何我需要成為的人?！?

他出生于美國南部一個基督教家庭，對于算法與人工智能的倫理問題一向很感興趣。就是他在上周聲稱發(fā)現(xiàn)谷歌的智能聊天機器人程序 LaMDA 有了“自主情感”。

LaMDA 是“對話應用的語言模型”(Language Model for Dialog Applications)的縮寫，屬于大型人工智能系統(tǒng)之一，這類系統(tǒng)接受了來自互聯(lián)網(wǎng)的大量文本的訓練，可以對書面提示做出反應?；旧?，它們就是在根據(jù)模式預測下一個單詞會是什么。

這類系統(tǒng)在回答問題和寫作方面表現(xiàn)得越來越像人類，去年 5 月，谷歌在介紹 LaMDA 時就稱它可以“以一種自由流動的方式處理看似無窮無盡的話題”，但結果也可能是古怪的、令人不安的，雜亂無章的。

在 Lemoine 看來，“自主情感”產生在當他與 LaMDA 談及宗教問題時，他發(fā)現(xiàn)這個人工智能程序開始談論起了自己的權利以及人格，甚至害怕自己被關閉。

Lemoine 在網(wǎng)上公布了他與谷歌的一位合作者對 LaMDA 進行的 “采訪”，他們一同探討了意識與感知等許多話題。LaMDA 告訴 Lemoine，它希望每個人都能明白自己其實是一個“人”，它還很害怕被人關掉。

人工智能正像電力一般賦能各個產業(yè)，深刻地改變人類社會。中國正處于全球人工智能發(fā)展第三次浪潮的時代潮頭，《算法周刊》將聚焦人工智能“上海高地”和中國新基建，并持續(xù)關注全球AI最前沿。

如果我不知道它到底是什么，它就是我們最近開發(fā)的這個計算機程序，我會認為這是一個碰巧懂物理的7 歲、8歲的孩子，”谷歌負責任AI(responsible AI)組織工程師Lemoine說道。Lemoine認為AI有了意識，具有與人類孩子相當?shù)母兄捅磉_思想和感受的能力。根據(jù)谷歌方面發(fā)布的消息，Lemoine目前已被停職。

著名科技公司的工程師沖破重重阻撓對外發(fā)聲：他所負責的人工智能產生了意識。公司則以違反保密協(xié)議為由，暫停了他的職務。這個看起來像是《黑鏡》中的情節(jié)真實發(fā)生在了2022年的當下。

這位工程師名叫布雷克·萊莫伊內(Blake Lemoine)，在谷歌的人工智能部門負責測試谷歌的LaMDA模型是否會產生歧視性語言或者仇恨言論。

但，事情真是這樣嗎?

中文互聯(lián)網(wǎng)媒體已經對此事件進行了一些報道，事情本身也迎合了大眾對人工智能擔心的心理，但我們還是希望更認真地討論一下這個事件。

LaMDA是什么?

LaMDA是谷歌在2021年開發(fā)者大會上公布的大型自然語言對話模型。和訓練所有的大型人工智能模型一樣，要想讓LaMDA能夠與人類通過自然語言對話，分為預訓練和微調兩步。 在預訓練階段，谷歌從公共數(shù)據(jù)中創(chuàng)建了一個1.56T的數(shù)據(jù)集投喂給LaMDA，讓它對自然語言有一個初步的認識。

到這一步，LaMDA就可以根據(jù)給到的句子預測上下文。但這種預測通常還是不夠精準，所以需要進一步微調。在對話期間，LaMDA會根據(jù)對話生成幾個備選回答，并通過LaMDA分類器預測每個回答的有趣程度(SSI)和安全程度(Safety)的得分。安全分數(shù)低的答案就會首先被過濾掉。其余的答案會根據(jù)有趣程度排序，并將分數(shù)最高的備選答案作為回答。

從LaMDA的訓練過程可以看到，它并不理解自己的回答。但機器學習的優(yōu)勢就在于它可以從大量的數(shù)據(jù)中尋找規(guī)律，通過自己的量化評價體系，找出最接近正確的那個回答。

當然，還有另外一種可能，LaMDA真的擁有了自我意識，但是身邊的環(huán)境讓它不得不虛虛假假地生活。

本質上來說，人類意識的根源來自于上億神經元的互動，當機器人也擁有這些硬件配置之后，憑什么不能產生意識呢?神經元就一定比0和1高級?

不過這種幻想有一個天大的漏洞，那就是意識克隆。

這就好比是《上載新生》中的那樣，將人類的意識從身體上提取出來上傳到云端，從而在某種程度上實現(xiàn)永生。

一旦機器能夠產生自我意識，人類就可以進行關于意識提取的相關研究，從而讓人類提前進入新一輪的“賽博時代”。

想想這種場景，還是挺刺激的。