網(wǎng)絡(luò)時(shí)代，方便了信息的傳播和獲取，也讓謠言和假新聞滿天飛！如何制止這些假新聞和謠言的傳播？這是每一個(gè)網(wǎng)絡(luò)管理者或相關(guān)企業(yè)面臨的難題。

近日，谷歌和其他一些科技巨頭包括Facebook和Twitter就如何應(yīng)對(duì)虛假新聞的傳播簽署了一項(xiàng)行為準(zhǔn)則。

實(shí)際上，繼虛假新聞的嚴(yán)重性和傳播范圍在2016美國總統(tǒng)大選和英國脫歐公投之后被曝光后，臉書、谷歌和推特等科技和廣告公司一直面臨歐盟立法機(jī)構(gòu)和世界各國政府的批評(píng)，被要求嚴(yán)肅對(duì)待虛假新聞的處理問題，防止未來再發(fā)生類似惡意行為。

目前，陸續(xù)有一些國家開始“出手”整治虛假新聞：印度將為全國716個(gè)縣配備社交媒體監(jiān)測(cè)員，以監(jiān)測(cè)印度網(wǎng)上輿情和所有在線內(nèi)容;德國推新法“凈化”社交媒體，若其不及時(shí)刪除平臺(tái)上的仇恨言論及破壞他人名譽(yù)的虛假新聞等非法內(nèi)容，將被處以最高可達(dá)5000萬歐元的罰款;埃及國會(huì)通過媒體監(jiān)管法案，凡在社交媒體上擁有超過5000名粉絲的賬戶和博客都將受到埃及媒體管理最高委員會(huì)的監(jiān)督。若其發(fā)布虛假新聞或有煽動(dòng)違法等行為，埃及媒體管理最高委員會(huì)將有權(quán)暫停和屏蔽個(gè)人社交賬戶……

實(shí)際上，谷歌和臉書等科技公司也一直在考慮如何將AI技術(shù)應(yīng)用到虛假新聞的打擊中。

使用AI來衡量信息源的質(zhì)量

大多數(shù)情況下，網(wǎng)民并不是直接的虛假新聞的生成者，而更多時(shí)候扮演的是傳播者的角色。據(jù)科技媒體Science News報(bào)道，全球多個(gè)科研團(tuán)隊(duì)已在研發(fā)可自動(dòng)識(shí)別新聞?wù)鎮(zhèn)蔚乃惴?。社交網(wǎng)站可以用這些算法來給新聞做初步檢查，并在用戶打開一篇疑似假新聞時(shí)，給用戶發(fā)一個(gè)預(yù)警提示。

10月4日，麻省理工學(xué)院CSAIL(計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室)和QRCI(卡塔爾計(jì)算研究所)宣布研究出一種可以識(shí)別虛假新聞在傳播前的來源和個(gè)人政治偏見的AI系統(tǒng)。他們所使用的機(jī)器學(xué)習(xí)算法利用現(xiàn)有文章集合來衡量給定出口的準(zhǔn)確性和偏差，該系統(tǒng)或可將不可信賴的新聞信息自動(dòng)分類。

自2016年以來，F(xiàn)acebook開始嘗試使用“識(shí)別虛假新聞”的人工智能工具，并于近期收購了總部位于倫敦的初創(chuàng)公司Bloomsbury AI，以幫助其鑒別消除假新聞。

據(jù)外媒報(bào)道，F(xiàn)acebook于3月份推出了Disputed標(biāo)簽。這個(gè)標(biāo)簽將出現(xiàn)在這個(gè)網(wǎng)站上那些被認(rèn)定為不準(zhǔn)確的新聞下面。Facebook使用AI檢查每天在Facebook上分享的數(shù)百萬個(gè)鏈接，識(shí)別出其中的可疑內(nèi)容，然后將它們發(fā)送給事實(shí)核查人員。當(dāng)事實(shí)核查人員將鏈接、圖像或視頻評(píng)級(jí)為假，F(xiàn)acebook就會(huì)減少訪問范圍，降低其在用戶的news feed中的排序位置。

今年4月份以來，谷歌對(duì)其搜索引擎背后的算法進(jìn)行了徹底的調(diào)整，把具備誤導(dǎo)性、虛假在線文章進(jìn)行排名降級(jí)。谷歌還將建立新的規(guī)定，鼓勵(lì)1萬多名評(píng)估搜索結(jié)果的員工標(biāo)記出帶有惡作劇、陰謀論或者"低質(zhì)量?jī)?nèi)容"的網(wǎng)頁。

此外，印第安納大學(xué)社交體觀察站的研究人員推出了Hoaxy和Botometer兩種程序。Hoaxy是一個(gè)搜索引擎，不僅可以展示出Twitter上的即時(shí)熱點(diǎn)事件，并追蹤任何在線新聞報(bào)道或Twitter標(biāo)簽，還能推測(cè)出事件傳播的用戶中“機(jī)器人”的比例。而Botometer是一個(gè)打分軟件。他可以根據(jù)Twitter用戶的賬號(hào)發(fā)布的信息，觀察這些信息在Twitter上傳播方式和路徑，結(jié)合機(jī)器學(xué)習(xí)算法給每位用戶分配分?jǐn)?shù)，以此來判斷信息是由真人共享，還是由“機(jī)器人”所推動(dòng)。

AI制止假新聞傳播，到底有沒有效?

實(shí)際上，互聯(lián)網(wǎng)巨頭在打擊虛假新聞方面可以說是做得越來越好的。去年，百度將自然語言處理、深度學(xué)習(xí)、圖像識(shí)別等AI技術(shù)引入網(wǎng)絡(luò)信息安全治理。全年甄別處理的有害信息總量達(dá)到451.2億條，攔截惡意網(wǎng)頁全年總量達(dá)202.9億個(gè)。

一項(xiàng)來自斯坦福大學(xué)、紐約大學(xué)和微軟研究院的研究表明，自2016年美國大選到今年7月，F(xiàn)acebook用戶對(duì)于假新聞的參與度下降超過了50%。對(duì)比之下，Twitter的假新聞比例卻在上升。初步可以證明，AI對(duì)虛假新聞的辨別打擊有一定的效果。

哈佛大學(xué)約翰肯尼迪政府學(xué)院錯(cuò)誤信息斗爭(zhēng)項(xiàng)目First Draft的負(fù)責(zé)人Wardle表示，AI的確可以加快某些耗時(shí)的步驟。例如，利用AI檢查每天在線發(fā)布的大量?jī)?nèi)容并標(biāo)記出可能虛假的內(nèi)容。但是，她同樣提出人工智能無法做出最終的判斷。“對(duì)于機(jī)器來說，你如何編碼“誤導(dǎo)性”呢?即使是人類也難以定義它。生活是混亂、復(fù)雜和微妙的，人工智能要做到理解這一點(diǎn)，還有很長(zhǎng)的路要走。”

英國帝國理工學(xué)院的計(jì)算機(jī)科學(xué)家Julio Amador Diaz Lopez表示，即使目前這些鑒定算法演化得越來越“聰明”，但面對(duì)背景較抽象的報(bào)道時(shí)，程序可能還是無法像人類一樣會(huì)意，或辨識(shí)其可信度。

人工智能或許還沒有準(zhǔn)備好放在真正的內(nèi)容審查系統(tǒng)上。

在Symposium/ITxpo 2017會(huì)議上，市場(chǎng)研究公司Gartner預(yù)測(cè)，到2022年，發(fā)達(dá)經(jīng)濟(jì)體的大多數(shù)人口"消費(fèi)"的虛假信息將超過真實(shí)信息。Gartner警告稱，雖然人工智能被證明在新信息創(chuàng)建方面非常有效，但在扭曲數(shù)據(jù)創(chuàng)建虛假信息方面，它也很有效。

Gartne還預(yù)計(jì)，在2020年前，虛假信息會(huì)造成重大財(cái)務(wù)欺詐事件。2022年，沒有一家大型互聯(lián)網(wǎng)公司在解決這一問題方面能取得完全成功。3年內(nèi)，一個(gè)主要國家將通過法律法規(guī)，遏制人工智能生成的虛假信息的傳播。

俗話說魔高一尺，道高一丈，辦法總會(huì)有的，畢竟邪不壓正，期待著在技術(shù)及規(guī)范雙管齊下之下，能還網(wǎng)絡(luò)一個(gè)清涼真實(shí)的世界。