隨著智能手機(jī)等聯(lián)網(wǎng)設(shè)備逐漸普遍化，網(wǎng)絡(luò)已成為現(xiàn)代生活不可或缺的一部分，然而伴隨而來(lái)的網(wǎng)絡(luò)暴力更是四處泛濫。網(wǎng)絡(luò)暴力是一類在網(wǎng)絡(luò)上發(fā)表具有傷害性、侮辱性和煽動(dòng)性的言語(yǔ)、圖片、視頻的行為現(xiàn)象，被稱之為“無(wú)形的殺手”，近年來(lái)導(dǎo)致自殺抑郁等心理摧殘的網(wǎng)絡(luò)暴力事件層出不窮。

面對(duì)泛濫的網(wǎng)絡(luò)暴力，Instagram正在采取行動(dòng)反對(duì)其平臺(tái)上的欺凌行為。去年，Instagram推出了一個(gè)增強(qiáng)版的評(píng)論過(guò)濾器，該過(guò)濾器通過(guò)機(jī)器學(xué)習(xí)，能夠發(fā)現(xiàn)具有網(wǎng)絡(luò)暴力性質(zhì)的關(guān)鍵詞和語(yǔ)言。

隨著公眾對(duì)Facebook的信任度下降，Instagram仍然是該公司產(chǎn)品陣容的亮點(diǎn)，而且它還有可能被Facebook破壞的丑聞所波及。在這種情況下，使用人工智能來(lái)幫助清除令人反感的內(nèi)容，并讓Instagram成為一個(gè)擁有良好氛圍的家園是非常重要的。

現(xiàn)在，該公司正在擴(kuò)大有關(guān)照片和字幕類似篩查的覆蓋范圍。最近，Instagram宣布它將使用AI“主動(dòng)檢測(cè)欺凌性言語(yǔ)”，這是一種機(jī)器學(xué)習(xí)工具，用于檢測(cè)照片和字幕中的欺凌行為。如果人工智能工具認(rèn)為照片不合適或不受歡迎，它會(huì)發(fā)送給Instagram社區(qū)運(yùn)營(yíng)團(tuán)隊(duì)進(jìn)行進(jìn)一步審核然后再將內(nèi)容發(fā)送給人工審查。

去年在Wired發(fā)表的一篇報(bào)道解釋了Instagram的機(jī)器學(xué)習(xí)評(píng)論過(guò)濾器的一些細(xì)節(jié)，并確定這種技術(shù)不適用于內(nèi)容審核。大規(guī)模部署人工智能成本較低，但它仍然無(wú)法處理人類背景之下的細(xì)微差別，這就是為什么這些新的欺凌過(guò)濾器還需要向人工篩檢人員發(fā)送內(nèi)容以執(zhí)行最終檢查，沒(méi)有監(jiān)督的自動(dòng)化是一種災(zāi)難。

這個(gè)名為DeepText的系統(tǒng)基于人工智能系統(tǒng)和word embeddings的概念，旨在于模仿人類語(yǔ)言的理解方式。當(dāng)系統(tǒng)解釋一個(gè)單詞時(shí)，它會(huì)嘗試以人腦識(shí)別單詞的方式，并結(jié)合語(yǔ)境來(lái)確定其含義。DeepText作為內(nèi)部工具構(gòu)建的，可以讓Facebook工程師快速分類大量文本，創(chuàng)建分類規(guī)則，然后構(gòu)建產(chǎn)品用以幫助用戶。

據(jù)Instagram發(fā)言人稱，人工智能工具會(huì)檢測(cè)字幕和評(píng)論中的欺凌行為，例如攻擊某人的外表或幸福。它還對(duì)圖像和字幕進(jìn)行比較，排名和評(píng)級(jí)，以便在照片中發(fā)現(xiàn)欺凌行為，例如分屏圖像中某人的惡意比較。

并且Instagram還為直播視頻推出了欺凌評(píng)論過(guò)濾器。過(guò)濾器可以在直播期間檢測(cè)并阻止令人反感的單詞。Instagram已于5月推出了過(guò)濾器，用于Feed，Explore和Profile中的照片和視頻評(píng)論過(guò)濾。

Instagram表示，人工智能系統(tǒng)不只是分析照片標(biāo)題來(lái)識(shí)別欺凌，還有照片本身。在向The Verge發(fā)表講話時(shí)，一位發(fā)言人舉例說(shuō)明，人工智能正在尋找分屏圖像作為潛在欺凌的例子，因?yàn)橐粋€(gè)人可能會(huì)與另一個(gè)人進(jìn)行負(fù)面比較。人工智能將尋找的其他因素尚不清楚，但這可能是一個(gè)好主意，當(dāng)Facebook宣布它將使用人工智能時(shí)，人們就立即開始考慮如何應(yīng)對(duì)這些過(guò)濾器了。

Facebook和Twitter也推出了類似的舉措來(lái)限制其平臺(tái)上的欺凌行為。Twitter在去年十月制定了一個(gè)時(shí)間表，以便從其平臺(tái)中刪除裸露和仇恨圖像等內(nèi)容。本月早些時(shí)候，F(xiàn)acebook添加了一些工具，允許用戶一次隱藏或刪除多條評(píng)論，并允許用戶代表朋友或家人報(bào)告欺凌或騷擾。

除了新的過(guò)濾器，Instagram還推出了“善意的相機(jī)效果”，這聽起來(lái)像是一種傳播積極信息并能提高用戶參與度的方法。使用后置攝像頭時(shí)，效果會(huì)在屏幕上顯示“多種語(yǔ)言的親切評(píng)論”；切換到前置攝像頭，你會(huì)得到一絲閃亮的心和禮貌的鼓勵(lì)來(lái)“標(biāo)記你想要的朋友”。

網(wǎng)絡(luò)是把鋒利的雙刃劍，當(dāng)我們利用網(wǎng)絡(luò)拉近世界各地之間距離的同時(shí)，不也能忽視網(wǎng)絡(luò)“噴子”、“鍵盤手”的危害，這次instagram所做舉動(dòng)，是否能為現(xiàn)今魚龍混雜的網(wǎng)絡(luò)環(huán)境帶來(lái)一股清流，是值得我們期待的。