如今，社交媒體機器人因大量輸出自動生成的內容，而被指通過散布錯誤信息影響選舉和損害公眾健康?，F在，一些社會科學家對它提出了一項新指控:干擾研究，而后者會從熱門網站抓取有關人類健康和行為的信息。

據《自然》雜志報道，這些網站的數據會幫助科學家了解自然災害是如何影響心理健康的，為什么美國年輕人蜂擁購買電子煙，以及人們是如何在復雜的社交網絡中聯系的。但是，這樣的工作需要從自生成的信息中辨別出真正的聲音。

“機器人被設計成像人一樣上網?！泵绹迳即壞霞又荽髮W社會科學家Jon-Patrick Allem說，“如果研究人員對描述公眾態(tài)度感興趣，必須確保在社交媒體上收集的數據真正來自于人。”

計算機科學家Sune Lehmann在2013年設計了他的第一個機器人，當時他在丹麥科技大學教學，該機器人是一個社交網絡實驗。他說，當時社交媒體上的機器人很簡單，主要是為了增加特定賬戶的“粉絲”數量。Lehmann想向學生展示這些機器人是如何操縱社會系統(tǒng)的，所以他們共同設計了一個模仿歌手賈斯汀·比伯粉絲的機器人。

這些“粉絲機器人”設計簡單，很快就吸引了成千上萬的關注者。之后，社交媒體機器人不斷進化，變得更為復雜并難以被發(fā)現。2016年美國總統(tǒng)大選過后，這些機器人迅速成為焦點，人們指責這些駐扎在社交媒體上的機器人，試圖影響投票結果?！巴蝗恢g，它成為了人們感興趣的東西?！盇llem說。

此后Allem發(fā)現，由機器人自動生成的“電子煙有助于戒煙”的內容數量是真實內容數量的兩倍，機器人也更有可能鼓吹未經證實的大麻對健康的好處。這些研究依賴于算法，以估算社交媒體賬戶被機器人化的可能性。Allem說，盡管有檢測工具，許多社會科學和公共健康研究者還是沒有按步驟過濾出數據中可能自生成的內容，部分原因是一些人覺得自己沒有這種操作的專業(yè)知識。

“這種遺漏可能會污染數據集。”馬里蘭大學帕克分校的Amelia Jamison警告說，她以健康差異為研究內容，并在社交媒體上抓取反對接種疫苗的帖子。她表示:“將它們視為真正參與討論的人，你可能會人為地賦予機器人發(fā)言權。實際上，它們只是在放大一些可能不會被社群討論的東西。”她指出，在她的案例中，未清除機器人生成的內容或導致她認為人們正在產生比實際情況更多或更不同的反疫苗言論。

德國科隆萊布尼茨社會科學研究所的信息科學家Katrin Weller指出，必須解決的一個問題是如何定義“機器人”。不是所有的機器人都會惡意散播錯誤信息，其中一些提供最新的氣象信息、海平面變化數據或更新一般新聞。一些研究人員將社交媒體機器人定義為那些每天發(fā)送超過一定數量信息的賬戶，但Weller認為，這是一個松散的定義，將涉及大量真實的用戶。

機器人檢測工具和機器人之間已展開了一場“軍備競賽”。早先的社交媒體機器人是相對簡單的程序，定期轉發(fā)他人發(fā)布的內容。現在，機器學習方面的進步使創(chuàng)建更為復雜的、發(fā)布原創(chuàng)內容的社交媒體機器人成為可能。一些機器人會以隨意的時間間隔發(fā)布信息并模仿人類，比如在人睡覺的時段不發(fā)布。一些開發(fā)者將人發(fā)布的內容和自動生成的內容混合，以更好地偽裝機器人。

“一旦你對機器人以及如何檢測它們有了更多了解，機器人開發(fā)者也就可以獲得這些知識?！比鹗刻K黎世大學的Oliver Grübner說，“這非常棘手?！?/p>

像 Lehman一樣，一些社會科學家正在創(chuàng)造自己的機器人進行社會實驗。賓夕法尼亞州立大學政治學研究專家Kevin Munger和同事，就制作了一個在社交媒體上監(jiān)督使用種族歧視語言用戶的機器人。

在“粉絲機器人”取得成功后，Lehmann設計了更復雜的機器人來研究群體傳播。但由于機器人的名聲已壞，他決定放棄這種做法以免遭到公眾的強烈反對?！坝嘘P機器人的一切都沸沸揚揚?！盠ehmann說，“我想找一個安靜的角落做我的研究，不要引起紛爭?！?br />