SolarWinds公司最新發(fā)布的2024年IT趨勢報告《AI：朋友還是敵人？》顯示，盡管90%的IT專業(yè)人士希望在其組織中實施生成性人工智能（genAI），但超過一半的人對集成、安全和隱私問題表示擔憂。

在對大約7000名IT專業(yè)人士進行的在線調(diào)查中，SolarWinds公司發(fā)現(xiàn)，盡管幾乎所有受訪者都渴望采用genAI和其他基于AI的工具，但不到一半的受訪者認為他們的基礎設施能夠適應這項新技術。只有43%的受訪者表示他們相信公司的數(shù)據(jù)庫能夠滿足AI增加的需求，而更少的人（38%）信任用于開發(fā)這項技術的數(shù)據(jù)或訓練的質(zhì)量。

報告指出，隱私和安全問題被認為是genAI集成的主要障礙，IT專業(yè)人士特別呼吁增加政府監(jiān)管來解決安全（72%）和隱私（64%）問題。當被問及AI的挑戰(zhàn)時，41%的受訪者表示他們有過負面經(jīng)歷；其中，隱私問題（48%）和安全風險（43%）是最常被提及的。

超過一半的受訪者還認為，政府監(jiān)管應該在打擊虛假信息方面發(fā)揮作用。報告中提到：“為了確保AI的成功和安全采用，IT專業(yè)人士認識到，組織必須制定關于道德、數(shù)據(jù)隱私和合規(guī)性的全面政策，這指向了道德考慮和對工作被取代的擔憂，作為AI采用的其他重要障礙。”

SolarWinds報告還發(fā)現(xiàn)，超過三分之一的組織仍然缺乏指導適當genAI實施的道德、隱私和合規(guī)政策。SolarWinds的技術和工程高級副總裁Krishna Sai表示：“盡管AI的討論在行業(yè)中占據(jù)了主導地位，但IT領導者和團隊認識到，這項仍在發(fā)展中的技術存在巨大的風險，這些風險因急于快速而非智能地構建AI而加劇?！?

事實上，領先的安全專家預測，黑客將越來越多地針對genAI系統(tǒng)，并嘗試通過破壞數(shù)據(jù)或模型本身來“投毒”。今年早些時候，美國國家標準技術研究院（NIST）發(fā)表了一篇論文，警告說“投毒攻擊非常強大，可以導致可用性違規(guī)或完整性違規(guī)。”