根據(jù)IBM內(nèi)部資料，多名使用IBM沃森腫瘤治療系統(tǒng)的醫(yī)學專家發(fā)現(xiàn)，IBM沃森多次為患者提供不準確且不安全的建議。目前為止，尚未有病人因沃森的失誤受到傷害。

內(nèi)部資料包括IBM沃森前健康副主管安德魯諾登(Andrew Norden)于2017年6月和7月兩場報告的文件。文件中有這樣一個例子，一名65歲患者被診斷患有肺癌且伴有嚴重出血，沃森建議該男子進行化療，且開了名為“貝伐珠單抗”的藥物。但這種藥會導致嚴重或致命大出血，實則不應用于伴有嚴重出血的患者。

紀念斯隆凱特琳癌癥中心的發(fā)言人表示：這樣的建議目前還是假設階段，只是系統(tǒng)測試的一部分。但許多人反對稱，這種不準確的建議實則說明技術與內(nèi)容上存在嚴重的問題。

據(jù)Stat News稱，佛羅里達州某醫(yī)院的一名醫(yī)生直言此產(chǎn)品差強人意。他表示：“當時聽信推銷人員購買了產(chǎn)品，但大多數(shù)情況下沒辦法使用?！贝酸t(yī)院的醫(yī)生都表示：在治療意見不統(tǒng)一時，除了沃森提供建議外，他們還會聽取超級計算機的建議。

如今，人們不僅對沃森的建議持懷疑態(tài)度，同時也好奇在此項目上沃森如何接受訓練。其實AI系統(tǒng)分析的都是真實病例，而非虛擬數(shù)據(jù)，即醫(yī)生接收到的建議都是其他醫(yī)生真實的建議，并非通過合成虛擬數(shù)據(jù)得到的結(jié)論。

IBM的發(fā)言人回應稱：根據(jù)客戶的不斷反饋、新的科學證據(jù)以及新的癌癥治療方案，我們不斷學習，已經(jīng)作出進一步改進。目前已用于全球230家醫(yī)院，為84000多名患者提供了幫助。IBM于6月發(fā)布報告稱， 如今沃森準確識別腫瘤的成功率已達93%。