隨著人工智能新技術，特別是機器學習的出現(xiàn)，我們的“智力信用額度”被提高了。機器學習系統(tǒng)在數(shù)據海洋中識別模式，并借助這些模式來解決一些模糊開放的問題。例如，提供一個有關貓和其他非貓科動物的標記圖片數(shù)據集，機器學習系統(tǒng)就學會了如何識別貓。同樣地，讓系統(tǒng)訪問醫(yī)療記錄，它就可以嘗試預測一個新入院病人的死亡可能性。

然而，大多數(shù)的機器學習系統(tǒng)并沒有發(fā)現(xiàn)因果機制（causal mechanisms）?；诮y(tǒng)計相關性引擎的機器學習系統(tǒng)無法解釋為什么它們認為某些患者更有可能死亡，因為它們并不考慮數(shù)據的含義，而只是提供結果。當我們將這些系統(tǒng)融入日常生活時，我們將共同承擔越來越多的智力債務。

制藥領域的發(fā)展表明，在某些情況下，智力債務是不可或缺的。那些我們并不理解的干預措施已經挽救了數(shù)百萬人的生命。很少有人會因為不清楚其作用機制而拒絕服用拯救生命的藥物，如阿司匹林。但是，智力債務的增加也會帶來不好的結果。隨著具有未知作用機制的藥物激增，發(fā)現(xiàn)不良反應所需的測試數(shù)量呈指數(shù)級增長。

如果清楚藥物的作用機制，就可以預測其不良反應。在實踐中，藥品間的相互作用往往是在新藥上市后才發(fā)現(xiàn)的，這就形成了一個循環(huán)。在這個循環(huán)中，藥物先被上市，然后被遺棄，期間還伴隨著集體訴訟。通常，伴隨著新藥產生的智力債務有一定的合理性。但是智力債務并不是孤立存在的。在不同領域發(fā)現(xiàn)和部署的沒有理論基礎的答案，會以不可預測的方式使彼此交錯復雜化。

Inception系統(tǒng)顯然無法解釋究竟是哪些特征使其能夠判斷一只貓是否真的是貓，因而當提供特制或損壞的數(shù)據給系統(tǒng)時，也很難預測系統(tǒng)是否會出現(xiàn)失誤。這些系統(tǒng)在準確性上存在的未知漏洞，無疑給了攻擊者機會。伴隨著機器學習系統(tǒng)所生成的知識的使用，這些差距也就隨之產生了。一些醫(yī)療AI經過訓練后已經能分辨出皮膚腫瘤是良性還是惡性。

然而，就像哈佛醫(yī)學院和麻省理工學院的研究人員通過改變圖片的某些像素騙過系統(tǒng)，讓其做出錯誤的判斷，攻擊者也可能會利用這些漏洞實施保險欺詐。在人工智能系統(tǒng)預測能力的誘惑下，我們可能會放棄自身的判斷。但是系統(tǒng)存在著被劫持的可能，而我們沒有什么簡單的方法來驗證其答案的正確性。

既然如此，我們能否能為智力債務創(chuàng)建一個資產負債表，從而跟蹤那些無理論知識的用途呢？如果一個AI生成了一個新的披薩配方，那么你無需多言，盡管享用便是了。然而，當我們要用AI進行醫(yī)療健康方面的預測推薦時，我們就希望得到充分的信息。

機器學習系統(tǒng)單獨來看會持續(xù)產生有用的結果，但是這些系統(tǒng)并不是孤立存在的。這些AI收集并提取整個世界的數(shù)據，同時也產生著自身的數(shù)據，而其中很大一部分會被其他機器學習系統(tǒng)所使用。就像具有未知作用機制的藥物有時會相互作用一樣，那些背負智力債務的算法也是如此。

每個賣家策略的設定都很理性。但正是他們算法的相互作用產生了不合理的結果。數(shù)以千計的機器學習模型在不受監(jiān)管的情況下進行互動所產生的結果更是難以預測。早已部署了尖端機器學習系統(tǒng)的金融市場是此類問題的溫床。去年秋天，摩根大通（J. P. Morgan）分析師Marko Kolanovic認為金融市場的崩潰很容易再次發(fā)生，因為現(xiàn)在的交易大多基于自動化系統(tǒng)。智力債務在這些系統(tǒng)的相互作用下不斷累積，盡管有時它們并不是正式關聯(lián)的。如果沒有類似于資產負債表這樣的東西，我們就無法預測或者回溯這些智力債務是否值得承擔。

智力債務的增加也可能改變我們對基礎科學和應用技術的思考方式。與那些由政府支持，由學術研究機構運營的大型資本項目（如粒子加速器等）不同，機器學習工具很容易被私營企業(yè)或學術界所使用。

“與這篇論文相比，概念性論文或者提出新理論假設的論文的聲望要低得多”，他在接受采訪時說到。在機器學習使得發(fā)現(xiàn)速度加快的時代面前，那些理論家們顯得那么無關緊要，甚至是多余的存在。與創(chuàng)建機器學習模型方面的專業(yè)知識相比，對特定領域的知識的重視程度自然也會降低。

金融債務將控制權從借方轉移到了貸方，從未來轉移到了過去。而不斷增加的智力債務也可能轉移控制權。一個充斥著不經理解的知識的世界會變成一個沒有明顯因果聯(lián)系的世界，而我們只能依賴于我們的數(shù)據管家來告訴我們該做什么，什么時候做。例如，一個大學的招生委員會可能會將辛苦和不確定的人員篩選交給機器學習模型。這種方式可能會優(yōu)化新生群體，不僅是為了學業(yè)上的成功，還可以帶來和諧的人際關系以及校友的慷慨捐贈。再者，我們理解這個世界的唯一方法可能就是采用我們的AI系統(tǒng)，通過神經網絡來微調我們的社交媒體資料，這樣我們就能夠完全“融入”社會。