在物聯網、大數據和人工智能(AI)的推動下，從交通運輸、醫(yī)療保健到零售和娛樂等眾多行業(yè)將走上轉型之路，應用材料公司將其統稱為AI計算時代。

在以前的計算時代中，大型機/小型機、PC/服務器和智能手機/平板電腦均受益于摩爾定律的進步，伴隨著2D微縮，產品的性能、功耗和面積/成本(也稱為“PPAC”)得以同步提升。

雖然AI時代的各類應用正在蓬勃發(fā)展，但摩爾定律卻放緩了腳步;因此，行業(yè)需要在2D微縮以外取得突破，以全新方式推動PPAC的提升。具體而言，我們需要新的計算架構、新材料、新結構(特別是節(jié)省面積的3D結構)，以及用于芯片堆疊和異構設計的高級封裝。

AI時代的架構變化正在對邏輯和存儲器產生影響。機器學習的算法大量地使用通用邏輯中極為復雜的矩陣乘法運算，這推動了加速器及其存儲器的轉變。AI計算包含兩種明顯不同的存儲器任務：第一種是存儲計算的中間結果;第二種是存儲與訓練模型相關的權重。

性能和功耗對于云計算和邊緣計算都十分重要，而存儲器方面的創(chuàng)新能夠為此提供助力。一種使用現有存儲器技術的方法是“近存儲器”，其中大量工作存儲器被壓縮并放置在物理上與邏輯存儲器緊密相鄰的位置，通過高速接口連接。例如，3D堆疊和硅通孔技術正愈發(fā)受到歡迎。作為這些應用中的“工作存儲器”，SRAM和 DRAM的一個主要缺點在于它們是易失性存儲器，需要持續(xù)供電來保存數據(如權重)。

為了降低云和邊緣的功耗，設計人員正在評估兼具高性能和非易失性的新型存儲器，因為它們只有在主動讀寫時才需要使用電源。有三種方案引領著新型存儲器，它們分別是磁性RAM(MRAM)、相變式RAM(PCRAM)和電阻式RAM(ReRAM)。

不同于使用電荷，上述三款存儲器利用新材料產生不同的電阻率狀態(tài)，而高低電阻依次表示1和0。MRAM利用磁場方向的變化來控制電阻率。PCRAM利用了從非晶態(tài)到晶態(tài)的材料排列結構變化。ReRAM在材料中創(chuàng)造了一條電流通路。PCRAM和ReRAM均提供電阻率的中間階段，這可在每個單元中存儲多層的比特數據。

我們來了解一下AI時代的計算應用，了解它們如何在未來藍圖中推動創(chuàng)新。

圖1.AI時代推動半導體創(chuàng)新的復興之路

物聯網邊緣應用可被劃分為低性能/低功耗應用，以及高性能/高功耗應用。

例如，采用AI算法的安全攝像頭是一種低性能/低功耗應用，AI算法非常適合面部和語音識別等應用。設計目標是盡可能多地處理邊緣數據，并且僅將重要信息傳輸到云。由于采樣頻率較低，因此性能要求也很低。功耗(包括待機功耗)至關重要，對于電池供電設備尤為如此。

目前，業(yè)界在邊緣設備中使用SRAM存儲器。SRAM并非理想選擇，因為每個存儲單元需要多達六個晶體管，而且源泄漏功率會很高。在存儲權重方面，SRAM的能效并不突出，特別是在低頻設計中使用時。作為替代方案，MRAM可確保將晶體管密度提高數倍，從而實現更高的存儲密度或更小的芯片尺寸。MRAM的另一個關鍵特性在于，這種產品經專門設計，可以安裝到嵌入式片上系統產品(SOC)的后端互連層中。MRAM可用于存儲SOC的操作系統和應用程序，無需使用嵌入式閃存芯片便可實現這一目的，從而減少了系統芯片的總數和成本。

高性能“近邊緣”應用，如缺陷檢測和醫(yī)學篩檢，則需要更高的性能。MRAM的一種變型稱作自旋軌道轉矩MRAM(SOT-MRAM)，經證實，這種產品在速度和功耗方面可能優(yōu)于自旋轉移力矩MRAM(STT-MRAM)。

云計算需要盡可能高的計算性能，而訓練時則需要將大量數據轉移到機器學習加速器附近，相應地，需要為機器學習加速器提供較大的片上SRAM緩存并輔以大型片外DRAM陣列——這就要求使用持續(xù)的電源。用電量對云服務提供商非常重要，因為AI時代的數據會呈指數級增長，而電網功率有限且成本高昂。PCRAM的功耗和成本比DRAM更低，而性能則比固態(tài)硬盤和機械硬盤更高，因此成為云計算架構的首選方案。

除了上述“二進制”的邊緣應用、近邊緣應用和云應用方面具備廣闊前景外，在存儲內計算的研究也在日益深入?？梢韵胂螅诖鎯ζ麝嚵兄袨闄C器學習執(zhí)行頻繁的矩陣乘法運算。設計人員正在探索偽交叉點架構，其中權重存儲在各個存儲器節(jié)點上。PCRAM、ReRAM甚至鐵電場效應晶體管(FeFET)都是優(yōu)秀的備選方案，因為它們都有每單元多層存儲的潛力。目前而言，ReRAM看起來是最適合此類應用的存儲器。可以利用歐姆定律和基爾霍夫定律在陣列內完成矩陣乘法運算，而無需向芯片內移入和移出權重。多層單元架構能夠實現全新級別的存儲器密度，為設計和使用更大的模型提供支持。需要對新材料進行全面的開發(fā)和工程設計，才能將這些新的模擬存儲器付諸現實，目前應用材料公司正在積極探索部分極具代表性的方案。

當摩爾定律的指數級發(fā)展速度逐漸減緩，AI時代將迎來數據上的指數級增長。這種壓力已經在推動著架構、材料、3D結構以及用于芯片堆疊和異構集成的先進封裝不斷創(chuàng)新。存儲器與AI計算引擎的關系越來越緊密，最終，存儲器可能成為AI計算引擎本身。隨著這些創(chuàng)新嶄露頭角，我們將見證性能、功耗和密度(面積/成本)的顯著提升——隨著新型存儲器的逐步優(yōu)化，邊緣、近邊緣和云應用的需求最終會得到滿足。我們需要硬件上的全面復興來釋放AI時代的全部潛力。