人工智能 (AI) 應用程序在我們的日常生活中無處不在。隨著傳感器、5G通信、邊緣計算等技術的不斷演進，包括汽車、工廠自動化設備、醫(yī)療保健設備、各種消費電子產品和小型電池供電的物聯網(IoT)在內的大型數據中心)節(jié)點，從數字化、網絡化功能的增加，逐漸演變?yōu)閾碛胁煌瑢哟蔚摹爸悄堋薄?

這些智能系統(tǒng)可以將收集到的海量數據轉化為有用的信息，做出快速決策并實時做出適當響應，或者將數據傳輸到云端進行深入分析以獲得更高價值的見解。它們能否充分發(fā)揮作用，不僅取決于中央處理器(CPU)的計算能力，還取決于內存，內存不再僅僅負責簡單的數據存儲功能，而是開始在共享中發(fā)揮越來越重要的作用處理器的計算任務。

Donald Huang 是 Macronix International Co., Ltd. (Macronix) 的產品營銷部總監(jiān)，該公司是非易失性存儲器集成組件的全球領導者。他以配備高級駕駛輔助系統(tǒng)(ADAS)和自動駕駛功能的智能網聯汽車為例，表示這類配備攝像頭、激光雷達和雷達等傳感器的系統(tǒng)每天可產生高達數TB的數據。因此，它的存儲器不僅需要大量的存儲容量和高傳輸帶寬，而且還必須滿足嚴格的汽車規(guī)范，這些規(guī)范對可靠性和質量要求非常高。而且，

此外，他強調，當AI應用從云端走向邊緣時，對于車輛等需要安全和快速響應的邊緣設備，內存在實時數據處理和高速傳輸方面提供的支持不可或缺，而對降低系統(tǒng)功耗和成本的解決方案的需求也在上升。

黃總指出，為滿足人工智能應用對高存儲容量、高速傳輸和低時延的要求，內存組件在系統(tǒng)中的作用開始發(fā)生范式轉變;過去，閃存在系統(tǒng)中只起到純后端存儲的作用，支撐前端DRAM和處理器的嵌入式SRAM。不過，隨著數據量的大幅增加，對傳輸帶寬和速度的要求也越來越高，他說，需要一種全新的內存架構來應對這些新興的應用。

他接著解釋，因應大數據的需求，目前主流的NAND和NOR閃存已經從2D結構轉向3D結構，以達到更高的存儲密度和更低的成本。而人工智能系統(tǒng)也希望閃存能夠更靠近計算單元，以支持高速訪問并降低數據傳輸功耗。如今的新一代閃存直接在內部增加了計算功能，準備從幕后走向前臺，與中央處理器(CPU)和圖形處理器(GPU)并肩作戰(zhàn)?！癕acronix 最新的 FortiX 系列 3D NAND/NOR 閃存就是這樣一個'以內存為中心'的創(chuàng)新解決方案，”Donald 說。

FortiX系列產品除了提供3D閃存的高存儲容量、穩(wěn)定的質量和可靠性外，還具有支持實時數據處理、高傳輸帶寬和低功耗等額外優(yōu)勢。Donald表示，FortiX解決方案的內存搜索(IMS)和內存計算(CIM)是數字和模擬架構的計算功能。當傳統(tǒng)的存儲和計算分離的馮諾依曼架構遇到延遲和功耗瓶頸時，這種新架構不僅可以大大減少內存和CPU/GPU之間的數據傳輸。這不僅提高了速度并降低了功耗，而且還可以節(jié)省對模數轉換器、微控制器和 GPU 組件的需求，從而降低整體系統(tǒng)成本。FortiX 是 Macronix 團隊花費多年時間進行研發(fā)的心血結晶。相關技術論文近年來在國際電子器件會議(IEDM)、國際固態(tài)電路會議(ISSCC)等全球學術研討會上受到青睞。而且，FortiX一直在申請專利。

FortiX的IMS功能可以直接從內存中已有的數據中搜索比較數據(精確或接近)，支持并行輸入。Donald解釋說，3D NAND適合大數據量(>64Gb)的應用，而3D NOR則支持TCAM和Hamming Distance Sorter架構的高速應用。有多種創(chuàng)新架構提供靈活的選項來幫助物體檢測/圖像識別，包括智能車輛的車道識別等應用。支持逐位邏輯運算的 CIM 函數可以在深度神經網絡推理任務中執(zhí)行所需的 MAC 運算。Donald補充說，在性能方面，與傳統(tǒng)的馮諾依曼架構系統(tǒng)相比，FortiX IMS 3D NAND的內部搜索速度高達300Gb/s，其每秒數據查詢率(QPS)可提升10倍以上，運行功耗(有功功率)僅為300mW左右，遠低于DRAM的1W功耗。此外，經過FortiX IMS 3D NAND加速器運行后，數據量可以減少到只有原來數據量的5%，大大減少了馮諾依曼架構系統(tǒng)后續(xù)運行的數據移動，不僅降低功耗和總成本，同時顯著提高性能。

不過，Donald 也強調，新的 FortiX 架構不同于現有的標準閃存產品。為了充分發(fā)揮FortiX的全部優(yōu)勢，旺宏在產品開發(fā)的早期階段就與客戶緊密合作，針對不同的應用部署類似于特定應用的標準產品，然后旨在將產品設計成通用的產品參考行業(yè)標準，包括內存接口。旺宏之所以能夠為客戶提供優(yōu)秀的技術支持，是因為旺宏不僅擁有自己的晶圓廠生產線來確保內存產品的質量和可靠性，而且擁有強大的軟件和硬件工程師團隊支持設計階段。雖然FortiX系列產品目前還沒有官宣，但Donald透露，旺宏一直在積極推動與目標應用客戶的設計合作，很可能在未來兩三年內推出終端產品，他也看好這一創(chuàng)新技術在人工智能時代的發(fā)展前景。旺宏歡迎對FortiX感興趣的廠商共同合作，共同探索和開發(fā)“以內存為中心”解決方案的更多潛在應用。