為AI數(shù)據中心而生|美光發(fā)布首款支持PCIe5.0的9550 SSD及首款G9 NAND(2650NVMe SSD)
隨著AI應用的興起,對于數(shù)據中心提出了更高的要求。而作為數(shù)據中心的關鍵數(shù)據存儲和流轉部件,SSD也面臨著一系列新的挑戰(zhàn)。
首先,GPU直接存儲的能力變得愈發(fā)重要。數(shù)據中心SSD的一個關鍵趨勢是更大的NAND裸片密度,這有助于推動更大容量的SSD,使系統(tǒng)構建者能夠設計更多的服務器,以便擁有更大的容量或將更多的GPU或CPU放入服務器中。
另一個關鍵點是效率,即每瓦性能。高盛公司在2024年5月發(fā)布的一份報告中指出,目前每次ChatGPT查詢所需的電力約為2.9瓦時,而一次普通的Google搜索僅需0.3瓦時。這顯示出AI應用的電力消耗相對于傳統(tǒng)計算任務的巨大增長。人工智能(AI)將導致數(shù)據中心的電力需求大幅增加。預計到2030年,數(shù)據中心的電力需求將增長160%,從目前的占全球總電力需求的1-2%上升到3-4%。這一增長將對全球電力需求產生重大影響,并可能導致碳排放量的顯著增加。
另外,AI工作負載產生了巨大的數(shù)據流量,要求數(shù)據中心具備卓越的性能和擴展能力?,F(xiàn)代數(shù)據中心需要具備高性能、低延遲和易于擴展的網絡架構,以滿足最苛刻的AI應用需求。此外,從使用壽命的角度來看,對于數(shù)據中心客戶而言擁有一個適用于多代的通用架構非常重要,因為數(shù)據中心規(guī)模龐大,而且SSD的合格認證既昂貴又耗時。
今日的AI數(shù)據中心SSD,必須要具備更高的帶寬、更低的延遲、更低的功耗、并適應更易拓展的網絡架構。美光最新發(fā)布的首款支持PCIe5.0的數(shù)據中心SSD——美光9550 SSD。據悉這是一款業(yè)界性能領先的數(shù)據中心SSD,將提供E3.S(1T)的7.5mm版本,以及U.2版本(又稱2.5英寸、15mm版本)和E1.S的15mm版本,滿足客戶對不同規(guī)格的需求。
美光9550 SSD:性能領先的PCIe5.0 SSD,性能與效率的結合
據美光存儲事業(yè)部產品管理總監(jiān)Bill Bollengier介紹,9550 SSD搭載了美光最新款控制器,該控制器基于美光自有的架構,成為其核心的新組件。除了采用美光自主研發(fā)的控制器和G8 NAND閃存外,9550 SSD還配備了美光DRAM,并使用了美光設計和開發(fā)的固件。該產品在新加坡和馬來西亞的工廠生產,從設計到制造全程由美光自主完成。此外,它還包含了SSD中常見的所有保護和安全功能,支持所有最新的行業(yè)安全標準。美光還提供站點證書等功能,為需要的客戶提供額外的安全保障層。
據悉,美光 9550 SSD 在順序讀取、順序寫入、隨機讀取和隨機寫入這四大關鍵性能指標上表現(xiàn)優(yōu)異。尤其在順序讀取、隨機讀取和隨機寫入方面,9550 SSD 展現(xiàn)了卓越的速度。和其他PCIe5.0的競品比較,美光9550 SSD在順序讀吞吐量上和競品表現(xiàn)一致,均為14.0GB/s;但在順序寫吞吐量上高出競品67%,達到了10.0GB/s。在隨機吞吐量上高出35%,達到了3,300 KIOPS,隨機寫吞吐量上高出33%,達到了400 KIOPS。
9550 SSD 還針對各種 AI 工作負載進行了優(yōu)化,特別是在 NVIDIA H100 GPU 平臺上表現(xiàn)出色。該優(yōu)化基于圖神經網絡(GNN)工作負載,利用大加速器內存(BaM)和 GPU 直連存儲(GIDS)技術,使其在 GNN 工作負載測試中不論是性能、速度還是功耗等方面都實現(xiàn)了比競品更好的表現(xiàn):在負載加載速度上比同類產品快了33%,僅需2.7s(采樣時間)+ 1.4s(特征聚合時間)+ 18.3s(訓練時間)。在性能表現(xiàn)上比同類產品高了60%,達到了11.9GB/s。在SSD總能耗方面比同類產品減少了43%,僅為16.6W,消耗371J。在整體數(shù)據中心能源消耗方面比競品低了29%,僅消耗15KJ。
美光2650NVMe SSD:最新G9 TLC NAND量產, 3.6 GB/s數(shù)據傳輸速率
對于NAND閃存而言,堆疊層數(shù)的增加具有重要意義。首先,它能顯著提高存儲密度,使相同物理面積上可以集成更多存儲單元,從而提升存儲容量。其次,通過增加堆疊層數(shù),生產成本可以降低,使高容量閃存更為經濟實惠。此外,堆疊層數(shù)的增加還能改進整體性能,通過更高效的數(shù)據傳輸和訪問方式提高讀取和寫入速度。同時,3D NAND技術使得每個存儲單元的物理尺寸保持較大,提高了閃存的耐用性和可靠性,并減少了電干擾,增強了數(shù)據保持能力。最后,隨著堆疊層數(shù)的增加,每單位存儲容量的能耗也會降低,這使得3D NAND在存儲器市場中具有重要的地位。作為3D NAND技術領先廠商之一,美光近日宣布最新的276層G9 TLC NAND量產,搭載G9 NAND的首個產品型號為2650NVMe SSD,可以達到3.6 GB/s的數(shù)據傳輸速率。
據美光存儲事業(yè)部 NAND 產品生命周期管理及應用工程總監(jiān)Daniel Loughmiller介紹,G9 NAND 技術憑借卓越的 NAND 輸入/輸出(I/O)速率,能夠滿足數(shù)據密集型工作負載的高吞吐需求,其數(shù)據傳輸速率比當前 SSD 中的 NAND 技術快 50%。在帶寬方面,與市場上現(xiàn)有的同類 NAND 解決方案相比,美光 G9 NAND 的每顆芯片寫入帶寬和讀取帶寬分別高出 99% 和 88%。這些優(yōu)勢共同提升了 SSD 和嵌入式 NAND 解決方案的性能與能效。
美光G7 NAND有176層,G8 NAND增加到了232層,而最新的G9 NAND達到了276層。更多的的堆棧層數(shù)帶來了存儲密度的增益和更小封裝實現(xiàn)。據悉,G9 NAND 的密度提高了 73%,并且封裝尺寸更小,端口面積比其他產品小 28%。這種設計使得 G9 NAND 適用于多個領域,包括數(shù)據中心和客戶端 SSD。客戶端 SSD 也是 G9 TLC NAND 首次出貨的應用領域。此外,G9 NAND 還將進入汽車和嵌入式應用以及移動應用。
結語
作為美光首款支持PCIe5.0的SSD,美光9550 SSD為AI數(shù)據中心而生,能夠助力AI應用加速發(fā)展。而2650NVMe SSD作為美光276層G9 TLC NAND技術的首款量產產品,將以3.6 GB/s數(shù)據傳輸速率實現(xiàn)汽車等各類嵌入式應用賦能,加速邊緣計算應用發(fā)展。Bill Bollengier表示,PCIe 5.0正處于過渡階段,預計將成為數(shù)據中心消耗的最大部分,這一過程大約需要3到4年。
Daniel Loughmiller表示,隨著層數(shù)的增加,層數(shù)的重要性越來越低,而真正成為美光關注焦點的是其他因素。美光目前正在研究多項前沿技術,并預計層數(shù)將繼續(xù)增加。QLC技術是美光領先的領域,美光將持續(xù)將QLC作為優(yōu)先發(fā)展方向。





