HBM高帶寬內(nèi)存在實際中的應(yīng)用越來越多，但很多朋友對HBM高帶寬內(nèi)存并不是非常了解。為增進(jìn)大家對HBM高帶寬內(nèi)存的認(rèn)識，本文將對HBM高帶寬內(nèi)存以及HBM高帶寬內(nèi)存的重要性予以介紹。如果你對HBM高帶寬內(nèi)存具有興趣，不妨繼續(xù)往下閱讀哦。

一、高帶寬內(nèi)存（HBM）的介紹

高帶寬內(nèi)存，英文全稱：High Bandwidth Memory，簡稱：HBM，是一種基于3D堆棧工藝的高性能DRAM。具有高性能、高帶寬、高容量、低功耗、高可靠性的圖形處理器內(nèi)存，是當(dāng)前GPU存儲單元的理想解決方案，并被廣泛應(yīng)用于高性能計算、人工智能和圖形處理等領(lǐng)域。

HBM通過在垂直方向上堆疊多個DRAM芯片來實現(xiàn)高速、高帶寬的內(nèi)存訪問。然后再用硅通孔（TSV）和微凸塊等先進(jìn)封裝技術(shù)，將多個DRAM芯片緊密堆疊在一起，形成大容量、高帶寬的DDR組合陣列。類似于堆積木。

相較于傳統(tǒng)的GDDR內(nèi)存，在顯存位寬、時鐘頻率和顯存帶寬上，HBM均有大幅提升。例如，HBM顯存的位寬為1024-bit，是GDDR5顯存的32-bit的4倍。

HBM的容量也比傳統(tǒng)GDDR內(nèi)存大得多，可以達(dá)到數(shù)百GB或數(shù)千GB的級別，滿足高性能計算、圖形處理和數(shù)據(jù)中心等領(lǐng)域?qū)?nèi)存帶寬和容量的需求。

HBM采用了新的制造工藝和結(jié)構(gòu)設(shè)計，使其能夠?qū)崿F(xiàn)更低的功耗，這不僅可以延長電池壽命，還可以提高設(shè)備的穩(wěn)定性和可靠性。

HBM采用了多層堆疊技術(shù)，將多個芯片堆疊在一起，從而減少故障率和提高可靠性。此外，HBM還采用了先進(jìn)的散熱技術(shù)，可以有效地降低溫度，保護(hù)芯片免受過熱的影響。

二、為什么HBM很重要

自HBM首次宣布以來的十年里，已有2.5代標(biāo)準(zhǔn)進(jìn)入市場。在此期間，創(chuàng)建、捕獲、復(fù)制和消耗的數(shù)據(jù)量從2010年的2 ZB增加到2020年的64.2 ZB，據(jù)Statista預(yù)測，這一數(shù)字將在2025年增長近三倍，達(dá)到181 ZB。

Synopsys的高級產(chǎn)品營銷經(jīng)理Anika Malhotra表示：“2016年，HBM2將信令速率提高了一倍，達(dá)到2 Gbps，帶寬達(dá)到256 GB/s。兩年后，HBM2E出現(xiàn)了，實現(xiàn)了3.6 Gbps和460 GB/s的數(shù)據(jù)速率。性能需求在增加，高級工作負(fù)載對帶寬的需求也在增加，因為更高的內(nèi)存帶寬是實現(xiàn)計算性能的關(guān)鍵因素。”

“除此之外，為了更快地處理所有這些數(shù)據(jù)，芯片設(shè)計也變得越來越復(fù)雜，通常需要專門的加速器、片內(nèi)或封裝內(nèi)存儲器及接口。HBM被視為將異構(gòu)分布式處理推到一個完全不同水平的一種方式?！?

“最初，高帶寬內(nèi)存只是被圖形公司視為進(jìn)化方向上的一步；但是后來網(wǎng)絡(luò)和數(shù)據(jù)中心意識到HBM可以為內(nèi)存結(jié)構(gòu)帶來更多的帶寬。所有推動數(shù)據(jù)中心采用HBM的動力在于更低延遲、更快訪問和更低功耗?！盡alhotra說?！巴ǔＧ闆r下，CPU為內(nèi)存容量進(jìn)行優(yōu)化，而加速器和GPU為內(nèi)存帶寬進(jìn)行優(yōu)化。但是隨著模型尺寸的指數(shù)增長，系統(tǒng)對容量和帶寬的需求同時在增長（即不會因為增加容量后，對帶寬需求降低）。我們看到更多的內(nèi)存分層，包括支持對軟件可見的HBM + DDR，以及使用HBM作為DDR的軟件透明緩存。除了CPU和GPU， HBM也很受數(shù)據(jù)中心FPGA的歡迎?！?

HBM最初的目的是替代GDDR等其他內(nèi)存，由一些領(lǐng)先的半導(dǎo)體公司（特別是英偉達(dá)和AMD）推動。這些公司仍然在JEDEC工作組中大力推動其發(fā)展，英偉達(dá)是該工作組的主席，AMD是主要貢獻(xiàn)者之一。

Synopsys產(chǎn)品營銷經(jīng)理Brett Murdock表示：“GPU目前有兩種選擇。一種是繼續(xù)使用GDDR，這種在SoC周圍會有大量的外設(shè)；另一種是使用HBM，可以讓用戶獲得更多的帶寬和更少的物理接口，但是整體成本相對更高。還有一點需要強調(diào)的是物理接口越少，功耗越低。所以使用GDDR非常耗電，而HBM非常節(jié)能。所以說到底，客戶真正想問的是花錢的首要任務(wù)是什么？對于HBM3，已經(jīng)開始讓答案朝‘可能應(yīng)該把錢花在HBM上’傾斜?！?

盡管在最初推出時，HBM 2/2e僅面向AMD和Nvidia這兩家公司，但現(xiàn)在它已經(jīng)擁有了龐大的用戶基礎(chǔ)。當(dāng)HBM3最終被JEDEC批準(zhǔn)時，這種增長有望大幅擴大。

以上便是此次帶來的HBM高帶寬內(nèi)存相關(guān)內(nèi)容，通過本文，希望大家對HBM高帶寬內(nèi)存已經(jīng)具備一定的了解。如果你喜歡本文，不妨持續(xù)關(guān)注我們網(wǎng)站哦，將于后期帶來更多精彩內(nèi)容。最后，十分感謝大家的閱讀，have a nice day!