[導(dǎo)讀]在《近距離看GPU計(jì)算》系列第一篇里我們介紹了GPU的一些基礎(chǔ)知識及其如何從圖形加速設(shè)備演化到通用計(jì)算平臺。本文我們會具體從處理單元設(shè)計(jì)和存儲層次結(jié)構(gòu)兩個方面探討GPU不同于CPU的特點(diǎn)，再次確認(rèn)我們反復(fù)申明的GPU更重視整體的Throughput而CPU更在乎具體任務(wù)的Late...
在《近距離看GPU計(jì)算》系列第一篇里我們介紹了GPU的一些基礎(chǔ)知識及其如何從圖形加速設(shè)備演化到通用計(jì)算平臺。本文我們會具體從處理單元設(shè)計(jì)和存儲層次結(jié)構(gòu)兩個方面探討GPU不同于CPU的特點(diǎn)，再次確認(rèn)我們反復(fù)申明的GPU更重視整體的Throughput而CPU更在乎具體任務(wù)的Latency。CPU和GPU從一開始就是為不同的目標(biāo)而設(shè)計(jì)，CPU雖然也可以同時(shí)執(zhí)行多個線程，但其旨在高效地處理串行指令，通過許多復(fù)雜技術(shù)優(yōu)化提高指令級并行以便可以盡快執(zhí)行串行程序。而GPU卻是生而為同時(shí)執(zhí)行成千上萬個線程，犧牲單個線程性能換取整體性能最大化。下圖對CPU與GPU的抽象架構(gòu)進(jìn)行了比對，其中Control是控制器、Core是處理單元、Cache指的是各級緩存、DRAM就是內(nèi)存。我們可以看到GPU設(shè)計(jì)者將更多的晶體管用作執(zhí)行單元，而不是像CPU那樣用作復(fù)雜的控制邏輯和緩存。在下面章節(jié)里，我們會具體討論這兩種設(shè)計(jì)面向帶來的影響，在本文討論里筆者盡量不拘泥具體產(chǎn)商的特定GPU產(chǎn)品，而是希望能給出一般的指引，但是因?yàn)槲谋静牧系膬?yōu)勢以及在通用計(jì)算領(lǐng)域明顯的優(yōu)勢地位，我們大概還是不能脫離Nvidia GPU的語境， AMD GPU的處理單元設(shè)計(jì)細(xì)節(jié)與Nvidia有較大不同，以后我們可以專文討論。一，SIMT和硬件多線程根據(jù)計(jì)算機(jī)歷史上有名的的費(fèi)林分類法(Flynn's Taxonomy)，如下圖所示計(jì)算機(jī)體系架構(gòu)可以簡單分為四類，分別是：- 單一指令流單一數(shù)據(jù)流計(jì)算機(jī)(SISD, Single Instruction Single Data)
- 單一指令流多數(shù)據(jù)流計(jì)算機(jī)(SIMD, Single Instruction Multiple Data)
- 多指令流單一數(shù)據(jù)流計(jì)算機(jī)(MISD, Multiple Instruction Single?Data)
- 多指令流多數(shù)據(jù)流計(jì)算機(jī)(MIMD, Multiple Instruction Multiple?Data)
單核CPU可以歸類為SISD，多核CPU屬于MIMD。我們重點(diǎn)關(guān)注的SIMD指的是采用一個控制器來控制多個處理單元，同時(shí)對一組數(shù)據(jù)的元素分別執(zhí)行相同的操作從而實(shí)現(xiàn)空間上并行的技術(shù)。傳統(tǒng)CPU的指令擴(kuò)展SSE和NEON都屬于典型的SIMD。現(xiàn)代GPU在SIMD基礎(chǔ)上發(fā)展出SIMT(Single Instruction Multiple Thread)的執(zhí)行架構(gòu)。傳統(tǒng)SIMD是一個線程調(diào)用向量處理單元(Vector ALU)執(zhí)行向量指令來操作向量寄存器完成運(yùn)算，而SIMT往往由一組標(biāo)量處理單元(Scalar ALU)構(gòu)成，每個處理單元對應(yīng)一個硬件線程，所有處理單元共享指令預(yù)取/譯碼模塊并接收同一指令共同完成SIMD類型運(yùn)算，運(yùn)行其上的線程可以有自己的寄存器堆，獨(dú)立的內(nèi)存訪問尋址以及執(zhí)行分支。我們以Nvida CUDA為例來介紹SIMT是如何運(yùn)作的。下圖是有關(guān)分發(fā)CUDA的計(jì)算任務(wù)到GPU硬件上執(zhí)行，展示了軟硬件視角各個層級的對應(yīng)關(guān)系。我們先介紹層級圖右面的GPU硬件層次，CUDA的GPU有很多SM(Streaming Multiprocesso)組成。一個SM又有很多SP(Streaming Processor)構(gòu)成，SP是每個線程具體執(zhí)行指令所在，SP也采用流水線設(shè)計(jì)以提高指令級并行，但它一般都是順序執(zhí)行，很少使用分支預(yù)測、動態(tài)執(zhí)行等復(fù)雜技術(shù)。在GPU通用計(jì)算語境下GPU設(shè)備上執(zhí)行的程序被稱為Kernel，針對某個Kernel分發(fā)的所有線程都執(zhí)行相同的程序，這些線程被組織成一系列層次結(jié)構(gòu)，也就是Grid和Block，如層級圖左邊所示。Grid規(guī)定各個維度Block的數(shù)量，Block規(guī)定各個維度線程的數(shù)量，它們的尺寸大小都是在CUDA程序中分發(fā)Kernel時(shí)指定。下圖程序中vecAdd就是Kernel程序，Kernel的分發(fā)是由<<<...>>>語法定義，其中規(guī)定了要分發(fā)的Kernel程序，Grid和Block的尺寸，以及Kernel程序的參數(shù)。在實(shí)際執(zhí)行過程中，GPU會以Block為單位，把相同Block的線程分配給同一個SM進(jìn)行運(yùn)算，Block中的線程可以通過Shared Memory交換數(shù)據(jù)(注：Shared Memory訪問性能類似L1，與Cache由硬件控制對軟件透明不同，Shared Memory由軟件顯式移動數(shù)據(jù))，并支持相互同步操作。在硬件內(nèi)部，Block進(jìn)一步會被為分組成Warp，Warp是GPU硬件最小調(diào)度單位，Warp內(nèi)的線程被分配給SP按照SIMD的模式工作，也就是這些線程共享同樣的PC(程序計(jì)數(shù)器)，以鎖步(Lockstep)的方式執(zhí)行指令。目前支持CUDA的GPU其Warp大小都是32，SM中SP的數(shù)量可能只有8或者16，在這種情況下，一條指令Warp需要跨幾個時(shí)鐘分批執(zhí)行。我們再來看下GPU硬件可以支持的線程數(shù)量，以Fermi GF100為例，該GPU一共有16個SM，每個SM最多可以容納48個Warp，也就是1536個線程，整個GPU可以支持24576 個線程同時(shí)在線。我們可以與CPU對照下，消費(fèi)級CPU一般有2~8個核，就算打開Hyperthreading，一共也就支持十幾個硬件線程同時(shí)在線。為了避免一些高延遲指令引起處理單元流水線停頓，CPU和GPU采取了完全不同的做法。- CPU的做法是一方面窮盡所能充分挖掘指令級并行來規(guī)避，另一方面通過各級Cache來掩蓋訪問內(nèi)存延遲，萬不得已CPU才會切換到別的硬件線程執(zhí)行。硬件線程數(shù)量太多切換太頻繁即使有助于整體吞吐卻惡化單個線程的延遲對CPU設(shè)計(jì)來說也是不可接受的，所以我們可以看到Hyperthread的數(shù)目一般都比較少。
- GPU的做法是另外一種思路，大規(guī)模數(shù)據(jù)并行帶來海量的可執(zhí)行線程，GPU完全可以通過切換到別的線程Warp來規(guī)避指令延遲帶來處理單元的停頓。這種切換會非常頻繁，需要在很短時(shí)間完成(比如一個時(shí)鐘)，所以無論每個線程執(zhí)行需要的的寄存器堆還是Block之內(nèi)線程的Shared Memory從一開始就要分配妥當(dāng)，切換過程中線程上下文一直駐留，直到線程或者整個Block執(zhí)行結(jié)束才能釋放。所以相比CPU，GPU的Register File大小非常驚人，而其處理單元的設(shè)計(jì)卻可以異常簡單。二，GPU的Memory Hierarchy
根據(jù)我們先前文章《多線程計(jì)算平臺的性能模型
》的觀察，一方面GPU通過同時(shí)運(yùn)行很多簡單的線程，不使用或者只利用相對較小的Cache，而主要通過線程間的并行來隱藏內(nèi)存訪問延遲。另一方面顯存帶寬對整體計(jì)算吞吐又有重要意義，直接關(guān)系到GPU性能伸縮能力。所以如下圖所示，GPU存儲層次設(shè)計(jì)的時(shí)候，相比Latency，更重視Throughput，而且各級存儲容量相對偏小。以Fermi GF100 GPU為例，下圖是其存儲層次結(jié)構(gòu)，F(xiàn)ermi GPU是CUDA GPU第一次添加L1和L2的支持，其中L1和Shared Memory共享同一塊片上內(nèi)存，每個SM各64K大小，可以根據(jù)要求以48K/16K或者16K/48K在L1和Shared Memory之間分配。下面表格是幾代CUDA GPU的L1、L2和Register File大小配置。我們可以看到最早的CUDA GPU也就是G80都沒有通用的L1和L2，只有16K的Shared Memory。至于為什么添加Cache的支持，主要是考慮到對某些應(yīng)用來說可能沒有足夠的數(shù)據(jù)并行來掩藏訪存延遲，而對另外一些應(yīng)用其數(shù)據(jù)重用模式不可預(yù)測無法有效利用軟件控制的Shared Memory，總之是為了讓GPU變得更通用，能夠兼容更多的計(jì)算范式。饒有趣味的是，對GF100，RF大小總共為2048K，L1為48x16=768K，L2也是768K，RF反而比L1和L2都要大，而L1和L2差不多，其它GPU也有類似現(xiàn)象，這好像大大顛覆了我們之前在《衡量計(jì)算效能的正確姿勢（3）》了解的CPU存儲層次類似金字塔型的結(jié)構(gòu)，不知道讀者們有何感想？夏日炎炎不是讀書天，這篇文章拖了好長時(shí)間，實(shí)在無法忍受才終于出爐，文章內(nèi)容都是紙上功夫，請各位看官抱將信將疑的態(tài)度，如果有明顯錯誤，歡迎后臺留言糾正。下篇不知又要到什么時(shí)候，這次就先不預(yù)告內(nèi)容了。主要參考資料:- Many-core vs?many-thread machines: Stay away from the valley
- Cuda C Programming Guide
- CUDA Warps and Occupancy
- SIMD < SIMT < SMT: parallelism in NVIDIA GPUs
- The Top 10 Innovations in the New NVIDIA Fermi Architecture, and the Top 3 Next Challenges
~~~~~~~~~~~~~~~~~~~~~~~~~~~~如果覺著內(nèi)容有幫助，請幫忙關(guān)注、點(diǎn)贊、在看并分享給更多的朋友。謝謝！
本站聲明： 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布，目的在于傳遞更多信息，并不代表本站贊同其觀點(diǎn)，本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者，如若文章內(nèi)容侵犯您的權(quán)益，請及時(shí)聯(lián)系本站刪除。
LED驅(qū)動電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。
關(guān)鍵字：
驅(qū)動電源
在工業(yè)自動化蓬勃發(fā)展的當(dāng)下，工業(yè)電機(jī)作為核心動力設(shè)備，其驅(qū)動電源的性能直接關(guān)系到整個系統(tǒng)的穩(wěn)定性和可靠性。其中，反電動勢抑制與過流保護(hù)是驅(qū)動電源設(shè)計(jì)中至關(guān)重要的兩個環(huán)節(jié)，集成化方案的設(shè)計(jì)成為提升電機(jī)驅(qū)動性能的關(guān)鍵。
關(guān)鍵字：
工業(yè)電機(jī)
驅(qū)動電源
LED 驅(qū)動電源作為 LED 照明系統(tǒng)的 “心臟”，其穩(wěn)定性直接決定了整個照明設(shè)備的使用壽命。然而，在實(shí)際應(yīng)用中，LED 驅(qū)動電源易損壞的問題卻十分常見，不僅增加了維護(hù)成本，還影響了用戶體驗(yàn)。要解決這一問題，需從設(shè)計(jì)、生...
關(guān)鍵字：
驅(qū)動電源
照明系統(tǒng)
散熱
根據(jù)LED驅(qū)動電源的公式，電感內(nèi)電流波動大小和電感值成反比，輸出紋波和輸出電容值成反比。所以加大電感值和輸出電容值可以減小紋波。
關(guān)鍵字：
LED
設(shè)計(jì)
驅(qū)動電源
電動汽車(EV)作為新能源汽車的重要代表，正逐漸成為全球汽車產(chǎn)業(yè)的重要發(fā)展方向。電動汽車的核心技術(shù)之一是電機(jī)驅(qū)動控制系統(tǒng)，而絕緣柵雙極型晶體管(IGBT)作為電機(jī)驅(qū)動系統(tǒng)中的關(guān)鍵元件，其性能直接影響到電動汽車的動力性能和...
關(guān)鍵字：
電動汽車
新能源
驅(qū)動電源
在現(xiàn)代城市建設(shè)中，街道及停車場照明作為基礎(chǔ)設(shè)施的重要組成部分，其質(zhì)量和效率直接關(guān)系到城市的公共安全、居民生活質(zhì)量和能源利用效率。隨著科技的進(jìn)步，高亮度白光發(fā)光二極管(LED)因其獨(dú)特的優(yōu)勢逐漸取代傳統(tǒng)光源，成為大功率區(qū)域...
關(guān)鍵字：
發(fā)光二極管
驅(qū)動電源
LED
在LED照明技術(shù)日益普及的今天，LED驅(qū)動電源的電磁干擾(EMI)問題成為了一個不可忽視的挑戰(zhàn)。電磁干擾不僅會影響LED燈具的正常工作，還可能對周圍電子設(shè)備造成不利影響，甚至引發(fā)系統(tǒng)故障。因此，采取有效的硬件措施來解決L...
關(guān)鍵字：
LED照明技術(shù)
電磁干擾
驅(qū)動電源
開關(guān)電源具有效率高的特性,而且開關(guān)電源的變壓器體積比串聯(lián)穩(wěn)壓型電源的要小得多,電源電路比較整潔,整機(jī)重量也有所下降,所以,現(xiàn)在的LED驅(qū)動電源
關(guān)鍵字：
LED
驅(qū)動電源
開關(guān)電源
LED驅(qū)動電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動LED發(fā)光的電壓轉(zhuǎn)換器，通常情況下：LED驅(qū)動電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。
關(guān)鍵字：
LED
隧道燈
驅(qū)動電源
LED驅(qū)動電源在LED照明系統(tǒng)中扮演著至關(guān)重要的角色。由于LED具有節(jié)能、環(huán)保、長壽命等優(yōu)點(diǎn)，使得LED照明在各個領(lǐng)域得到廣泛應(yīng)用。然而，LED的電流、電壓特性需要特定的驅(qū)動電源才能正常工作。本文將介紹常用的LED驅(qū)動電...
關(guān)鍵字：
LED驅(qū)動電源
led照明
LED驅(qū)動電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動LED發(fā)光的電源轉(zhuǎn)換器，通常情況下：LED驅(qū)動電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。
關(guān)鍵字：
LED
驅(qū)動電源
高壓工頻交流
崧盛股份9日發(fā)布投資者關(guān)系活動記錄表，就植物照明發(fā)展趨勢、行業(yè)壁壘等問題進(jìn)行分享。植物照明未來市場需求廣闊崧盛股份指出，植物照明將會走向長期產(chǎn)業(yè)領(lǐng)域。主要原因有三：第一，LED植物照明賦能終端種植更具有經(jīng)濟(jì)價(jià)值。由于LE...
關(guān)鍵字：
崧盛股份
驅(qū)動電源
在當(dāng)今高度發(fā)展的技術(shù)中，電子產(chǎn)品的升級越來越快，LED燈技術(shù)也在不斷發(fā)展，這使我們的城市變得豐富多彩。 LED驅(qū)動電源將電源轉(zhuǎn)換為特定的電壓和電流，以驅(qū)動LED發(fā)光。通常情況下：LED驅(qū)動電源的輸入包括高壓工頻交流電(即...
關(guān)鍵字：
LED
驅(qū)動電源
高壓直流
人類社會的進(jìn)步離不開社會上各行各業(yè)的努力，各種各樣的電子產(chǎn)品的更新?lián)Q代離不開我們的設(shè)計(jì)者的努力，其實(shí)很多人并不會去了解電子產(chǎn)品的組成，比如LED電源。
關(guān)鍵字：
LED
驅(qū)動電源
低壓直流
隨著科學(xué)技術(shù)的發(fā)展，LED技術(shù)也在不斷發(fā)展，為我們的生活帶來各種便利，為我們提供各種各樣生活信息，造福著我們?nèi)祟?。LED驅(qū)動電源實(shí)際上是一種電源，但是它是一種特定的電源，用于驅(qū)動LED發(fā)射帶有電壓或電流的光。 因此，LE...
關(guān)鍵字：
LED
驅(qū)動電源
電流
LED燈作為一種新型節(jié)能和無污染光源，由于其特有的發(fā)光照明特性，在現(xiàn)代照明應(yīng)用中發(fā)揮著革命性的作用。作為 LED 照明產(chǎn)業(yè)鏈中最為核心的部件之一，LED 驅(qū)動電源的驅(qū)動控制技術(shù)所存在的可靠性低、成本高等典型問題一直制約著...
關(guān)鍵字：
多路
LED
驅(qū)動電源
隨著社會的快速發(fā)展，LED技術(shù)也在飛速發(fā)展，為我們的城市的燈光煥發(fā)光彩，讓我們的生活越來越有趣，那么你知道LED需要LED驅(qū)動電源嗎?那么你知道什么是LED驅(qū)動電源嗎?
關(guān)鍵字：
LED
開關(guān)電源
驅(qū)動電源
早前有新聞稱，Cree在2018年開始宣布轉(zhuǎn)型高科技半導(dǎo)體領(lǐng)域，并一邊逐漸脫離照明與LED相關(guān)業(yè)務(wù)，一邊持續(xù)投資半導(dǎo)體。在今日，Cree宣布與SMART Global Holdings, Inc.達(dá)成最終協(xié)議，擬將LED...
關(guān)鍵字：
cree
led照明
下載文檔
