[導(dǎo)讀]↓推薦關(guān)注↓今天分享一篇內(nèi)存性能優(yōu)化的文章，文章用了大量精美的圖深入淺出地分析了Linux內(nèi)核slab性能優(yōu)化的核心思想，slab是Linux內(nèi)核小對(duì)象內(nèi)存分配最重要的算法，文章分析了內(nèi)存分配的各種性能問(wèn)題（在不同的場(chǎng)景下面），并給出了這些問(wèn)題的優(yōu)化方案，這個(gè)對(duì)我們實(shí)現(xiàn)高性能內(nèi)存...
今天分享一篇內(nèi)存性能優(yōu)化的文章，文章用了大量精美的圖深入淺出地分析了Linux內(nèi)核slab性能優(yōu)化的核心思想
，slab
是Linux內(nèi)核小對(duì)象內(nèi)存分配最重要的算法，文章分析了內(nèi)存分配的各種性能問(wèn)題（在不同的場(chǎng)景下面），并給出了這些問(wèn)題的優(yōu)化方案，這個(gè)對(duì)我們實(shí)現(xiàn)高性能內(nèi)存池算法
，或以后遇到內(nèi)存性能問(wèn)題的時(shí)候，有一定的啟發(fā)，值得我們學(xué)習(xí)。
Linux內(nèi)核的slab來(lái)自一種很簡(jiǎn)單的思想，即事先準(zhǔn)備好一些會(huì)頻繁分配，釋放的數(shù)據(jù)結(jié)構(gòu)。然而標(biāo)準(zhǔn)的slab實(shí)現(xiàn)太復(fù)雜且維護(hù)開(kāi)銷(xiāo)巨大，因此便分化出了更加小巧的slub，因此本文討論的就是slub，后面所有提到slab的地方，指的都是slub。另外又由于本文主要描述內(nèi)核優(yōu)化方面的內(nèi)容，因此想了解slab細(xì)節(jié)以及代碼實(shí)現(xiàn)的請(qǐng)查看源碼。
單CPU上單純的slab
下圖給出了單CPU上slab在分配和釋放對(duì)象時(shí)的情景序列：
可以看出，非常之簡(jiǎn)單，而且完全達(dá)到了slab設(shè)計(jì)之初的目標(biāo)。
擴(kuò)展到多核心CPU?????????????????????????
現(xiàn)在我們簡(jiǎn)單的將上面的模型擴(kuò)展到多核心CPU，同樣差不多的分配序列如下圖所示：
我們看到，在只有單一slab的時(shí)候，如果多個(gè)CPU同時(shí)分配對(duì)象，沖突是不可避免的，解決沖突的幾乎是唯一的辦法就是加鎖排隊(duì)，然而這將大大增加延遲，我們看到，申請(qǐng)單一對(duì)象的整個(gè)時(shí)延從T0開(kāi)始，到T4結(jié)束，這太久了。
多CPU無(wú)鎖化并行化操作的直接思路-復(fù)制給每個(gè)CPU一套相同的數(shù)據(jù)結(jié)構(gòu)。不二法門(mén)就是增加“每CPU變量”。對(duì)于slab而言，可以擴(kuò)展成下面的樣子：
如果以為這么簡(jiǎn)單就結(jié)束了，那這就太沒(méi)有意義了。
問(wèn)題
首先，我們來(lái)看一個(gè)簡(jiǎn)單的問(wèn)題，如果單獨(dú)的某個(gè)CPU的slab緩存沒(méi)有對(duì)象可分配了，但是其它CPU的slab緩存仍有大量空閑對(duì)象的情況，如下圖所示：
這是可能的，因?yàn)閷?duì)單獨(dú)一種slab的需求是和該CPU上執(zhí)行的進(jìn)程/線程緊密相關(guān)的，比如如果CPU0只處理網(wǎng)絡(luò)，那么它就會(huì)對(duì)skb等數(shù)據(jù)結(jié)構(gòu)有大量的需求，對(duì)于上圖最后引出的問(wèn)題，如果我們選擇從伙伴系統(tǒng)中分配一個(gè)新的page(或者pages，取決于對(duì)象大小以及slab cache的order)，那么久而久之就會(huì)造成slab在CPU間分布的不均衡，更可能會(huì)因此吃掉大量的物理內(nèi)存，這都是不希望看到的。
在繼續(xù)之前，首先要明確的是，我們需要在CPU間均衡slab，并且這些必須靠slab內(nèi)部的機(jī)制自行完成，這個(gè)和進(jìn)程在CPU間負(fù)載均衡是完全不同的，對(duì)進(jìn)程而言，擁有一個(gè)核心調(diào)度機(jī)制，比如基于時(shí)間片，或者虛擬時(shí)鐘的步進(jìn)速率等，但是對(duì)于slab，完全取決于使用者自身，只要對(duì)象仍然在使用，就不能剝奪使用者繼續(xù)使用的權(quán)利，除非使用者自己釋放。因此slab的負(fù)載均衡必須設(shè)計(jì)成合作型的，而不是搶占式的。
好了?，F(xiàn)在我們知道，從伙伴系統(tǒng)重新分配一個(gè)page(s)并不是一個(gè)好主意，它應(yīng)該是最終的決定，在執(zhí)行它之前，首先要試一下別的路線。
現(xiàn)在，我們引出第二個(gè)問(wèn)題，如下圖所示：
誰(shuí)也不能保證分配slab對(duì)象的CPU和釋放slab對(duì)象的CPU是同一個(gè)CPU，誰(shuí)也不能保證一個(gè)CPU在一個(gè)slab對(duì)象的生命周期內(nèi)沒(méi)有分配新的page(s)，這期間的復(fù)雜操作誰(shuí)也沒(méi)有規(guī)定。這些問(wèn)題該怎么解決呢？事實(shí)上，理解了這些問(wèn)題是怎么解決的，一個(gè)slab框架就徹底理解了。
問(wèn)題的解決-分層slab cache
無(wú)級(jí)變速總是讓人向往。如果一個(gè)CPU的slab緩存滿了，直接去搶同級(jí)別的別的CPU的slab緩存被認(rèn)為是一種魯莽且不道義的做法。那么為何不設(shè)置另外一個(gè)slab緩存，獲取它里面的對(duì)象不像直接獲取CPU的slab緩存那么簡(jiǎn)單且直接，但是難度卻又不大，只是稍微增加一點(diǎn)消耗，這不是很好嗎？
事實(shí)上，CPU的L1，L2，L3 cache不就是這個(gè)方案設(shè)計(jì)的嗎？這事實(shí)上已經(jīng)成為cache設(shè)計(jì)的不二法門(mén)。這個(gè)設(shè)計(jì)思想同樣作用于slab，就是Linux內(nèi)核的slub實(shí)現(xiàn)，現(xiàn)在可以給出概念和解釋了。
-
Linux kernel slab cache：一個(gè)分為3層的對(duì)象cache模型。
-
Level 1 slab cache：一個(gè)空閑對(duì)象鏈表，每個(gè)CPU一個(gè)的獨(dú)享cache，分配釋放對(duì)象無(wú)需加鎖。
-
Level 2 slab cache：一個(gè)空閑對(duì)象鏈表，每個(gè)CPU一個(gè)的共享page(s) cache，分配釋放對(duì)象時(shí)僅需要鎖住該page(s)，與Level 1 slab cache互斥，不互相包容。
-
Level 3 slab cache：一個(gè)page(s)鏈表，每個(gè)NUMA NODE的所有CPU共享的cache，單位為page(s)，獲取后被提升到對(duì)應(yīng)CPU的Level 1 slab cache，同時(shí)該page(s)作為L(zhǎng)evel 2的共享page(s)存在。
-
共享page(s)：該page(s)被一個(gè)或者多個(gè)CPU占有，每一個(gè)CPU在該page(s)上都可以擁有互相不充圖的空閑對(duì)象鏈表，該page(s)擁有一個(gè)唯一的Level 2 slab cache空閑鏈表，該鏈表與上述一個(gè)或多個(gè)Level 1 slab cache空閑鏈表亦不沖突，多個(gè)CPU獲取該Level 2 slab cache時(shí)必須爭(zhēng)搶?zhuān)@取后可以將該鏈表提升成自己的Level 1 slab cache。
該slab cache的圖示如下：
其行為如下圖所示：
2個(gè)場(chǎng)景?????????????????????????
對(duì)于常規(guī)的對(duì)象分配過(guò)程，下圖展示了其細(xì)節(jié)：事實(shí)上，對(duì)于多個(gè)CPU共享一個(gè)page(s)的情況，還可以有另一種玩法，如下圖所示：
伙伴系統(tǒng)
前面我們簡(jiǎn)短的體會(huì)了Linux內(nèi)核的slab設(shè)計(jì),不宜過(guò)長(zhǎng),太長(zhǎng)了不易理解.但是最后,如果Level 3也沒(méi)有獲取page(s)，那么最終會(huì)落到終極的伙伴系統(tǒng)，伙伴系統(tǒng)是為了防內(nèi)存分配碎片化的，所以它盡可能地做兩件事：
-
盡量分配盡可能大的內(nèi)存
-
盡量合并連續(xù)的小塊內(nèi)存成一塊大內(nèi)存
我們可以通過(guò)下面的圖解來(lái)理解上面的原則：
注意，本文是關(guān)于優(yōu)化的，不是伙伴系統(tǒng)的科普，所以我假設(shè)大家已經(jīng)理解了伙伴系統(tǒng)。
鑒于slab緩存對(duì)象大多數(shù)都是不超過(guò)1個(gè)頁(yè)面的小結(jié)構(gòu)(不僅僅slab系統(tǒng)，超過(guò)1個(gè)頁(yè)面的內(nèi)存需求相比1個(gè)頁(yè)面的內(nèi)存需求，很少)，因此會(huì)有大量的針對(duì)1個(gè)頁(yè)面的內(nèi)存分配需求。
從伙伴系統(tǒng)的分配原理可知，如果持續(xù)大量分配單一頁(yè)面，會(huì)有大量的order大于0的頁(yè)面分裂成單一頁(yè)面，在單核心CPU上，這不是問(wèn)題，但是在多核心CPU上，由于每一個(gè)CPU都會(huì)進(jìn)行此類(lèi)分配，而伙伴系統(tǒng)的分裂，合并操作會(huì)涉及大量的鏈表操作，這個(gè)鎖開(kāi)銷(xiāo)是巨大的，因此需要優(yōu)化！
Linux內(nèi)核對(duì)伙伴系統(tǒng)針對(duì)單一頁(yè)面的分配需求采取的批量分配“每CPU單一頁(yè)面緩存”的方式！每一個(gè)CPU擁有一個(gè)單一頁(yè)面緩存池，需要單一頁(yè)面的時(shí)候，可以無(wú)需加鎖從當(dāng)前CPU對(duì)應(yīng)的頁(yè)面池中獲取頁(yè)面。而當(dāng)池中頁(yè)面不足時(shí)，系統(tǒng)會(huì)批量從伙伴系統(tǒng)中拉取一堆頁(yè)面到池中，反過(guò)來(lái)，在單一頁(yè)面釋放的時(shí)候，會(huì)擇優(yōu)將其釋放到每CPU的單一頁(yè)面緩存中。
為了維持“每CPU單一頁(yè)面緩存”中頁(yè)面的數(shù)量不會(huì)太多或太少(太多會(huì)影響伙伴系統(tǒng)，太少會(huì)影響CPU的需求)，系統(tǒng)保持了兩個(gè)值，當(dāng)緩存頁(yè)面數(shù)量低于low值的時(shí)候，便從伙伴系統(tǒng)中批量獲取頁(yè)面到池中，而當(dāng)緩存頁(yè)面數(shù)量大于high的時(shí)候，便會(huì)釋放一些頁(yè)面到伙伴系統(tǒng)中。
小結(jié)?????????????????????????????????????????????????
多CPU操作系統(tǒng)內(nèi)核中，關(guān)鍵的開(kāi)銷(xiāo)就是鎖的開(kāi)銷(xiāo)。我認(rèn)為這是一開(kāi)始的設(shè)計(jì)導(dǎo)致的，因?yàn)橐婚_(kāi)始，多核CPU并沒(méi)有出現(xiàn)，單核CPU上的共享保護(hù)幾乎都是可以用“禁中斷”，“禁搶占”來(lái)簡(jiǎn)單實(shí)現(xiàn)的，到了多核時(shí)代，操作系統(tǒng)同樣簡(jiǎn)單平移到了新的平臺(tái)，因此同步操作是在單核的基礎(chǔ)上后來(lái)添加的。
簡(jiǎn)單來(lái)講，目前的主流操作系統(tǒng)都是在單核年代創(chuàng)造出來(lái)的，因此它們都是順應(yīng)單核環(huán)境的，對(duì)于多核環(huán)境，可能它們一開(kāi)始的設(shè)計(jì)就有問(wèn)題。
不管怎么說(shuō)，優(yōu)化操作的不二法門(mén)就是禁止或者盡量減少鎖的操作。隨之而來(lái)的思路就是為共享的關(guān)鍵數(shù)據(jù)結(jié)構(gòu)創(chuàng)建"每CPU的緩存“，而這類(lèi)緩存分為兩種類(lèi)型：1. 數(shù)據(jù)通路緩存
比如路由表之類(lèi)的數(shù)據(jù)結(jié)構(gòu)，你可以用RCU鎖來(lái)保護(hù)，當(dāng)然如果為每一個(gè)CPU都創(chuàng)建一個(gè)本地路由表緩存，也是不錯(cuò)的，現(xiàn)在的問(wèn)題是何時(shí)更新它們，因?yàn)樗械木彺娑际瞧郊?jí)的，因此一種批量同步的機(jī)制是必須的。2. 管理機(jī)制緩存
比如slab對(duì)象緩存這類(lèi)，其生命周期完全取決于使用者，因此不存在同步問(wèn)題，然而卻存在管理問(wèn)題。采用分級(jí)cache的思想是好的，這個(gè)非常類(lèi)似于CPU的L1/L2/L3緩存，采用這種平滑的開(kāi)銷(xiāo)逐漸增大，容量逐漸增大的機(jī)制，并配合以設(shè)計(jì)良好的換入/換出等算法，效果是非常明顯的。
轉(zhuǎn)自：極客重生
- EOF -
欲知詳情，請(qǐng)下載word文檔
下載文檔
本站聲明： 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布，目的在于傳遞更多信息，并不代表本站贊同其觀點(diǎn)，本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專(zhuān)欄作者，如若文章內(nèi)容侵犯您的權(quán)益，請(qǐng)及時(shí)聯(lián)系本站刪除。
LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。
關(guān)鍵字：
驅(qū)動(dòng)電源
在工業(yè)自動(dòng)化蓬勃發(fā)展的當(dāng)下，工業(yè)電機(jī)作為核心動(dòng)力設(shè)備，其驅(qū)動(dòng)電源的性能直接關(guān)系到整個(gè)系統(tǒng)的穩(wěn)定性和可靠性。其中，反電動(dòng)勢(shì)抑制與過(guò)流保護(hù)是驅(qū)動(dòng)電源設(shè)計(jì)中至關(guān)重要的兩個(gè)環(huán)節(jié)，集成化方案的設(shè)計(jì)成為提升電機(jī)驅(qū)動(dòng)性能的關(guān)鍵。
關(guān)鍵字：
工業(yè)電機(jī)
驅(qū)動(dòng)電源
LED 驅(qū)動(dòng)電源作為 LED 照明系統(tǒng)的 “心臟”，其穩(wěn)定性直接決定了整個(gè)照明設(shè)備的使用壽命。然而，在實(shí)際應(yīng)用中，LED 驅(qū)動(dòng)電源易損壞的問(wèn)題卻十分常見(jiàn)，不僅增加了維護(hù)成本，還影響了用戶體驗(yàn)。要解決這一問(wèn)題，需從設(shè)計(jì)、生...
關(guān)鍵字：
驅(qū)動(dòng)電源
照明系統(tǒng)
散熱
電動(dòng)汽車(chē)(EV)作為新能源汽車(chē)的重要代表，正逐漸成為全球汽車(chē)產(chǎn)業(yè)的重要發(fā)展方向。電動(dòng)汽車(chē)的核心技術(shù)之一是電機(jī)驅(qū)動(dòng)控制系統(tǒng)，而絕緣柵雙極型晶體管(IGBT)作為電機(jī)驅(qū)動(dòng)系統(tǒng)中的關(guān)鍵元件，其性能直接影響到電動(dòng)汽車(chē)的動(dòng)力性能和...
關(guān)鍵字：
電動(dòng)汽車(chē)
新能源
驅(qū)動(dòng)電源
在現(xiàn)代城市建設(shè)中，街道及停車(chē)場(chǎng)照明作為基礎(chǔ)設(shè)施的重要組成部分，其質(zhì)量和效率直接關(guān)系到城市的公共安全、居民生活質(zhì)量和能源利用效率。隨著科技的進(jìn)步，高亮度白光發(fā)光二極管(LED)因其獨(dú)特的優(yōu)勢(shì)逐漸取代傳統(tǒng)光源，成為大功率區(qū)域...
關(guān)鍵字：
發(fā)光二極管
驅(qū)動(dòng)電源
LED
在LED照明技術(shù)日益普及的今天，LED驅(qū)動(dòng)電源的電磁干擾(EMI)問(wèn)題成為了一個(gè)不可忽視的挑戰(zhàn)。電磁干擾不僅會(huì)影響LED燈具的正常工作，還可能對(duì)周?chē)娮釉O(shè)備造成不利影響，甚至引發(fā)系統(tǒng)故障。因此，采取有效的硬件措施來(lái)解決L...
關(guān)鍵字：
LED照明技術(shù)
電磁干擾
驅(qū)動(dòng)電源
開(kāi)關(guān)電源具有效率高的特性,而且開(kāi)關(guān)電源的變壓器體積比串聯(lián)穩(wěn)壓型電源的要小得多,電源電路比較整潔,整機(jī)重量也有所下降,所以,現(xiàn)在的LED驅(qū)動(dòng)電源
關(guān)鍵字：
LED
驅(qū)動(dòng)電源
開(kāi)關(guān)電源
LED驅(qū)動(dòng)電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動(dòng)LED發(fā)光的電壓轉(zhuǎn)換器，通常情況下：LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。
關(guān)鍵字：
LED
隧道燈
驅(qū)動(dòng)電源
LED驅(qū)動(dòng)電源在LED照明系統(tǒng)中扮演著至關(guān)重要的角色。由于LED具有節(jié)能、環(huán)保、長(zhǎng)壽命等優(yōu)點(diǎn)，使得LED照明在各個(gè)領(lǐng)域得到廣泛應(yīng)用。然而，LED的電流、電壓特性需要特定的驅(qū)動(dòng)電源才能正常工作。本文將介紹常用的LED驅(qū)動(dòng)電...
關(guān)鍵字：
LED驅(qū)動(dòng)電源
led照明
LED驅(qū)動(dòng)電源是把電源供應(yīng)轉(zhuǎn)換為特定的電壓電流以驅(qū)動(dòng)LED發(fā)光的電源轉(zhuǎn)換器，通常情況下：LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流(即市電)、低壓直流、高壓直流、低壓高頻交流(如電子變壓器的輸出)等。
關(guān)鍵字：
LED
驅(qū)動(dòng)電源
高壓工頻交流
崧盛股份9日發(fā)布投資者關(guān)系活動(dòng)記錄表，就植物照明發(fā)展趨勢(shì)、行業(yè)壁壘等問(wèn)題進(jìn)行分享。植物照明未來(lái)市場(chǎng)需求廣闊崧盛股份指出，植物照明將會(huì)走向長(zhǎng)期產(chǎn)業(yè)領(lǐng)域。主要原因有三：第一，LED植物照明賦能終端種植更具有經(jīng)濟(jì)價(jià)值。由于LE...
關(guān)鍵字：
崧盛股份
驅(qū)動(dòng)電源
在當(dāng)今高度發(fā)展的技術(shù)中，電子產(chǎn)品的升級(jí)越來(lái)越快，LED燈技術(shù)也在不斷發(fā)展，這使我們的城市變得豐富多彩。 LED驅(qū)動(dòng)電源將電源轉(zhuǎn)換為特定的電壓和電流，以驅(qū)動(dòng)LED發(fā)光。通常情況下：LED驅(qū)動(dòng)電源的輸入包括高壓工頻交流電(即...
關(guān)鍵字：
LED
驅(qū)動(dòng)電源
高壓直流
人類(lèi)社會(huì)的進(jìn)步離不開(kāi)社會(huì)上各行各業(yè)的努力，各種各樣的電子產(chǎn)品的更新?lián)Q代離不開(kāi)我們的設(shè)計(jì)者的努力，其實(shí)很多人并不會(huì)去了解電子產(chǎn)品的組成，比如LED電源。
關(guān)鍵字：
LED
驅(qū)動(dòng)電源
低壓直流
隨著科學(xué)技術(shù)的發(fā)展，LED技術(shù)也在不斷發(fā)展，為我們的生活帶來(lái)各種便利，為我們提供各種各樣生活信息，造福著我們?nèi)祟?lèi)。LED驅(qū)動(dòng)電源實(shí)際上是一種電源，但是它是一種特定的電源，用于驅(qū)動(dòng)LED發(fā)射帶有電壓或電流的光。 因此，LE...
關(guān)鍵字：
LED
驅(qū)動(dòng)電源
電流
LED燈作為一種新型節(jié)能和無(wú)污染光源，由于其特有的發(fā)光照明特性，在現(xiàn)代照明應(yīng)用中發(fā)揮著革命性的作用。作為 LED 照明產(chǎn)業(yè)鏈中最為核心的部件之一，LED 驅(qū)動(dòng)電源的驅(qū)動(dòng)控制技術(shù)所存在的可靠性低、成本高等典型問(wèn)題一直制約著...
關(guān)鍵字：
多路
LED
驅(qū)動(dòng)電源
隨著社會(huì)的快速發(fā)展，LED技術(shù)也在飛速發(fā)展，為我們的城市的燈光煥發(fā)光彩，讓我們的生活越來(lái)越有趣，那么你知道LED需要LED驅(qū)動(dòng)電源嗎?那么你知道什么是LED驅(qū)動(dòng)電源嗎?
關(guān)鍵字：
LED
開(kāi)關(guān)電源
驅(qū)動(dòng)電源
早前有新聞稱(chēng)，Cree在2018年開(kāi)始宣布轉(zhuǎn)型高科技半導(dǎo)體領(lǐng)域，并一邊逐漸脫離照明與LED相關(guān)業(yè)務(wù)，一邊持續(xù)投資半導(dǎo)體。在今日，Cree宣布與SMART Global Holdings, Inc.達(dá)成最終協(xié)議，擬將LED...
關(guān)鍵字：
cree
led照明
