日本黄色一级经典视频|伊人久久精品视频|亚洲黄色色周成人视频九九九|av免费网址黄色小短片|黄色Av无码亚洲成年人|亚洲1区2区3区无码|真人黄片免费观看|无码一级小说欧美日免费三级|日韩中文字幕91在线看|精品久久久无码中文字幕边打电话

當(dāng)前位置:首頁 > 單片機(jī) > 架構(gòu)師社區(qū)
[導(dǎo)讀]作者|孫玄/陳東 分布式系統(tǒng)中,大部分系統(tǒng)調(diào)用都會涉及到負(fù)載均衡,例如:客戶端發(fā)往服務(wù)端的請求首先到達(dá)反向代理,然后反向代理再通過負(fù)載均衡算法將請求轉(zhuǎn)發(fā)到業(yè)務(wù)系統(tǒng);或者后端業(yè)務(wù)系統(tǒng)各模塊間的調(diào)用前,也需要通過負(fù)載均衡算法選擇到一個目標(biāo)節(jié)點。

傳授“帶權(quán)重的負(fù)載均衡實現(xiàn)算法”獨(dú)家設(shè)計思路!

作者|孫玄/陳東

分布式系統(tǒng)中,大部分系統(tǒng)調(diào)用都會涉及到負(fù)載均衡,例如:客戶端發(fā)往服務(wù)端的請求首先到達(dá)反向代理,然后反向代理再通過負(fù)載均衡算法將請求轉(zhuǎn)發(fā)到業(yè)務(wù)系統(tǒng);或者后端業(yè)務(wù)系統(tǒng)各模塊間的調(diào)用前,也需要通過負(fù)載均衡算法選擇到一個目標(biāo)節(jié)點。


一般情況下,我們對負(fù)載均衡的要求就是均勻,確保調(diào)用方的請求流量能夠均勻的發(fā)送到我們?nèi)哂嗖渴鸬腘個服務(wù)節(jié)點上,所以負(fù)載均衡的算法一般使用隨機(jī)或輪詢都可以保證被調(diào)用結(jié)點流量的均勻。


真實情況下,往往由于部署服務(wù)的服務(wù)器性能或資源分配等原因需要我們?yōu)榉?wù)結(jié)點設(shè)置不同的權(quán)重,權(quán)重高的結(jié)點可以分配多一些的流量,同時降低權(quán)重低的結(jié)點的流量比例。


這時負(fù)載均衡就不能簡單的使用隨機(jī)或者輪詢了,需要添加對權(quán)重的支持。接下來我們分析幾種帶權(quán)重的負(fù)載均衡算法,并分析一下他們的優(yōu)缺點:

-     使用隨機(jī)數(shù)     -

設(shè)計思路如下:首先經(jīng)過負(fù)載均衡后選擇到一個結(jié)點,然后我們根據(jù)權(quán)重值再做一道攔截,按權(quán)重按比例放行,實現(xiàn)按降低結(jié)點流量的效果。例如我們規(guī)定權(quán)重的范圍從010之間,0拒絕,10放行。權(quán)重值越高,分配的流量就越多。


最簡單的實現(xiàn)方案,可以使用隨機(jī)值,假設(shè)設(shè)置目標(biāo)結(jié)點的權(quán)重值為7,當(dāng)結(jié)點被負(fù)載均衡選中后,我們生成一個010之間的隨機(jī)數(shù),小于7放行,大于7則不向目標(biāo)結(jié)點發(fā)送請求,需要從新做負(fù)載均衡計算,由此實現(xiàn)了將目標(biāo)結(jié)點的流量降低到原來的70%。


方案實現(xiàn)起來很簡單,但問題也很明顯,我們都知道生成隨機(jī)數(shù)的計算會造成CPU的開銷,計算權(quán)重又發(fā)生在RPC調(diào)用過程中,所以每次RPC請求都會額外的增加一次隨機(jī)數(shù)計算,累積起來對CPU額外的開銷就很大了。我們可以進(jìn)一步優(yōu)化一下。

-     隨機(jī)數(shù)組     -

我們可以使用一個隨機(jī)數(shù)組代替上文描述的生成隨機(jī)數(shù)的策略,實現(xiàn)同樣效果的同時能夠減少CPU的計算量。接下來描述下隨機(jī)數(shù)組算法,同樣權(quán)重設(shè)計為0~10。


我們?yōu)槊總€被調(diào)用的結(jié)點都生成一個隨機(jī)數(shù)組,數(shù)組長度為10??臻g分配好后用01填充數(shù)組,0的個數(shù)與結(jié)點的權(quán)重值一樣,同時要保證0在數(shù)組中出現(xiàn)的位置是隨機(jī)的。


我們生成一個代表權(quán)重為“4”的隨機(jī)數(shù)組(40)。


和隨機(jī)數(shù)方案類似,我們在完成負(fù)載均衡計算后,進(jìn)行權(quán)重攔截。這個時候我們可以通過訪問隨機(jī)數(shù)組代替生成隨機(jī)數(shù)的計算,方案描述如下:記錄上一次訪問隨機(jī)數(shù)組的位置,取數(shù)組下一位置元素值,取到0則放行,1則拒絕,重新進(jìn)行負(fù)載均衡計算。方案的思路是,輪詢訪問隨機(jī)數(shù)組,到達(dá)隨機(jī)效果。因為數(shù)組的內(nèi)容是隨機(jī)的。


這兩種方案思路是一致的,都是在負(fù)載均衡計算后再加一道權(quán)重攔截。但這樣的問題是流量控制不精確,無法實現(xiàn)精確個節(jié)點按權(quán)重比例分配流量。我們可以換個思路,實現(xiàn)精確的流量控制。


-     輪詢加權(quán)重負(fù)載策略     -

設(shè)計思路如下,設(shè)計一個權(quán)重因子,初始值為所有被調(diào)用的結(jié)點中最大權(quán)重值。負(fù)載均衡使用輪詢算法,被選中結(jié)點權(quán)重值大于等于權(quán)重因子則可以調(diào)用,否則用下一結(jié)點的權(quán)重值與權(quán)重因子比較,一輪循環(huán)結(jié)束后如果沒有選中結(jié)點,則降低權(quán)重因子,繼續(xù)通過與權(quán)重因子比較進(jìn)行選擇,直到選中為止。權(quán)重因子降為0后,恢復(fù)為最大權(quán)重值。


上述偽代碼中幾個變量意義如下:

  • i:當(dāng)前輪詢的結(jié)點;

  • n:可選擇結(jié)點數(shù)量;

  • cw:權(quán)重因子;

  • gcd(s):權(quán)重因子每次降低的步長;

  • max(s):所有結(jié)點中最大的權(quán)重值;

  • W(si):結(jié)點Si的權(quán)重值;

  • Si:服務(wù)結(jié)點(S0~Sn-1,共n個)

權(quán)重因子的降低步長為所有結(jié)點權(quán)重值的最大公約數(shù)。


假設(shè)有4個結(jié)點,A,B,C,D,權(quán)重值分別為,8,6,42,各結(jié)點權(quán)重值得最大公約數(shù)為2,所以權(quán)重降低步長為2,通過上面的偽代碼,我們推演下負(fù)載均衡的流量分配結(jié)果。


初始條件:

  • 1i0開始循環(huán);

  • 2、權(quán)重因子為8(偽代碼中初始化為0,減權(quán)重因子后小于0,被恢復(fù)為最大值)



第一次調(diào)用:i=0,A權(quán)重大于等于權(quán)重因子(8),可以調(diào)用A;

第二次調(diào)用:i=1,B權(quán)重小于8,不可以調(diào)用,繼續(xù)循環(huán);

......

第二次調(diào)用會選擇哪個結(jié)點呢,以及后面的調(diào)用如何選擇的,歡迎大家在評留言給出自己的推演結(jié)果。


另外權(quán)重因子的降低步長為什么是最大公約數(shù)呢?歡迎大家在評論區(qū)交流。

特別推薦一個分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長按關(guān)注一下:

傳授“帶權(quán)重的負(fù)載均衡實現(xiàn)算法”獨(dú)家設(shè)計思路!

長按訂閱更多精彩▼

傳授“帶權(quán)重的負(fù)載均衡實現(xiàn)算法”獨(dú)家設(shè)計思路!

如有收獲,點個在看,誠摯感謝

免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除( 郵箱:macysun@21ic.com )。
換一批
延伸閱讀
關(guān)閉