來自：碼大叔

我得意地來到老板的辦公室：“報(bào)告老板，高可用神器已祭出，您花巨資營銷的高流量什么時(shí)候到？” 

老板呵呵一聲：“高流量下周一來報(bào)道，你可以準(zhǔn)備下和他做工作交接了”

窗戶外一陣?yán)滹L(fēng)吹過，接下來是不是會(huì)發(fā)生點(diǎn)什么。

目錄

    一、從阿里雙11的高并發(fā)高流量開始

    二、核心功能及原理說明

        2.1. 代碼功能模塊說明

        2.2. 總體技術(shù)框架

        2.3. 核心概念：Resource/Entry/Context/Node

        2.4. 簡(jiǎn)單上手及dashboard一覽

    三、生產(chǎn)環(huán)境下使用的一些思考

        3.1. 流量控制規(guī)則管理及推送

        3.2. 單機(jī)限流的閾值如何配置

    四、從 Hystrix 遷移到 Sentinel

        4.1. 為什么Sentinel不支持線程池隔離

        4.2. 遷移方案

    五、實(shí)戰(zhàn)踩坑：Jar包兼容的那些坑

        5.1. fastjson序列化異常

        5.2. Sleuth和Sentinel，我們決斗吧

一、從阿里雙11的高并發(fā)高流量開始

隨著微服務(wù)的流行，服務(wù)和服務(wù)之間的穩(wěn)定性變得越來越重要。Sentinel以流量為切入點(diǎn)，從流量控制、熔斷降級(jí)、系統(tǒng)負(fù)載保護(hù)等多個(gè)維度保護(hù)服務(wù)的穩(wěn)定性。

通過Sentinel可以應(yīng)對(duì)或支撐以下場(chǎng)景：

1. 持續(xù)峰值：限流、慢調(diào)用降級(jí)

2. 秒殺（也可稱之為脈沖流量）：限流、慢調(diào)用降級(jí)

3. 削峰填谷：消費(fèi)端可能會(huì)出現(xiàn)大批量的消息同時(shí)到達(dá)，若瞬時(shí)請(qǐng)求所有消息會(huì)導(dǎo)致系統(tǒng)負(fù)載過高。Sentinel利用勻速器模式將消息均攤到一段時(shí)間內(nèi)，讓系統(tǒng)負(fù)載保持在處理能力水位的同時(shí)盡可能地處理更多消息，從而起到“削峰填谷”的效果。

4. 冷啟動(dòng)：當(dāng)流量突然增大的時(shí)候，我們希望系統(tǒng)從空閑狀態(tài)到繁忙狀態(tài)的切換的時(shí)間長(zhǎng)一些，即如果系統(tǒng)在此之前長(zhǎng)期處于空閑的狀態(tài)，我們希望處理請(qǐng)求的速率緩慢增加，經(jīng)過預(yù)期的時(shí)間以后，到達(dá)系統(tǒng)處理請(qǐng)求速率的設(shè)定值；

5. 熱點(diǎn)商品自動(dòng)探測(cè)、防護(hù)：自動(dòng)統(tǒng)計(jì)訪問頻次最高的熱點(diǎn)參數(shù)并進(jìn)行流量控制；

6. 集群流量不均勻：通過集群限流來解決集群各個(gè)機(jī)器的流量不均導(dǎo)致整體限流效果不精確的問題；

7. 完備的實(shí)時(shí)監(jiān)控：Sentinel 同時(shí)提供實(shí)時(shí)的監(jiān)控功能?？梢栽诳刂婆_(tái)中看到接入應(yīng)用的單臺(tái)機(jī)器秒級(jí)數(shù)據(jù)，甚至 500 臺(tái)以下規(guī)模的集群的匯總運(yùn)行情況。

作為一個(gè)功能完備的高可用流量控制框架，核心的 sentinel-core 打包后只有 286KB（最新的1.7.2版本），非常輕量級(jí)，可以放心地引入 sentinel-core 而不需擔(dān)心依賴問題（打臉，沒有坑是不可能的）。根據(jù)官方提供的數(shù)據(jù)，引入 Sentinel 帶來的性能損耗非常小，單機(jī) QPS 不太大的時(shí)候損耗幾乎可以忽略不計(jì)（單機(jī) 4.3W QPS 的損耗約為 2.36%）

二、核心功能及原理說明

• sentinel-core 核心模塊，限流、降級(jí)、系統(tǒng)保護(hù)等都在這里實(shí)現(xiàn)

• sentinel-dashboard 控制臺(tái)模塊，可以對(duì)連接上的sentinel客戶端實(shí)現(xiàn)可視化的管理

• sentinel-transport 傳輸模塊，提供了基本的監(jiān)控服務(wù)端和客戶端的API接口，以及一些基于不同庫的實(shí)現(xiàn)

• sentinel-extension 擴(kuò)展模塊，主要對(duì)DataSource進(jìn)行了部分?jǐn)U展實(shí)現(xiàn)

• sentinel-adapter 適配器模塊，主要實(shí)現(xiàn)了對(duì)一些常見框架的適配

• sentinel-demo 樣例模塊，可參考怎么使用sentinel進(jìn)行限流、降級(jí)等

• sentinel-benchmark 基準(zhǔn)測(cè)試模塊，對(duì)核心代碼的精確性提供基準(zhǔn)測(cè)試

• sentinel-logging 日志模塊，可將sentinel的日志通過slf4j集成到項(xiàng)目中

• sentinel-cluster 集群，1.4版本中提供了集群流控的功能

從使用上來看，主要分為兩大部分：

核心庫（Java 客戶端）：不依賴任何框架/庫，能夠運(yùn)行于 Java 7 及以上的版本的運(yùn)行時(shí)環(huán)境，同時(shí)對(duì) Dubbo / Spring Cloud 等框架也有較好的支持（見 主流框架適配）。

控制臺(tái)（Dashboard）：Dashboard 主要負(fù)責(zé)管理推送規(guī)則、監(jiān)控、管理機(jī)器信息等。

sentinel主要是基于7種不同的Slot形成了一個(gè)鏈表，每個(gè)Slot都各司其職，自己做完分內(nèi)的事之后，會(huì)把請(qǐng)求傳遞給下一個(gè)Slot，直到在某一個(gè)Slot中命中規(guī)則后拋出BlockException而終止。前三個(gè)Slot負(fù)責(zé)做統(tǒng)計(jì)，后面的Slot負(fù)責(zé)根據(jù)統(tǒng)計(jì)的結(jié)果結(jié)合配置的規(guī)則進(jìn)行具體的控制，是Block該請(qǐng)求還是放行。

• NodeSelectorSlot 負(fù)責(zé)收集資源的路徑，并將這些資源的調(diào)用路徑，以樹狀結(jié)構(gòu)存儲(chǔ)起來，用于根據(jù)調(diào)用路徑來限流降級(jí)；

• ClusterBuilderSlot 則用于存儲(chǔ)資源的統(tǒng)計(jì)信息以及調(diào)用者信息，例如該資源的 RT, QPS, thread count 等等，這些信息將用作為多維度限流，降級(jí)的依據(jù)；

• StatisticSlot 則用于記錄、統(tǒng)計(jì)不同緯度的 runtime 指標(biāo)監(jiān)控信息；

• FlowSlot 則用于根據(jù)預(yù)設(shè)的限流規(guī)則以及前面 slot 統(tǒng)計(jì)的狀態(tài)，來進(jìn)行流量控制；

• AuthoritySlot 則根據(jù)配置的黑白名單和調(diào)用來源信息，來做黑白名單控制；

• DegradeSlot 則通過統(tǒng)計(jì)信息以及預(yù)設(shè)的規(guī)則，來做熔斷降級(jí)；

• SystemSlot 則通過系統(tǒng)的狀態(tài)，例如 load1 等，來控制總的入口流量；

• Resource

• Context

1）當(dāng)前調(diào)用鏈的根節(jié)點(diǎn)：EntranceNode

2）當(dāng)前的入口：Entry

3）當(dāng)前入口所關(guān)聯(lián)的節(jié)點(diǎn)：Node

Context中只會(huì)保存一個(gè)當(dāng)前正在處理的入口Entry，另外還會(huì)保存調(diào)用鏈的根節(jié)點(diǎn)。需要注意的是，每次進(jìn)入一個(gè)新的資源時(shí)，都會(huì)創(chuàng)建一個(gè)新的Context。

• Entry

• Node

官方有比較完善的演示代碼：

/** * 配置規(guī)則 */private static void initFlowRules(){ List<FlowRule> rules = new ArrayList<>(); FlowRule rule = new FlowRule(); rule.setResource("HelloWorld"); rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // Set limit QPS to 20. rule.setCount(20); rules.add(rule); FlowRuleManager.loadRules(rules);}
public static void main(String[] args) { // 配置規(guī)則. initFlowRules();
 while (true) { // 1.5.0 版本開始可以直接利用 try-with-resources 特性，自動(dòng) exit entry try (Entry entry = SphU.entry("HelloWorld")) { // 被保護(hù)的邏輯 System.out.println("hello world"); } catch (BlockException ex) { // 處理被流控的邏輯 System.out.println("blocked!"); } }}

如果是SpringCloud項(xiàng)目，可參考https://github.com/sentinel-group/sentinel-guides/tree/master/sentinel-guide-spring-cloud

整個(gè)dashboard的功能體驗(yàn)下來，就是不停的 “我*，這功能也有。我*，還能這么玩啊”，網(wǎng)上案例比較多，這里就不多描述了，真香！

三、生產(chǎn)環(huán)境下使用的一些思考

如上圖所示，整個(gè)流程：配置中心控制臺(tái)/Sentinel 控制臺(tái) → 配置中心 → Sentinel 數(shù)據(jù)源 → Sentinel。Sentinel目前已經(jīng)支持了ZooKeeper、攜程的 Apollo, 阿里自身的Nacos 等的動(dòng)態(tài)數(shù)據(jù)源。接下來以Nacos為例：

1、在Spring Cloud應(yīng)用中引入Sentinel模塊和Nacos存儲(chǔ)擴(kuò)展：

implementation ('com.alibaba.cloud:spring-cloud-starter-alibaba-sentinel:2.1.2.RELEASE'){ exclude group:'com.alibaba',module: 'fastjson'}implementation 'com.alibaba.csp:sentinel-datasource-nacos:1.7.2.RELEASE'

2、在應(yīng)用中添加配置信息

spring: cloud: sentinel: transport: # sentinel dashboard的地址 dashboard: localhost:8080 datasource: ds: nacos: # nacos的地址 server-addr: localhost:8848 # nacos中存儲(chǔ)規(guī)則的groupId dataId: madashu-test-sentinel # nacos中存儲(chǔ)規(guī)則的dataId groupId: DEFAULT_GROUP # 存儲(chǔ)的規(guī)則類型 rule-type: flow

3、在Nacos中設(shè)置相應(yīng)的規(guī)則

JSON:[ { "resource": "/madashu/hello", "limitApp": "default", "grade": 1, "count": 5, "strategy": 0, "controlBehavior": 0, "clusterMode": false }]

• resource：資源名

• limitApp：流控針對(duì)的調(diào)用來源，default不區(qū)分來源

• grade：限流閾值類型(0-根據(jù)并發(fā)數(shù)量來限流 1-根據(jù)QPS來進(jìn)行流量控制)

• count：限流閾值

• strategy：調(diào)用關(guān)系限流策略

• controlBehavior：流量控制效果(直接拒絕、WarmUP、勻速排隊(duì))

• clusterMode：是否集群模式 

四、從 Hystrix 遷移到 Sentinel

五、實(shí)戰(zhàn)踩坑：Jar包兼容的那些坑

java.lang.NoSuchMethodError: com.alibaba.fastjson.serializer.JavaBeanSerializer.processValue(Lcom/alibaba/fastjson/serializer/JSONSerializer;Lcom/alibaba/fastjson/serializer/BeanContext;Ljava/lang/Object;Ljava/lang/String;Ljava/lang/Object;)Ljava/lang/Object;Ljava/lang/Integer;at com.alibaba.fastjson.serializer.ASMSerializer_12_XXX.writeNormal(Unknown Source) ~[?:?]

經(jīng)過排查發(fā)現(xiàn)，sentinel這個(gè)jar包依賴了fastjson1.2.62，而這個(gè)版本中是有bug的，具體參見，https://github.com/alibaba/fastjson/issues/2790

解決方案：

排除掉依賴的jar包即可，fastjson1.2.60中是不存在該問題的。最新的1.2.68中是否修復(fù)了該問題沒有驗(yàn)證，有興趣的小伙伴可以驗(yàn)一下。

implementation ('com.alibaba.cloud:spring-cloud-starter-alibaba-sentinel:2.1.2.RELEASE'){ exclude group:'com.alibaba',module: 'fastjson'}

在微服務(wù)中，一個(gè)請(qǐng)求往往經(jīng)過多個(gè)業(yè)務(wù)模塊，比如用戶發(fā)起支付，可能經(jīng)過了會(huì)員服務(wù)、交易服務(wù)、支付服務(wù)、賬戶服務(wù)等，此時(shí)一旦某個(gè)服務(wù)發(fā)生了問題，定位時(shí)將會(huì)非常的困難。在Spring Cloud項(xiàng)目上，一般會(huì)引入鏈路調(diào)用跟蹤框架Spring Cloud Sleuth+zipkin，此時(shí)務(wù)必要注意：如果在項(xiàng)目中使用了Feign，熔斷可能已經(jīng)失效了。因?yàn)镾leuth為了傳遞鏈路調(diào)用跟蹤的信息對(duì)Feign進(jìn)行了擴(kuò)展，而Sentinel為了實(shí)現(xiàn)熔斷限流也對(duì)Feign進(jìn)行了擴(kuò)展，也就導(dǎo)致了兩個(gè)本互不相干的框架竟然產(chǎn)生了沖突。

解決方案：

方案1：二選一，做個(gè)決斷吧，哈哈。Sleuth是支持Hystrix的，而Hystrix已停止了維護(hù)，Sentinel正火，說不定很快Sleuth也會(huì)支持Sentinel。

方案2：換成其他的鏈路調(diào)用跟蹤框架，這個(gè)網(wǎng)上有很多開源的產(chǎn)品，筆者之前的公司時(shí)也曾研發(fā)并開源了這樣一套系統(tǒng)。

方案3：最近剛發(fā)現(xiàn)網(wǎng)上有一位大佬提供了修改源碼的方案，實(shí)現(xiàn)還是很簡(jiǎn)單的，將Sentinel融入到Sleuth中

詳細(xì)可參見：

https://www.cnblogs.com/yinjihuan/p/12730654.html

以上只是對(duì)Sentinel一些粗淺的體驗(yàn)，在Sentinel中有很多優(yōu)秀的設(shè)計(jì)思想、先進(jìn)的算法、值得拜讀的代碼等，后續(xù)再慢慢品味。

參考，致謝：

https://blog.csdn.net/g6U8W7p06dCO99fQ3/article/details/104454238/

https://www.cnblogs.com/yinjihuan/p/12730654.html

https://github.com/alibaba/Sentinel/wiki/Guideline:-%E4%BB%8E-Hystrix-%E8%BF%81%E7%A7%BB%E5%88%B0-Sentinel

https://www.jianshu.com/p/5a468b6a07fe

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒關(guān)注的小伙伴，可以長(zhǎng)按關(guān)注一下：
長(zhǎng)按訂閱更多精彩▼
如有收獲，點(diǎn)個(gè)在看，誠摯感謝