Spring中的Sentinel熔斷降級原理詳解
一、概述
對于熔斷這個概念,我們并不陌生,比如股市熔斷機制,當(dāng)股指波幅達到規(guī)定的熔斷點時,交易所為控制風(fēng)險采取的暫停交易措施。亦或者是電流熔斷,當(dāng)通過的電流超出導(dǎo)線所能成再的最大電流時,會觸發(fā)保險絲熔斷,從而避免因為電流過大造成火災(zāi)。
在這些場景中,可以發(fā)現(xiàn)一個共同的特點,就是熔斷在這些場景中都是充當(dāng)保護機制,避免引發(fā)更大的問題。那么在整個微服務(wù)架構(gòu)中,也同樣會存在類似的問題。
二、服務(wù)熔斷
在微服務(wù)架構(gòu)中,一個請求過來,可能會經(jīng)過多個服務(wù)進行處理,導(dǎo)致整個處理鏈路會比較長。而在整條調(diào)用鏈路中,可能會因為某個節(jié)點因為網(wǎng)絡(luò)故障導(dǎo)致響應(yīng)時間比較長,而這個節(jié)點的阻塞將會影響這條鏈路的結(jié)果返回。 當(dāng)訪問量比較高的請求下,一個后端依賴節(jié)點的延遲響應(yīng)可能導(dǎo)致所有服務(wù)器上的所有資源在數(shù)秒內(nèi)飽和。一旦出現(xiàn)這個問題,會導(dǎo)致系統(tǒng)資源被快速消耗,從而導(dǎo)致服務(wù)宕機等問題,最壞的情況會導(dǎo)致服務(wù)雪崩。
為了防止這種問題的產(chǎn)生,也引入了熔斷的概念。
所以,熔斷的意義:是為了起到保護作用,如果某個目標(biāo)服務(wù)調(diào)用比較慢或者大量的超時,這個時候如果觸發(fā)熔斷機制,則可以保證后續(xù)的請求不會繼續(xù)發(fā)送到目標(biāo)服務(wù)上,而是直接返回降級的邏輯并且快速釋放資源。如果目標(biāo)服務(wù)的情況恢復(fù)了,那么熔斷機制又會動態(tài)進行關(guān)閉。
三、Sentinel中熔斷
Sentinel 熔斷降級會在調(diào)用鏈路中某個資源出現(xiàn)不穩(wěn)定狀態(tài)時(例如調(diào)用超時或異常比例升高),對這個資源的調(diào)用進行限制,讓請求快速失敗,避免影響到其它的資源而導(dǎo)致級聯(lián)錯誤。當(dāng)資源被降級后,在接下來的降級時間窗口之內(nèi),對該資源的調(diào)用都自動熔斷。
在Sentinel中判斷資源是否處于穩(wěn)定狀態(tài)的指標(biāo)或者緯度:
- 慢調(diào)用比例(SLOW_REQUEST_RATIO)
- 異常比例(ERROR_RATIO)
- 異常數(shù)(ERROR_COUNT)
Sentinel中提供了DegradeRule對象來實現(xiàn)規(guī)則設(shè)置,核心屬性如下:
- resource,資源名稱
- count, 閾值,[異常比例/異常數(shù)模式下為對應(yīng)的閾值,慢調(diào)用比例模式下為慢調(diào)用臨 界 RT]
- grade,熔斷模式,根據(jù)RT降級、根據(jù)異常比例、根據(jù)異常數(shù)量
- timeWindow,熔斷時間,單位為秒
3.1、慢調(diào)用比例(SLOW_REQUEST_RATIO)
在一定請求次數(shù)中,一段時間內(nèi),如果有一定比例的請求響應(yīng)時間大于某一個閾值,則認(rèn)為目標(biāo)服務(wù)異常,則在接下來的指定時間內(nèi),請求都會被自動熔斷。當(dāng)經(jīng)過熔斷時長后,熔斷器會進入到探測恢復(fù)狀態(tài),若接下來的一個請求響應(yīng)時間小于設(shè)置的慢調(diào)用 RT 則結(jié)束熔斷,若大于設(shè)置的慢調(diào)用 RT 則會再次被熔斷。
參數(shù)設(shè)置(1s內(nèi)連續(xù)發(fā)送10個請求,在1分鐘以內(nèi),其中20%的請求平均響應(yīng)時間都超過3s,則觸發(fā)熔斷,熔斷時間為5s)
DegradeRule rule = new DegradeRule(RESOURCE_KEY) .setGrade(CircuitBreakerStrategy.SLOW_REQUEST_RATIO.getType()) // Max allowed response time .setCount(3000) // Retry timeout (in second) .setTimeWindow(5) // Circuit breaker opens when slow request ratio > 20% .setSlowRatioThreshold(0.2) .setMinRequestAmount(10) .setStatIntervalMs(60000);
- grade=CircuitBreakerStrategy.SLOW_REQUEST_RATIO, (熔斷模式)
- count=3000,最大的響應(yīng)時間,單位為(毫秒)
- TimeWindow=5 (單位為s)
- minRequestAmount=5,最小請求數(shù)量,請求數(shù)量小于這個值,即時異常比例超出閾值也不會熔斷,默認(rèn)是5次。
- slowRatioThreshold=0.2,慢調(diào)用比例閾值,僅僅在慢調(diào)用比例模式下有效。
- statIntervalMs=1000*60, 統(tǒng)計時長為60秒,默認(rèn)為1秒
3.2、異常比例 (ERROR_RATIO)
當(dāng)資源的每秒請求量 >= 5,并且每秒異??倲?shù)占通過量的比值超過閾值時,則觸發(fā)熔斷,配置方式如下
- grade=CircuitBreakerStrategy.ERROR_RATIO
- count(異常比例),范圍[0.0 , 1.0],代表0%~100%
- TimeWindow=5 (單位為s)
- minRequestAmount,最小請求數(shù)量,請求數(shù)量小于這個值,即時異常比例超出閾值也不會熔斷,默認(rèn)是5次。
3.3、異常數(shù)量(ERROR_COUNT)
當(dāng)單位統(tǒng)計時長內(nèi)的異常數(shù)目超過閾值之后會自動進行熔斷。經(jīng)過熔斷時長后熔斷器會進入探測恢復(fù)狀態(tài)(HALF-OPEN 狀態(tài)),若接下來的一個請求成功完成(沒有錯誤)則結(jié)束熔斷,否則會再次被熔斷。
- grade=CircuitBreakerStrategy.ERROR_COUNT
- count(異常數(shù)量)
- timeWindow=5 (熔斷時間窗口,單位為s)
- statIntervalMs=60*1000(統(tǒng)計時長,單位為ms)
當(dāng)資源近1 分鐘的異常數(shù)目超過閾值之后會進行熔斷。注意由于統(tǒng)計時間窗口是分鐘級別的,若 timeWindow 小于 60s,則結(jié)束熔斷狀態(tài)后仍可能再進入熔斷狀態(tài)。
四、總結(jié)
限流、熔斷和服務(wù)降級是系統(tǒng)容錯的重要設(shè)計模式,從一定意義上講限流和熔斷也是一種服務(wù)降級的手段。
熔斷和服務(wù)降級主要是針對非核心業(yè)務(wù)功能,而核心業(yè)務(wù)如果流程超過預(yù)估的峰值,就需要進行限流。
對于限流,選擇合理的限流算法很重要,令牌桶算法優(yōu)勢很明顯,也是使用最多的限流算法。
在系統(tǒng)設(shè)計的時候,這些模式需要配合業(yè)務(wù)量的預(yù)估、性能測試的數(shù)據(jù)進行相應(yīng)閾值的配置,而這些閾值最好保存在配置中心,方便實時修改。
到此這篇關(guān)于Spring中的Sentinel熔斷降級原理詳解的文章就介紹到這了,更多相關(guān)Sentinel熔斷降級原理內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Java有趣好玩的圖形界面開發(fā)八個案例實現(xiàn)
今天使用GUI技術(shù)寫了幾個練習(xí)的Demo,希望對大家學(xué)習(xí)圖形用戶界面有所幫助,感興趣的同學(xué)來看看吧,動手敲一遍理解更通透2022-05-05Java實現(xiàn)常用加密算法——單向加密算法MD5和SHA
本篇文章主要介紹了Java實現(xiàn)常用加密算法——單向加密算法MD5和SHA,信息加密后數(shù)據(jù)更安全,需要的朋友可以參考下。2016-10-10如何通過Java監(jiān)聽MySQL數(shù)據(jù)的變化
對于二次開發(fā)來說,很大一部分就找找文件和找數(shù)據(jù)庫的變化情況,下面這篇文章主要給大家介紹了關(guān)于如何通過Java監(jiān)聽MySQL數(shù)據(jù)的變化的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-03-03Java super關(guān)鍵字用法實戰(zhàn)案例分析
這篇文章主要介紹了Java super關(guān)鍵字用法,結(jié)合具體案例形式分析了java super關(guān)鍵字調(diào)用父類構(gòu)造方法、屬性及方法等相關(guān)操作技巧與注意事項,需要的朋友可以參考下2019-09-09SpringBoot利用自定義json序列化器實現(xiàn)敏感字段數(shù)據(jù)脫敏詳解
這篇文章主要介紹了SpringBoot利用自定義json序列化器實現(xiàn)敏感字段數(shù)據(jù)脫敏詳解,因為案例代碼用到了hutool提供的DesensitizedUtil數(shù)據(jù)脫敏工具類,這里要引入hutool的依賴,如果你需要自定義 數(shù)據(jù)脫敏的邏輯,可以不引入這個依賴,需要的朋友可以參考下2024-01-01