在分布式系統(tǒng)架構(gòu)中，如果一個應(yīng)用不能對來自依賴的故障進行隔離，那該應(yīng)用本身就處在被拖垮的風(fēng)險中。 因此，為了構(gòu)建穩(wěn)定、可靠的分布式系統(tǒng)，我們的服務(wù)應(yīng)當(dāng)具有自我保護能力，當(dāng)依賴服務(wù)不可用時，當(dāng)前服務(wù)啟動自我保護功能，從而避免發(fā)生雪崩效應(yīng)。在分布式微服務(wù)系統(tǒng)設(shè)計時，要使用一定的降級策略，來保證當(dāng)服務(wù)提供方不可用時，服務(wù)調(diào)用方可以切換到降級后的策略進行處理。Hystrix 作為熔斷器組件，其使用范圍還是很廣泛的。本文簡單介紹下 Hystrix 的原理。

一、Hystrix 是什么？

Hystrix 是 Netflix 的一款開源的容錯框架，通過服務(wù)隔離來避免由于依賴延遲、異常，引起資源耗盡導(dǎo)致系統(tǒng)不可用的解決方案。

二、Hystrix 可以做什么？

Hystrix 被設(shè)計用來做了下面幾件事：

1. 保護系統(tǒng)間的調(diào)用延時以及錯誤，特別是通過第三方工具的網(wǎng)絡(luò)調(diào)用
2. 阻止錯誤在分布式系統(tǒng)之前的傳播
3. 快速失敗和迅速恢復(fù)
4. 錯誤回退和優(yōu)雅的服務(wù)降級

三、Hystrix 解決了什么問題？

1. 限制調(diào)用分布式服務(wù)的資源使用，某一個調(diào)用的服務(wù)出現(xiàn)問題不會影響其他服務(wù)調(diào)用，通過線程池隔離和信號量隔離實現(xiàn)。
2. Hystrix 提供了優(yōu)雅降級機制：超時降級、資源不足時（線程或信號量）降級，降級后可以配合降級接口返回兜底數(shù)據(jù)。
3. Hystrix 提供了熔斷器實現(xiàn)，當(dāng)失敗率達到閥值自動觸發(fā)降級（如因網(wǎng)絡(luò)故障/超時造成的失敗率高），熔斷器觸發(fā)的快速失敗會進行快速恢復(fù)等。

四、Hystrix遵循的設(shè)計原則

1. 防止任何單獨的依賴耗盡資源（線程）
2. 過載立即切斷并快速失敗，防止排隊
3. 盡可能提供回退以保護用戶免受故障
4. 使用隔離技術(shù)（例如隔板，泳道和斷路器模式）來限制任何一個依賴的影響
5. 通過近實時的指標，監(jiān)控和告警，確保故障被及時發(fā)現(xiàn)
6. 通過動態(tài)修改配置屬性，確保故障及時恢復(fù)
7. 防止整個依賴客戶端執(zhí)行失敗，而不僅僅是網(wǎng)絡(luò)通信

五、Hystrix 的工作流程

下圖描述了使用 Hystrix 的一次請求調(diào)用服務(wù)層的流程?！緢D片來源于：Hystrix 官方文檔，點擊看大圖】

Hystrix 整個工作流如下：

1. 構(gòu)造一個 HystrixCommand 或 HystrixObservableCommand 對象，用于封裝請求，并在構(gòu)造方法配置請求被執(zhí)行需要的參數(shù)；
2. 執(zhí)行命令，Hystrix提供了多種執(zhí)行命令的方法（詳見本文第六章）；
3. 判斷是否使用緩存響應(yīng)請求，若啟用了緩存，且緩存可用，直接使用緩存響應(yīng)請求。Hystrix 支持請求緩存，但需要用戶自定義啟動；
4. 判斷熔斷器是否打開（熔斷器有3種狀態(tài)，詳見第七章），如果打開，跳到第8步；
5. 判斷線程池/隊列/信號量是否已滿，已滿則跳到第8步；
6. 執(zhí)行 HystrixObservableCommand.construct() 或 HystrixCommand.run()，如果執(zhí)行失敗或者超時，跳到第8步；否則，跳到第9步；
7. 統(tǒng)計熔斷器監(jiān)控指標；
8. 走Fallback備用邏輯；
9. 返回請求響應(yīng)。從流程圖上可知道，第5步線程池/隊列/信號量已滿時，還會執(zhí)行第7步邏輯，更新熔斷器統(tǒng)計信息，而第6步無論成功與否，都會更新熔斷器統(tǒng)計信息。

六、Hystrix 執(zhí)行命令的幾種方法

Hystrix 提供了4種執(zhí)行命令的方法，execute() 和 queue() 適用于 HystrixCommand 對象，而 observe() 和toObservable() 適用于 HystrixObservableCommand 對象。

execute() 以同步堵塞方式執(zhí)行 run()，只支持接收一個值對象。Hystrix 會從線程池中取一個線程來執(zhí)行 run()，并等待返回值。

queue() 以異步非阻塞方式執(zhí)行 run()，只支持接收一個值對象。調(diào)用 queue() 就直接返回一個 Future 對象?？赏ㄟ^ Future.get() 拿到 run() 的返回結(jié)果，但 Future.get() 是阻塞執(zhí)行的。若執(zhí)行成功，F(xiàn)uture.get() 返回單個值。當(dāng)執(zhí)行失敗時，如果沒有重寫 fallback，F(xiàn)uture.get() 拋出異常。

observe() 事件注冊前執(zhí)行 run() / construct()，支持接收多個值對象，取決于發(fā)射源。調(diào)用 observe() 會返回一個 hot Observable，也就是說，調(diào)用 observe() 自動觸發(fā)執(zhí)行 run() / construct()，無論是否存在訂閱者。

如果繼承的是 HystrixCommand，Hystrix 會從線程池中取一個線程以非阻塞方式執(zhí)行 run()；如果繼承的是HystrixObservableCommand，將以調(diào)用線程阻塞執(zhí)行 construct()。

observe() 使用方法：

1. 調(diào)用 observe() 會返回一個 Observable 對象；
2. 調(diào)用這個 Observable 對象的 subscribe() 方法完成事件注冊，從而獲取結(jié)果。

toObservable() 事件注冊后執(zhí)行 run() / construct()，支持接收多個值對象，取決于發(fā)射源。調(diào)用 toObservable() 會返回一個 cold Observable，也就是說，調(diào)用 toObservable() 不會立即觸發(fā)執(zhí)行 run() / construct()，必須有訂閱者訂閱 Observable 時才會執(zhí)行。

如果繼承的是 HystrixCommand，Hystrix 會從線程池中取一個線程以非阻塞方式執(zhí)行 run()，調(diào)用線程不必等待run()；如果繼承的是 HystrixObservableCommand，將以調(diào)用線程堵塞執(zhí)行 construct()，調(diào)用線程需等待construct() 執(zhí)行完才能繼續(xù)往下走。

toObservable() 使用方法：

1. 調(diào)用 observe() 會返回一個Observable對象；
2. 調(diào)用這個 Observable 對象的 subscribe() 方法完成事件注冊，從而獲取結(jié)果。

需注意的是，HystrixCommand 也支持 toObservable() 和 observe()，但是即使將 HystrixCommand 轉(zhuǎn)換成Observable，它也只能發(fā)射一個值對象。只有 HystrixObservableCommand 才支持發(fā)射多個值對象。

七、熔斷器的三種狀態(tài)

Hystrix 提供的熔斷器具有自我反饋，自我恢復(fù)的功能，Hystrix會根據(jù)調(diào)用接口的情況，讓熔斷器在closed，open，half-open 三種狀態(tài)之間自動切換。

• open 狀態(tài)：說明打開熔斷，也就是服務(wù)調(diào)用方執(zhí)行本地降級策略，不進行遠程調(diào)用。
• closed 狀態(tài)：說明關(guān)閉了熔斷，這時候服務(wù)調(diào)用方直接發(fā)起遠程調(diào)用。
• half-open 狀態(tài)：是一個中間狀態(tài)，當(dāng)熔斷器處于這種狀態(tài)時，直接發(fā)起遠程調(diào)用。

三種狀態(tài)的轉(zhuǎn)換：

closed → open：正常情況下熔斷器為 closed 狀態(tài)，當(dāng)訪問同一個接口次數(shù)超過設(shè)定閾值并且錯誤比例超過設(shè)置錯誤閾值的時候，就會打開熔斷機制，這時候熔斷器狀態(tài)從 closed → open。

open → half-open：當(dāng)服務(wù)接口對應(yīng)的熔斷器狀態(tài)為 open 狀態(tài)時候，所有服務(wù)調(diào)用方調(diào)用該服務(wù)方法時候都是執(zhí)行本地降級方法，那么什么時候才會恢復(fù)到遠程調(diào)用呢？Hystrix 提供了一種測試策略，也就是設(shè)置了一個時間窗口，從熔斷器狀態(tài)變?yōu)?open 狀態(tài)開始的一個時間窗口內(nèi)，調(diào)用該服務(wù)接口時候都委托服務(wù)降級方法進行執(zhí)行。如果時間超過了時間窗口，則把熔斷狀態(tài)從 open → half-open，這時候服務(wù)調(diào)用方調(diào)用服務(wù)接口時，就可以發(fā)起遠程調(diào)用而不再使用本地降級接口，如果發(fā)起遠程調(diào)用還是失敗，則重新設(shè)置熔斷器狀態(tài)為open狀態(tài)，從新記錄時間窗口開始時間。

half-open → closed：當(dāng)熔斷器狀態(tài)為 half-open，這時候服務(wù)調(diào)用方調(diào)用服務(wù)接口時候，就可以發(fā)起遠程調(diào)用而不再使用本地降級接口，如果發(fā)起遠程調(diào)用成功，則重新設(shè)置熔斷器狀態(tài)為 closed 狀態(tài)。

用來判斷熔斷器從 closed → open 轉(zhuǎn)換的數(shù)據(jù)是 HystrixCommandMetrics 對象來做的，該對象用來存HystrixCommand 的一些指標數(shù)據(jù)，比如接口調(diào)用次數(shù)，調(diào)用接口失敗的次數(shù)等等。

八、Hystrix 幾種容錯方案

• 隔離模式（線程池隔離、信號量隔離）
  對不同類型的請求使用線程池來資源隔離，每種類型的請求互不影響，如果一種類型的請求線程資源耗盡，則對后續(xù)的該類型請求直接返回，不再調(diào)用后續(xù)資源。
• 熔斷模式
  如果某個目標服務(wù)調(diào)用慢或者有大量超時，此時，熔斷該服務(wù)的調(diào)用，對于后續(xù)調(diào)用請求，不再繼續(xù)調(diào)用目標服務(wù)，而是調(diào)用降級服務(wù)返回數(shù)據(jù)，快速釋放資源。如果目標服務(wù)情況好轉(zhuǎn)則恢復(fù)調(diào)用。
• 限流模式
  上述的熔斷模式和隔離模式都屬于出錯后的容錯處理機制，而限流模式則可以稱為預(yù)防模式。限流模式主要是提前對各個類型的請求設(shè)置最高的QPS閾值，若高于設(shè)置的閾值則對該請求直接返回，不再調(diào)用后續(xù)資源。這種模式不能解決服務(wù)依賴的問題，只能解決系統(tǒng)整體資源分配問題，因為沒有被限流的請求依然有可能造成雪崩效應(yīng)。

隔離模式一般使用兩種：

• 線程池隔離模式
  使用一個線程池來存儲當(dāng)前的請求，線程池對請求作處理，設(shè)置任務(wù)返回處理超時時間，堆積的請求堆積入線程池隊列。這種方式需要為每個依賴的服務(wù)申請線程池，有一定的資源消耗，好處是可以應(yīng)對突發(fā)流量（流量洪峰來臨時，處理不完可將數(shù)據(jù)存儲到線程池隊列慢慢處理）。
• 信號量隔離模式
  使用一個原子計數(shù)器（或信號量）來記錄當(dāng)前有多少個線程在運行，請求來了的話，先判斷計數(shù)器的數(shù)值，若超過設(shè)置的最大數(shù)值則丟棄該類型的新請求，若不超過則執(zhí)行計數(shù)操作請求，使計數(shù)器 +1，請求返回則計數(shù)器 -1。這種方式是嚴格的控制線程且立即返回模式，無法應(yīng)對突發(fā)流量（流量洪峰來臨時，處理的線程超過數(shù)量，其他的請求會直接返回，不繼續(xù)去請求依賴的服務(wù)）。

到此這篇關(guān)于淺談一下SpringCloud中Hystrix服務(wù)熔斷和降級原理的文章就介紹到這了,更多相關(guān)Hystrix服務(wù)熔斷和降級原理內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論