Redis?集群模式(Cluster)原理詳解
1、簡述
Redis Cluster 集群中每個節(jié)點(diǎn)負(fù)責(zé)整個集群的一部分?jǐn)?shù)據(jù),每個節(jié)點(diǎn)上的數(shù)據(jù)多少可能不一樣,節(jié)點(diǎn)之間通過一種特殊的二進(jìn)制協(xié)議交互集群信息。
Redis Cluster將所有數(shù)據(jù)劃分為16384個槽位,每個節(jié)點(diǎn)負(fù)責(zé)其中一部分槽位,槽位信息存儲于每個節(jié)點(diǎn)中,當(dāng)redis客戶端來連接集群時,也會得到一份集群的槽位配置信息,這樣當(dāng)客戶端要查找某個key時,可以直接定位到目標(biāo)節(jié)點(diǎn)。
客戶端為了可以直接找到具體key所在的節(jié)點(diǎn),需要緩存槽位相關(guān)信息,這樣就可快速定位到相對應(yīng)的節(jié)點(diǎn),同時可能存在客戶端與服務(wù)器存儲槽位信息不一致的情況,故需要糾正機(jī)制來實(shí)現(xiàn)槽位信息的校驗(yàn)調(diào)整。
2、槽位定位算法
Redis Cluster默認(rèn)會對key值使用crc16算法進(jìn)行hash得到一個整數(shù)值,然后用該整數(shù)值對16384進(jìn)行取模來得到具體槽位。Redis Cluster還允許用戶強(qiáng)制把某個key掛在特定槽位上,通過key字符串里面嵌入tag標(biāo)記以此來強(qiáng)制key所掛的槽位等于tag所在的槽位。
3、跳轉(zhuǎn)機(jī)制
當(dāng)客戶端向一個錯誤節(jié)點(diǎn)發(fā)送指令后,該節(jié)點(diǎn)會發(fā)現(xiàn)指令的key所在槽位并不歸自己管,此時它會向客戶端發(fā)送一個特殊的跳轉(zhuǎn)指令攜帶目標(biāo)操作的節(jié)點(diǎn)地址,告訴客戶端去連接該節(jié)點(diǎn)以獲取數(shù)據(jù)。客戶端在收到MOVED指令后,要立即糾正本地槽位映射表,后續(xù)所有key將使用新的槽位映射表
4、key 遷移(redis-trib為例)
Redis遷移的單位是槽,即一個槽一個槽的遷移,當(dāng)一個槽正在遷移時,這個槽就處于中間過渡狀態(tài)。如圖,這個槽在源節(jié)點(diǎn)的狀態(tài)為migrating,在目標(biāo)節(jié)點(diǎn)的狀態(tài)為importing,表示數(shù)據(jù)正在從源節(jié)點(diǎn)流向目標(biāo)節(jié)點(diǎn)。
redis-trib會在源節(jié)點(diǎn)和目標(biāo)節(jié)點(diǎn)設(shè)置好中間狀態(tài),然后一次性獲取元節(jié)點(diǎn)槽位的多有key列表(keysinslot指令,也可部分獲?。?,然后挨個key進(jìn)行遷移。每個key的遷移過程以源節(jié)點(diǎn)作為目標(biāo)節(jié)點(diǎn)的“客戶端”,源節(jié)點(diǎn)對當(dāng)前key執(zhí)行dump指令得到序列化內(nèi)容,然后通過“客戶端”向目標(biāo)節(jié)點(diǎn)發(fā)送restore指令攜帶序列化的內(nèi)容作為參數(shù),目標(biāo)節(jié)點(diǎn)在進(jìn)行反序列化將內(nèi)容恢復(fù)到目標(biāo)節(jié)點(diǎn)內(nèi)存中,然后返回“客戶端”ok,源節(jié)點(diǎn)“客戶端”收到后再把當(dāng)前節(jié)點(diǎn)的key刪掉就完成了單個key遷移的全過程。
遷移過程是同步的,在目標(biāo)節(jié)點(diǎn)執(zhí)行restore指令到源節(jié)點(diǎn)刪除key之間,源節(jié)點(diǎn)的主線程會處于阻塞狀態(tài),直到key被成功刪除。
遷移過程中,如果每個key的內(nèi)容都很小,那么migrate過程會很快,幾乎不會影響客戶端的正常訪問,如果key的內(nèi)容很大,因?yàn)閙igrate過程是阻塞的,所以會導(dǎo)致源節(jié)點(diǎn)和目標(biāo)節(jié)點(diǎn) 卡頓,影響集群穩(wěn)定性,所以要避免大key。
5、容錯
當(dāng)主節(jié)點(diǎn)發(fā)生故障,集群會自動將從節(jié)點(diǎn)提升為主節(jié)點(diǎn),如果主節(jié)點(diǎn)沒有從節(jié)點(diǎn),則發(fā)生故障時,集群不可用。同時Redis也提供了一個參數(shù) cluster-require-full-coverage 可以允許部分節(jié)點(diǎn)發(fā)生故障,其余節(jié)點(diǎn)可正常提供服務(wù)。
6、網(wǎng)絡(luò)抖動
由于網(wǎng)絡(luò)抖動問題導(dǎo)致主從頻繁切換,Redis Cluster 提供 cluster-node-timeout 參數(shù),當(dāng)某個節(jié)點(diǎn)持續(xù)時間timeout時間失聯(lián)時,才可以認(rèn)定該節(jié)點(diǎn)出現(xiàn)故障,需要進(jìn)行主從切換。同時參數(shù) cluster-slave-validity-factory 作為倍乘系數(shù)放大這個超時時間來寬容容錯的緊急程度,系數(shù)為零,主從切換不會抗拒網(wǎng)絡(luò)抖動,系數(shù)大于1則就成了主從切換的松弛系數(shù)。
7、可能下線(PFail)與確定下線(Fail)
因?yàn)镽edis Cluster是去中心化的,一個節(jié)點(diǎn)認(rèn)為某個節(jié)點(diǎn)失聯(lián)了并不代表所有節(jié)點(diǎn)都認(rèn)為它失聯(lián)了,所以集群會通過以此協(xié)商過程,只有當(dāng)大多數(shù)節(jié)點(diǎn)認(rèn)為某個節(jié)點(diǎn)失聯(lián)了,那么該節(jié)點(diǎn)才需要進(jìn)行主從切換來容錯。
Redis 集群節(jié)點(diǎn)采用Gossip協(xié)議來廣播自己的狀態(tài)以及來改變對整個集群的認(rèn)知。當(dāng)一個節(jié)點(diǎn)發(fā)現(xiàn)某個節(jié)點(diǎn)失聯(lián)后(Pfail),它會將該失聯(lián)信息廣播到整個集群,其他節(jié)點(diǎn)就會收到節(jié)點(diǎn)失聯(lián)信息,如果收到某個節(jié)點(diǎn)失聯(lián)的節(jié)點(diǎn)數(shù)量(PFail Count)已經(jīng)達(dá)到集群的大多數(shù),則可以標(biāo)記該失聯(lián)節(jié)點(diǎn)為確定下線狀態(tài)(Fail),然后廣播到其它節(jié)點(diǎn)該節(jié)點(diǎn)確定下線的事實(shí),并立即對該失聯(lián)節(jié)點(diǎn)進(jìn)行主從切換。
8、槽位遷移感知
客戶端保存了槽位與節(jié)點(diǎn)的映射關(guān)系表,它需要及時得到更新,才可以正常地將某條指令發(fā)送到正確的節(jié)點(diǎn)中。Cluster中存在兩條特殊的error指令:
- MOVED指令:用來糾正槽位,客戶端會刷新自己的槽位關(guān)系表。
- ASKING指令:用來臨時糾正槽位,客戶端不會刷新自己的槽位關(guān)系表。
9、集群變更感知
當(dāng)服務(wù)器節(jié)點(diǎn)變更時,客戶端如何得到通知并實(shí)時刷新自己的節(jié)點(diǎn)關(guān)系表?分為兩種情況:
- 目標(biāo)節(jié)點(diǎn)掛掉了,客戶端會拋出一個 ConnectionError,緊接著會隨機(jī)挑選一個節(jié)點(diǎn)來重試,這時被重試的節(jié)點(diǎn)會通過MOVED指令告知目標(biāo)槽位被分配到新的節(jié)點(diǎn)地址。
- 運(yùn)維手動修改集群信息,將主節(jié)點(diǎn)切換為其他節(jié)點(diǎn),并將主節(jié)點(diǎn)移除。這時打在舊節(jié)點(diǎn)上的指令會收到ClusterDown的錯誤,告知當(dāng)前節(jié)點(diǎn)所在集群不可用(當(dāng)前節(jié)點(diǎn)已被孤立,不在屬于之前集群),這時客戶端就會關(guān)閉所有連接,清空槽位映射關(guān)系表,然后向上報錯,待下一條指令過來時,就會重新嘗試初始化節(jié)點(diǎn)信息。
到此這篇關(guān)于Redis 集群模式(Cluster)原理詳解的文章就介紹到這了,更多相關(guān)Redis 集群模式內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Redis的共享session應(yīng)用實(shí)現(xiàn)短信登錄
本文主要介紹了Redis的共享session應(yīng)用實(shí)現(xiàn)短信登錄,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-08-08redis key過期監(jiān)聽的實(shí)現(xiàn)示例
在Redis中,我們可以為Key設(shè)置過期時間,當(dāng)Key的過期時間到達(dá)后,Redis會自動將該Key標(biāo)記為已失效,本文就來介紹一下redis key過期監(jiān)聽的實(shí)現(xiàn)示例,感興趣的可以了解一下2024-03-03Redis?Lua腳本實(shí)現(xiàn)ip限流示例
這篇文章主要介紹了Redis?Lua腳本實(shí)現(xiàn)ip限流示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-07-07