RabbitMQ冪等性與優(yōu)先級及惰性詳細(xì)全面講解
1. 冪等性
概念
用戶對于同一操作發(fā)起的一次請求或者多次請求的結(jié)果是一致的,不會因?yàn)槎啻吸c(diǎn)擊而產(chǎn)生了副作用。 舉個(gè)最簡單的例子,那就是支付,用戶購買商品后支付,支付扣款成功,但是返回結(jié)果的時(shí)候網(wǎng)絡(luò)異常, 此時(shí)錢已經(jīng)扣了,用戶再次點(diǎn)擊按鈕,此時(shí)會進(jìn)行第二次扣款,返回結(jié)果成功,用戶查詢余額發(fā)現(xiàn)多扣錢 了,流水記錄也變成了兩條。在以前的單應(yīng)用系統(tǒng)中,我們只需要把數(shù)據(jù)操作放入事務(wù)中即可,發(fā)生錯(cuò)誤立即回滾,但是再響應(yīng)客戶端的時(shí)候也有可能出現(xiàn)網(wǎng)絡(luò)中斷或者異常等等
消息重復(fù)消費(fèi)
消費(fèi)者在消費(fèi) MQ 中的消息時(shí),MQ 已把消息發(fā)送給消費(fèi)者,消費(fèi)者在給 MQ 返回 ack 時(shí)網(wǎng)絡(luò)中斷, 故 MQ 未收到確認(rèn)信息,該條消息會重新發(fā)給其他的消費(fèi)者,或者在網(wǎng)絡(luò)重連后再次發(fā)送給該消費(fèi)者,但實(shí)際上該消費(fèi)者已成功消費(fèi)了該條消息,造成消費(fèi)者消費(fèi)了重復(fù)的消息。
解決思路
MQ 消費(fèi)者的冪等性的解決一般使用全局 ID 或者寫個(gè)唯一標(biāo)識比如時(shí)間戳 或者 UUID 或者訂單消費(fèi)者消費(fèi) MQ 中的消息也可利用 MQ 的該 id 來判斷,或者可按自己的規(guī)則生成一個(gè)全局唯一 id,每次消費(fèi)消息時(shí)用該 id 先判斷該消息是否已消費(fèi)過。
消費(fèi)端的冪等性保障
在海量訂單生成的業(yè)務(wù)高峰期,生產(chǎn)端有可能就會重復(fù)發(fā)生了消息,這時(shí)候消費(fèi)端就要實(shí)現(xiàn)冪等性, 這就意味著我們的消息永遠(yuǎn)不會被消費(fèi)多次,即使我們收到了一樣的消息。
業(yè)界主流的冪等性有兩種操作:a. 唯一 ID+指紋碼機(jī)制,利用數(shù)據(jù)庫主鍵去重, b.利用 redis 的原子性去實(shí)現(xiàn)
唯一ID+指紋碼機(jī)制
指紋碼:我們的一些規(guī)則或者時(shí)間戳加別的服務(wù)給到的唯一信息碼,它并不一定是我們系統(tǒng)生成的,基本都是由我們的業(yè)務(wù)規(guī)則拼接而來,但是一定要保證唯一性,然后就利用查詢語句進(jìn)行判斷這個(gè) id 是否存在數(shù)據(jù)庫中,優(yōu)勢就是實(shí)現(xiàn)簡單就一個(gè)拼接,然后查詢判斷是否重復(fù);劣勢就是在高并發(fā)時(shí),如果是單個(gè)數(shù)據(jù)庫就會有寫入性能瓶頸當(dāng)然也可以采用分庫分表提升性能,但也不是我們最推薦的方式。
note Redis 原子性
利用 redis 執(zhí)行 setnx 命令,天然具有冪等性。從而實(shí)現(xiàn)不重復(fù)消費(fèi)
2. 優(yōu)先級隊(duì)列
使用場景
在我們系統(tǒng)中有一個(gè)訂單催付的場景,我們的客戶在天貓下的訂單,淘寶會及時(shí)將訂單推送給我們,如果在用戶設(shè)定的時(shí)間內(nèi)未付款那么就會給用戶推送一條短信提醒,很簡單的一個(gè)功能對吧。
但是,tmall 商家對我們來說,肯定是要分大客戶和小客戶的對吧,比如像蘋果,小米這樣大商家一年起碼能給我們創(chuàng)造很大的利潤,所以理應(yīng)當(dāng)然,他們的訂單必須得到優(yōu)先處理,而曾經(jīng)我們的后端系統(tǒng)是使用 redis 來存放的定時(shí)輪詢,大家都知道 redis 只能用 List 做一個(gè)簡簡單單的消息隊(duì)列,并不能實(shí)現(xiàn)一個(gè)優(yōu)先級的場景,所以訂單量大了后采用 RabbitMQ 進(jìn)行改造和優(yōu)化,如果發(fā)現(xiàn)是大客戶的訂單給一個(gè)相對比較高的優(yōu)先級, 否則就是默認(rèn)優(yōu)先級。
如何添加?
控制臺頁面添加
隊(duì)列中代碼添加優(yōu)先級
Map<String, Object> params = new HashMap(); params.put("x-max-priority", 10); channel.queueDeclare("hello", true, false, false, params);
消息中代碼添加優(yōu)先級
AMQP.BasicProperties properties = new AMQP.BasicProperties().builder().priority(10).build();
注意事項(xiàng):
要讓隊(duì)列實(shí)現(xiàn)優(yōu)先級需要做的事情有如下事情:隊(duì)列需要設(shè)置為優(yōu)先級隊(duì)列,消息需要設(shè)置消息的優(yōu)先級,消費(fèi)者需要等待消息已經(jīng)發(fā)送到隊(duì)列中才去消費(fèi)因?yàn)?,這樣才有機(jī)會對消息進(jìn)行排序
實(shí)戰(zhàn)
生產(chǎn)者:
package com.jm.rabbitmq.one; import com.rabbitmq.client.AMQP; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import com.rabbitmq.client.ConnectionFactory; import java.util.HashMap; import java.util.Map; /** * 生產(chǎn)者 :發(fā)消息 */ public class Producer { //隊(duì)列名稱 public static final String QUEUE_NAME="hello"; //發(fā)消息 public static void main(String[] args) throws Exception { Channel channel = RabbitMqUtils.getChannel(); Map<String, Object> arguments=new HashMap<>(); arguments.put("x-max-priority",10);//官方允許0-255 此處設(shè)置10 允許優(yōu)先級范圍為0-10 不要設(shè)置過大,浪費(fèi)cpu和內(nèi)存 channel.queueDeclare(QUEUE_NAME,true,false,false,arguments); for (int i = 1; i < 11; i++) { String message="info"+i; if(i==5){ AMQP.BasicProperties properties= new AMQP.BasicProperties().builder().priority(5).build(); channel.basicPublish("",QUEUE_NAME,properties,message.getBytes()); }else{ channel.basicPublish("",QUEUE_NAME,null,message.getBytes()); } } System.out.println("消息發(fā)送完畢"); } }
消費(fèi)者:
package com.jm.rabbitmq.one; import com.rabbitmq.client.*; /** * 消費(fèi)者 :接收消息的 */ public class Consumer { //隊(duì)列的名稱 public static final String QUEUE_NAME="hello"; //接收消息 public static void main(String[] args) throws Exception{ Channel channel = RabbitMqUtils.getChannel(); //聲明 接收消息 DeliverCallback deliverCallback= (consumerTag,message) ->{ System.out.println(new String(message.getBody())); }; //取消消息時(shí)的回調(diào) CancelCallback cancelCallback= consumerTag ->{ System.out.println("消息消費(fèi)被中斷"); }; channel.basicConsume(QUEUE_NAME,true,deliverCallback,cancelCallback); } }
3. 惰性隊(duì)列
使用場景
RabbitMQ 從 3.6.0 版本開始引入了惰性隊(duì)列的概念。惰性隊(duì)列會盡可能的將消息存入磁盤中,而在消費(fèi)者消費(fèi)到相應(yīng)的消息時(shí)才會被加載到內(nèi)存中,它的一個(gè)重要的設(shè)計(jì)目標(biāo)是能夠支持更長的隊(duì)列,即支持更多的消息存儲。當(dāng)消費(fèi)者由于各種各樣的原因(比如消費(fèi)者下線、宕機(jī)亦或者是由于維護(hù)而關(guān)閉等)而致使長時(shí)間內(nèi)不能消費(fèi)消息造成堆積時(shí),惰性隊(duì)列就很有必要了。
默認(rèn)情況下,當(dāng)生產(chǎn)者將消息發(fā)送到 RabbitMQ 的時(shí)候,隊(duì)列中的消息會盡可能的存儲在內(nèi)存之中, 這樣可以更加快速的將消息發(fā)送給消費(fèi)者。即使是持久化的消息,在被寫入磁盤的同時(shí)也會在內(nèi)存中駐留一份備份。當(dāng)RabbitMQ 需要釋放內(nèi)存的時(shí)候,會將內(nèi)存中的消息換頁至磁盤中,這個(gè)操作會耗費(fèi)較長的時(shí)間,也會阻塞隊(duì)列的操作,進(jìn)而無法接收新的消息。雖然 RabbitMQ 的開發(fā)者們一直在升級相關(guān)的算法, 但是效果始終不太理想,尤其是在消息量特別大的時(shí)候。
兩種模式
隊(duì)列具備兩種模式:default 和 lazy。默認(rèn)的為default 模式,在3.6.0 之前的版本無需做任何變更。lazy 模式即為惰性隊(duì)列的模式,可以通過調(diào)用 channel.queueDeclare 方法的時(shí)候在參數(shù)中設(shè)置,也可以通過 Policy 的方式設(shè)置,如果一個(gè)隊(duì)列同時(shí)使用這兩種方式設(shè)置的話,那么 Policy 的方式具備更高的優(yōu)先級。 如果要通過聲明的方式改變已有隊(duì)列的模式的話,那么只能先刪除隊(duì)列,然后再重新聲明一個(gè)新的。
在隊(duì)列聲明的時(shí)候可以通過“x-queue-mode”參數(shù)來設(shè)置隊(duì)列的模式,取值為“default”和“lazy”。下面示例中演示了一個(gè)惰性隊(duì)列的聲明細(xì)節(jié):
Map<String, Object> args = new HashMap<String, Object>(); args.put("x-queue-mode", "lazy"); channel.queueDeclare("myqueue", false, false, false, args);
內(nèi)存開銷對比
在發(fā)送 1 百萬條消息,每條消息大概占 1KB 的情況下,普通隊(duì)列占用內(nèi)存是 1.2GB,而惰性隊(duì)列僅僅 占用 1.5MB
到此這篇關(guān)于RabbitMQ冪等性與優(yōu)先級及惰性詳細(xì)全面講解的文章就介紹到這了,更多相關(guān)RabbitMQ冪等性內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
java數(shù)據(jù)結(jié)構(gòu)之希爾排序
這篇文章主要為大家詳細(xì)介紹了java數(shù)據(jù)結(jié)構(gòu)之希爾排序的相關(guān)代碼,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-11-11Java最簡單的DES加密算法實(shí)現(xiàn)案例
下面小編就為大家?guī)硪黄狫ava最簡單的DES加密算法實(shí)現(xiàn)案例。小編覺得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-06-06一篇文章徹底弄懂SpringBoot項(xiàng)目jdk版本及依賴不兼容問題
這篇文章主要給大家介紹了關(guān)于徹底弄懂SpringBoot項(xiàng)目jdk版本及依賴不兼容問題的相關(guān)資料,文中通過圖文介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2023-01-01feign調(diào)用第三方接口,編碼定義GBK,響應(yīng)中文亂碼處理方式
這篇文章主要介紹了feign調(diào)用第三方接口,編碼定義GBK,響應(yīng)中文亂碼處理方式,具有很好的參考價(jià)值,希望對大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-01-01在spring?boot3中使用native?image的最新方法
這篇文章主要介紹了在spring?boot3中使用native?image?,今天我們用具體的例子來給大家演示一下如何正確的將spring boot3的應(yīng)用編譯成為native image,需要的朋友可以參考下2023-01-01Java throw Exception實(shí)現(xiàn)異常轉(zhuǎn)換
這篇文章主要介紹了Java throw Exception實(shí)現(xiàn)異常轉(zhuǎn)換,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-04-04Java Swing樹狀組件JTree用法實(shí)例詳解
這篇文章主要介紹了Java Swing樹狀組件JTree用法,結(jié)合具體實(shí)例形式分析了Swing組件JTree構(gòu)成樹狀列表的節(jié)點(diǎn)設(shè)置與事件響應(yīng),以及自定義圖形節(jié)點(diǎn)的相關(guān)操作技巧,需要的朋友可以參考下2017-11-11