如何設(shè)計(jì)一個(gè)秒殺系統(tǒng)
什么是秒殺
秒殺場(chǎng)景一般會(huì)在電商網(wǎng)站舉行一些活動(dòng)或者節(jié)假日在12306網(wǎng)站上搶票時(shí)遇到。對(duì)于電商網(wǎng)站中一些稀缺或者特價(jià)商品,電商網(wǎng)站一般會(huì)在約定時(shí)間點(diǎn)對(duì)其進(jìn)行限量銷售,因?yàn)檫@些商品的特殊性,會(huì)吸引大量用戶前來(lái)?yè)屬?gòu),并且會(huì)在約定的時(shí)間點(diǎn)同時(shí)在秒殺頁(yè)面進(jìn)行搶購(gòu)。
秒殺系統(tǒng)場(chǎng)景特點(diǎn)
- 秒殺時(shí)大量用戶會(huì)在同一時(shí)間同時(shí)進(jìn)行搶購(gòu),網(wǎng)站瞬時(shí)訪問(wèn)流量激增。
- 秒殺一般是訪問(wèn)請(qǐng)求數(shù)量遠(yuǎn)遠(yuǎn)大于庫(kù)存數(shù)量,只有少部分用戶能夠秒殺成功。
- 秒殺業(yè)務(wù)流程比較簡(jiǎn)單,一般就是下訂單減庫(kù)存。
秒殺架構(gòu)設(shè)計(jì)理念
限流: 鑒于只有少部分用戶能夠秒殺成功,所以要限制大部分流量,只允許少部分流量進(jìn)入服務(wù)后端。
削峰:對(duì)于秒殺系統(tǒng)瞬時(shí)會(huì)有大量用戶涌入,所以在搶購(gòu)一開始會(huì)有很高的瞬間峰值。高峰值流量是壓垮系統(tǒng)很重要的原因,所以如何把瞬間的高流量變成一段時(shí)間平穩(wěn)的流量也是設(shè)計(jì)秒殺系統(tǒng)很重要的思路。實(shí)現(xiàn)削峰的常用的方法有利用緩存和消息中間件等技術(shù)。
異步處理:秒殺系統(tǒng)是一個(gè)高并發(fā)系統(tǒng),采用異步處理模式可以極大地提高系統(tǒng)并發(fā)量,其實(shí)異步處理就是削峰的一種實(shí)現(xiàn)方式。
內(nèi)存緩存:秒殺系統(tǒng)最大的瓶頸一般都是數(shù)據(jù)庫(kù)讀寫,由于數(shù)據(jù)庫(kù)讀寫屬于磁盤IO,性能很低,如果能夠把部分?jǐn)?shù)據(jù)或業(yè)務(wù)邏輯轉(zhuǎn)移到內(nèi)存緩存,效率會(huì)有極大地提升。
可拓展:當(dāng)然如果我們想支持更多用戶,更大的并發(fā),最好就將系統(tǒng)設(shè)計(jì)成彈性可拓展的,如果流量來(lái)了,拓展機(jī)器就好了。像淘寶、京東等雙十一活動(dòng)時(shí)會(huì)增加大量機(jī)器應(yīng)對(duì)交易高峰。
架構(gòu)方案
一般秒殺系統(tǒng)架構(gòu)
設(shè)計(jì)思路
將請(qǐng)求攔截在系統(tǒng)上游,降低下游壓力:秒殺系統(tǒng)特點(diǎn)是并發(fā)量極大,但實(shí)際秒殺成功的請(qǐng)求數(shù)量卻很少,所以如果不在前端攔截很可能造成數(shù)據(jù)庫(kù)讀寫鎖沖突,甚至導(dǎo)致死鎖,最終請(qǐng)求超時(shí)。
充分利用緩存:利用緩存可極大提高系統(tǒng)讀寫速度。
消息隊(duì)列:消息隊(duì)列可以削峰,將攔截大量并發(fā)請(qǐng)求,這也是一個(gè)異步處理過(guò)程,后臺(tái)業(yè)務(wù)根據(jù)自己的處理能力,從消息隊(duì)列中主動(dòng)的拉取請(qǐng)求消息進(jìn)行業(yè)務(wù)處理。
前端方案
瀏覽器端(js):
頁(yè)面靜態(tài)化:將活動(dòng)頁(yè)面上的所有可以靜態(tài)的元素全部靜態(tài)化,并盡量減少動(dòng)態(tài)元素。通過(guò)CDN來(lái)抗峰值。
禁止重復(fù)提交:用戶提交之后按鈕置灰,禁止重復(fù)提交
用戶限流:在某一時(shí)間段內(nèi)只允許用戶提交一次請(qǐng)求,比如可以采取IP限流
后端方案
服務(wù)端控制器層(網(wǎng)關(guān)層)
限制uid(UserID)訪問(wèn)頻率:我們上面攔截了瀏覽器訪問(wèn)的請(qǐng)求,但針對(duì)某些惡意攻擊或其它插件,在服務(wù)端控制層需要針對(duì)同一個(gè)訪問(wèn)uid,限制訪問(wèn)頻率。
服務(wù)層
上面只攔截了一部分訪問(wèn)請(qǐng)求,當(dāng)秒殺的用戶量很大時(shí),即使每個(gè)用戶只有一個(gè)請(qǐng)求,到服務(wù)層的請(qǐng)求數(shù)量還是很大。比如我們有100W用戶同時(shí)搶100臺(tái)手機(jī),服務(wù)層并發(fā)請(qǐng)求壓力至少為100W。
采用消息隊(duì)列緩存請(qǐng)求:既然服務(wù)層知道庫(kù)存只有100臺(tái)手機(jī),那完全沒(méi)有必要把100W個(gè)請(qǐng)求都傳遞到數(shù)據(jù)庫(kù)啊,那么可以先把這些請(qǐng)求都寫到消息隊(duì)列緩存一下,數(shù)據(jù)庫(kù)層訂閱消息減庫(kù)存,減庫(kù)存成功的請(qǐng)求返回秒殺成功,失敗的返回秒殺結(jié)束。
利用緩存應(yīng)對(duì)讀請(qǐng)求:對(duì)類似于12306等購(gòu)票業(yè)務(wù),是典型的讀多寫少業(yè)務(wù),大部分請(qǐng)求是查詢請(qǐng)求,所以可以利用緩存分擔(dān)數(shù)據(jù)庫(kù)壓力。
利用緩存應(yīng)對(duì)寫請(qǐng)求:緩存也是可以應(yīng)對(duì)寫請(qǐng)求的,比如我們就可以把數(shù)據(jù)庫(kù)中的庫(kù)存數(shù)據(jù)轉(zhuǎn)移到Redis緩存中,所有減庫(kù)存操作都在Redis中進(jìn)行,然后再通過(guò)后臺(tái)進(jìn)程把Redis中的用戶秒殺請(qǐng)求同步到數(shù)據(jù)庫(kù)中。
數(shù)據(jù)庫(kù)層
數(shù)據(jù)庫(kù)層是最脆弱的一層,一般在應(yīng)用設(shè)計(jì)時(shí)在上游就需要把請(qǐng)求攔截掉,數(shù)據(jù)庫(kù)層只承擔(dān)“能力范圍內(nèi)”的訪問(wèn)請(qǐng)求。所以,上面通過(guò)在服務(wù)層引入隊(duì)列和緩存,讓最底層的數(shù)據(jù)庫(kù)高枕無(wú)憂。
案例:利用消息中間件和緩存實(shí)現(xiàn)簡(jiǎn)單的秒殺系統(tǒng)
Redis是一個(gè)分布式緩存系統(tǒng),支持多種數(shù)據(jù)結(jié)構(gòu),我們可以利用Redis輕松實(shí)現(xiàn)一個(gè)強(qiáng)大的秒殺系統(tǒng)。
我們可以采用Redis 最簡(jiǎn)單的key-value數(shù)據(jù)結(jié)構(gòu),用一個(gè)原子類型的變量值(AtomicInteger)作為key,把用戶id作為value,庫(kù)存數(shù)量便是原子變量的最大值。對(duì)于每個(gè)用戶的秒殺,我們使用 RPUSH key value插入秒殺請(qǐng)求, 當(dāng)插入的秒殺請(qǐng)求數(shù)達(dá)到上限時(shí),停止所有后續(xù)插入。
然后我們可以在臺(tái)啟動(dòng)多個(gè)工作線程,使用 LPOP key 讀取秒殺成功者的用戶id,然后再操作數(shù)據(jù)庫(kù)做最終的下訂單減庫(kù)存操作。
當(dāng)然,上面Redis也可以替換成消息中間件如ActiveMQ、RabbitMQ等,也可以將緩存和消息中間件 組合起來(lái),緩存系統(tǒng)負(fù)責(zé)接收記錄用戶請(qǐng)求,消息中間件負(fù)責(zé)將緩存中的請(qǐng)求同步到數(shù)據(jù)庫(kù)。
以上就是本文的全部?jī)?nèi)容,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來(lái)一定的幫助,同時(shí)也希望多多支持腳本之家!
相關(guān)文章
nacos在mac上部署提示找不到或無(wú)法加載主類的解決
這篇文章主要介紹了nacos在mac上部署提示找不到或無(wú)法加載主類的解決,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-06-06IDEA版使用Java操作Redis數(shù)據(jù)庫(kù)的方法
這篇文章主要介紹了IDEA版使用Java操作Redis數(shù)據(jù)庫(kù)的方法,首先需要下載jedis.jar包,然后再工程中設(shè)置具體操作步驟跟隨小編一起學(xué)習(xí)下吧2021-08-08SpringBoot帶你實(shí)現(xiàn)一個(gè)點(diǎn)餐小程序
有個(gè)小伙伴臨時(shí)找到我,要開發(fā)一個(gè)點(diǎn)餐的系統(tǒng),時(shí)間比較著急,給了2天的時(shí)間。馬馬虎虎的搞出來(lái)了,頭發(fā)掉了一撮!下面介紹下本系統(tǒng),感興趣的小伙伴,可以參考開發(fā)下2022-07-07詳解如何利用jasypt實(shí)現(xiàn)配置文件加密
Jasypt?(Java?Simplified?Encryption)?是一個(gè)?java?庫(kù),它允許開發(fā)人員以最小的成本將基本的加密功能添加到項(xiàng)目中,而無(wú)需深入了解密碼學(xué)的工作原理。本文將利用jasypt實(shí)現(xiàn)配置文件加密,感興趣的可以學(xué)習(xí)一下2022-07-07