Golang實現自己的Redis(pipeline客戶端)實例探索
引言
用11篇文章實現一個可用的Redis服務,姑且叫EasyRedis吧,希望通過文章將Redis掰開撕碎了呈現給大家,而不是僅僅停留在八股文的層面,并且有非常爽的感覺,歡迎持續(xù)關注學習。
- [x] easyredis之TCP服務
- [x] easyredis之網絡請求序列化協(xié)議(RESP)
- [x] easyredis之內存數據庫
- [x] easyredis之過期時間 (時間輪實現)
- [x] easyredis之持久化 (AOF實現)
- [x] easyredis之發(fā)布訂閱功能
- [x] easyredis之有序集合(跳表實現)
- [x] easyredis之 pipeline 客戶端實現
- [ ] easyredis之事務(原子性/回滾)
- [ ] easyredis之連接池
- [ ] easyredis之分布式集群存儲
EasyRedis之pipeline客戶端
網絡編程的一個基礎知識:用同一個sokcet連接發(fā)送多個數據包的時候,我們一般的做法是,發(fā)送并立刻接收結果,在沒有接收到,是不會繼續(xù)發(fā)送數據包。這種方法簡單,但是效率太低。時間都浪費在等待上了...
socket的【發(fā)送緩沖區(qū)和接收緩沖區(qū)】是分離的,也就是發(fā)送不用等待接收,接收也不用等待發(fā)送。
所以我們可以把我們要發(fā)送的多個數據包【數據包1/數據包2...數據包N】復用同一個連接,通過發(fā)送緩沖區(qū)按順序都發(fā)送給服務端。服務端處理請求的順序,也是按照【數據包1/數據包2...數據包N】這個順序處理的。當處理完以后,處理結果將按照【數據包結果1/數據包結果2...數據包結果N】順序發(fā)送給客戶端的接收緩沖區(qū)??蛻舳酥恍枰獜慕邮站彌_區(qū)中讀取數據,并保存到請求數據包上,即可。這樣我們就可以將發(fā)送和接收分離開來。一個協(xié)程只負責發(fā)送,一個協(xié)程只負責接收,互相不用等待。關鍵在于保證發(fā)送和接收的順序是相同的設計邏輯圖如下:
代碼路徑redis/client/client.go
整個代碼也就是200多行,結合上圖非常容易理解
創(chuàng)建客戶端
type RedisClent struct { // socket連接 conn net.Conn addr string // 客戶端當前狀態(tài) connStatus atomic.Int32 // heartbeat ticker time.Ticker // buffer cache waitSend chan *request waitResult chan *request // 有請求正在處理中... working sync.WaitGroup } // 創(chuàng)建redis客戶端socket func NewRedisClient(addr string) (*RedisClent, error) { conn, err := net.Dial("tcp", addr) if err != nil { returnnil, err } rc := RedisClent{} rc.conn = conn rc.waitSend = make(chan *request, maxChanSize) rc.waitResult = make(chan *request, maxChanSize) rc.addr = addr return &rc, nil } // 啟動 func (rc *RedisClent) Start() error { rc.ticker = *time.NewTicker(heartBeatInterval) // 將waitSend緩沖區(qū)進行發(fā)送 go rc.execSend() // 獲取服務端結果 go rc.execReceive() // 定時發(fā)送心跳 go rc.execHeardBeat() rc.connStatus.Store(connRunning) // 啟動狀態(tài) returnnil }
發(fā)送Redis命令
將command [][]byte
保存到緩沖區(qū) rc.waitSend
中
// 將redis命令保存到 waitSend 中 func (rc *RedisClent) Send(command [][]byte) (protocol.Reply, error) { // 已關閉 if rc.connStatus.Load() == connClosed { returnnil, errors.New("client closed") } req := &request{ command: command, wait: wait.Wait{}, } // 單個請求 req.wait.Add(1) // 所有請求 rc.working.Add(1) defer rc.working.Done() // 將數據保存到緩沖中 rc.waitSend <- req // 等待處理結束 if req.wait.WaitWithTimeOut(maxWait) { returnnil, errors.New("time out") } // 出錯 if req.err != nil { err := req.err returnnil, err } // 正常 return req.reply, nil }
發(fā)送Redis命令到服務端
// 將waitSend緩沖區(qū)進行發(fā)送 func (rc *RedisClent) execSend() { for req := range rc.waitSend { rc.sendReq(req) } } func (rc *RedisClent) sendReq(req *request) { // 無效請求 if req == nil || len(req.command) == 0 { return } var err error // 網絡請求(重試3次) for i := 0; i < 3; i++ { _, err = rc.conn.Write(req.Bytes()) // 發(fā)送成功 or 發(fā)送錯誤(除了超時錯誤和deadline錯誤)跳出 if err == nil || (!strings.Contains(err.Error(), "timeout") && // only retry timeout !strings.Contains(err.Error(), "deadline exceeded")) { break } } if err == nil { // 發(fā)送成功,異步等待結果 rc.waitResult <- req } else { // 發(fā)送失敗,請求直接失敗 req.err = err req.wait.Done() } }
從服務端讀取數據
func (rc *RedisClent) execReceive() { ch := parser.ParseStream(rc.conn) for payload := range ch { if payload.Err != nil { if rc.connStatus.Load() == connClosed { // 連接已關閉 return } // 否則,重新連接(可能因為網絡抖動臨時斷開了) rc.reconnect() return } // 說明一切正常 rc.handleResult(payload.Reply) } } func (rc *RedisClent) handleResult(reply protocol.Reply) { // 從rc.waitResult 獲取一個等待中的請求,將結果保存進去 req := <-rc.waitResult if req == nil { return } req.reply = reply req.wait.Done() // 通知已經獲取到結果 }
斷線重連
因為網絡抖動可能存在連接斷開的情況,所以需要有重連的功能
func (rc *RedisClent) reconnect() { logger.Info("redis client reconnect...") rc.conn.Close() var conn net.Conn // 重連(重試3次) for i := 0; i < 3; i++ { var err error conn, err = net.Dial("tcp", rc.addr) if err != nil { logger.Error("reconnect error: " + err.Error()) time.Sleep(time.Second) continue } else { break } } // 服務端連不上,說明服務可能掛了(or 網絡問題 and so on...) if conn == nil { rc.Stop() return } // 這里關閉沒問題,因為rc.conn.Close已經關閉,函數Send中保存的請求因為發(fā)送不成功,不會寫入到waitResult close(rc.waitResult) // 清理 waitResult(因為連接重置,新連接上只能處理新請求,老的請求的數據結果在老連接上,老連接已經關了,新連接上肯定是沒有結果的) for req := range rc.waitResult { req.err = errors.New("connect reset") req.wait.Done() } // 新連接(新氣象) rc.waitResult = make(chan *request, maxWait) rc.conn = conn // 重新啟動接收協(xié)程 go rc.execReceive() }
項目代碼地址: https://github.com/gofish2020/easyredis
以上就是Golang實現自己的Redis(pipeline客戶端)實例探索的詳細內容,更多關于Golang Redis pipeline客戶端的資料請關注腳本之家其它相關文章!
相關文章
淺析Golang開發(fā)中goroutine的正確使用姿勢
很多初級的Gopher在學習了goroutine之后,在項目中其實使用率不高,所以這篇文章小編主要來帶大家深入了解一下goroutine的常見使用方法,希望對大家有所幫助2024-03-03Go語言:打造優(yōu)雅數據庫單元測試的實戰(zhàn)指南
Go語言數據庫單元測試入門:聚焦高效、可靠的數據庫代碼驗證!想要確保您的Go應用數據層堅如磐石嗎?本指南將手把手教您如何利用Go進行數據庫單元測試,輕松揪出隱藏的bug,打造無懈可擊的數據處理邏輯,一起來探索吧!2024-01-01