快捷導(dǎo)航

Golang實(shí)現(xiàn)按比例切分流量的示例詳解

更新時(shí)間：2023年09月04日 10:29:43 作者：阿拉懶神燈

我們?cè)谶M(jìn)行灰度發(fā)布時(shí),往往需要轉(zhuǎn)發(fā)一部分流量到新上線(xiàn)的服務(wù)上,進(jìn)行小規(guī)模的驗(yàn)證,隨著功能的不斷完善,我們也會(huì)逐漸增加轉(zhuǎn)發(fā)的流量,這就需要按比例去切分流量,那么如何實(shí)現(xiàn)流量切分呢,接下來(lái)小編就給大家詳細(xì)的介紹一下實(shí)現(xiàn)方法,需要的朋友可以參考下

我們?cè)谶M(jìn)行灰度發(fā)布時(shí)，往往需要轉(zhuǎn)發(fā)一部分流量到新上線(xiàn)的服務(wù)上，進(jìn)行小規(guī)模的驗(yàn)證，隨著功能的不斷完善，我們也會(huì)逐漸增加轉(zhuǎn)發(fā)的流量，這就需要按比例去切分流量，那么如何實(shí)現(xiàn)流量切分呢？

我們很容易想到通過(guò)生成隨機(jī)數(shù)方式進(jìn)行實(shí)現(xiàn)，通過(guò)判斷生成隨機(jī)數(shù)是否落在指定區(qū)間內(nèi)，從而決定是否進(jìn)行流量的轉(zhuǎn)發(fā)，這種方式雖然實(shí)現(xiàn)很簡(jiǎn)單，但是它有兩點(diǎn)弊端：

每次都要生成新的隨機(jī)數(shù)，這是有性能損耗的，尤其是并發(fā)量高的場(chǎng)景下更為明顯；
隨機(jī)數(shù)的生成往往不夠均勻，比如有A、B兩個(gè)服務(wù)，流量比例3:7，如果使用隨機(jī)數(shù)方式，如果運(yùn)氣不好的話(huà)有可能請(qǐng)求100次全落在B服務(wù)上。

那有沒(méi)有性能開(kāi)銷(xiāo)又小，又能精準(zhǔn)切分流量的方式呢？當(dāng)然是有的。實(shí)現(xiàn)思路如下：

確定比例，并根據(jù)比例得到一個(gè)基數(shù)base，例如比例是3:7，那么基數(shù)就是10；
生成長(zhǎng)度為基數(shù)base的數(shù)組source，并填充數(shù)據(jù)0、1、2、3、4、5...；
打亂數(shù)組source中元素順序；
創(chuàng)建全局計(jì)數(shù)器queryCount，每次有請(qǐng)求時(shí)加1（確保原子性）；
計(jì)算計(jì)數(shù)器queryCount與base取余后的值rate，并得到數(shù)組中對(duì)應(yīng)位置的值source[rate]；
判斷source[rate]落在哪個(gè)區(qū)間。

看文字可能覺(jué)得理解起來(lái)有些別扭，這里貼上完整代碼：

import (  "fmt"  "math/rand"  "sync/atomic")
type TrafficControl struct {  
    source     []int  
    queryCount uint32  
    base       int  
    ratio      int
}
func NewTrafficControl(base int, ratio int) *TrafficControl {  
    source := make([]int, base)  
    for i := 0; i < base; i++ {    
        source[i] = i  
    }
    rand.Shuffle(base, func(i, j int) {    
        source[i], source[j] = source[j], source[i]  
    })
    return &TrafficControl{    
        source: source,    
        base:   base,    
        ratio:  ratio,  
    }
}
func (t *TrafficControl) Allow() bool {  
    rate := t.source[int(atomic.AddUint32(&t.queryCount, 1))%t.base]  
    if rate < t.ratio {    
        return true  
    } else {    
        return false  
    }
}

接下來(lái)我們檢測(cè)下這段代碼是否真的能精準(zhǔn)切分流量：

func main() {  
    trafficCtl := NewTrafficControl(10, 6)  
    cnt := 100  
    serviceAQueryCnt := 0  
    serviceBQueryCnt := 0  
    for cnt > 0 {    
        if trafficCtl.Allow() {      
            serviceAQueryCnt++    
        } else {      
            serviceBQueryCnt++    
        }    
        cnt--  
    }
    fmt.Printf("service A query count: %v, service B query count %v", serviceAQueryCnt, serviceBQueryCnt)
}

執(zhí)行結(jié)果如下：

service A query count: 60, service B query count 40

其實(shí)思路很簡(jiǎn)單：通過(guò)請(qǐng)求數(shù)與基數(shù)取余，確保在一定范圍內(nèi)總能按比例實(shí)現(xiàn)流量切分；通過(guò)打亂數(shù)組確保流量分布盡可能均勻。當(dāng)然流量切分還有其他實(shí)現(xiàn)方式，如果大家有更精妙的實(shí)現(xiàn)，歡迎評(píng)論區(qū)留言哈。

到此這篇關(guān)于Golang實(shí)現(xiàn)按比例切分流量的示例詳解的文章就介紹到這了,更多相關(guān)Golang按比例切分流量?jī)?nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: