腳本之家服務(wù)器常用軟件

快捷導(dǎo)航

Nginx實(shí)現(xiàn)接口限流的方法匯總

更新時(shí)間：2023年11月05日 11:31:47 作者：山水終相逢

這篇文章主要為大家詳細(xì)介紹了Nginx實(shí)現(xiàn)接口限流的相關(guān)方法,文中的示例代碼講解詳細(xì),具有一定的借鑒價(jià)值,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下

一個(gè)Http請(qǐng)求，我們可以在nginx中獲取到哪些數(shù)據(jù)呢

1.請(qǐng)求頭部信息：

客戶(hù)端 IP 地址：通常通過(guò) $remote_addr 或 $binary_remote_addr 變量獲取。
請(qǐng)求方法：通過(guò) $request_method 變量獲取。
URI：通過(guò) $request_uri 或 $uri 變量獲取。
主機(jī)名：通過(guò) $host 變量獲取。
用戶(hù)代理：通過(guò) $http_user_agent 變量獲取。
引用地址（Referer）：通過(guò) $http_referer 變量獲取。
客戶(hù)端接受的內(nèi)容類(lèi)型：通過(guò) $http_accept 變量獲取。
請(qǐng)求的字符編碼：通過(guò) $http_accept_charset 變量獲取。
請(qǐng)求的語(yǔ)言：通過(guò) $http_accept_language 變量獲取。

2.請(qǐng)求體信息：

請(qǐng)求的正文內(nèi)容：通常在應(yīng)用程序處理請(qǐng)求時(shí)訪(fǎng)問(wèn)，或通過(guò) $request_body 變量獲取。

3.Cookie：

客戶(hù)端發(fā)送的 Cookie 數(shù)據(jù)：通過(guò) $http_cookie 變量獲取。

4.HTTPS 相關(guān)信息：

客戶(hù)端 SSL 證書(shū)信息：通過(guò) $ssl_client_cert 變量獲取。
客戶(hù)端 SSL 協(xié)議版本：通過(guò) $ssl_protocol 變量獲取。

5.服務(wù)端相關(guān)信息：

服務(wù)器名稱(chēng)：通過(guò) $server_name 變量獲取。
請(qǐng)求方案（HTTP 或 HTTPS）：通過(guò) $scheme 變量獲取。
服務(wù)器監(jiān)聽(tīng)端口：通過(guò) $server_port 變量獲取。

6.其他信息：

客戶(hù)端連接信息，如連接的遠(yuǎn)程端口、本地端口等。

這些信息在 Nginx 配置中可以使用相應(yīng)的變量來(lái)獲取，你可以根據(jù)需要在 Nginx 配置中使用這些變量進(jìn)行請(qǐng)求處理、日志記錄、限流等操作。需要注意的是，Nginx 可以通過(guò)模塊擴(kuò)展來(lái)提供更多的信息和功能，例如限流、緩存、負(fù)載均衡等。根據(jù)具體的需求，你可以自定義 Nginx 配置以獲得所需的信息和功能。

為什么要使用nginx來(lái)實(shí)現(xiàn)限流

保護(hù)服務(wù)器穩(wěn)定性：限流可以確保服務(wù)器在高流量負(fù)載下仍然能夠穩(wěn)定運(yùn)行，防止過(guò)多的請(qǐng)求導(dǎo)致性能下降、服務(wù)不可用或服務(wù)器宕機(jī)。
公平資源分配：通過(guò)限流，Nginx可以確保每個(gè)客戶(hù)端或用戶(hù)都有公平的機(jī)會(huì)訪(fǎng)問(wèn)服務(wù)器資源，防止某些客戶(hù)端壟斷資源。
防止惡意請(qǐng)求：限流幫助防止惡意請(qǐng)求，如惡意掃描、爆破攻擊、DDoS 攻擊等。通過(guò)控制請(qǐng)求速率，可以降低對(duì)服務(wù)器的惡意請(qǐng)求壓力。
合規(guī)性：某些服務(wù)提供商或服務(wù)協(xié)議可能要求限制客戶(hù)端對(duì)服務(wù)的訪(fǎng)問(wèn)速率。使用Nginx的限流功能可以確保遵守這些規(guī)定。
節(jié)省帶寬和成本：限流可以減少不必要的網(wǎng)絡(luò)流量，從而節(jié)省帶寬成本，特別是在云計(jì)算環(huán)境中，可以降低使用量和費(fèi)用。
避免雪崩效應(yīng)：在分布式系統(tǒng)中，當(dāng)一個(gè)服務(wù)出現(xiàn)故障時(shí)，可能會(huì)導(dǎo)致大量請(qǐng)求涌入其他服務(wù)，造成雪崩效應(yīng)。通過(guò)接口限流，可以減緩請(qǐng)求的涌入，分散負(fù)載，避免雪崩。
控制資源消耗：某些接口可能需要耗費(fèi)大量服務(wù)器資源，如數(shù)據(jù)庫(kù)查詢(xún)或復(fù)雜計(jì)算。限流可以幫助控制資源消耗，確保服務(wù)器資源不被耗盡。
優(yōu)化用戶(hù)體驗(yàn)：通過(guò)控制請(qǐng)求速率，可以確保服務(wù)器能夠及時(shí)響應(yīng)合理數(shù)量的請(qǐng)求，提供更快的響應(yīng)時(shí)間，從而改善用戶(hù)體驗(yàn)。

總之，使用Nginx的限流功能是維護(hù)服務(wù)器的穩(wěn)定性、安全性和可用性的重要手段，有助于防止服務(wù)器過(guò)載、提高系統(tǒng)的穩(wěn)定性，并確保公平的資源分配。這對(duì)于高流量和高負(fù)載的應(yīng)用程序特別有幫助。

Nginx 是如何實(shí)現(xiàn)接口限流的

限制請(qǐng)求速率

Nginx的限流模塊是通過(guò)ngx_http_limit_req_module實(shí)現(xiàn)的，它允許你控制客戶(hù)端請(qǐng)求的速率，以避免服務(wù)器受到過(guò)多請(qǐng)求的影響。這個(gè)模塊的工作原理如下：

1.limit_req_zone配置：首先，你需要在Nginx的配置文件中定義一個(gè)limit_req_zone來(lái)創(chuàng)建一個(gè)存儲(chǔ)區(qū)，用于跟蹤每個(gè)客戶(hù)端的請(qǐng)求速率。這個(gè)存儲(chǔ)區(qū)包括了客戶(hù)端的IP地址、請(qǐng)求計(jì)數(shù)、時(shí)間戳等信息。你可以定義多個(gè)不同的存儲(chǔ)區(qū)來(lái)針對(duì)不同的請(qǐng)求路徑或限流速率。

http {
    limit_req_zone $binary_remote_addr zone=api_limit:10m rate=10r/s;
    # ...
}

$binary_remote_addr：用于限流的客戶(hù)端IP地址。
zone=api_limit:10m：指定限流存儲(chǔ)區(qū)的名稱(chēng)和大小（例如10MB）。
rate=10r/s：定義速率，例如每秒10個(gè)請(qǐng)求。

2.limit_req配置：在Nginx配置文件中，你可以在具體的location或server塊內(nèi)使用limit_req指令來(lái)應(yīng)用限流規(guī)則。

server {
    location /api/ {
        limit_req zone=api_limit burst=15;
        # ...
    }
}

zone=api_limit：指定要使用的限流存儲(chǔ)區(qū)的名稱(chēng)，與之前配置的一致。
burst=15：定義允許的突發(fā)請(qǐng)求量緩沖區(qū)，即瞬時(shí)有大量的請(qǐng)求打進(jìn)來(lái)，超過(guò)訪(fǎng)問(wèn)限制的請(qǐng)求可以先放到這個(gè)緩沖區(qū)中。如果也超過(guò)了burst的限制，那就需要配合nodelay處理了，如果nodelay on 那就會(huì)直接返回503，如果是nodelay off那就將請(qǐng)求放到隊(duì)列中慢慢消費(fèi)，但是這個(gè)隊(duì)列大小是不受控制的。所以off設(shè)置需要謹(jǐn)慎使用。

3.請(qǐng)求處理：當(dāng)一個(gè)請(qǐng)求到達(dá)Nginx，limit_req模塊會(huì)檢查客戶(hù)端的IP地址和請(qǐng)求速率，以決定是否允許請(qǐng)求繼續(xù)處理。如果請(qǐng)求速率低于指定的速率，請(qǐng)求會(huì)被立即處理。如果請(qǐng)求速率高于指定的速率，請(qǐng)求可能會(huì)被延遲處理，以使速率控制生效。

4.控制響應(yīng)：根據(jù)限流規(guī)則，limit_req模塊會(huì)控制請(qǐng)求的處理。如果請(qǐng)求未被限制，它將正常響應(yīng)。如果請(qǐng)求速率過(guò)高，請(qǐng)求可能會(huì)被延遲或被返回429 Too Many Requests狀態(tài)碼，表示請(qǐng)求過(guò)多。這可以幫助保護(hù)服務(wù)器免受過(guò)載攻擊。

請(qǐng)求被延遲：當(dāng)請(qǐng)求速率接近或超過(guò)了配置的速率限制（rate參數(shù)），但未達(dá)到或超過(guò)瞬時(shí)突發(fā)請(qǐng)求數(shù)（burst參數(shù)）時(shí)，Nginx會(huì)將請(qǐng)求延遲處理。這意味著請(qǐng)求不會(huì)被立即響應(yīng)，而是被推遲一段時(shí)間后再處理，以使請(qǐng)求速率不超過(guò)限制。
返回429狀態(tài)碼：當(dāng)請(qǐng)求速率超過(guò)了瞬時(shí)突發(fā)請(qǐng)求數(shù)（burst參數(shù)），Nginx會(huì)返回HTTP狀態(tài)碼429 Too Many Requests。這表示客戶(hù)端發(fā)送的請(qǐng)求過(guò)多，服務(wù)器無(wú)法及時(shí)處理，建議客戶(hù)端減少請(qǐng)求速率。

通過(guò)配置limit_req和limit_req_zone，Nginx的限流模塊能夠有效控制請(qǐng)求速率，提高服務(wù)器的穩(wěn)定性和安全性。這對(duì)于應(yīng)對(duì)突發(fā)請(qǐng)求或惡意攻擊非常有用。

rate 參數(shù)和burst參數(shù)含義

rate參數(shù)：rate參數(shù)定義了每秒允許的請(qǐng)求速率。如果請(qǐng)求速率高于這個(gè)值，請(qǐng)求可能會(huì)被延遲或返回429狀態(tài)碼。
burst參數(shù)：burst參數(shù)定義了允許的瞬時(shí)突發(fā)請(qǐng)求數(shù)。如果客戶(hù)端發(fā)送的請(qǐng)求在瞬間突然增加，只有前面的請(qǐng)求達(dá)到burst數(shù)量會(huì)被立即處理，其余的請(qǐng)求會(huì)被延遲或返回429狀態(tài)碼。

這里要區(qū)分兩個(gè)時(shí)間概念：每秒和瞬時(shí)，假如每秒可以處理5個(gè)請(qǐng)求，是時(shí)間均勻的，但是如果在1秒內(nèi)的某個(gè)瞬間同時(shí)來(lái)了5個(gè)請(qǐng)求，

限制并發(fā)連接數(shù)

在上面的示例中 $binary_remote_addr 只能是配置為單個(gè)ip地址的請(qǐng)求速率，但是我們?cè)趯?shí)際應(yīng)用場(chǎng)景中一般是不針對(duì)單個(gè)ip進(jìn)行限流的。我們一般只是為URL（接口）提供一個(gè)總的限流。那么應(yīng)該如何配置呢？

我們使用‘limit_conn_zone’來(lái)實(shí)現(xiàn)，以下是代碼示例：

http {
    limit_conn_zone $server_name zone=global:10m;
    
    server {
        location /api/ {
            limit_conn global 10;
            # ...
        }

        # ...
    }
}

在這個(gè)示例中，我們使用‘limit_conn_zone’來(lái)定義了一個(gè)全局的限流存儲(chǔ)區(qū)，但不再使用‘$binary_remote_addr’ 參數(shù)。然后，在‘limit_conn’指令中，我們引用了名為‘global’的限流存儲(chǔ)區(qū)，以設(shè)置全局的并發(fā)連接數(shù)限制。

這種配置方式將不會(huì)對(duì)不同的客戶(hù)端IP地址進(jìn)行區(qū)分，而是全局控制服務(wù)器上的并發(fā)連接數(shù)。

限制并發(fā)連接數(shù)&請(qǐng)求速率控制

從上面的兩個(gè)示例中我們可以看出來(lái)，其實(shí)‘limit_conn_zone’和‘limit_req_zone’是兩個(gè)不同的限流措施。

limit_conn_zone：是ngx_http_limit_conn_module模塊的配置指令，用于控制并發(fā)連接數(shù)的限制。它創(chuàng)建一個(gè)共享內(nèi)存區(qū)域，用于跟蹤客戶(hù)端連接數(shù)，并設(shè)置連接數(shù)的限制。這個(gè)指令通常用于全局或特定位置來(lái)控制并發(fā)連接數(shù)。

limit_req_zone：是ngx_http_limit_req_module模塊的配置指令，用于配置請(qǐng)求速率的限制，而不是并發(fā)連接數(shù)。

因此，這兩個(gè)是沒(méi)有關(guān)系的，它們用于不同的控制策略。你可以同時(shí)使用這兩個(gè)模塊，根據(jù)需求配置并發(fā)連接數(shù)限制和請(qǐng)求速率限制，以實(shí)現(xiàn)全面的流量控制。如果只需要限制并發(fā)連接數(shù)，你只需要配置 limit_conn_zone 和 limit_conn。如果需要同時(shí)限制請(qǐng)求速率，可以使用 limit_req_zone 和 limit_req。

限制并發(fā)連接數(shù)和請(qǐng)求速率的含義

限制并發(fā)連接數(shù)（limit_conn）：

含義：限制并發(fā)連接數(shù)是指限制允許同時(shí)建立連接到服務(wù)器的客戶(hù)端數(shù)量。它控制的是同時(shí)建立連接的數(shù)量，而不考慮每個(gè)連接的請(qǐng)求頻率。
應(yīng)用場(chǎng)景：這種策略通常用于保護(hù)服務(wù)器免受來(lái)自某些客戶(hù)端的濫用或過(guò)多的連接請(qǐng)求，防止服務(wù)器過(guò)載。
例子：如果設(shè)置并發(fā)連接數(shù)限制為10，意味著每時(shí)刻最多只能有10個(gè)客戶(hù)端同時(shí)與服務(wù)器建立連接，無(wú)論這些連接是否同時(shí)發(fā)起請(qǐng)求。

控制請(qǐng)求速率（limit_req）：

含義：控制請(qǐng)求速率是指限制客戶(hù)端對(duì)服務(wù)器發(fā)起請(qǐng)求的頻率。它控制的是請(qǐng)求的頻率，而不關(guān)心同時(shí)建立多少連接。
應(yīng)用場(chǎng)景：這種策略用于控制每個(gè)客戶(hù)端或每個(gè) IP 地址對(duì)服務(wù)器的請(qǐng)求頻率，以防止過(guò)多的請(qǐng)求或?yàn)E用服務(wù)器資源。
例子：如果設(shè)置請(qǐng)求速率限制為每秒5個(gè)請(qǐng)求，意味著每個(gè)客戶(hù)端或 IP 地址每秒最多只能發(fā)起5個(gè)請(qǐng)求，但他們可以建立多個(gè)連接。

總之，限制并發(fā)連接數(shù)關(guān)注的是連接的數(shù)量，而控制請(qǐng)求速率關(guān)注的是請(qǐng)求的頻率。這兩種策略可以根據(jù)具體需求和應(yīng)用場(chǎng)景來(lái)選擇使用，以維護(hù)服務(wù)器的穩(wěn)定性和可用性。

limit_req_zone 配置中的屬性值詳解

key：定義存儲(chǔ)區(qū)的鍵，通常用于區(qū)分不同的限流存儲(chǔ)區(qū)。這個(gè)屬性是必填的。
zone：定義存儲(chǔ)區(qū)的名稱(chēng)，用于引用該存儲(chǔ)區(qū)的限流規(guī)則。這個(gè)屬性是必填的。
size：指定存儲(chǔ)區(qū)的大小。它定義了存儲(chǔ)區(qū)可以包含的鍵的數(shù)量。這個(gè)屬性是必填的。大小可以使用以下單位表示：m（兆字節(jié)）和 g（千兆字節(jié)），例如 10m 表示10兆字節(jié)。
rate：定義請(qǐng)求速率限制，表示每秒允許的請(qǐng)求數(shù)。這個(gè)屬性是可選的。如果不定義 rate，則不會(huì)對(duì)請(qǐng)求速率進(jìn)行限制，存儲(chǔ)區(qū)僅用于跟蹤請(qǐng)求。
nodelay：可選參數(shù)，如果設(shè)置為 nodelay，則在存儲(chǔ)區(qū)用于限制速率時(shí)不會(huì)有延遲。這個(gè)屬性是可選的。
status：可選參數(shù)，用于設(shè)置存儲(chǔ)區(qū)的狀態(tài)，可以是 on 或 off。如果設(shè)置為 off，則存儲(chǔ)區(qū)將被禁用，不會(huì)生效。這個(gè)屬性是可選的。

nodelay 參數(shù)詳解

nodelay 參數(shù)通常用于 limit_req 和 limit_conn 指令，以影響限流策略。nodelay 可以設(shè)置為以下兩個(gè)值之一：

nodelay：如果將 nodelay 設(shè)置為 nodelay，表示在達(dá)到請(qǐng)求速率限制或并發(fā)連接數(shù)限制時(shí)，請(qǐng)求不會(huì)被延遲，而是會(huì)立即返回 503 (Service Unavailable) 狀態(tài)碼或執(zhí)行相應(yīng)的處理。這意味著請(qǐng)求將不會(huì)排隊(duì)等待，而會(huì)立即被處理或拒絕。
delay：如果不設(shè)置 nodelay 或?qū)⑵湓O(shè)置為 delay，則請(qǐng)求會(huì)被延遲，直到請(qǐng)求速率或并發(fā)連接數(shù)低于限制為止。這允許請(qǐng)求排隊(duì)等待，以便在限制條件下逐漸釋放請(qǐng)求，而不會(huì)立即返回 503。這樣可以平滑處理請(qǐng)求，而不會(huì)對(duì)客戶(hù)端造成過(guò)大的負(fù)擔(dān)。

在流量突增的情況下使用delay有哪些優(yōu)點(diǎn)

在突發(fā)請(qǐng)求量增加的情況下，如果不使用延遲（即立即返回 503），會(huì)導(dǎo)致以下問(wèn)題：

請(qǐng)求丟失：立即返回 503 會(huì)導(dǎo)致請(qǐng)求被拒絕，從客戶(hù)端的角度看，它們的請(qǐng)求可能會(huì)被直接丟棄，客戶(hù)端無(wú)法得到響應(yīng)。
客戶(hù)端重新請(qǐng)求：由于請(qǐng)求被拒絕，客戶(hù)端可能會(huì)嘗試重新發(fā)送相同的請(qǐng)求，導(dǎo)致更多的請(qǐng)求壓力。
服務(wù)質(zhì)量下降：突發(fā)的大量請(qǐng)求可能會(huì)導(dǎo)致服務(wù)器過(guò)載，影響正常請(qǐng)求的響應(yīng)時(shí)間和服務(wù)質(zhì)量。

當(dāng)將 nodelay 設(shè)置為 delay 時(shí)，請(qǐng)求不會(huì)立即返回 503，而是被排隊(duì)等待。這樣可以實(shí)現(xiàn)以下好處：

請(qǐng)求排隊(duì)：當(dāng)請(qǐng)求超過(guò)限制時(shí)，它們會(huì)排隊(duì)等待處理，而不是被拒絕。這有助于平滑處理突發(fā)流量。
限制突發(fā)流量：請(qǐng)求排隊(duì)可以防止突發(fā)請(qǐng)求量對(duì)服務(wù)器造成過(guò)大的沖擊，允許服務(wù)器逐漸釋放請(qǐng)求，以維持較穩(wěn)定的負(fù)載。
減少請(qǐng)求丟失：由于請(qǐng)求不會(huì)立即丟失，客戶(hù)端不太可能重新發(fā)送相同的請(qǐng)求。
更好的用戶(hù)體驗(yàn)：客戶(hù)端不會(huì)立即遇到拒絕，這有助于提供更好的用戶(hù)體驗(yàn)，即使在限制條件下。

總之，使用 delay 選項(xiàng)可以更好地處理突發(fā)請(qǐng)求，并避免對(duì)客戶(hù)端造成過(guò)大的負(fù)擔(dān)，從而提高系統(tǒng)的可用性和穩(wěn)定性。但需要根據(jù)具體需求來(lái)選擇使用 nodelay 還是 delay。

limit_req_zone中的key都有哪些

（上面示例的key為**$binary_remote_addr**）

$binary_remote_addr: 可以根據(jù)IP地址限制請(qǐng)求速率。
$server_name：可以根據(jù)服務(wù)器名限制請(qǐng)求速率。
$host：這是客戶(hù)端請(qǐng)求的主機(jī)名，也用于根據(jù)不同的主機(jī)名進(jìn)行限流。
$uri：可以根據(jù)URI（請(qǐng)求的路徑）限制請(qǐng)求速率。
$http_user_agent：可以根據(jù)用戶(hù)代理限制請(qǐng)求速率，以區(qū)分不同的瀏覽器或客戶(hù)端。
自定義變量：你還可以定義和使用自定義變量來(lái)靈活控制請(qǐng)求速率。

limit_conn_zone中的key都有哪些

$binary_remote_addr：客戶(hù)端的二進(jìn)制形式的 IP 地址。
$remote_addr：客戶(hù)端的 IP 地址（通常以字符串形式）。
$http_header_name：HTTP 請(qǐng)求中的任何標(biāo)頭的名稱(chēng)。例如，$http_user_agent 表示用戶(hù)代理標(biāo)頭。
$http_name：HTTP 請(qǐng)求中的任何標(biāo)頭的值。例如，$http_referer 表示引用標(biāo)頭的值。
$server_name：Nginx 服務(wù)器名。
$host：HTTP 請(qǐng)求中的主機(jī)標(biāo)頭值。
$arg_name：HTTP 請(qǐng)求中的查詢(xún)參數(shù)的名稱(chēng)。例如，$arg_id 表示查詢(xún)參數(shù) "id" 的值。
$cookie_name：HTTP 請(qǐng)求中的 cookie 的名稱(chēng)。例如，$cookie_session 表示名為 "session" 的 cookie 的值。
$remote_user：HTTP 基本身份認(rèn)證的用戶(hù)名。
$request_method：HTTP 請(qǐng)求方法（如 GET、POST 等）。
$uri：HTTP 請(qǐng)求的 URI。
$request_uri：完整的 HTTP 請(qǐng)求 URI，包括查詢(xún)參數(shù)。
$request_filename：Nginx 請(qǐng)求的文件名（絕對(duì)路徑）。

Nginx的限流模塊底層是如何實(shí)現(xiàn)的

ngx_http_limit_req_module 模塊是 Nginx 的 HTTP 請(qǐng)求限流模塊，底層是通過(guò) Nginx 的事件驅(qū)動(dòng)架構(gòu)實(shí)現(xiàn)的。模塊使用了令牌桶算法來(lái)控制客戶(hù)端的請(qǐng)求速率。

ngx_http_limit_req_module 模塊的底層實(shí)現(xiàn)依賴(lài)于 Nginx 的事件驅(qū)動(dòng)架構(gòu)，包括事件循環(huán)、定時(shí)器機(jī)制以及連接池等。這確保了請(qǐng)求速率得到有效的限制和控制，而不會(huì)阻塞其他請(qǐng)求的處理。

配置示例

場(chǎng)景： your_api_endpoint接口支持的QPS為800，并且TP99在可以接受的范圍之內(nèi)，使用Nginx實(shí)現(xiàn)接口限流，并發(fā)控制和請(qǐng)求速率共用。

http {
    limit_conn_zone $binary_remote_addr zone=concurrent:10m;
    limit_req_zone $binary_remote_addr zone=req_limit:10m rate=5r/s;

    server {
        listen 80;
        server_name your_server_name;

        location /your_api_endpoint {
            limit_conn concurrent 10;  # 限制每個(gè)IP的并發(fā)連接數(shù)
            limit_req zone=req_limit burst=10 nodelay;  # 限制請(qǐng)求速率

            # 設(shè)置整體IP地址數(shù)量的限制
            limit_conn conn_limit 100;

            # 允許的請(qǐng)求處理邏輯
            proxy_pass http://backend_server;
        }
    }

    # 其他服務(wù)器塊和配置...
}

Nginx 限流可能會(huì)出現(xiàn)的問(wèn)題

突發(fā)請(qǐng)求處理：默認(rèn)情況下，limit_req模塊會(huì)設(shè)置一個(gè)允許的突發(fā)請(qǐng)求量（burst），當(dāng)超過(guò)這個(gè)量時(shí)，請(qǐng)求會(huì)被限制。你需要根據(jù)應(yīng)用程序的需求來(lái)合理設(shè)置突發(fā)請(qǐng)求量。如果設(shè)置得太低，可能會(huì)影響應(yīng)用的性能；如果設(shè)置得太高，可能無(wú)法有效限制請(qǐng)求速率。
客戶(hù)端IP地址共享：limit_req模塊以客戶(hù)端IP地址為基礎(chǔ)進(jìn)行限流。如果多個(gè)客戶(hù)端共享相同的公共IP地址（例如，位于同一家公司或使用代理服務(wù)器），那么限流規(guī)則將適用于整個(gè)IP地址范圍，而不是個(gè)別客戶(hù)端。這可能導(dǎo)致一些合法請(qǐng)求受到不必要的限制。
配置調(diào)整：配置限流規(guī)則需要謹(jǐn)慎，如果設(shè)置不當(dāng)，可能會(huì)導(dǎo)致應(yīng)用程序不可用或無(wú)法響應(yīng)真實(shí)流量。因此，需要根據(jù)應(yīng)用的實(shí)際情況和預(yù)期的負(fù)載來(lái)進(jìn)行適當(dāng)?shù)恼{(diào)整。
DDoS 攻擊：雖然limit_req模塊可以幫助減輕惡意請(qǐng)求的影響，但仍然需要注意可能的分布式拒絕服務(wù)（DDoS）攻擊。針對(duì)大規(guī)模惡意請(qǐng)求的攻擊需要其他防御措施，如CDN、防火墻等。
日志記錄：當(dāng)請(qǐng)求被限制時(shí)，Nginx可能會(huì)記錄相關(guān)的錯(cuò)誤消息，這可能會(huì)導(dǎo)致日志文件變得龐大。需要謹(jǐn)慎處理和維護(hù)日志，以防止磁盤(pán)空間耗盡。
Nginx 版本兼容性：不同版本的Nginx可能會(huì)有不同的模塊行為和配置選項(xiàng)。確保你的Nginx版本支持ngx_http_limit_req_module模塊，并仔細(xì)查看相應(yīng)版本的文檔。

總之，使用ngx_http_limit_req_module模塊是一種有力的控制請(qǐng)求速率的方法，但需要仔細(xì)配置和監(jiān)控，以確保它滿(mǎn)足應(yīng)用程序的需求，并保護(hù)服務(wù)器免受惡意請(qǐng)求的影響。在實(shí)施時(shí)，需要綜合考慮應(yīng)用的性能和安全需求。

按照上面的兩種方式限制，都不能按照接口實(shí)現(xiàn)整體的QPS限流，如果想要單純的實(shí)現(xiàn)接口QPS限流，可以使用Lua腳本來(lái)實(shí)現(xiàn)

使用Lua腳本來(lái)實(shí)現(xiàn)接口整體QPS限流

要在 Nginx 中實(shí)現(xiàn)整體接口的 QPS 限制為 800，您可以使用 Nginx 的 ngx_http_limit_req_module 模塊結(jié)合 Lua 腳本來(lái)實(shí)現(xiàn)。以下是一個(gè)示例配置：

首先，確保您已經(jīng)啟用了 ngx_http_limit_req_module 模塊，可以在 Nginx 配置中使用 load_module 來(lái)加載它。

load_module modules/ngx_http_limit_req_module.so;

然后，創(chuàng)建一個(gè) Lua 腳本，以便在 Nginx 配置中使用它來(lái)實(shí)現(xiàn)整體 QPS 限制。以下是一個(gè)示例的 Lua 腳本 (qps_limit.lua)，該腳本定義了限制策略：

-- qps_limit.lua

-- 共享內(nèi)存區(qū)域，用于存儲(chǔ)請(qǐng)求速率限制狀態(tài)
local shared = ngx.shared.qps_limit

-- 請(qǐng)求速率限制配置
local limit = 800  -- 整體的 QPS 限制
local burst = 0  -- 突發(fā)請(qǐng)求允許的數(shù)量

-- 獲取當(dāng)前時(shí)間戳
local now = ngx.now()

-- 獲取當(dāng)前請(qǐng)求的客戶(hù)端IP地址
local client_ip = ngx.var.remote_addr

-- 獲取客戶(hù)端IP地址的請(qǐng)求計(jì)數(shù)，如果不存在則初始化為0
local client_count = shared:get(client_ip) or 0

-- 計(jì)算請(qǐng)求速率
local rate = client_count / (now - shared:get("last_time"))

-- 如果請(qǐng)求速率超過(guò)限制，返回請(qǐng)求拒絕
if rate > limit then
    ngx.status = 503
    ngx.say("Request limit exceeded")
    ngx.exit(ngx.HTTP_SERVICE_UNAVAILABLE)
else
    -- 增加客戶(hù)端IP地址的請(qǐng)求計(jì)數(shù)
    shared:incr(client_ip, 1)

    -- 更新最后的計(jì)數(shù)時(shí)間
    shared:set("last_time", now)
end

接下來(lái)，將 Lua 腳本包含到 Nginx 配置中，并在配置中定義一個(gè) access_by_lua 塊來(lái)調(diào)用腳本，實(shí)現(xiàn)整體 QPS 限制。以下是示例配置：

http {
    lua_shared_dict qps_limit 10m;  # 共享內(nèi)存區(qū)域

    server {
        listen 80;
        server_name your_server_name;

        location /your_api_endpoint {
            access_by_lua_file /path/to/qps_limit.lua;  # 調(diào)用 Lua 腳本

            # 允許的請(qǐng)求處理邏輯
            proxy_pass http://backend_server;
        }
    }

    # 其他服務(wù)器塊和配置...
}

在這個(gè)配置中，我們使用 lua_shared_dict 定義了一個(gè)共享內(nèi)存區(qū)域，用于存儲(chǔ)請(qǐng)求速率限制的狀態(tài)信息。然后，在 /your_api_endpoint 的位置塊中，我們使用 access_by_lua_file 調(diào)用 Lua 腳本，該腳本實(shí)現(xiàn)了整體 QPS 限制策略。如果請(qǐng)求速率超過(guò)限制，將返回 503 響應(yīng)，否則會(huì)繼續(xù)處理請(qǐng)求。

使用Lua實(shí)現(xiàn)接口限流存在的問(wèn)題

性能開(kāi)銷(xiāo)： 使用 Lua 腳本會(huì)增加 Nginx 的處理負(fù)擔(dān)，特別是在高流量環(huán)境下。對(duì)于高 QPS 的應(yīng)用，性能開(kāi)銷(xiāo)可能會(huì)顯著。
復(fù)雜性： Lua 腳本的編寫(xiě)和維護(hù)需要一定的專(zhuān)業(yè)知識(shí)，對(duì)于不熟悉 Lua 的管理員來(lái)說(shuō)可能會(huì)復(fù)雜一些。
難以擴(kuò)展： 如果未來(lái)需要實(shí)現(xiàn)更復(fù)雜的限流策略或與其他組件進(jìn)行集成，Lua 腳本可能不夠靈活。
不支持動(dòng)態(tài)配置： 使用 Lua 腳本的限流策略通常需要硬編碼在配置文件中，不夠靈活，無(wú)法根據(jù)動(dòng)態(tài)需求進(jìn)行調(diào)整。

但是我們的應(yīng)用場(chǎng)景，使用Lua就可以滿(mǎn)足，所以就沒(méi)有選擇其他的方案。

更好的解決方案

內(nèi)置模塊： Nginx 提供了一些內(nèi)置模塊，如 ngx_http_limit_req_module 和 ngx_http_limit_conn_module，可以用來(lái)實(shí)現(xiàn)請(qǐng)求速率和并發(fā)連接的限制。這些模塊是高性能的，無(wú)需使用 Lua 腳本。
OpenResty： 如果您需要更高級(jí)的限流策略，可以考慮使用 OpenResty，它是一個(gè)基于 Nginx 的擴(kuò)展，支持 Lua 編程，并提供了豐富的功能和性能。
Nginx Plus： 如果您使用的是 Nginx Plus，它提供了高級(jí)的限流功能，包括 Dynamic Modules 和 Key-Value Store 模塊，可用于更復(fù)雜的限流策略。
CDN 和負(fù)載均衡器： 在一些場(chǎng)景下，CDN（內(nèi)容分發(fā)網(wǎng)絡(luò)）和負(fù)載均衡器可以用來(lái)分散流量和實(shí)施一定程度的限流。

我們還使用了內(nèi)置模塊來(lái)實(shí)現(xiàn)對(duì)文件下載接口的限流。

以上就是Nginx實(shí)現(xiàn)接口限流的方法匯總的詳細(xì)內(nèi)容，更多關(guān)于Nginx接口限流的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

您可能感興趣的文章: