Nginx限流模塊limit_req_zone、limit_req_conn
當前位置:點晴教程→知識管理交流
→『 技術文檔交流 』
導讀 本文詳細解讀了Nginx的漏桶算法和令牌桶算法在限制請求速率和并發(fā)連接上的原理及配置,包括limit_req_zone和http_limit_conn_module的實際應用,以及如何自定義返回值和處理突發(fā)流量。通過實例演示,展示了如何靈活調整以應對不同場景的需求。 ?根據nginx官網提供的說法,有兩種算法,一種是漏桶算法,一種是令牌桶算法。
我這里存放在php中,對于靜態(tài)資源全部都會走cdn所以沒必要,只有動態(tài)資源,才會走這里,所以,我這里直接在php模塊里面設置 設置搜索引擎例外
這里,客戶端IP地址作為關鍵。請注意,不是$ remote_addr,而是使用$ binary_remote_addr變量。 $ remote_addr變量的大小可以從7到15個字節(jié)不等。存儲的狀態(tài)在32位平臺上占用32或64字節(jié)的內存,在64位平臺上總是占用64字節(jié)。對于IPv4地址,$ binary_remote_addr變量的大小始終為4個字節(jié),對于IPv6地址則為16個字節(jié)。存儲狀態(tài)在32位平臺上始終占用32或64個字節(jié),在64位平臺上占用64個字節(jié)。一個兆字節(jié)的區(qū)域可以保持大約32000個32字節(jié)的狀態(tài)或大約16000個64字節(jié)的狀態(tài)。如果區(qū)域存儲耗盡,服務器會將錯誤返回給所有其他請求。
上述規(guī)則限制了每個IP訪問的速度為2r/s,并將該規(guī)則作用于根目錄。如果單個IP在非常短的時間內并發(fā)發(fā)送多個請求,結果會怎樣呢??? 監(jiān)測服務器nginx日志
壓測前后的對比,這里是壓測工具是ab壓測工具,具體用法看這篇文章 使用單個IP在10ms內發(fā)并發(fā)送了6個請求,只有1個成功,剩下的5個都被拒絕。我們設置的速度是2r/s,為什么只有1個成功呢,是不是Nginx限制錯了?當然不是,是因為Nginx的限流統(tǒng)計是基于毫秒的,我們設置的速度是2r/s,轉換一下就是500ms內單個IP只允許通過1個請求,從501ms開始才允許通過第二個請求。 我們看到,我們短時間內發(fā)送了大量請求,Nginx按照毫秒級精度統(tǒng)計,超出限制的請求直接拒絕。這在實際場景中未免過于苛刻,真實網絡環(huán)境中請求到來不是勻速的,很可能有請求“突發(fā)”的情況,也就是“一股子一股子”的。Nginx考慮到了這種情況,可以通過burst關鍵字開啟對突發(fā)請求的緩存處理,而不是直接拒絕。
我們加入了burst=4,意思是每個key(此處是每個IP)最多允許4個突發(fā)請求的到來。如果單個IP在10ms內發(fā)送6個請求,結果會怎樣呢? 相比實例一成功數增加了4個,這個我們設置的burst數目是一致的。具體處理流程是:1個請求被立即處理,4個請求被放到burst隊列里,另外一個請求被拒絕。通過burst參數,我們使得Nginx限流具備了緩存處理突發(fā)流量的能力。 但是請注意:burst的作用是讓多余的請求可以先放到隊列里,慢慢處理。如果不加nodelay參數,隊列里的請求不會立即處理,而是按照rate設置的速度,以毫秒級精確的速度慢慢處理。 實例三 nodelay降低排隊時間 實例二中我們看到,通過設置burst參數,我們可以允許Nginx緩存處理一定程度的突發(fā),多余的請求可以先放到隊列里,慢慢處理,這起到了平滑流量的作用。但是如果隊列設置的比較大,請求排隊的時間就會比較長,用戶角度看來就是RT變長了,這對用戶很不友好。有什么解決辦法呢?nodelay參數允許請求在排隊的時候就立即被處理,也就是說只要請求能夠進入burst隊列,就會立即被后臺worker處理,請注意,這意味著burst設置了nodelay時,系統(tǒng)瞬間的QPS可能會超過rate設置的閾值。nodelay參數要跟burst一起使用才有作用。 延續(xù)實例二的配置,我們加入nodelay選項:
單個IP 10ms內并發(fā)發(fā)送6個請求,結果如下: 跟實例二相比,請求成功率沒變化,但是總體耗時變短了。這怎么解釋呢?實例二中,有4個請求被放到burst隊列當中,工作進程每隔500ms(rate=2r/s)取一個請求進行處理,最后一個請求要排隊2s才會被處理;實例三中,請求放入隊列跟實例二是一樣的,但不同的是,隊列中的請求同時具有了被處理的資格,所以實例三中的5個請求可以說是同時開始被處理的,花費時間自然變短了。 但是請注意,雖然設置burst和nodelay能夠降低突發(fā)請求的處理時間,但是長期來看并不會提高吞吐量的上限,長期吞吐量的上限是由rate決定的,因為nodelay只能保證burst的請求被立即處理,但Nginx會限制隊列元素釋放的速度,就像是限制了令牌桶中令牌產生的速度。 看到這里你可能會問,加入了nodelay參數之后的限速算法,到底算是哪一個“桶”,是漏桶算法還是令牌桶算法?當然還算是漏桶算法??紤]一種情況,令牌桶算法的token為耗盡時會怎么做呢?由于它有一個請求隊列,所以會把接下來的請求緩存下來,緩存多少受限于隊列大小。但此時緩存這些請求還有意義嗎?如果server已經過載,緩存隊列越來越長,RT越來越高,即使過了很久請求被處理了,對用戶來說也沒什么價值了。所以當token不夠用時,最明智的做法就是直接拒絕用戶的請求,這就成了漏桶算法。 示例四 自定義返回值
默認情況下 沒有配置 status 返回值的狀態(tài): 自定義 status 返回值的狀態(tài): 閱讀原文:https://blog.csdn.net/baidu_38432732/article/details/120060536 該文章在 2025/8/20 15:12:35 編輯過 |
關鍵字查詢
相關文章
正在查詢... |