什么是負(fù)載均衡為什么需要負(fù)載均衡
1.什么是負(fù)載均衡
Load balancing,即負(fù)載均衡,是一種計算機(jī)技術(shù),用來在多個計算機(jī)(計算機(jī)集群)、網(wǎng)絡(luò)連接、CPU、磁盤驅(qū)動器或其他資源中分配負(fù)載,以達(dá)到最優(yōu)化資源使用、最大化吞吐率、最小化響應(yīng)時間、同時避免過載的目的。
2.為什么需要負(fù)載均衡
我們在日常生活中經(jīng)常免不了要去一些比較擁擠的地方,比如地鐵站、火車站、電影院、銀行等。無論是買票,還是排隊入場,這些場所一般都會設(shè)置多個服務(wù)點(diǎn)或者入口的。如果沒有人引導(dǎo)的話,大多數(shù)情況下,最近的入口會擠滿人。而哪些距離較遠(yuǎn)的服務(wù)點(diǎn)或者入口就寬松很多。
這種情況下,就會大大浪費(fèi)資源,因?yàn)槿绻梢园堰@些排隊的人很好的分散到各個入口的話會大大縮短排隊時間。其實(shí),網(wǎng)站的建設(shè)也是一樣的。為了提升網(wǎng)站的服務(wù)能力,很多網(wǎng)站采用集群部署,就像話劇院有多個入口一樣。這時候,就需要一個協(xié)調(diào)者,來均衡的分配這些用戶的請求,可以讓用戶的可以均勻的分派到不同的服務(wù)器上。
(圖挺丑的,但是不想在畫圖上浪費(fèi)太多時間~~)
什么是負(fù)載均衡
在早高峰乘地鐵時候,緊挨小區(qū)的地鐵口人特別多,一般會有限流,還會有個地鐵工作人員D那個大喇叭在喊“著急的人員請走B口,B口人少車空”。。。
而這個地鐵工作人員D就是負(fù)責(zé)負(fù)載均衡的。為了提升網(wǎng)站的各方面能力,我們一般會把多臺機(jī)器組成一個集群對外提供服務(wù)。然而,我們的網(wǎng)站對外提供的訪問入口都是一個的,比如www.taobao.com。那么當(dāng)用戶在瀏覽器輸入www.taobao.com的時候如何將用戶的請求分發(fā)到集群中不同的機(jī)器上呢,這就是負(fù)載均衡在做的事情。
負(fù)載均衡(Load Balance),意思是將負(fù)載(工作任務(wù),訪問請求)進(jìn)行平衡、分?jǐn)偟蕉鄠€操作單元(服務(wù)器,組件)上進(jìn)行執(zhí)行。是解決高性能,單點(diǎn)故障(高可用),擴(kuò)展性(水平伸縮)的終極解決方案。
3.負(fù)載均衡分類
先看下OSI七層模型
OSI是一個開放性的通信系統(tǒng)互連參考模型,他是一個定義得非常好的協(xié)議規(guī)范。
OSI模型有7層結(jié)構(gòu),每層都可以有幾個子層。 OSI的7層從上到下分別是 7、應(yīng)用層;6、表示層;5、會話層;4、傳輸層;3、網(wǎng)絡(luò)層;2、數(shù)據(jù)鏈路層;1、物理層;
其中高層(即7、6、5、4層)定義了應(yīng)用程序的功能,下面3層(即3、2、1層)主要面向通過網(wǎng)絡(luò)的端到端的數(shù)據(jù)流。
在這七層模型種,高層次都是依賴于低層次的。層次越高,使用起來越方便。
計算機(jī)網(wǎng)絡(luò)有關(guān)的概念:
TELNET、HTTP、FTP、NFS、SMTP、DNS等屬于第七層應(yīng)用層的概念。
TCP、UDP、SPX等屬于第四層傳輸層的概念。
IP、IPX等屬于第三層網(wǎng)絡(luò)層的概念。
ATM、FDDI等屬于第二層數(shù)據(jù)鏈路層的概念。
了解了網(wǎng)絡(luò)協(xié)議的七層模型以后,再來看看負(fù)載均衡。我們可以很明確的一點(diǎn)是,負(fù)載均衡是要在網(wǎng)絡(luò)傳輸中做文章的。而要在網(wǎng)絡(luò)傳輸過程搞事情,那么這七層模型就勢必躲不開。
所以,根據(jù)負(fù)載均衡技術(shù)實(shí)現(xiàn)在OSI七層模型的不同層次,是可以給負(fù)載均衡分類的。
常見的實(shí)現(xiàn)方式中,主要可以在應(yīng)用層、傳輸層、網(wǎng)絡(luò)層和數(shù)據(jù)傳輸層做文章。所以,工作在應(yīng)用層的負(fù)載均衡,我們通常稱之為七層負(fù)載均衡、工作在傳輸層的我們稱之為四層負(fù)載均衡。
大致可以分為以下幾種,其中最常用的是四層和七層負(fù)載均衡:
二層負(fù)載均衡
負(fù)載均衡服務(wù)器對外依然提供一個VIP(虛IP),集群中不同的機(jī)器采用相同IP地址,但是機(jī)器的MAC地址不一樣。當(dāng)負(fù)載均衡服務(wù)器接受到請求之后,通過改寫報文的目標(biāo)MAC地址的方式將請求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡。
三層負(fù)載均衡
和二層負(fù)載均衡類似,負(fù)載均衡服務(wù)器對外依然提供一個VIP(虛IP),但是集群中不同的機(jī)器采用不同的IP地址。當(dāng)負(fù)載均衡服務(wù)器接受到請求之后,根據(jù)不同的負(fù)載均衡算法,通過IP將請求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器。
四層負(fù)載均衡
四層負(fù)載均衡工作在OSI模型的傳輸層,由于在傳輸層,只有TCP/UDP協(xié)議,這兩種協(xié)議中除了包含源IP、目標(biāo)IP以外,還包含源端口號及目的端口號。四層負(fù)載均衡服務(wù)器在接受到客戶端請求后,以后通過修改數(shù)據(jù)包的地址信息(IP+端口號)將流量轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器。
七層負(fù)載均衡
七層負(fù)載均衡工作在OSI模型的應(yīng)用層,應(yīng)用層協(xié)議較多,常用http、radius、dns等。七層負(fù)載就可以基于這些協(xié)議來負(fù)載。這些應(yīng)用層協(xié)議中會包含很多有意義的內(nèi)容。比如同一個Web服務(wù)器的負(fù)載均衡,除了根據(jù)IP加端口進(jìn)行負(fù)載外,還可根據(jù)七層的URL、瀏覽器類別、語言來決定是否要進(jìn)行負(fù)載均衡。
負(fù)載均衡工具
市面上有很多開源的負(fù)載均衡的工具或軟件,基本都是基于前面提到的方案實(shí)現(xiàn)的,大多數(shù)是工作在第七層和第四層的。Nginx/LVS/HAProxy是目前使用最廣泛的三種負(fù)載均衡軟件。
LVS:LVS主要用來做四層負(fù)載均衡
LVS(Linux Virtual Server),也就是Linux虛擬服務(wù)器, 是一個由章文嵩博士發(fā)起的自由軟件項目。使用LVS技術(shù)要達(dá)到的目標(biāo)是:通過LVS提供的負(fù)載均衡技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個高性能、高可用的服務(wù)器群集,它具有良好可靠性、可擴(kuò)展性和可操作性。從而以低廉的成本實(shí)現(xiàn)最優(yōu)的服務(wù)性能。
Nginx:Nginx主要用來做七層負(fù)載均衡
Nginx(發(fā)音同engine x)是一個網(wǎng)頁服務(wù)器,它能反向代理HTTP, HTTPS, SMTP, POP3, IMAP的協(xié)議鏈接,以及一個負(fù)載均衡器和一個HTTP緩存。。
HAProxy:HAProxy主要用來做七層負(fù)載均衡
HAProxy是一個使用C語言編寫的自由及開放源代碼軟件,其提供高可用性、負(fù)載均衡,以及基于TCP和HTTP的應(yīng)用程序代理。
4.負(fù)載均衡算法
負(fù)載均衡服務(wù)器在決定將請求轉(zhuǎn)發(fā)到具體哪臺真實(shí)服務(wù)器的時候,是通過負(fù)載均衡算法來實(shí)現(xiàn)的。負(fù)載均衡算法,是一個負(fù)載均衡服務(wù)器的核心。
就像電影院門口的引導(dǎo)員一樣,他根據(jù)什么把排隊人員分配到具體的入口呢?是哪個入口人少嗎?還是哪個入口速度最快?還是哪個入口最近呢?
負(fù)載均衡算法可以分為兩類:靜態(tài)負(fù)載均衡算法和動態(tài)負(fù)載均衡算法。
1).靜態(tài)負(fù)載均衡算法包括:輪詢,比率,優(yōu)先權(quán)
輪詢(Round Robin):順序循環(huán)將請求一次順序循環(huán)地連接每個服務(wù)器。當(dāng)其中某個服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從順序循環(huán)隊列中拿出,不參加下一次的輪詢,直到其恢復(fù)正常。
比率(Ratio):給每個服務(wù)器分配一個加權(quán)值為比例,根椐這個比例,把用戶的請求分配到每個服務(wù)器。當(dāng)其中某個服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊列中拿出,不參加下一次的用戶請求的分配, 直到其恢復(fù)正常。
優(yōu)先權(quán)(Priority):給所有服務(wù)器分組,給每個組定義優(yōu)先權(quán),BIG-IP 用戶的請求,分配給優(yōu)先級最高的服務(wù)器組(在同一組內(nèi),采用輪詢或比率算法,分配用戶的請求);當(dāng)最高優(yōu)先級中所有服務(wù)器出現(xiàn)故障,BIG-IP 才將請求送給次優(yōu)先級的服務(wù)器組。這種方式,實(shí)際為用戶提供一種熱備份的方式。
2).動態(tài)負(fù)載均衡算法包括: 最少連接數(shù),最快響應(yīng)速度,觀察方法,預(yù)測法,動態(tài)性能分配,動態(tài)服務(wù)器補(bǔ)充,服務(wù)質(zhì)量,服務(wù)類型,規(guī)則模式。
最少的連接方式(Least Connection):傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器。當(dāng)其中某個服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊列中拿出,不參加下一次的用戶請求的分配, 直到其恢復(fù)正常。
最快模式(Fastest):傳遞連接給那些響應(yīng)最快的服務(wù)器。當(dāng)其中某個服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊列中拿出,不參加下一次的用戶請求的分配,直到其恢復(fù)正常。
觀察模式(Observed):連接數(shù)目和響應(yīng)時間以這兩項的最佳平衡為依據(jù)為新的請求選擇服務(wù)器。當(dāng)其中某個服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP就把其從服務(wù)器隊列中拿出,不參加下一次的用戶請求的分配,直到其恢復(fù)正常。
預(yù)測模式(Predictive):BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo),進(jìn)行預(yù)測分析,選擇一臺服務(wù)器在下一個時間片內(nèi),其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請求。(被BIG-IP 進(jìn)行檢測)
動態(tài)性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項性能參數(shù),動態(tài)調(diào)整流量分配。
動態(tài)服務(wù)器補(bǔ)充(Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時,動態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群。
服務(wù)質(zhì)量(QoS):按不同的優(yōu)先級對數(shù)據(jù)流進(jìn)行分配。
服務(wù)類型(ToS):按不同的服務(wù)類型(在Type of Field中標(biāo)識)負(fù)載均衡對數(shù)據(jù)流進(jìn)行分配。
規(guī)則模式:針對不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則,用戶可自行。
以上,就是目前實(shí)現(xiàn)負(fù)載均衡的主流算法。不同的負(fù)載均衡服務(wù)器會選擇不同的算法。就像電影院和火車站可能會選用不同的引導(dǎo)策略一樣?;疖囌究赡軙研欣钌俚穆每头峙涞揭粋€專門的入口,可能給即將發(fā)車的旅客分派到特快入口,手持可掃描車票的用戶單獨(dú)分配到特殊入口等。
到此這篇關(guān)于什么是負(fù)載均衡的文章就介紹到這了,更多相關(guān)什么是負(fù)載均衡內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
elasticsearch如何使用Ngram實(shí)現(xiàn)任意位數(shù)手機(jī)號搜索
Ngram是一種基于統(tǒng)計語言模型的算法,Ngram基本思想是將文本里面的內(nèi)容按照字節(jié)大小進(jìn)行滑動窗口操作,形成長度是N的字節(jié)片段序列,這篇文章主要介紹了elasticsearch使用Ngram實(shí)現(xiàn)任意位數(shù)手機(jī)號搜索,需要的朋友可以參考下2024-05-05DVWA下載、安裝、使用(漏洞測試環(huán)境搭建)的詳細(xì)教程
這篇文章主要介紹了DVWA下載、安裝、使用(漏洞測試環(huán)境搭建)的詳細(xì)教程,本文通過圖文并茂的形式給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-10-10Debezium 與 Apache Kafka 的集成方式步驟詳解
本文詳細(xì)介紹了如何將Debezium與Apache Kafka集成,包括集成概述、步驟、注意事項等,通過KafkaConnect,Debezium可以捕獲數(shù)據(jù)庫變更并實(shí)時發(fā)送到Kafka Topic,實(shí)現(xiàn)數(shù)據(jù)的實(shí)時同步和分析,感興趣的朋友一起看看吧2025-02-02一文助你搞懂參數(shù)傳遞原理解析(java、go、python、c++)
這篇文章主要介紹了多種語言參數(shù)傳遞原理解析(java、go、python、c++),本文通過實(shí)例圖文相結(jié)合給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-01-01