spring cloud 之 客戶端負載均衡Ribbon深入理解
一、負載均衡
負載均衡(Load Balance): 建立在現(xiàn)有網絡結構之上,它提供了一種廉價有效透明的方法擴展網絡設備和服務器的帶寬、增加吞吐量、加強網絡數據處理能力、提高網絡的靈活性和可用性。其意思就是分攤到多個操作單元上進行執(zhí)行,例如Web服務器、FTP服務器、企業(yè)關鍵應用服務器和其它關鍵任務服務器等,從而共同完成工作任務。
1、服務端負載均衡:客戶端請求到負載均衡服務器,負載均衡服務器根據自身的算法將該請求轉給某臺真正提供業(yè)務的服務器,該服務器將響應數據給負載均衡服務器,負載均衡服務器最后將數據返回給客服端。(nginx)
2、客服端負載均衡:基于客戶端的負載均衡,簡單的說就是在客戶端程序里面,自己設定一個調度算法,在向服務器發(fā)起請求的時候,先執(zhí)行調度算法計算出向哪臺服務器發(fā)起請求,然后再發(fā)起請求給服務器。
基于客戶端負載均衡的特點:
由客戶端內部程序實現(xiàn),不需要額外的負載均衡器軟硬件投入。
程序內部需要解決業(yè)務服務器不可用的問題,服務器故障對應用程序的透明度小。
程序內部需要解決業(yè)務服務器壓力過載的問題。
二、Ribbon實現(xiàn)客戶端的負載均衡
我們使用spring boot 來測試。
pom文件:
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <groupId>com.jalja.org</groupId> <artifactId>spring-consumer-server-ribbon</artifactId> <version>0.0.1-SNAPSHOT</version> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>1.5.2.RELEASE</version> </parent> <properties> <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding> <java.version>1.8</java.version> </properties> <dependencyManagement> <dependencies> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-dependencies</artifactId> <version>Camden.SR4</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement> <dependencies> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-ribbon</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> </dependencies> </project>
application.yml
stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.com
Ribbon的負載均衡策略
1、RoundRobinRule(輪詢模式)
public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式輪詢選擇server 輪詢index,選擇index對應位置的server 該策略也是ribbon的默認策略
SpringCloudRibbonApplication.java
@SpringBootApplication @EnableDiscoveryClient @RestController public class SpringCloudRibbonApplication { public static void main(String[] args) { SpringApplication.run(SpringCloudRibbonApplication.class, args); } @Autowired private LoadBalancerClient loadBalancer; @RequestMapping(value="static") public String staticRibbon(){ ServiceInstance instance = loadBalancer.choose("stores"); URI storesUri = URI.create(String.format("http://%s:%s", instance.getHost(), instance.getPort())); System.out.println(storesUri); return "static"; } } 連續(xù)請求6次執(zhí)行結果: http://www.baidu.com:80 http://www.jalja.org:80 http://www.163.org:80 http://www.baidu.com:80 http://www.jalja.org:80 http://www.163.org:80
2、RandomRule(隨機策略)
public class RandomRule extends AbstractLoadBalancerRule 隨機選擇一個server 在index上隨機,選擇index對應位置的server。
在配置文件application.yml加入
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.org #隨機 NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
在SpringCloudRibbonApplication.java 中加入
@Bean public IRule ribbonRule() { return new RandomRule();//這里配置策略,和配置文件對應 }
執(zhí)行6次的結果:
http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.163.org:80 http://www.baidu.com:80 http://www.jalja.org:80
3、BestAvailableRule(并發(fā)量)
public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 選擇一個最小的并發(fā)請求的server 逐個考察Server,如果Server被tripped了,則忽略,在選擇其中ActiveRequestsCount最小的server
在配置文件application.yml加入
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule
在SpringCloudRibbonApplication.java 中加入
@Bean public IRule ribbonRule() { return new BestAvailableRule();//這里配置策略,和配置文件對應 }
執(zhí)行6次的結果:
http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80
4、AvailabilityFilteringRule(服務器狀態(tài))
public class AvailabilityFilteringRule extends PredicateBasedRule 過濾掉那些因為一直連接失敗的被標記為circuit tripped的后端server,并過濾掉那些高并發(fā)的的后端server(active connections 超過配置的閾值) 使用一個AvailabilityPredicate來包含過濾server的邏輯,其實就就是檢查status里記錄的各個server的運行狀態(tài)
5、WeightedResponseTimeRule(根據響應時間)
public class WeightedResponseTimeRule extends RoundRobinRule 根據響應時間分配一個weight,相應時間越長,weight越小,被選中的可能性越低。 一個后臺線程定期的從status里面讀取評價響應時間,為每個server計算一個weight。Weight的計算也比較簡單responsetime 減去每個server自己平均的responsetime是server的權重。當剛開始運行,沒有形成statas時,使用roubine策略選擇server。
6、RetryRule(根據策略+重試)
public class RetryRule extends AbstractLoadBalancerRule 對選定的負載均衡策略機上重試機制。
在一個配置時間段內當選擇server不成功,則一直嘗試使用subRule的方式選擇一個可用的server
7、ZoneAvoidanceRule(Zone狀態(tài)+服務狀態(tài))
public class ZoneAvoidanceRule extends PredicateBasedRule
復合判斷server所在區(qū)域的性能和server的可用性選擇server
使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server,前一個判斷判定一個zone的運行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于過濾掉連接數過多的Server。
4、5、6、7這些策略使用方式與上述方式相同這里不在演示
以上這篇spring cloud 之 客戶端負載均衡Ribbon深入理解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
SpringBoot整合Ip2region獲取IP地址和定位的詳細過程
ip2region v2.0 - 是一個離線IP地址定位庫和IP定位數據管理框架,10微秒級別的查詢效率,提供了眾多主流編程語言的 xdb 數據生成和查詢客戶端實現(xiàn) ,這篇文章主要介紹了SpringBoot整合Ip2region獲取IP地址和定位,需要的朋友可以參考下2023-06-06