??接上回Spring Cloud认知学习(一):Spring Cloud介绍与Eureka使用
??上一篇介绍了Spring Cloud,以及服务注册与发现的组件Eureka的简单使用。
??这一篇我们来介绍微服务构建起来后,使用Ribbon来解决多个服务的负载均衡问题。
客户端负载均衡的意思是,让客户端来进行负载均衡,而不是服务端来进行负载均衡,是什么意思呢?比如说你要去排队买东西,有三条队,你自然而然地会选择队伍短的队去排咯??,这是由你去进行的负载均衡,而不是服务员帮你去安排你该排哪条队。
??为什么要采用客户端负载均衡呢?
下面的代码可以参考:Ribbon负载均衡简单实验
新建模块spring-cloud-user-service-8002
,spring-cloud-user-service-8003
spring-cloud-user-service-8002
,spring-cloud-user-service-8003
导入pom.xml、修改application.yml和修改主启动类。spring-cloud-user-service-8001
一样的。spring-cloud-user-service-8001
一样的。spring-cloud-user-service-8001
一样的。只是主程序类的名字问题sql:
-- db2
DROP DATABASE IF EXISTS cloud02;
CREATE DATABASE cloud02 CHARACTER SET UTF8;
USE cloud03;
CREATE TABLE user
(
id int PRIMARY KEY AUTO_INCREMENT,
username VARCHAR(255),
fullName VARCHAR(255)
);
INSERT INTO user(username,fullName) VALUES(‘zhangsan‘,‘张三2‘);
INSERT INTO user(username,fullName) VALUES(‘lisi‘,‘李四2‘);
INSERT INTO user(username,fullName) VALUES(‘wangwu‘,‘王五2‘);
INSERT INTO user(username,fullName) VALUES(‘zhaoliu‘,‘赵六2‘);
INSERT INTO user(username,fullName) VALUES(‘lidazhuang‘,‘李大壮2‘);
SELECT * FROM user;
--- db3
DROP DATABASE IF EXISTS cloud03;
CREATE DATABASE cloud03 CHARACTER SET UTF8;
USE cloud03;
CREATE TABLE user
(
id int PRIMARY KEY AUTO_INCREMENT,
username VARCHAR(255),
fullName VARCHAR(255)
);
INSERT INTO user(username,fullName) VALUES(‘zhangsan‘,‘张三3‘);
INSERT INTO user(username,fullName) VALUES(‘lisi‘,‘李四3‘);
INSERT INTO user(username,fullName) VALUES(‘wangwu‘,‘王五3‘);
INSERT INTO user(username,fullName) VALUES(‘zhaoliu‘,‘赵六3‘);
INSERT INTO user(username,fullName) VALUES(‘lidazhuang‘,‘李大壮3‘);
SELECT * FROM user;
3.1启动服务生产者:
spring-cloud-eureka-server-7001
,spring-cloud-user-service-8001
,spring-cloud-user-service-8002
,spring-cloud-user-service-8003
查看eureka内部注册的服务实例有多少个,你可以看到我们启动的三个服务实例都显示出来了。
3.2启动服务消费者:
现在对于USERSERIVE服务有三个服务实例了,然后我们启动服务消费者模块,看多次调用下他是怎么调用的吧。
由于上面对不同服务的数据库有了小修改(为了有区分,所以我修改了一下数据,但实际业务中他们应该是相同的),所以可以根据数据来判断当前调用了哪个数据库。
多次调用http://localhost/user/list
,你应该能看到数据在变化,说明默认是有负载均衡的。
?你可能有点疑惑,默认的负载均衡是什么时候配置的呢?还记得我们之前在配置消费者从eureka中获取服务列表时配置了什么吗?我们给我们的restTemplate加了一个注解@LoadBalanced
,而LoadBalanced就是负载均衡的意思。
当你调用服务之后,你会看到消费者拉取服务列表的时候会拉取到一些服务的健康信息。
默认情况下,从eureka中拉取的服务会使用轮询调用(加入有ABC三个服务实例,会顺序的逐一的调用,比如说可能会是不断按BCA的顺序来调用;),但ribbon能帮我们做更多。
下面使用Ribbon来进行客户端的负载均衡。
由于Ribbon是客户端的负载均衡,所以要修改消费者模块spring-cloud-user-consumer-80
:
4.1修改pom.xml,添加ribbon依赖:
<!--增加ribbon依赖 start-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
<!--旧版的需要去掉-netflix-->
</dependency>
<!--增加ribbon依赖 end-->
4.2.修改负载均衡策略:
?当导入ribbon的时候,如果你不做其他操作,默认的负载均衡还是轮询。下面我们修改一下负载均衡策略:
@Configuration
public class AppConfig {
@Bean
@LoadBalanced // eureka与这个配合,要使用LoadBalanced才会调用eureka中注册的服务
public RestTemplate restTemplate() {
return new RestTemplate();
}
@Bean
public IRule myRule() {
// return new RoundRobinRule();
return new RandomRule();
// return new RetryRule();
}
}
然后你重新调用几次http://localhost/user/list
,你应该能看到负载均衡策略变了。
上面的例子中已经演示了修改负载均衡策略。下面来讲负责均衡相关的东西。
Ribbon中负责负载均衡策略的就是IRule,所以我们上面的代码就新创建了一个IRule的bean。
下面讲一下这个IRule的几个常见的实现类。
@Configuration
public class AppConfig {
@Bean
@LoadBalanced // eureka与这个配合,要使用LoadBalanced才会调用eureka中注册的服务
public RestTemplate restTemplate() {
return new RestTemplate();
}
@Bean
public IRule myRule(){
// return new RandomRule(); // 随机调用服务
// return new RoundRobinRule();// 轮询策略
return new RetryRule();// 带重试的轮询
}
}
除了以上的规则,你还可以自定义负载均衡的规则。
你可能会想,那么我应该可以参考一下RandomRule或RoundRobinRule的实现重写一下,然后像上面指定IRule这个Bean的实现对象就行了。
?? 但要注意一点,如果你是在主程序类的同级目录或下级目录下(也就是能被主程序类的ComponentScan扫描到的目录),那么这个规则会对这个消费者的所有调用的服务生效。
1.写一个负载均衡规则:只调用8003的服务。
package com.progor.study.myrule;
import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;
import java.util.List;
public class MyLoadBalancedRule extends AbstractLoadBalancerRule {
// 这个choose方法就是选择哪个服务来进行调用
public Server choose(ILoadBalancer lb, Object key) {
// ILoadBalancer是服务注册列表
if (lb == null) {
return null;
}
Server server = null;
while (server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers();//可用服务
List<Server> allList = lb.getAllServers();// 所有服务
int serverCount = allList.size();
if (serverCount == 0) {
// 服务数为0
return null;
}
// 看一下下面的代码(此段代码来自RandomRule),应该能判断出来,就是这里指定了返回的server,
// 所以我们也在这里修改策略,假如说我们指定只调用8003的
// int index = rand.nextInt(serverCount);
// server = upList.get(index);
// 修改 start
if (upList.size()==0){
return null;
}
for (int i = 0; i < upList.size() ; i++) {
Server item = upList.get(i);
int httpPort = item.getPort();
// 你可以通过Server和ILoadBalancer的各种参数来自定义你的规则()
if (httpPort == 8003){
server = item; // 这里由于只是示例,所以就随便写了,所以安全逻辑并没有做完全。
}
}
// 修改 end
if (server == null) {
Thread.yield();
continue;
}
if (server.isAlive()) {
return (server);
}
server = null;
Thread.yield();
}
return server;
}
@Override
public Server choose(Object key) {
return choose(getLoadBalancer(), key);
}
@Override
public void initWithNiwsConfig(IClientConfig clientConfig) {
// TODO Auto-generated method stub
}
}
2.在主程序类的外部目录创建一个Configuration:
package com.progor.config;
import com.netflix.loadbalancer.IRule;
import com.progor.study.myrule.MyLoadBalancedRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MyConfig {
@Bean
public IRule myRule(){
return new MyLoadBalancedRule();// 使用我们自定义的规则
}
}
3.修改主程序类,增加@RibbonClient
如果你的Configuration放在了主程序类外部的时候就要加上这个才能扫描到外部的Configuration:
??这个注解用来指定某个服务的负载均衡规则,如果不使用这个注解来给对应服务配置负载均衡策略,并且你在内层目录的配置类中指定了IRule的实例为我们创建的实现类实例,那么所有的服务都会采用这个策略。
package com.progor.study;
import com.progor.config.MyConfig;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import org.springframework.cloud.netflix.ribbon.RibbonClient;
@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name="USERSERIVE",configuration= MyConfig.class)
public class UserConsumer80Application {
public static void main(String[] args) {
SpringApplication.run(UserConsumer80Application.class, args);
}
}
4.调用http://localhost/user/list
,你会发现现在只会有8003的数据返回了,这说明我们的负载均衡生效了。
??对于不同服务的负载均衡规则的问题,也可以参考代码中的MessageService。这里面我写了一个Message服务的两个服务实例8004和8005,并且让消费者来调用了这个服务,效果如下:
@Bean
public IRule myRule(){s
// return new RandomRule(); // 随机调用服务
// return new RoundRobinRule();// 轮询策略
return new RetryRule();// 带重试的轮询
}
当在内部配置规则的额时候,如果使用我们定义的规则:由于我们之前为USERSERVICE定义了只使用8003服务的规则,此时MESSAGESERVICE也会使用这个规则,那么这时候MESSAGESERVICE会一直请求不到。
@Bean
public IRule myRule() {
// return new RoundRobinRule();
// return new RandomRule();
// return new RetryRule();
return new MyLoadBalancedRule();
}
// 自定义负载均衡的代码
package com.progor.config;
import com.netflix.loadbalancer.IRule;
import com.progor.study.myrule.MyLoadBalancedRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MyConfig {
@Bean
public IRule myRule() {
return new MyLoadBalancedRule();// 使用我们自定义的规则
}
}
// 主程序类代码
@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "USERSERIVE", configuration = MyConfig.class)
public class UserConsumer80Application {
public static void main(String[] args) {
SpringApplication.run(UserConsumer80Application.class, args);
}
}
原文:https://www.cnblogs.com/progor/p/12893434.html