SpringCloud与微服务Ⅵ --- Ribbon负载均衡

一.Ribbon是什么

Sping Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。

简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完整的配置项如连接超时，重试等。简单地说,就是在配置文件中列出Load Balancer(简称LB) 后面所有的机器, Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。

负载均衡

LB，即负载均衡(Load Balancer),在微服务或分布式集群中经常用的一种应用。

负载均衡简单的说就是将用户的请求平摊的分配到多个服务上，从而达到系统的HA(高可用)。

常见的负载均衡软件有Nginx,LVS,硬件F5等。

相应的中间件,例如:dubbo和SpringCloud中均给我们提供了负载均衡,SpringCloud的负载均衡算法可以自定义。

集中式LB

即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件F5(好用但是贵)，也可以说软件,如nginx),由该设施负责把访问请求通过某种策略转发至服务的提供方。
进程内LB

将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。Ribbon就属于进程内LB，它只是一个类库,集成消费方进程,消费方通过它来获取到服务提供方的地址。

官网资料:https://github.com/Netflix/ribbon/wiki

二.Ribbon的初步配置

修改microservice-consumer-dept-80项目。

1.修改pom文件:

<!-- Ribbon相关 -->

        <dependency>

            <groupId>org.springframework.cloud</groupId>

            <artifactId>spring-cloud-starter-eureka</artifactId>

        </dependency>

        <dependency>

            <groupId>org.springframework.cloud</groupId>

            <artifactId>spring-cloud-starter-ribbon</artifactId>

        </dependency>

        <dependency>

            <groupId>org.springframework.cloud</groupId>

            <artifactId>spring-cloud-starter-config</artifactId>

        </dependency>

        <dependency>

            <groupId>org.springframework.boot</groupId>

            <artifactId>spring-boot-starter-web</artifactId>

        </dependency>

2.修改yml配置文件:

eureka:

  client:

    register-with-eureka: false

    service-url:

      #defaultZone: http://localhost:7001/eureka

      defaultZone: http://localhost:7001/eureka,http://localhost:7002/eureka,http://localhost:7002/eureka

3.在RestTemplate上标注@LoadBalanced:

实现负载均衡

@Configuration

public class MyApplicationConfig {

    @Bean

    @LoadBalanced //负载均衡

    public RestTemplate getRestTemplate(){

        return new RestTemplate();

    }

}

4.主启动类注解@EnableEurekaClient

@SpringBootApplication

@EnableEurekaClient

public class DeptConsumer80 {

    public static void main(String[] args) {

        SpringApplication.run(DeptConsumer80.class,args);

    }

}

5.修改微服务访问地址

修改DeptController类中的REST_URL_PREFIX，使得消费端通过微服务名称来访问提供端的接口。

 //private static final String REST_URL_PREFIX = "http://localhost:8001";

 private static final String REST_URL_PREFIX = "http://MICROSERVICE-DEPT";

结论:Ribbon和Eureka整合后Consumer可以直接调用服务而不用再关心地址和端口号。

三.Ribbon的负载均衡

架构图:

Ribbon在工作时分为两步

第一步先选择EurekaServer,它优先选择在同一个区域内负载较少的server。

第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址。

其中Ribbon提供了多种策略:比如轮询、随机和根据响应时间加权。

搭建步骤:

1.新建两个服务提供者microservice-provider-dept-8002、microservice-provider-dept-8003,项目可以参考microservice-provider-dept-8001。

2.新建两个数据库cloudDB02,cloudDB03，表结构与cloudDB01数据库一致

DROP DATABASE IF EXISTS cloudDB02;

CREATE DATABASE cloudDB01 CHARACTER SET UTF8;

USE cloudDB01;

CREATE TABLE dept

(

    deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,

    dname VARCHAR(60),

  db_source VARCHAR(60)

);

INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());

INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());

INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());

INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());

INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());

3.分别修改microservice-provider-dept-8002、microservice-provider-dept-8003的yml文件。

主要修改的是端口号,数据库。

server:

  port: 8002

spring:

  application:

    name: microservice-dept

  datasource:

    type: com.alibaba.druid.pool.DruidDataSource  #数据源类型

    driver-class-name: org.gjt.mm.mysql.Driver  #数据库驱动

    url: jdbc:mysql://localhost:3306/cloudDB02  #数据库url

4.启动所有项目,分别访问:

http://localhost:8001/dept/get/1

http://localhost:8002/dept/get/1

http://localhost:8003/dept/get/1

若都能访问，说明所有服务都已经启用。

5.启动客户端项目microservice-consumer-dept-80,访问http://localhost/consumer/dept/list。观察返回的数据，并刷新页面。可以看到刷新后的数据分别来自不同数据库，说明已经启用了负载均衡。Ribbon默认采用的算法是轮询算法。

总结:Ribbon其实就是一个软负载均衡的客户端组件，他可以和其他所需请求的客户端结合使用，和eureka结合只是其中的一个实例。

四.Ribbon的核心组件IRule

Ribbon自带的七种负载均衡算法

RoundRobinRule:轮询
RandomRule:随机
AvailabilityFilteringRule:先过滤由于多次访问故障而处于断路器跳闸状态的服务，还有并发的连接数量超过阈值的服务，然后对剩余的服务列表按照轮询策略进行访问。
WeightedReponseTimeRule:根据平均响应时间计算所有服务的权重，响应时间越短服务权重大被选中的概率高,刚启动时如果统计信息不足,则使用轮询策略,等统计信息足够,会切换到WeightedReponseTimeRule
RetryRule:先按照轮询策略获取服务,如果获取服务失败则在指定时间内会进行重试，获取可用的服务
BestAvailableRule:先过滤由于多次访问故障而处于断路器跳闸状态的服务，然后选择一个并发量最小的服务
ZoneAvoidanceRule:默认规则，复合判断server所在区域的性能和server的可用性选择服务器

切换成随机的负载均衡算法

需要换哪种算法，只需要在config类里注入该算法的bean，然后重启服务就会生效了。

@Configuration

public class MyApplicationConfig {

    @Bean

    @LoadBalanced //负载均衡

    public RestTemplate getRestTemplate(){

        return new RestTemplate();

    }

    @Bean

    public IRule myIRule(){

        return new RandomRule();

    }

}

通过上面的例子我们知道,Ribbon默认采用的算法是轮询算法,那么如何配置自定义负载均衡算法呢？

五.自定义负载均衡算法

修改microservice-consumer-dept-80项目。

规则描述

要求每台服务器被调用5次，然后轮询如下一台同样被调用5次，所有服务器轮询之后又从最初的服务器开始重新调用五次轮询。

1.自定义算法规则

public class MyRandomRule extends AbstractLoadBalancerRule

{

    // total = 0 // 当total==5以后，我们指针才能往下走，

    // index = 0 // 当前对外提供服务的服务器地址，

    // total需要重新置为零，但是已经达到过一个5次，我们的index = 1

    // 分析：我们5次，但是微服务只有8001 8002 8003 三台

    // 

    private int total = 0;             // 总共被调用的次数，目前要求每台被调用5次

    private int currentIndex = 0;    // 当前提供服务的机器号

    public Server choose(ILoadBalancer lb, Object key)

    {

        if (lb == null) {

            return null;

        }

        Server server = null;

        while (server == null) {

            if (Thread.interrupted()) {

                return null;

            }

            List<Server> upList = lb.getReachableServers();

            List<Server> allList = lb.getAllServers();

            int serverCount = allList.size();

            if (serverCount == 0) {

                /*

                 * No servers. End regardless of pass, because subsequent passes only get more

                 * restrictive.

                 */

                return null;

            }

//            int index = rand.nextInt(serverCount);// java.util.Random().nextInt(3);

//            server = upList.get(index);

//            private int total = 0;             // 总共被调用的次数，目前要求每台被调用5次

//            private int currentIndex = 0;    // 当前提供服务的机器号

            if(total < 5)

            {

                server = upList.get(currentIndex);

                total++;

            }else {

                total = 0;

                currentIndex++;

                if(currentIndex >= upList.size())

                {

                  currentIndex = 0;

                }

            }

            if (server == null) {

                /*

                 * The only time this should happen is if the server list were somehow trimmed.

                 * This is a transient condition. Retry after yielding.

                 */

                Thread.yield();

                continue;

            }

            if (server.isAlive()) {

                return (server);

            }

            // Shouldn't actually happen.. but must be transient or a bug.

            server = null;

            Thread.yield();

        }

        return server;

    }

    @Override

    public Server choose(Object key)

    {

        return choose(getLoadBalancer(), key);

    }

    @Override

    public void initWithNiwsConfig(IClientConfig clientConfig)

    {

        // TODO Auto-generated method stub

    }

}

2.自定义规则的配置类:

@Configuration

public class MySelfRule {

    @Bean

    public IRule myRule(){

        return new MyRandomRule();  //自定义算法策略

    }

}

注意:这个自定义配置类MySelfRule.class不能放在@ComponentScan所扫描的包下以及子包下.否则我们自定义的这个配置类就会被所有Ribbon客户端共享。

3.主启动类添加@RibbonClient

在启动该微服务的时候就能去加载我们自定义Ribbon配置类，从而使配置生效

@SpringBootApplication

@EnableEurekaClient

@RibbonClient(name = "MICROSERVICE-DEPT",configuration = MySelfRule.class)

public class DeptConsumer80 {

    public static void main(String[] args) {

        SpringApplication.run(DeptConsumer80.class,args);

    }

}

以上步骤完成后，重启所有服务器，调用客户端microservice-consumer-dept-80项目的接口。这里需要注意的是,若出现错误，等待一段时间，服务注册的时候会有一定缓冲时间，然后再次访问服务，然后测试负载均衡的策略是否符合自定义的规则。

巴特西

SpringCloud与微服务Ⅵ --- Ribbon负载均衡

最新文章

热门文章