微服务保护和熔断降级技术Sentinel

1.微服务调用存在问题

由于一个服务不可用，有可能会导致一连串的微服务跟着不可用[服务器支持的线程和并发数有限，请求一直阻塞，会导致服务器资源耗尽，从而导致所有其它服务都不可用], 形成级联失败，最终会导致服务雪崩问题。针对服务雪崩，有如下几种解决方案:

方案 1：超时处理：设定超时时间，请求超过一定时间没有响应就返回错误信息，不会无休止等待

方案 2: 仓壁模式, 仓壁模式来源于船舱的设计

方案 3: 断路器模式：由断路器统计业务执行的异常比例，如果超出阈值则会熔断该业务，拦截访问该业务的一切请求。断路器会统计访问某个服务的请求数量，异常比, 当发现访问服务 D 的请求异常比例过高时，认为服务 D 有导致雪崩的风险，会拦截访问服务 D 的一切请求，形成熔断

方案 4: 限流,流量控制：限制业务访问的 QPS，避免服务因流量的突增而故障

什么是雪崩问题？

微服务之间相互调用，因为调用链中的⼀个服务故障，引起整个链路都无法访问的情况。

限流是对服务的保护，避免因瞬间高并发流量而导致服务故障，进而避免雪崩。是⼀种预防措施。
超时处理、线程隔离、降级熔断是在部分服务故障时，将故障控制在⼀定范围，避免雪崩。是⼀种补救措施

2.前面整合了SpringCloud Hystrix实现了服务的降级,熔断,限流.那Sentinel和Hystrix有什么区别呢?

3.Sentinel 入门

①Sentinel安装

我使用的是docker安装方式,大家也可以自行用其他的方式.安装好了以后直接在浏览器访问:http://192.168.137.72:8858/

②Sentinel官网

https://sentinelguard.io/zh-cn/index.html

③流控、熔断等都是针对簇点链路中的资源来设置的，因此我们可以点击对应资源后面的按钮来设置规则

流控：流量控制

降级：降级熔断

热点：热点参数限流，是限流的⼀种

授权：请求的权限控制

④阈值类型

(1)测试QPS（Query Per Second）：每秒请求数，就是说服务器在一秒的时间内处理了多少个请求

快速刷新页面会出现下图

(2)测试线程数流控:最大并发数是 3，超过 3 将直接流控,这里我们借助于 Jemeter 测试:。

Jemeter参数设置

测试结果

⑤流控模式

直接：统计当前资源的请求，触发阈值时对当前资源直接限流，也是默认的模式

关联：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流

链路：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流

(1)在sentinel-consumer-user9001服务controller中添加两个接口用于测试

@Value("${server.port}")

private String port;

@GetMapping("/findById")

public User findById(Integer id) {

    User user = userService.findById(id);

    return user;

}

@GetMapping("/write")

public String write() {

    return port;

}

设置关联流控规则

Jemeter参数设置

测试结果

当两个有竞争关系的资源⼀个优先级较高，⼀个优先级较低 ===> 可以使用关联模式

注意:测试后面的规则,最好把前面的规则删除掉,不然出现问题自己都蒙了......

⑥测试链路模式

(1)修改Service代码

@Override

@SentinelResource // Sentinel 默认只标记 Controller 中的方法为资源，如果要标记其它方法，需要利用@SentinelResource 注解

public void hello() {

    System.out.println("你好");

}

(2)修改Controller代码

 @GetMapping("/write")

public String write() {

    userService.hello();

    return port;

}

@GetMapping("/read")

public String read() {

    userService.hello();

    return port;

}

(3)修改yml配置文件

sentinel:

      web-context-unify: false #如果不关闭，所有controller层的方法对service层调用都认为是同一个根链路

(4)设置流控规则

测试结果:

流控模式小结

直接：对当前资源限流

关联：高优先级资源触发阈值，对低优先级资源限流

链路：阈值统计时，只统计从指定资源进入当前资源的请求，是对请求来源的限流

⑦流控效果

测试Warm up(预热)流控模式:当系统运行时,有并发请求来访问系统时，为了避免系统崩溃，可以设置一个阈值，让项目可以处理请求的数量逐渐增加到设定的阈值

测试结果:

测试排队等待:方式会严格控制请求通过的间隔时间，也即是让请求以均匀的速度通过，对应的是漏桶算法.请求会进入队列，按照阈值允许的时间间隔依次执行请求；如果请求预期等待时⻓大于超时时间，直接拒绝

编辑流控规则

修改代码

@GetMapping("/findById")

    public Movie findById(@RequestParam("id") Integer id){

        try {

            Thread.sleep(3000);

        } catch (InterruptedException e) {

            e.printStackTrace();

        }

        System.out.println(port);

        return movieService.findById(id);

    }

测试结果:

⑧热点 key 限流:是分别统计参数值相同的请求，判断是否超过 QPS 阈值。

添加请求接口

@SentinelResource(value = "hot")

@GetMapping("/resource/{hid}")

public String testHotResource(@PathVariable("hid") Long hid) {

    System.out.println(hid);

    return port;

}

修改热点key规则,点击左侧菜单栏配置信息更完善

参数为1时,每秒请求数最大为3

参数为2是,每秒请求数最大为5

虽然限流可以尽量避免因高并发而引起的服务故障，但服务还会因为其它原因而故障。而要将这些故障控制在一定范围，避免雪崩，就要靠线程隔离（舱壁模式）和熔断降级手段了。不管是线程隔离还是熔断降级，都是对客户端（调用方）的保护。

⑨线程隔离

线程隔离有两种方式实现：

1.线程池隔离 (Hystrix 两种隔离方式都支持)

2.信号量隔离（Sentinel 只支持信号量隔离）

线程池隔离和信号量隔离的区别:

线程池隔离与信号量隔离各自的应用场景:

Hystrix 支持信号量隔离与线程池隔离，默认使用的是线程池隔离,配置方式如下

hystrix:

    command:

        default:

            execution:

                isolation:

                    strategy: Thread # 默认是Thread, 可选Thread(线程池隔离)｜Semaphore(信号量隔离)

Sentinel 只支持信号量隔离,配置方式如下

这里的线程数是:该资源能使用用的 tomcat 线程数的最大值。也就是通过限制线程数量，实现舱壁模式。

线程隔离小结:

线程隔离的两种手段是？信号量隔离、线程池隔离

信号量隔离的特点是？基于计数器模式，简单，开销小

线程池隔离的特点是？基于线程池模式，有额外开销，但隔离控制更强

⑩熔断降级

sentinel 与 feign 整合之方式⼀：FallbackClass,无法对远程调用的异常做处理

(1)修改ymlp配置文件

feign:

  sentinel:

    enabled: true # 开启feign对sentinel的支持

(2)编写一个降级类,实现远程调用的接口

package com.qbb.cloud2022.feign;

import com.qbb.cloud2022.com.qbb.springcloud.entity.Movie;

import org.springframework.stereotype.Component;

/**

 * @author QiuQiu&LL (个人博客:https://www.cnblogs.com/qbbit)

 * @version 1.0

 * @date 2022-04-07  23:34

 * @Description:

 */

@Component

public class FeignMovieServiceFallBack implements FeignMovieService {

    @Override

    public Movie findById(Integer id) {

        Movie movie = new Movie(-1, "网络异常,请稍后再试~~~~");

        return movie;

    }

}

(3)在远程调用的接口上添加属性

@FeignClient(value = "sentinel-provider-user9101",fallback = FeignMovieServiceFallBack.class)

测试一下:

sentinel 与 feign 整合之方式二：FallbackFactory,可以对远程调用的异常做处理，我们选择这种

(1)修改ymlp配置文件

feign:

  sentinel:

    enabled: true # 开启feign对sentinel的支持

(2)创建一个Factory类实现FallBackFactory接口

package com.qbb.cloud2022.feign;

import com.qbb.cloud2022.com.qbb.springcloud.entity.Movie;

import feign.hystrix.FallbackFactory;

import org.springframework.stereotype.Component;

/**

 * @author QiuQiu&LL (个人博客:https://www.cnblogs.com/qbbit)

 * @version 1.0

 * @date 2022-04-07  23:34

 * @Description:

 */

@Component

public class FeignMovieServiceFallBackFactory implements FallbackFactory {

    @Override

    public Object create(Throwable throwable) {

        throwable.printStackTrace();

        return new Movie(-1, "网络异常,请稍后再试~~~~");

    }

}

(3)在远程调用的接口上添加属性

@FeignClient(value = "sentinel-provider-user9101",fallbackFactory = FeignMovieServiceFallBackFactory.class)

测试一下:

控制台直接报错

熔断器的三种状态

熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例，如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求；而当服务恢复时，断路器会放行访问该服务的请求

断路器熔断策略有三种：慢调用、异常比例、异常数

上图的意思是:RT 超过 500ms 的调用是慢调用，如果请求量超过 10 次，并且慢调用比例不低于 0.5，则触发熔断，熔断时长为 5 秒。然后进入 half-open 状态，放行一次请求做测试

修改被调用方的代码

@GetMapping("/findById")

    public Movie findById(@RequestParam("id") Integer id) {

        if (id == 2) {

            try {

                Thread.sleep(3000);

            } catch (InterruptedException e) {

                e.printStackTrace();

            }

        }

        System.out.println(port);

        return movieService.findById(id);

    }

测试一下:

Sentinel 熔断降级的策略有哪些？

慢调用比例：超过指定时⻓的调用为慢调用，统计单位时⻓内慢调用的比例，超过阈值则熔断

异常比例：统计单位时⻓内异常调用的比例，超过阈值则熔断

异常数：统计单位时⻓内异常调用的次数，超过阈值则熔断

巴特西

SpringCloudAlibaba入门之Sentinel(SCA)

微服务保护和熔断降级技术Sentinel

1.微服务调用存在问题

什么是雪崩问题？

2.前面整合了SpringCloud Hystrix实现了服务的降级,熔断,限流.那Sentinel和Hystrix有什么区别呢?

3.Sentinel 入门

①Sentinel安装

②Sentinel官网

③流控、熔断等都是针对簇点链路中的资源来设置的，因此我们可以点击对应资源后面的按钮来设置规则

④阈值类型

(1)测试QPS（Query Per Second）：每秒请求数，就是说服务器在一秒的时间内处理了多少个请求

快速刷新页面会出现下图

(2)测试线程数流控:最大并发数是 3，超过 3 将直接流控,这里我们借助于 Jemeter 测试:。

Jemeter参数设置

测试结果

⑤流控模式

(1)在sentinel-consumer-user9001服务controller中添加两个接口用于测试

设置关联流控规则

Jemeter参数设置

测试结果

当两个有竞争关系的资源 ⼀个优先级较高，⼀个优先级较低 ===> 可以使用关联模式

⑥测试链路模式

(1)修改Service代码

(2)修改Controller代码

(3)修改yml配置文件

(4)设置流控规则

测试结果:

流控模式小结

⑦流控效果

测试Warm up(预热)流控模式:当系统运行时,有并发请求来访问系统时，为了避免系统崩溃，可以设置一个阈值，让项目可以处理请求的数量逐渐增加 到设定的阈值

测试结果:

测试 排队等待:方式会严格控制请求通过的间隔 时间，也即是让请求以均匀的速度通过，对应的是漏桶算法.请求会进入队列，按照阈值允许的时间间隔依次执行请求；如果请求预期等待时⻓大于超时时间，直接拒绝

编辑流控规则

修改代码

测试结果:

⑧热点 key 限流:是分别统计参数值相同的请求，判断是 否超过 QPS 阈值。

添加请求接口

修改热点key规则,点击左侧菜单栏配置信息更完善

⑨线程隔离

线程隔离有两种方式实现：

线程池隔离和信号量隔离的区别:

线程池隔离与信号量隔离各自的应用场景:

Hystrix 支持信号量隔离与线程池隔离，默认使用的是线程池隔离,配置方式如下

Sentinel 只支持信号量隔离,配置方式如下

线程隔离小结:

⑩熔断降级

sentinel 与 feign 整合之方式⼀：FallbackClass,无法对远程调用的异常做处理

(1)修改ymlp配置文件

(2)编写一个降级类,实现远程调用的接口

(3)在远程调用的接口上添加属性

测试一下:

sentinel 与 feign 整合之方式二：FallbackFactory,可以对远程调用的异常做处理，我们选择这种

(1)修改ymlp配置文件

(2)创建一个Factory类实现FallBackFactory接口

(3)在远程调用的接口上添加属性

测试一下:

熔断器的三种状态

上图的意思是:RT 超过 500ms 的调用是慢调用，如果请求量超过 10 次，并且慢调用比例不低于 0.5，则触发熔断，熔断时长为 5 秒。然后进入 half-open 状态，放行一次请求做测试

修改被调用方的代码

测试一下:

Sentinel 熔断降级的策略有哪些？

最后一个系统保护规则

系统规则包含下面几个重要的属性:

至此SpringCloudAlibaba入门之Sentinel配置完毕

最新文章

热门文章

当两个有竞争关系的资源⼀个优先级较高，⼀个优先级较低 ===> 可以使用关联模式

测试Warm up(预热)流控模式:当系统运行时,有并发请求来访问系统时，为了避免系统崩溃，可以设置一个阈值，让项目可以处理请求的数量逐渐增加到设定的阈值

测试排队等待:方式会严格控制请求通过的间隔时间，也即是让请求以均匀的速度通过，对应的是漏桶算法.请求会进入队列，按照阈值允许的时间间隔依次执行请求；如果请求预期等待时⻓大于超时时间，直接拒绝

⑧热点 key 限流:是分别统计参数值相同的请求，判断是否超过 QPS 阈值。