【五】Spring Cloud Hystrix

2019-03-11  本文已影响0人  lemonMT

Hystrix具备了服务降级、服务熔断、线程隔离、请求缓存、请求合并以及服务监控等强大功能。

1.Hystrix服务降级

1.1增加Hystrix的依赖

<!--熔断器-->
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
    </dependency>
    <!--熔断器-->

1.2增加配置文件配置

#开启断路器
feign:
  hystrix:
    enabled: true

1.3增加启动类配置代码

//发现服务注册中心,将服务进行注册
@EnableDiscoveryClient
//开启feign能力
@EnableFeignClients
@SpringBootApplication
public class DemoSpringcloudServiceUserApplication {

    public static void main(String[] args) {
        SpringApplication.run(DemoSpringcloudServiceUserApplication.class, args);
    }
}

1.4增加一个降级服务实现类

@Component
public class HyStrixUserService implements FeignUserService{

    @Override
    public String findUserById(){

        return "hystrix find User By id" ;
    }
}

1.5改动Feign调用类代码

//所有客户端接口集合,需要谁的服务,就配置谁的applicationName
@FeignClient(value = "demo-springcloud-service-user" ,fallback = HyStrixUserService.class)
public interface FeignUserService {


    //对方服务的请求名称
    @GetMapping("/findUser")
    String findUserById();

}

1.6 调用正常结果预览

image.png

1.7 模拟调用异常结果

1.7.1 增加认为异常,模拟服务不可用
  /**
     * 这是提供的一个微服务方法
     * @return Object
     */
    @GetMapping("/findUser")
    public Object findUser()throws Exception{

        if(1==1){
            throw new Exception("findUser exception");
        }
        return "hello lemon" ;
    }
1.7.2 结果预览
image.png

2.Hystrix依赖隔离

Hystrix其实已经默认实现了依赖隔离,理论姿势如下:

3.Hystrix断路器

断路器的三个重要参数:快照时间窗、请求总数下限、错误百分比下限。这个参数的作用分别是:

那么当断路器打开之后会发生什么呢?我们先来说说断路器未打开之前,对于之前那个示例的情况就是每个请求都会在当hystrix超时之后返回fallback,每个请求时间延迟就是近似hystrix的超时时间,如果设置为5秒,那么每个请求就都要延迟5秒才会返回。当熔断器在10秒内发现请求总数超过20,并且错误百分比超过50%,这个时候熔断器打开。打开之后,再有请求调用的时候,将不会调用主逻辑,而是直接调用降级逻辑,这个时候就不会等待5秒之后才返回fallback。通过断路器,实现了自动地发现错误并将降级逻辑切换为主逻辑,减少响应延迟的效果。

在断路器打开之后,处理逻辑并没有结束,我们的降级逻辑已经被成了主逻辑,那么原来的主逻辑要如何恢复呢?对于这一问题,hystrix也为我们实现了自动恢复功能。当断路器打开,对主逻辑进行熔断之后,hystrix会启动一个休眠时间窗,在这个时间窗内,降级逻辑是临时的成为主逻辑,当休眠时间窗到期,断路器将进入半开状态,释放一次请求到原来的主逻辑上,如果此次请求正常返回,那么断路器将继续闭合,主逻辑恢复,如果这次请求依然有问题,断路器继续进入打开状态,休眠时间窗重新计时。

通过上面的一系列机制,hystrix的断路器实现了对依赖资源故障的端口、对降级策略的自动切换以及对主逻辑的自动恢复机制。这使得我们的微服务在依赖外部服务或资源的时候得到了非常好的保护,同时对于一些具备降级逻辑的业务需求可以实现自动化的切换与恢复,相比于设置开关由监控和运维来进行切换的传统实现方式显得更为智能和高效。

HyStrix部分常用配置字段

Execution相关的属性的配置:

Fallback相关的属性

这些参数可以应用于Hystrix的THREAD和SEMAPHORE策略

Circuit Breaker相关的属性

Metrics相关参数

Request Context 相关参数

Collapser Properties 相关参数

ThreadPool 相关参数

线程数默认值10适用于大部分情况(有时可以设置得更小),如果需要设置得更大,那有个基本得公式可以follow:
requests per second at peak when healthy × 99th percentile latency in seconds + some breathing room
每秒最大支撑的请求数 (99%平均响应时间 + 缓存值)
比如:每秒能处理1000个请求,99%的请求响应时间是60ms,那么公式是:
1000 (0.060+0.012)

基本得原则时保持线程池尽可能小,他主要是为了释放压力,防止资源被阻塞。
当一切都是正常的时候,线程池一般仅会有1到2个线程激活来提供服务

https://blog.csdn.net/qq_18603599/article/details/81282438

Execution相关的属性的配置
hystrix.command.default.execution.isolation.strategy

隔离策略,默认是Thread, 可选Thread|Semaphore

hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds

命令执行超时时间,默认1000ms

hystrix.command.default.execution.timeout.enabled

执行是否启用超时,默认启用true

hystrix.command.default.execution.isolation.thread.interruptOnTimeout

发生超时是是否中断,默认true

hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests

最大并发请求数,默认10,该参数当使用ExecutionIsolationStrategy.SEMAPHORE策略时才有效。如果达到最大并发请求数,请求会被拒绝。理论上选择semaphore size的原则和选择thread size一致,但选用semaphore时每次执行的单元要比较小且执行速度快(ms级别),否则的话应该用thread。
semaphore应该占整个容器(tomcat)的线程池的一小部分。
Fallback相关的属性
hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests

如果并发数达到该设置值,请求会被拒绝和抛出异常并且fallback不会被调用。默认10

hystrix.command.default.fallback.enabled

当执行失败或者请求被拒绝,是否会尝试调用hystrixCommand.getFallback() 。默认true
Circuit Breaker相关的属性
hystrix.command.default.circuitBreaker.enabled

用来跟踪circuit的健康性,如果未达标则让request短路。默认true

hystrix.command.default.circuitBreaker.requestVolumeThreshold

一个rolling window内最小的请求数。如果设为20,那么当一个rolling window的时间内(比如说1个rolling window是10秒)收到19个请求,即使19个请求都失败,也不会触发circuit break。默认20

hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds

触发短路的时间值,当该值设为5000时,则当触发circuit break后的5000毫秒内都会拒绝request,也就是5000毫秒后才会关闭circuit。默认5000

hystrix.command.default.circuitBreaker.errorThresholdPercentage

错误比率阀值,如果错误率>=该值,circuit会被打开,并短路所有请求触发fallback。默认50

hystrix.command.default.circuitBreaker.forceOpen

强制打开熔断器,如果打开这个开关,那么拒绝所有request,默认false

hystrix.command.default.circuitBreaker.forceClosed

强制关闭熔断器 如果这个开关打开,circuit将一直关闭且忽略circuitBreaker.errorThresholdPercentage
Metrics相关参数
hystrix.command.default.metrics.rollingStats.timeInMilliseconds

设置统计的时间窗口值的,毫秒值,circuit break 的打开会根据1个rolling window的统计来计算。若rolling window被设为10000毫秒,则rolling window会被分成n个buckets,每个bucket包含success,failure,timeout,rejection的次数的统计信息。默认10000

hystrix.command.default.metrics.rollingStats.numBuckets

设置一个rolling window被划分的数量,若numBuckets=10,rolling window=10000,那么一个bucket的时间即1秒。必须符合rolling window % numberBuckets == 0。默认10

hystrix.command.default.metrics.rollingPercentile.enabled

执行时是否enable指标的计算和跟踪,默认true

hystrix.command.default.metrics.rollingPercentile.timeInMilliseconds

设置rolling percentile window的时间,默认60000

hystrix.command.default.metrics.rollingPercentile.numBuckets

设置rolling percentile window的numberBuckets。逻辑同上。默认6

hystrix.command.default.metrics.rollingPercentile.bucketSize

如果bucket size=100,window=10s,若这10s里有500次执行,只有最后100次执行会被统计到bucket里去。增加该值会增加内存开销以及排序的开销。默认100

hystrix.command.default.metrics.healthSnapshot.intervalInMilliseconds

记录health 快照(用来统计成功和错误绿)的间隔,默认500ms
ThreadPool 相关参数
hystrix.threadpool.default.coreSize

并发执行的最大线程数,默认10

hystrix.threadpool.default.maxQueueSize

BlockingQueue的最大队列数,当设为-1,会使用SynchronousQueue,值为正时使用LinkedBlcokingQueue。该设置只会在初始化时有效,之后不能修改threadpool的queue size,除非reinitialising thread executor。默认-1。

hystrix.threadpool.default.queueSizeRejectionThreshold

即使maxQueueSize没有达到,达到queueSizeRejectionThreshold该值后,请求也会被拒绝。因为maxQueueSize不能被动态修改,这个参数将允许我们动态设置该值。if maxQueueSize == -1,该字段将不起作用

hystrix.threadpool.default.keepAliveTimeMinutes

如果corePoolSize和maxPoolSize设成一样(默认实现)该设置无效。

hystrix.threadpool.default.metrics.rollingStats.timeInMilliseconds

线程池统计指标的时间,默认10000

hystrix.threadpool.default.metrics.rollingStats.numBuckets 将rolling window划分为n个buckets,默认10

上一篇 下一篇

猜你喜欢

热点阅读