文章目录

What Is Hystrix?
- History of Hystrix
What Is Hystrix For?
What Problem Does Hystrix Solve?
- Hystrix 的设计原则
How Does Hystrix Accomplish Its Goals?

最近项目中有熔断需求，准备花几天深入理解下Hystrix的介绍、使用、源码、原理并做些抽象封装以便工作中使用。

文章推荐：
CircuitBreaker——Martin Fowler
使用hystrix保护你的应用
http://tech.lede.com/2017/06/15/rd/server/hystrix/

What Is Hystrix?

在分布式系统中，服务与服务之间依赖错综复杂，一种不可避免的情况就是某些服务将会出现失败。Hystrix是一个库，它提供了服务与服务之间的容错功能，“容错”主要体现在延迟和异常上，从而做到控制分布式系统中的联动故障。Hystrix通过隔离服务的访问点，阻止联动故障，并提供故障的解决方案，从而提高了这个分布式系统的弹性。

History of Hystrix

Hystrix 从一个弹性（resilience）工程项目中发展而来，这个工程项目是Netflix公司 API团队在2011年开始的一个项目。
In 2012, Hystrix continued to evolve and mature, and many teams within Netflix adopted it.
到2012,Hystrix持续发展、成熟，并且Netflix公司的多个团队使用Hystrix。

今天，在Netflix内部，每天使用Hystrix隔离技术维护的隔离线程数量到达几百亿，几十亿 Semaphore隔离（默认的隔离策略是实现线程池隔离，另外一种隔离策略是 Semaphore）。
这促使了Hystrix巨大的提升与改善。

以下的链接提供了更多关于Hystrix的内容，以及Hystrix相关的尝试去解决的问题。
“Making Netflix API More Resilient”
“Fault Tolerance in a High Volume, Distributed System”
“Performance and Fault Tolerance for the Netflix API”
“Application Resilience in a Service-oriented Architecture”
[“Application Resilience Engineering & Operations at Netflix”]

What Is Hystrix For?

Hystrix 的设计初衷如下：

当我们的系统需要借助第三方jar包访问外部依赖时（特别是通过网络），Hystrix用来在延迟控制与错误异常方面给予保护。

在复杂的分布式系统中阻止级联失败（雪崩）。

快速失败并且迅速恢复。

在可能的情况下，退回、优雅的降级。

启动准实时的监控、告警并且可动态操控。

What Problem Does Hystrix Solve?

应用在复杂的分布式结构中，可能会依赖许多其他的服务，并且这些服务都不可避免地有失效的可能。如果一个应用没有与依赖服务的失效隔离开来，那么它将有可能因为依赖服务的失效而失效。

例如，一个应用依赖了 30 个服务，并且每个服务能保证 99.99% 的可用率，下面是一些计算结果：
99.9930 = 99.7% 可用率 10亿次请求×0.3% = 3,000,000次失效
即使所有依赖的服务都能达到 99.99% 的可用率，这个系统每个月还是会有大于两小时的不可用时间

而现实更加残酷，如果你没有针对整个系统做快速恢复，即使所有依赖只有 0.01% 的不可用率，累积起来每个月给系统带来的不可用时间也有数小时之多。

当所有依赖都正常，一个请求的拓扑结构如下所示：

当一个后端依赖服务有延迟，它会阻塞整个用户请求：

在高QPS环境下，一个后端依赖服务的延迟，会导致服务器上的资源都被阻塞。

应用中每一个网络请求或者间接通过客户端库发出的网络请求都是潜在的导致应用失效的原因。更严重的是，这些应用可能被其他服务依赖，由于每个服务都有诸如请求队列，线程池，或者其他系统资源等，一旦某个服务失效或者延迟增高，会导致更严重的级联失效。

如果这些网络请求通过第三方客户端发出，问题会变得更加严重，因为这些第三方客户端对于应用来说相当于『黑盒』——无法了解其实现细节，随时可能发生变更，网络/资源配置随客户端的不同而不同，同时又难以监控和修改。同时，应用依赖链中的服务可能非常耗时，或者这些可能导致问题的网络请求根本没有被我们的应用显式地调用！

网络连接可能失败或者降级、服务或者服务器可能失效或者变慢、依赖的库或者部署的服务可能发生行为变更或性能变更，亦或是依赖的服务本身有 bug。

以上种种，都会导致失效或高延迟，为了使我们的系统更加健壮，不至于因为单个服务出现上述问题而失效，我们需要将这些问题进行隔离。

Hystrix 的设计原则

防止单个依赖耗尽容器（例如 Tomcat）内所有用户线程
降低系统负载，对无法及时处理的请求快速失败（fail fast）而不是排队
使用隔离机制（例如bulkhead, swimlane, and circuit breaker模式）降低依赖服务对整个系统的影响
针对系统服务的度量、监控和报警，提供优化以满足近实时性的要求
绝大部分需要动态调整配置并快速部署到所有应用方面，提供优化以满足快速恢复的要求
能保护应用不受依赖服务的整个执行过程中失败的影响，而不仅仅是网络请求

How Does Hystrix Accomplish Its Goals?

将所有请求外部系统（或者叫依赖服务）的逻辑封装到 HystrixCommand 或者 HystrixObservableCommand 对象中，这些逻辑将会在独立的线程中被执行（利用了设计模式中的 Command模式）
对那些耗时超过设置阈值的请求，Hystrix 采取自动超时的策略。
该策略默认对所有 Command 都有效，当然，你也可以通过设置 Command 的配置以自定义超时时间，以使你的依赖服务在引入 Hystrix 之后能达到 99.5% 的可用性
为每一个依赖服务维护一个线程池（或者信号量），当线程池占满，该依赖服务将会立即拒绝服务而不是排队等待
划分出成功、失败（抛出异常）、超时或者线程池占满四种请求依赖服务时可能出现的状态
引入『熔断器』机制，在依赖服务失效比例超过阈值时，手动或者自动地切断服务一段时间
当请求依赖服务时出现拒绝服务、超时或者短路（多个依赖服务顺序请求，前面的依赖服务请求失败，则后面的请求不会发出）时，执行该依赖服务的失败回退逻辑
近实时地提供监控和配置变更

当使用 Hystrix 包装了你的所有依赖服务的请求后，上面图中所示的系统拓扑将会变成如下形式：

每个依赖服务都被隔离开来，Hystrix 会严格控制其在延迟发生时对资源的占用，并在任何失效发生时，执行失败回退逻辑。

Hystrix 从入门到深入——一阅读官网相关推荐

499php,一笔画仙路 [499]第499章神器的威力最新章节无弹窗全文免费阅读乐文阅读官网...
[499]第499章神器的威力感谢大家对本书的支持,最近发现有一个APP叫石头阅读的,可以换源免费看本书,更新及时,安卓用户百度搜索"石头阅读"直接下载APK文件安装,不能通过 ...
如何使用Vue集成其它UI组件？如何阅读UI官网？移动端组件Vant实例教程（熬夜干货）
如何使用Vue集成其它UI组件前言一.Vant是什么? 二.基础环境准备 1.1 了解是根本 1.2 安装 1.3 引入组件 3.1 步骤一 3.2 步骤二 3.3 步骤三二.事件绑定 2.1 ...
SpringBoot快速入门——helloworld（来自官网）
SpringBoot官网快速入门指南首先使用SpringBoot官网快速创建可以创建一个小项目创建完以后点击下面的Generate可以下载一个zip文件,将文件解压到指定位置. 打开idea,新版 ...
sitemesh官网简介，安装配置教程。（非常适合新手）
新手一枚,最近研究openfire,看到网上资料其页面布局用的是sitemesh,第一次听说,上网查了好多资料,也看了好多博客介绍,觉得好神奇的技术(高手勿喷).不过我也很好奇现在和sitemesh类 ...
electron按照官网步骤打包失败的解决办法
官网的地址:快速入门 | Electron 当我们按照官网的步骤打包的时候,会遇到很多坑,最常见的就是链接网络下载地址失败.或者找不到指定module等,解决办法如下:以npm为例: 1.配置npm下 ...
Spring Boot的学习之路(02)：和你一起阅读Spring Boot官网
官网是我们学习的第一手资料,我们不能忽视它.却往往因为是英文版的,我们选择了逃避它,打开了又关闭. 我们平常开发学习中,很少去官网上看.也许学完以后,我们连官网长什么样子,都不是很清楚.所以,我们在开 ...
Apache KafKa阅读官方文档心得
Apache KafKa阅读官方文档心得概念 Apache Kafka是一个分布式流媒体平台,流媒体平台有三个关键功能: 1.它允许您发布和订阅记录流.在这方面,它类似于消息队列或企业消息系统. ...
Go语言从入门到规范-1.1、Go语言官网文档大纲及环境搭建
Go语言从入门到规范-1.1.Go语言官网文档大纲及环境搭建文章目录 Go语言从入门到规范-1.1.Go语言官网文档大纲及环境搭建前言一.go简介及学习路径二.安装go 1.下载Go发行版 2 ...
Python3数据分析——NumPy快速入门教程（官网教程翻译）
目录一.基础篇 1.创建数组 2.打印数组 3.基本运算 4.通用函数(ufunc) 5.索引,切片和迭代二.形状操作 1.更改数组的形状 2.组合(stack)不同的数组 3.将一个数组分割(s ...

Hystrix 从入门到深入——一阅读官网