Dubbo - 集群容错、负载均衡
集群容错和负载均衡
集群容错
- Cluster封装了集群的容错机制failover、failfast、failsafe、failback以及forking。
- Directory管理集群中服务的List，根据注册中心动态注册而变化List。Cluster通过获取Directory，将List<Invoker>伪装成一个Invoker抽象，这一过程对于调用者透明。
- Router负责按规则从多个Invoker中选出子集。通过Router实现应用隔离、读写分离，即使部分服务挂掉也不会影响其它应用。
- LoadBalance负责从步骤3中获取的子集中选出具体要求执行invoke的具体Invoker。选的过程中包含了负载均衡算法。
容错机制分类
- Failover Cluster
失败自动切换，当出现失败，重试其它服务器 [1]。通常用于读操作，但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。
重试次数配置如下：
<dubbo:service retries="2" />
或
<dubbo:reference retries="2" />
或
<dubbo:reference>
<dubbo:method name="findFoo" retries="2" />
</dubbo:reference>
- Failfast Cluster
快速失败，只发起一次调用，失败立即报错。通常用于非幂等性的写操作，比如新增记录。
- Failsafe Cluster
失败安全，出现异常时，直接忽略。通常用于写入审计日志等操作。
- Failback Cluster
失败自动恢复，后台记录失败请求，定时重发。通常用于消息通知操作。
- Forking Cluster
并行调用多个服务器，只要一个成功即返回。通常用于实时性要求较高的读操作，但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。
- Broadcast Cluster
广播调用所有提供者，逐个调用，任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。
如何配置
按照以下示例在服务提供方和消费方配置集群模式
<dubbo:service cluster="failsafe" />
或
<dubbo:reference cluster="failsafe" />
负载均衡算法
-
Random LoadBalance
- 随机，按权重设置随机概率。
- 在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。
-
RoundRobin LoadBalance
- 轮询，按公约后的权重设置轮询比率。
- 存在慢的提供者累积请求的问题，比如：第二台机器很慢，但没挂，当请求调到第二台时就卡在那，久而久之，所有请求都卡在调到第二台上。
-
LeastActive LoadBalance
- 最少活跃调用数，相同活跃数的随机，活跃数指调用前后计数差。
- 使慢的提供者收到更少请求，因为越慢的提供者的调用前后计数差会越大。
-
ConsistentHash LoadBalance
- 一致性 Hash**，相同参数的请求总是发到同一提供者。
- 当某一台提供者挂时，原本发往该提供者的请求，基于虚拟节点，平摊到其它提供者，不会引起剧烈变动。
- 算法参见：http://en.wikipedia.org/wiki/Consistent_hashing
- 缺省只对第一个参数 Hash，如果要修改，请配置
<dubbo:parameter key="hash.arguments" value="0,1" /> - 缺省用 160 份虚拟节点，如果要修改，请配置
<dubbo:parameter key="hash.nodes" value="320" />
如何配置
- 服务端服务级别
<dubbo:service interface="..." loadbalance="roundrobin" />
- 客户端服务级别
<dubbo:reference interface="..." loadbalance="roundrobin" />
- 服务端方法级别
<dubbo:service interface="...">
<dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:service>
- 客户端方法级别
<dubbo:reference interface="...">
<dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:reference>
只订阅
在实际生产开发中会出现这样的情况：大部分开发人员希望有一个提供所有稳定服务的注册中心，但又存在一些新的服务或者变更的服务需要开发联调，对于这部分服务可以通过过直连提供者（点对点直连）。对于正在开发的服务可以只用只订阅模式，只订阅服务，而不注册正在开发的服务。
服务只订阅
直连提供者
配置优先级 JVM > 文件映射 > XML配置
- XML配置
<dubbo:reference id="xxxService" interface="com.alibaba.xxx.XxxService" url="dubbo://localhost:20890" />
- 通过-D参数指定
// 在 JVM 启动参数中加入-D参数映射服务地址 [2]，如：
java -Dcom.alibaba.xxx.XxxService=dubbo://localhost:20890
- 通过文件映射
如果服务比较多，也可以用文件映射，用 -Ddubbo.resolve.file 指定映射文件路径，此配置优先级高于 <dubbo:reference> 中的配置 [3]，如：
java -Ddubbo.resolve.file=xxx.properties
然后在映射文件 xxx.properties 中加入配置，其中 key 为服务名，value 为服务提供者 URL：
com.alibaba.xxx.XxxService=dubbo://localhost:20880
只注册
假设存在两个镜像环境，两个注册中心，有一个服务只在一个注册中心A完成部署，在另一个注册中心B尚未完成部署，且A、B的其它应用都需要依赖此服务。这个时候可以让服务提供者只在B注册，但是不从B做服务订阅。
<!-- 禁用服务订阅way1 -->
<dubbo:registry id="aRegistry" address="10.20.153.10:9090" />
<dubbo:registry id="bRegistry" address="10.20.141.150:9090" subscribe="false" />
<!-- 禁用服务订阅way2 -->
<dubbo:registry id="aRegistry" address="10.20.153.10:9090" />
<dubbo:registry id="bRegistry" address="10.20.141.150:9090?subscribe=false" />
