Hadoop-HA

2020-11-23  本文已影响0人  大空翼123

HDFS-HA工作机制

通过双NameNode消除单点故障

 两个NN,一个工作,一个备份

HDFS-HA自动故障转移工作机制

HA的自动故障转移依赖于ZooKeeper的以下功能:

1)故障检测

如果机器崩溃,ZooKeeper中的会话将终止,ZooKeeper通知另一个NameNode需要触发故障转移。

2)现役NameNode选择:

ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。

ZKFC是自动故障转移中的另一个新组件,是ZooKeeper的客户端,也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程,ZKFC负责:

1)健康监测:ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode,只要该NameNode及时地回复健康状态,ZKFC认为该节点是健康的。如果该节点崩溃,冻结或进入不健康状态,健康监测器标识该节点为非健康的。

2)ZooKeeper会话管理:当本地NameNode是健康的,ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态,ZKFC也保持一个特殊的znode锁,该锁使用了ZooKeeper对短暂节点的支持,如果会话终止,锁节点将自动删除。

3)基于ZooKeeper的选择:如果本地NameNode是健康的,且ZKFC发现没有其它的节点当前持有znode锁,它将为自己获取该锁。如果成功,则它已经赢得了选择,并负责运行故障转移进程以使它的本地NameNode为Active。故障转移进程与前面描述的手动故障转移相似,首先如果必要保护之前的现役NameNode,然后本地NameNode转换为Active状态。

HA配置详见教程

注意修改Hadoop文件地址

hdfs-site.xml.中的端口号: fs.namenode.rpc-address  zyxx:8020

                                            dfs.namenode.http-address  zyxx:9870

                                                   .shared.edits.dir   zyxx:8485

注意修改HADOOP为HA地址,ssh密匙地址

配置HDFS-HA自动故障转移

core-site中端口号 zyxx:2181

打开zy100:9870  看到节点为nn1

打开zy102:9870  看到节点为nn2

上一篇下一篇

猜你喜欢

热点阅读