Kylin跨集群数据迁移
2019-10-16 本文已影响0人
麦子星星
简单记录kylin数据及元数据迁移过程
1、备份kylin的元数据,在新的集群中恢复kylin的元数据(参考官网)
2、在源hbase的ui页面查看表的结构数据,在目标集群创建相关表信息
在目标集群hbase的cli中执行相关语句()
在目标hbase集群中创建源集群中相同结构的表信息3、通过hbase export导出数据到源hdfs上(灾备脚本可以批量导出)
hbase org.apache.hadoop.hbase.mapreduce.Export $table_name $backup_folder
3、hdfs dfs -get /xxx 将hbase数据拉取到本地xxxx.zip
4、将数据xxxx.zip数据上传到目标hdfs集群目录
5、将上步骤hdfs中的数据通过hbase import到hbase集群中
hbase org.apache.hadoop.hbase.mapreduce.Import $table_name $backup_folder
6、更新hbase的coprocessor: $KYLIN_HOME/bin/kylin.sh org.apache.kylin.storage.hbase.util.DeployCoprocessorCLI $KYLIN_HOME/lib/kylin-coprocessor-*.jar all