kafka集群管理工具kafka-manager部署安装
2020-05-06 本文已影响0人
二师兄科技
Kafka-manager是Yahoo!开源的一款Kafka监控管理工具。
kafka-manager 项目地址:https://github.com/yahoo/kafka-manager
一、kafka-manager 简介
为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不均匀的的情况。它支持管理多个集群、选择副本、副本重新分配以及创建Topic。同时,这个管理工具也是一个非常好的可以快速浏览这个集群的工具,有如下功能:
1.管理多个kafka集群
2.便捷的检查kafka集群状态(topics,brokers,备份分布情况,分区分布情况)
3.选择你要运行的副本
4.基于当前分区状况进行
5.可以选择topic配置并创建topic(0.8.1.1和0.8.2的配置不同)
6.删除topic(只支持0.8.2以上的版本并且要在broker配置中设置delete.topic.enable=true)
7.Topic list会指明哪些topic被删除(在0.8.2以上版本适用)
8.为已存在的topic增加分区
9.为已存在的topic更新配置
10.在多个topic上批量重分区
11.在多个topic上批量重分区(可选partition broker位置)
二、环境
需要的软件
kafka_2.11-2.1.0
kafka-manager-1.3.3.7
1、准备虚拟机CENTOS6.5
2、安装jdk1.8
3、kafka集群
4、zookeeper集群
三、安装Kafka-Manager
1、上传kafka-manager-1.3.3.7.tar.gz
2、解压到/opt
tar -zxf kafka-manager-1.3.3.7.tar.gz -C /opt
3、修改conf/application.conf
kafka-manager.zkhosts="node01:2181,node01:2182,node01:2183"
4、启动zookeeper
cd /opt/zookeeper-3.6.1/
bin/zkServer.sh start
5、启动kafka
cd /opt/kafka_2.11-2.1.0
bin/kafka-server-start.sh config/server.properties > /dev/null 2>&1 &
6、直接运行bin/kafka-manager
cd /opt/kafka-manager-1.3.3.7
nohup bin/kafka-manager 2>&1 &
7、浏览器中使用node01:9000 访问即可
默认kafka-manager的端口号为 9000 ,如果该端口被占用,请使用下面的命令修改端口
bin/kafka-manager -Dconfig.file=/opt/kafka-manager-1.3.3.7/conf/application.conf -Dhttp.port=10086