kafka日志保留策略异常处理

2020-03-02  本文已影响0人  萝卜小青菜丶

问题现象

文件系统监控,以肉眼可见的速度增大使用空间


查看当前日志保留策略配置,关键配置如下:

存在风险

日志片大小设置为1G(log.segment.bytes默认大小也是1G),删除策略需要等到日志分片后才能被标记为删除,如没有设置分片时间的话,需要等写满日志片,或是等到7天(默认时间)没有数据写入后,才会自动分片。

针对问题处理方案

可以适当降低log.segment.bytes 大小为512M,设置segment.bytes 大小为 512M,手动设置分片时间 log.roll.hours ,

参考: kafka 数据定时删除实验

处理步骤

1.停止kafka服务

a) 找出kafka进程号,使用命令jps

b) 杀掉kafka进程,使用命令 kill -9 xxx

c) 查看当前kafka进程是否还存在,ps -ef|grep kafka jps

2.修改配置

vi $KAFKA_HOME/config/server.properties

修改配置:

log.segment.bytes=536870912

添加配置:

segment.bytes=536870912

log.roll.hours=12

3.启动kafka服务

./bin/start_kafka.sh

4.检查状态

ps -ef|grep kafka

jps

5.依次操作其它服务器

上一篇下一篇

猜你喜欢

热点阅读