分布式&高可用技术中台springcloud

微服务可观测平台(三)-metrics测量组件设计与实现

2021-12-19  本文已影响0人  中间件XL

背景

增强服务可观测性,预测与发现系统性能瓶颈,透视系统状态,为系统调优和改进提供可靠数据

规划特性

服务日志: 记录时间,用户,用户地点(ip),服务节点(ip),服务名称,模块名称,参数(可配置),支持异步写入,减少服务正常执行影响

服务性能指标,RT,请求数(1m/5m/15m),异常数(1m/5m/15m),失败数(1m/5m/15m)

服务调用链路,服务调用拓扑,调用关系性能,topN(最忙服务,最慢服务)

业务日志,如,拉单每秒字节数,数据笔数,拉单作业数

监控门户,仪表盘,告警  Prometheus+grafana(运维);elasticsearch agg+数据可视化(开发)

*日志收集ELK不在本次计划

*系统监控,如cpu,线程数(jvm),内存(jvm),磁盘io,网络io 直接使用Prometheus,不在本平台范

技术架构

测量组件位于可观测架构蓝框部分,负责业务测量/性能测量的构建, 采集,转换和报告

测量组件

测量组件是可观测平台的第三部分,由metrics,exporter,reporter 3部分组成

metrics 测量构建/收集/计算组件,业界metrics组件选择比较少,主要有dropwizard-metrics,micrometer也是源于dropwizard-metrics,还有些框架自带metrics组件,基本上也是参考dropwizard-metrics

测量exporter/测量reporter,两者是配套,exporter 转换本地测量类型为监控平台类型;reporter 推送转换后的测量到监控平台,本组件实现Prometheus测量转换和报告

设计模型

本组件的设计

Counter/Gauge/Meter/Summary/Histogram dropwizard-metrics支持的测量类型,其中后3者属于统计量,分布式系统统计单节点意义不大;另外,Prometheus Counter/Gauge都是数值,Gauge客家可减,Counter单调增加

ScheduledReporter/DefaultScheduledReporter  ScheduledReporter是dropwizard-metric提供的Reporter实现,定时报告测量,抽象模板模式,DefaultScheduledReporter本组件实现,DropWizardPrometheusExporter转换测量为Prometheus类型,simple-pushgateway推送到Prometheus

TagExtractor  tag是Prometheus测量的属性,定义数据维度,对后续的统计非常重要;TagExtractor是本组件接口,应用实现自己的tag生成逻辑

MetricHolder 本组件的开发,负责全局构建,操作,持有测量

开发指南

  1. 依赖

                  <dependency>

                          <groupId>io.dropwizard.metrics</groupId>

                          <artifactId>metrics-core</artifactId>

                  </dependency>

  2. 配置

以java config为例,以下内容在代码单元测试TesstMetricsReporterConfiguration

示例:

metrics:

  reporter:

   type: prometheus # metrics报告类型 nop/console/prometheus

   url: ip:port # Prometheus pushgateway地址

   job: apiflow # Prometheus job标签

   interval: 10 # 报告间隔,单位秒

1)报告期采集间隔

    Value("${flowsharping.metrics.reporter.interval:30}")

    private int reprotInterval;

2) 测量注册,全局

    public static final MetricRegistry metricsReg = new MetricRegistry();

3) 报告器声明和初始化

声明3个报告器,通过conditional激活,nop相当于屏蔽报告,console reporter

测量输出到控制台,单机测试用;DefaultSchedulerReporter 输出到Prometheus,支持分布式聚合统计,DemoTagExtractorImpl简单的标签提取实现,增加type和instant标签,

其中type pass/fail,instant host:ip,用于示例

4) MetricHolder

5) 环境工具

获取当前ip和端口

示例

场景1:单机测试

本示例在单元测试TestQpsMetrics,模拟api调用qps测量,使用ConsoleReporter,报告间隔10秒,示例使用随机数模拟调用的通过和不通过,分别计数到pass计数器和fail计数器

控制台输出

场景2:分布式测试

本示例在单元测试TestQpsMetricsCluster1,TestQpsMetricsCluster2,模拟两个服务集群调用qps测量,服务测试代码同场景1,使用PrometheusReporter,报告间隔10秒,tag提取器增加type,instant标签,type标签pass,fail,通过和不同的qps技术,instant  ip+port,测量输出如下图: 

上面2个图标,服务8091和8092的通过请求数速率,不通过数速率,总请求数速率

下面是两个服务通过总请求数,不通过的总请求数,两个服务的总请求

promsql:

rate(apixxx{exported_job="apiflow", instant="host:port", type="pass|fail"}[1m])

sum(rate(apixxx {exported_job="apiflow", instant="host:port", type="pass|fail"}[1m]))

代码库(收费)

metrics-reporter.zip-Java文档类资源-CSDN下载

上一篇下一篇

猜你喜欢

热点阅读