干货 | EasyOps中秒级定位故障的分布式链路追踪是如何实现
前言:
在微服务的世界,作为业务运维,总是会遇到几个监控的难题:
1、遇到故障如何快速准确定位到是哪个组件有问题
2、如何准确绘制出业务拓扑图
3、如何快速找到当前的业务瓶颈
以上难题都可以通过分布式追踪解决
*Paul毕业于中山大学,曾在腾讯做过业务运维,在网易做过游戏开发。 目前是优维平台研发组组长,负责平台的基础架构工作。
![](https://img.haomeiwen.com/i3708576/ae951a6a64e88cbf.jpg)
背景:
分布式链路追踪功能是优维科技EasyOps平台的智能监控模块的一个重要功能。
首先,让我们来看一个EasyOps中自动绘制的业务拓扑图。
![](https://img.haomeiwen.com/i3708576/9f7fae9791a4d617.jpg)
通过分布式追踪,可以很直观地看出来组件与组件之间的关系。
当收到客户投诉时,可以通过分布式追踪定位到错误的服务(下图标红部分)。
![](https://img.haomeiwen.com/i3708576/0657b9a8b2b7eead.jpg)
技术原理:
EasyOps的分布式追踪参考了Google的Dapper论文[1],基于开源项目Zipkin[2]研发了一套分布式追踪的解决方案,目标是通过分布式追踪及时发现生产环境故障以及缩短故障排查时长。
![](https://img.haomeiwen.com/i3708576/7ca8c08b21618715.jpg)
以上是一次常见的RPC调用图,客户端向服务端请求时会给服务器把这次请求的分布式追踪上下文带上(下文称为带内传输)。客户端发送/接收RPC请求和服务器发送/接收RPC请求后,都会给服务器发送一条日志,上报分布式追踪的信息(下文称为带外上报)。通过cs, cr, sr, ss四个时间戳,我们可以算出这一次微服务调用的几个关键时间:
• 请求总耗时:cr – cs
• 服务端逻辑耗时:ss - sr
• 客户端到服务器RTT:sr – cs
• 服务器到客户端RTT:cr - ss
带内传输:
微服务与微服务之间通过唯一的TraceId来传播本次请求的上下文,HTTP常在请求头里面用B3协议来传播上下文。
![](https://img.haomeiwen.com/i3708576/59d2c94f71415d4c.jpg)
• TraceId: 64位或128位唯一请求ID,随机生成。
• SpanId: 64位RPC唯一ID,每产生一次RPC请求,随机生成一个新的SpanId来追踪。
• ParentSpanId: 当前RPC请求的父节点,用于把整个调度链串起来。
• Sampled: 标记这次请求是否需要采样。请求是否采样由第一个收到请求的Tracer决定。
带外上报:
带外上报会把整个分布式追踪的字段报到服务器(如服务名、IP端口、错误信息等)。上报方式有几种:HTTP, KAFKA, 日志上报。
接入方式:
EasyOps分布式追踪完全兼容Zipkin上报格式[3],提供Java, C#, Go, Python, JavaScript, Ruby, Scala, C,C++等十多种语言的sdk。以下摘取自Zipkin官方文档[4]。
官方支持SDK:
![](https://img.haomeiwen.com/i3708576/78b0289df1d17bcb.png)
![](https://img.haomeiwen.com/i3708576/e03d55aad74fe658.png)
![](https://img.haomeiwen.com/i3708576/7bf2ea81fd192e00.png)
实操演练:
三步完成性能分析排查:
第一步: QA发现前台实例搜索很慢,从chrome调试窗口拿到这次请求的TraceId
![](https://img.haomeiwen.com/i3708576/a30ec0aa5f24bd1a.jpg)
第二步:进入分布式追踪,搜索该分布式追踪的TraceId
![](https://img.haomeiwen.com/i3708576/9661184cb31cb800.jpg)
第三步:分析原因,是查询数据库这一步耗时5秒多,定位到是SQL语句写得不合理导致的,提交给开发进行优化。
![](https://img.haomeiwen.com/i3708576/38a14a087e874c73.jpg)
落地案例:
目前,优维科技EasyOps智能监控模块中的分布式链路追踪功能在百度游戏有成功落地案例,客户在使用分布式链路追踪功能后,能实现故障的秒级定位,大幅度提升了客户运维团队工作效率。
EasyOps是基于DevOps理念,面对应用生命周期管理的端到端DevOps及运维解决方案。EasyOps包含以下功能模块:
1 应用CMDB
2 DevOps持续交付
3 立体化智能监控
4 运维自动化
5 IT运营分析
目前,EasyOps解决方案已经在招商银行、国信证券、招商基金,上汽通用、东莞银行、无限极、百度游戏等数十家各行业客户成功落地。
附录:
[1]Dapper论文:
https://research.google.com/pubs/pub36356.html
[2]Zipkin:
http://zipkin.io/
[3]Zipkin上报格式:
https://zipkin.io/pages/data_model.html
[4]Zipkin官方文档:
https://zipkin.io/pages/existing_instrumentations.html