微众银行可观测性探索与实践

所属专题:可观测性技术落地探索

嘉宾 : 陈翼 | 微众银行高级开发工程师

会议室 : 宴会厅1

讲师介绍

专题演讲嘉宾:陈翼

微众银行高级开发工程师

参与微众银行云原生可观测性系统的架构设计和开发工作。Apache EventMesh(Incubating)Committer;Apache Skywalking Contributor。

议题介绍

演讲:微众银行可观测性探索与实践

近年来云原生可观测性领域变得非常活跃,有人会问,可观测性不就是监控吗?不全是。引用可观测性业界大咖 Baron Schwarz 给出的定义:"监控告诉我们系统的哪些部分是不工作的,可观测性告诉我们那里为什么不工作了"。

目前可观测性的三大支柱依然是 Trace(追踪)、Log(日志)、Metric(指标)

Trace 追踪方面,当前主流开源方案面临 TraceSDK 接入成本高,JavaAgent 接入风险高等问题,而后端存储又面临因高 TPS 写入带来的高成本问题,我们对比 Skywalking、Pinpoint、Opentelemetry、ElasticAPM 等开源解决方案后,最终选择 Skywalking 作为我们的基础原型,在 JavaAgent 现有基础上抽取我们埋点 TraceSDK,提供两种埋点方式供业务接入,同时服务端采用 TiDB 作为追踪数据的存储,并持续优化例如 Batch 写入、写入前压缩、写入前合并等手段,最终实现微众银行全链路追踪方案。

Log 日志方面,当前主流开源方案 ELK 面临存储成本高、日志高峰容易丢数据、数据脱敏等一系列问题,我们从最初的 ELK 定制最终转向 LOKI+Grafana 的日志系统方案,并加入 WeMQ 消息中间件缓存模块、MSS-LOGIMPORT 日志导入模块来解决日志存储成本、数据定制脱敏等问题,最终实现微众银行低成本日志平台方案。

Metric 指标方面,当前云原生主流指标方案是 Prometheus,我们主要实现 Prometheus + JavaAgent 结合,来实现行内指标数据统一采集、统一存储查询并基于 WeMQ 实现指标数据共享和指标告警。

演讲提纲:

  1. 云原生可观测性背景
  2. 云原生可观测性之追踪
    • 追踪系统的核心挑战
    • 微众银行追踪技术选型
    • 微众银行追踪定制改造
    • 微众银行追踪最终效果
  3. 云原生可观测性之日志
    • 日志系统的核心挑战
    • 微众银行日志系统技术选型
    • 微众银行日志定制改造
    • 微众银行日志系统最终效果
  4. 云原生可观测性之指标
    • 指标系统的标准实现
    • 微众银行指标系统实现方案
  5. 未来展望

你将获得:

  • 通过 Skywalking 的改造实现追踪数据采集的落地,实现高性能数据写入以及节省存储成本
  • 通过开源系统 LOKI 的改造,实现低成本日志系统

交通指南

深圳·大中华喜来登酒店

Sheraton Shenzhen Futian Hotel
地址:中国广东省深圳市福田区福华路福华路大中华国际交易广场
票务小姐姐