专题演讲嘉宾:宋东辉

网易云音乐资深测试开发工程师

浙江大学硕士毕业之后,加入支付宝,参与蚂蚁端稳定性Sapienz项目建设,数字内容治理黑鸟项目核心成员,双12大促主要质量负责人之一。2021年加入网易云音乐,负责云音乐大数据质量和效能建设,发起并牵头多方共建DataOps项目和智能监控项目。

by 宋东辉

网易云音乐
资深测试开发工程师

在现在的业务中对数据的监控是必不可少的。主要体现在这两个方面:一是数据正确性直接影响服务正确性和算法效果,监控是拦截数据问题的“最后防线”;二是数据问题破坏力和感知时长成正相关,及早感知问题可以最大限度减少破坏。

而大数据监控的痛点也很常见,主要体现在“检测难”“分析难”和“收敛难”这三的层面。

  • 检测“难”:监控覆盖难,表数量大,指标量更是倍数放大,监控覆盖量是很难完成的工作;监控准确难,上游表异动、复杂的业务逻辑、业务变更、业务非规律波动等都在挑战“人工监控规则”准确性。
  • 分析“难”:定位难,业务表本身具有复杂的业务逻辑,告警定位难;追踪难,业务表一般依赖复杂的上游表,这些表大多具有“业务逻辑”背景,“跨业务”追踪问题的壁垒难。
  • 收敛“难”:根据监测难和分析难可知,缺少问题“检测感知”+“分析追踪”的闭环治理,大数据监控收敛难。

基于此,网易云音乐团队的解决方案对症下药:

  • 智能监控的目标是“全业务线自动覆盖,数据问题准确召回”,实现数据问题低人工成本的闭环治理。
  • 智能监控模型方案:以指标历史数据和人工处置结果为训练数据,结合统计模型和监督训练模型设计为融合模型。
  • 指标归因方案:利用数据血缘获取表上下游依赖关系,然后基于贝叶斯和Adtributor模型共同决策指标异动影响因子。
  • 工程化落地方案:辅助验证阶段:以人工监控规则为主,智能监控告警为辅。用智能监控辅助用户分析告警,进而拿到智能监控的效果支撑数据。平台化阶段:“一键监控”实现监控高效覆盖、低误报、高召回,提供“指标归因”能力辅助用户快速定位原因;依靠平台能力回收用户处置结果,实现模型闭环优化!

效果说明这部分,也是我即将在ArchSummit会议上重点介绍的:

  • 项目效果:23H2拦截数据问题比23H1提升46.8%;数据异常召回率83%(23H1召回率70%);核心监控跟进率87%(H1跟进率60%)。
  • AI 监控模型效果:相比人工规则监控,智能监控召回率100%,误报量下降70%以上。
  • 业务影响力:网易云音乐内部试点,推动网易用户使用进行中。

演讲提纲:

  1. AI 浪潮下,云音乐大数据领域的探索方向
  2. 云音乐大数据监控治理的必要性和痛点
  3. 云音乐智能监控方案
  4. 云音乐智能监控工程化落地
  5. 效果收益
  6. 后续规划

听众收益点:

  • 云音乐智能监控的技术细节,具备全业务线复制的可行性
  • 打破层层阻力的工程化落地的方案

交通指南

深圳博林天瑞喜来登酒店

Sheraton Shenzhen Nanshan
地址:广东省深圳市南山区留仙大道4088号
如您在购票过程中遇到问题,请扫码咨询票务小助手