在现在的业务中对数据的监控是必不可少的。主要体现在这两个方面:一是数据正确性直接影响服务正确性和算法效果,监控是拦截数据问题的“最后防线”;二是数据问题破坏力和感知时长成正相关,及早感知问题可以最大限度减少破坏。
而大数据监控的痛点也很常见,主要体现在“检测难”“分析难”和“收敛难”这三的层面。
- 检测“难”:监控覆盖难,表数量大,指标量更是倍数放大,监控覆盖量是很难完成的工作;监控准确难,上游表异动、复杂的业务逻辑、业务变更、业务非规律波动等都在挑战“人工监控规则”准确性。
- 分析“难”:定位难,业务表本身具有复杂的业务逻辑,告警定位难;追踪难,业务表一般依赖复杂的上游表,这些表大多具有“业务逻辑”背景,“跨业务”追踪问题的壁垒难。
- 收敛“难”:根据监测难和分析难可知,缺少问题“检测感知”+“分析追踪”的闭环治理,大数据监控收敛难。
基于此,网易云音乐团队的解决方案对症下药:
- 智能监控的目标是“全业务线自动覆盖,数据问题准确召回”,实现数据问题低人工成本的闭环治理。
- 智能监控模型方案:以指标历史数据和人工处置结果为训练数据,结合统计模型和监督训练模型设计为融合模型。
- 指标归因方案:利用数据血缘获取表上下游依赖关系,然后基于贝叶斯和Adtributor模型共同决策指标异动影响因子。
- 工程化落地方案:辅助验证阶段:以人工监控规则为主,智能监控告警为辅。用智能监控辅助用户分析告警,进而拿到智能监控的效果支撑数据。平台化阶段:“一键监控”实现监控高效覆盖、低误报、高召回,提供“指标归因”能力辅助用户快速定位原因;依靠平台能力回收用户处置结果,实现模型闭环优化!
效果说明这部分,也是我即将在ArchSummit会议上重点介绍的:
- 项目效果:23H2拦截数据问题比23H1提升46.8%;数据异常召回率83%(23H1召回率70%);核心监控跟进率87%(H1跟进率60%)。
- AI 监控模型效果:相比人工规则监控,智能监控召回率100%,误报量下降70%以上。
- 业务影响力:网易云音乐内部试点,推动网易用户使用进行中。
演讲提纲:
- AI 浪潮下,云音乐大数据领域的探索方向
- 云音乐大数据监控治理的必要性和痛点
- 云音乐智能监控方案
- 云音乐智能监控工程化落地
- 效果收益
- 后续规划
听众收益点:
- 云音乐智能监控的技术细节,具备全业务线复制的可行性
- 打破层层阻力的工程化落地的方案