专题演讲嘉宾：魏刚

在现代互联网行业中，在线预估服务已成为搜索、推荐、广告等领域内不可或缺的组成部分。预估服务是利用模型来进行预测的过程，本质上是一个围绕样本/特征/模型的计算逻辑集合。如何在 OPPO 这种多业务多场景、大规模流量的情况下，以具有成本效益的方式来进行模型在线实时预估，我们面临以下几个挑战：

1. 模型预估能力是一个通用的需求，灵活满足业务诉求的同时如何兼顾整体效率，避免重复开发？
2. 如何应对超多候选、超多特征、超大模型所带来的巨大算力成本消耗？
3. 如何解决线上线下特征样本一致性的担忧？如何提供一种灵活的架构可以对粗排精排场景采取针对性的适配优化？

针对这些问题，本次演讲我将从实际工作角度出发，阐述相关的技术方案和选型，分享我们在建设推搜广全场景统一预估引擎的具体实践与经验。

演讲提纲

1. 统一的特征计算框架
   • 可扩展算子模式
   • 无冗余分离计算
2. 统一的模型推理管理
   • 统一模型推理接口
   • 支持推理分离架构
3. 预估多阶段加速机制
   • 多核加速
   • 多机加速
4. 在线离线一致性方案
   • 计算逻辑约束
   • 回调数据约束
5. 粗排针对性优化分享
   • 协议优化
   • 流程优化
   • 算力优化

听众收益

• 了解应对多业务多场景的模型预估服务的参考设计
• 了解统一预估引擎落地的一些技术挑战和解决方案
• 了解统一预估引擎对粗排所做的针对性优化及思考