荣耀独立之初，多个业务线（荣耀商城、我的荣耀、荣耀俱乐部等）急需推荐算法模型的恢复和构建。一方面，推荐算法模型要结合业务特点快速支撑不同的业务推荐功能，包括商品推荐、信息流推荐等；另一方面，在数据源不统一、新用户和游客偏多的情况下，面临算法模型快速迭代且要保证效果的挑战。

本次演讲将围绕荣耀推荐算法，在荣耀独立之后，结合不同业务发展阶段面临的问题，从推荐算法建设初期、中期和未来规划，阐述特征工程和算法模型的演进与实践。

演讲提纲：

1. 荣耀推荐算法体系介绍
2. 推荐算法建设初期
   • 业务数据跨域拉通解决冷启动
   • 多样性召回算法快速构建
3. 推荐算法建设中期
   • 基于画像平台构建统一数据层
   • 精准排序快速提升推荐效果
4. 推荐算法未来构建
   • 特征平台的思考
   • 算法模型的突破探索

你将获得：

• 推荐算法更迭的难点以及如何克服
• 推荐算法未来演进方向的思考
• 推荐算法模型还有哪些点可以不断突破

在互联网时代，自然语言处理技术解决的问题集中在针对纯文本的理解上；到了AI赋能各行各业的时代，我们将面对越来越多以文档为载体的信息。因此我们需要研发结合文档布局等图像信息的全新的智能文档分析技术，包括文档解析、各种抽取技术，以及结合场景的文档比对、文档审核技术。这些技术已广泛应用于金融、物流、能源等实际场景业务中。

演讲提纲：

1. 需求背景
2. 技术挑战
3. 技术方案
   • 文档解析
   • 文档抽取
     • 句法模板抽取引擎
     • 弹性模板抽取引擎
     • 表格抽取系统
     • 开放域抽取系统
     • 跨模态文档抽取系统
4. 应用案例
   • 合同录入自动化
   • 报关单录入自动化
   • 合同比对
5. 总结思考

你将获得：

• NLP 技术与图像的结合
• 智能文档处理技术
• 智能文档技术在实际落地中的应用案例

大模型时代的 AI 系统挑战。经过最近 10 年的高速发展，系统架构经历了快速的演化，从单体架构到微服务架构再到大数据架构，近几年 AI 系统逐渐成为主流，而在当下预训练大模型时代，AI 系统又面临新的问题和挑战。

通过本次分享，希望让听众了解到 AI 系统架构的新挑战，面对这些挑战有怎样的解决思路；针对这些问题，如何突破传统互联网架构设计面向大模型时代的系统架构。

演讲提纲：

1. 问题&挑战
   • 大模型预训练挑战
   • 灵活、复杂的下游任务的挑战
   • 海量模型和数据集的治理挑战
2. 方案&架构
   • 认知计算系统架构
   • 基于 Megatron 模型并行方案
   • 基于 Deepeed 的显存优化手段
   • 基于预训练模型与灵活下游调优的调度方案
   • 一体化的模型中心和数据集中心设计
3. 实战分享
   • 二郎神 50 亿模型的并行训练实战
   • GTSfactory 自动化模型生产平台介绍

你将获得：

• 了解预训练大模型 AI 系统面对的挑战和解决思路
• 学习大模型时代的计算优化、显存优化、调度优化手段
• 获得海量模型和数据集治理办法
• 了解 NLP 大模型训练案例分享

推荐场景是重要的 AI 应用场景，占据 AI 应用的 IDC 资源消耗的一半以上。在推荐场景中，用户和物品随着时间而变化，引起了模型特征在时间和空间两个维度上的变化。这个特点导致了推荐类模型与 CV，NLP 场景的本质区别。无量系统是腾讯 PCG 推荐中台的核心引擎组件。

本分享通过分析推荐类模型训练和预测在时间和空间上的局部性原理，从分布式系统、大规模模型、优化算法三个维度推导大规模推荐模型的训练和预测系统的设计思考，以及无量系统的实践。

演讲提纲：

1. 推荐场景的背景介绍
2. 推荐场景的核心特点分析
3. 无量系统核心技术介绍
   • 分布式系统与大规模模型
     • CPU/GPU 训练系统的统一与差异（如何利用空间局部性的特点统一现有的CPU/GPU 训练系统设计）
     • 在线推理系统的设计（如何利用时间局部性的特点做多级存储加速）
   • 深度学习算法层面的优化
     • 如何用信息稀疏性做训练加速
     • 如何用信息稀疏性对编码，模型设计进行优化以降低模型大小，从而降低大规模模型的内存成本
4. 未来的方向
5. 如何通过全流程整合，实现端到端的全局优化

你将获得：

• 从推荐场景的固有特点出发，从系统工程，算法联合设计的原理角度，分析设计上的考量与决策点
• 有助于听众通过分析工业界和学术界的前沿解决方案，对推荐训练和预测系统有一个相对完整的体系认识
• 便于相关系统的设计人员结合自己遇到的问题，针对性地选择对应解决方案