移动端深度学习平台架构实践

所属专题:大前端趋势

嘉宾 : 曹佳鑫 | 字节跳动iOS资深工程师

会议室 : 演播厅

讲师介绍

专题演讲嘉宾:曹佳鑫

字节跳动iOS资深工程师

移动端深度学习平台负责人,长期从事包括视觉、语音领域的深度学习相关工作。移动端深度学习平台针对客户端侧 AI 智能应用的推理和训练的落地,主要包括算法 CPU / GPU 调度、神经网络封装、端上训练,该平台目前服务于部分字节跳动产品中的视觉、NLP 相关场景。

议题介绍

演讲:移动端深度学习平台架构实践

随着深度学习技术不断成熟以及移动设备的算力不断提升,移动端 AI 平台逐渐体现出了云端不具有的优势:实时性、用户隐私安全性、无需云端额外资源开销。

字节跳动内部大量的业务线都对深度学习有着强烈的需求,而业务场景的差异化则驱动了我们打造一个通用的移动端深度学习框架,支持模型端上推理、分布式端上训练、个性化定制训练(例如 Apple Face ID)。目前该深度学习平台支撑字节跳动部分 CV、NLP 模型的端上推理训练。

本次演讲会重点介绍深度学习平台的整体架构,技术细节,以及基于平台的业务案例,过程中克服的技术问题和解决思路,希望对业界同学有帮助。

演讲提纲:

  1. 深度学习在移动端部署的问题和挑战
  2. 移动端深度学习平台整体架构
    • 模型推理、训练
    • 硬件加速
    • 模型量化
    • 对比其他平台的差异化特点
  3. 基于平台的业务实践(案例)
    • 基于客户端侧 AI 的皮肤医学检测实践
    • 基于客户端侧 AI 的即时翻译功能
  4. 演进方向和规划

听众受益点:

  1. 了解移动端深度学习平台整体架构
  2. 了解移动端模型训练闭环
  3. 介绍深度学习的一些前沿技术
想要批量报名或更多优惠?
立即联系票务小姐姐 Ring
或致电:+86-15600537884