移动端深度学习平台负责人,长期从事包括视觉、语音领域的深度学习相关工作。移动端深度学习平台针对客户端侧 AI 智能应用的推理和训练的落地,主要包括算法 CPU / GPU 调度、神经网络封装、端上训练,该平台目前服务于部分字节跳动产品中的视觉、NLP 相关场景。
移动端深度学习平台负责人,长期从事包括视觉、语音领域的深度学习相关工作。移动端深度学习平台针对客户端侧 AI 智能应用的推理和训练的落地,主要包括算法 CPU / GPU 调度、神经网络封装、端上训练,该平台目前服务于部分字节跳动产品中的视觉、NLP 相关场景。
随着深度学习技术不断成熟以及移动设备的算力不断提升,移动端 AI 平台逐渐体现出了云端不具有的优势:实时性、用户隐私安全性、无需云端额外资源开销。
字节跳动内部大量的业务线都对深度学习有着强烈的需求,而业务场景的差异化则驱动了我们打造一个通用的移动端深度学习框架,支持模型端上推理、分布式端上训练、个性化定制训练(例如 Apple Face ID)。目前该深度学习平台支撑字节跳动部分 CV、NLP 模型的端上推理训练。
本次演讲会重点介绍深度学习平台的整体架构,技术细节,以及基于平台的业务案例,过程中克服的技术问题和解决思路,希望对业界同学有帮助。
演讲提纲:
听众受益点: