阿里云上深度学习建模实践

所属专题:机器学习与AI技术提能增效应用

嘉宾 : 程孟力 | 阿里云计算平台PAI/算法专家

会议室 : 首府宴会厅5

讲师介绍

专题演讲嘉宾:程孟力

阿里云计算平台PAI/算法专家

阿里云 OCR 产品算法负责人,阿里云深度学习推荐算法 EasyRec 负责人。

议题介绍

演讲:阿里云上深度学习建模实践

深度学习在多个领域,图像、语音、NLP、推荐等都带来了巨大的效果提升。但是如何快速的运用深度学习解决业务问题,还存在比较的问题。大家都面临的问题是成本高,风险大,落地困难,其原因在于: 难以标准化, 没有一个通用的模型能够解决所有的问题;可迁移性差,不同场景的建模方法存在比较大的差异;调参困难,参数的设置对于最终的效果影响很大,但是参数非常多,调参需要对模型有比较深入的理解;训练和部署困难,需要的资源多,成本高;数据缺乏,尤其缺乏标注好的数据,标注成本比较高。

阿里云 PAI 在解决以上问题做出了一些努力,帮助集团内的算法人员和云上的算法人员来降本增效。

演讲提纲:

  1. 标准化模板建立:
    • OCR识别,语音识别ASR,推荐算法,多模态算法
    • EasyVision / EasyTransfer / EasyRec
  2. 超参搜索/网络搜索:特征组合方式(Fives)
  3. 针对训练和部署困难的解决办法:
    • Tensor 稀疏通信
    • 混合精度训练和 int8 推理
    • 模型剪枝
    • 大规模 Embedding
    • 离线在线特征一致性(特别是实时特征)
    • 自动图优化
  4. 新建模方式探索:
    • 迁移学习
    • 半监督学习/active learning
    • 小样本学习

你将获得:

  1. 利用 PAI 平台快速解决业务问题,包括视觉、推荐等;
  2. 跟进最新的深度学习算法进展。
票务小姐姐