互动直播场景下的 AI 基础设施建设

所属专题:高性能计算与业务结合

嘉宾 : 江成 | 虎牙基础保障部/AI平台负责人

讲师介绍

专题演讲嘉宾:江成

虎牙基础保障部/AI平台负责人

2013年以前曾就职于华为、腾讯等公司,主要从事 IPTV 机顶盒中间件平台、手机 App 等开发工作;2013年加入YY,负责YY浏览器的双内核渲染引擎研发,后虎牙直播从YY直播分拆独立运营,加入虎牙直播从事 3D 游戏渲染引擎研发工作。2018年初开始转型 AI 领域,负责虎牙 AI 平台研发,初步完成了虎牙 AI 基础设施从0到1的建设。

议题介绍

演讲:互动直播场景下的 AI 基础设施建设

2018年5月虎牙在美国上市,在这之前基于深度学习的推荐系统、图像CV技术已经在公司的各直播业务中得到应用,但是随着公司业务的井喷式增长,原有的小作坊式 AI 开发模式已经难以适应快速增长的 AI 应用场景,以及日益提升的系统复杂度需求,虎牙 AI 平台应运而生。针对大规模标注数据交付难的问题,虎牙 AI 平台在引入外部标注团队的同时,开发了 AI 辅助标注技术,提升标注的人均和平台交付效率。

在模型生产环节,虎牙 AI 平台提供了多种产品形态满足不同 AI 应用、不同阶段的需求,比如 Notebook 用于数据处理、模型构建,工作流平台满足模型自动化迭代的需求,大规模分布式训练平台解决模型训练时间过长的痛点。

最后,虎牙AI平台的跨平台推理加速引擎,帮助算法工程师屏蔽底层复杂的异构计算环境,实现跨平台的模型优化和一键部署。

演讲提纲:

  1. AI 技术在直播场景中的应用及面临的挑战
    • AI 应用
    • 面临挑战及基础设施侧的应对之道
  2. 虎牙 AI 平台技术架构演进
    • 私有云架构
    • 混合云架构
  3. 一站式机器学习平台建设
    • 数据标注
      • 百万级图片标注数据交付
      • 上万小时有效时长语音标注数据交付
    • 模型训练
      • 数据、建模、训练协同解决方案
      • 大规模分布式训练
    • 跨平台推理加速引擎
      • 异构推理平台,支持 CPU、GPU、NPU 等
      • 模型优化引擎
      • 一键全球模型分发、部署
  4. 规划和展望

听众受益:

  1. 机器学习端到端的工作流程
  2. 混合云架构下的 AI 基础设施建设
  3. 互动直播场景的 AI 工程实践

InfoQ助你疫后复工,提升战力!全年会议门票最低5折起,立即查看>>

想要批量报名或更多优惠?
立即联系票务小姐姐 Ring
或致电:+86-15600537884