拥抱云原生,数十万规模 GPU 卡的利用率极致优化之路

所属专题:腾讯自研业务大规模云原生实践

嘉宾 : 陈煜东 | 腾讯云异构计算、THPC 研发负责人

会议室 : 唐厅

讲师介绍

专题演讲嘉宾:陈煜东

腾讯云异构计算、THPC 研发负责人

腾讯云异构计算、THPC 研发负责人。2014 年加入腾讯,现负责腾讯云异构计算、裸金属高性能集群等相关研发工作,具有多年的分布式资源调度、大规模集群调度理论与实践经验。

议题介绍

演讲:拥抱云原生,数十万规模 GPU 卡的利用率极致优化之路

在科技和产业进入人工智能和全真互联时代的大背景下,GPU 作为通用的算力加速引擎,业界最强的单加速器算力已经突破 1Pflops。如何配置高性价比的 GPU 弹性容器实例,并进行多任务共享 GPU,充分利用 GPU 算力资源,成为业界共同探索和努力的方向。

在腾讯自研业务全面上云和云原生实践的过程中,面对算力挑战,我们除了配置极致性价比的 GPU 弹性容器实例外,也探索了在云原生架构下进行容器级别的 GPU 共享,从而实现在千万级并发下对业务进行加速,帮助自研业务实现降本增效。本次分享将为大家解密,腾讯自研业务上云和云原生实践背后的 GPU 优化技术及实践。

演讲提纲:

  • 自研 GPU 业务“云原生”历程
  • qGPU 共享技术解读:如何实现容器级细粒度算力切分
  • 基于 Taco 的异构计算加速实践
  • 容器实例的 GPU 混部方案

你将获得:

  • 了解利用 GPU 容器算力切分与共享技术
  • 了解异构计算加速引擎原理
  • 了解容器实例 GPU 混部技术降本方案

交通指南

深圳·大中华喜来登酒店

Sheraton Shenzhen Futian Hotel
地址:中国广东省深圳市福田区福华路福华路大中华国际交易广场
票务小姐姐