GPU 容器虚拟化,最大化释放 AI 算力

所属专题:智算平台建设与应用实践

嘉宾 : 乐金明 | 火山引擎火山引擎容器服务技术总监

会议室 : 会议室2(三楼)

讲师介绍

专题演讲嘉宾:乐金明

火山引擎火山引擎容器服务技术总监

目前主要负责大规模集群管理、容器镜像高性能分发,资源弹性和调度等方面。曾任职于 IBM、唯品会、才云科技,拥有 10 年云计算经验。致力于推广云原生技术,实现降本增效。

议题介绍

演讲:GPU 容器虚拟化,最大化释放 AI 算力

以 ChatGPT 为代表的 AIGC 浪潮正在重塑数字内容的生产方式和消费模式,相应的,各行业高算力业务场景对 AI 算力的需求也水涨船高。在有限算力的情况下,通过 GPU 算力上云,驱动云原生 + AI 实现算力资源的快速弹性和高效使用,已经成为 AI 技术落地的新基石。

基于字节跳动内部内核虚拟化隔离 GPU 的技术实践,火山引擎云原生团队结合 Kubernetes 原生 Scheduling Framework,推出自研容器共享 GPU 调度方案 mGPU。提供性能和故障隔离,同时也兼容多种底层 GPU 虚拟化实现以及整卡分配。通过多 Pod 灵活细粒度地共享 GPU,提升算力利用率的同时,节约成本。

演讲提纲:

  • AI 算力瓶颈挑战
  • GPU 共享业务场景诉求
  • mGPU 架构介绍
  • mGPU 共享调度策略
  • 案例分享

你将获得:

  • 了解不同 AI 场景对算力的需求
  • 了解全新 GPU 容器虚拟化方案 mGPU
  • 了解 AI 趋势下该技术的行业价值和未来演进

交通指南

深圳博林天瑞喜来登酒店

Sheraton Shenzhen Nanshan
地址:广东省深圳市南山区留仙大道4088号
如您在购票过程中遇到问题,请扫码咨询票务小助手