专题演讲嘉宾:赵英俊

华为昇腾产品线 AI框架规划专家

昇腾AI框架 MindSpore 大模型加速规划。超大规模集群训练加速解决方案规划。

by 赵英俊

华为
昇腾产品线 AI框架规划专家

问题背景:在 ScalingLaw 的驱动下,万卡甚至十万卡集群训练成为大模型训练的标配,超大规模集群如何做到高可靠、高性能、易运维成为 AI Infra 面临的最大挑战。

解决方案:通过算力、通信融合优化,亲和性并行切分策略等手段实现高性能。通过故障预测、算网协同等实现高可靠。通过AI框架、多种调优工具和手段实现超大规模集群的优化运维。

实施后效果:超大规模集群实现性能提升,稳定性提升等。

演讲提纲:

  1. AI Infra 发展趋势和面临的挑战
  2. 超大规模集群需要解决的核心问题
  3. 超大规模集群优化方案与实践

听众受益点:

  • 如何快速组建万卡以上超大规模集群,技术架构、网络、基础设施等
  • 超大规模集群优化点与提升方案,如何有效的应用到当前的 AI Infra 工作中
  • 为未来建设更大算力集群以及优化提供参考路径

交通指南

深圳博林天瑞喜来登酒店

Sheraton Shenzhen Nanshan
地址:广东省深圳市南山区留仙大道4088号
如您在购票过程中遇到问题,请扫码咨询票务小助手