专题演讲嘉宾：肖松

大模型时代的到来，为智算平台建设带来了新的挑战，也由此衍生出一系列工程实践问题。如算力规模的急遽增长带来的集群纳管和运维难度增加问题；训练时长增长，则出错概率变高问题；面向用户的推理时效性问题；以及在人工智能领域知识逐渐深入的背景下，如何同时服务好运维人员和算法工程师的问题。

基于百度多年来在 AI 领域的工程积累，百度百舸团队专为大规模深度学习场景，打造出一套高性能云原生 AI 计算平台，为模型算法专家和运维专家提供全面的集群运维支持和任务全生命周期管理，同时具备训练/推理加速、故障容错、智能故障诊断等高级功能，大幅提升算力使用效率。

演讲提纲：

1. 云原生场景下大模型工程实践痛点
   • 提升资源利用率需求
   • 运维易用性需求
2. 百度百舸平台解决方案
   • 训练与推理加速原理
   • 自动容错机制
   • 存储加速实践
   • 通信库加速实践
   • 资源虚拟化与调度
3. 对于智算平台发展的一些思考
   • 智算平台易用性
   • 智算平台发展展望

听众受益点：

• 了解大模型场景下的工程实践痛点
• 从多角度了解如何提升异构资源利用率
• 了解智算平台的建设与优化实践