随着业务发展，字节跳动发展出了基于 Kubernetes 实现的云原生大规模机器学习离线训练系统。目前已有30%的机器学习训练完成了从 Hadoop 的迁移。

在此背景下，我们将分享包括云原生离线训练系统架构、异构大规模弹性训练、多源海量数据编排等部分内容。着重介绍基于 Operator 实现的多角色、异构、弹性扩缩容机器学习资源管理系统。此外，还将分享深度学习数据框架 data.io 在多数据源混合、流批数据协同、伴生数据预处理、多阶段训练编排的实践经验。

在新的云原生机器学习的离线训练架构下可以更有效的利用机器资源池，统一资源调度入口。同时在 Kubernetes 的支持下实现更灵活的多角色调度，弹性扩缩容，提高资源利用率。新的深度学习数据框架 data.io 架构可以支持更高的数据消费吞吐，实现灵活得离线数据与实时数据混合编排。能够为算法工程师提供随意发挥创意的舞台, 更自由、灵活、高效地进行定制化训练。

演讲提纲：

1. 云原生机器学习训练系统简介
   • 云原生离线训练系统架构
   • 异构大规模弹性训练
   • 多源海量数据编排
2. 机器学习异构资源弹性训练
   • 基于 Operator 实现的多角色、异构、弹性扩缩容机器学习资源管理系统
3. 机器学习多源海量数据编排
   • 深度学习数据框架 data.io 在多数据源混合、流批数据协同、伴生数据预处理、多阶段训练编排的实践经验
4. 总结

你将获得：

• 多角色训练在 Kubernetes 平台上的资源调度实现方案
• 多源数据如何灵活高效地满足训练需求，实时、离线数据如何协同转换等

云原生时代已经来临，云原生的上一代是容器和 POD 管理，未来的云原生是应用管理的时代；云原生的应用管理也和 DevOps 会进行紧密的结合，在应用管理中需要面临很多的挑战，包括：

• 不同场景、不同环境如何定义应用管理的效果
• 云资源如何和应用资源生命周期保持一致，并进行无缝对接
• 应用复杂发布场景如何解决
• 一套应用如何在不同环境中完美运行

演讲提纲：

1. 云原生应用管理的问题和挑战
   • 云资源使用与应用生命周期不一致
   • 复杂的应用配置差异性问题
   • 应用复杂发布的场景
   • 同一应用不同场景和环境的问题
2. 阿里云云原生如何解决复杂应用管理的问题
   • 应用管理平台能解决哪些问题
   • 统一云资源管理服务
   • 应用模型解决复杂应用差异性问题
   • OpenKruise Rollout 处理复杂的应用发布能力
   • Kubernetes 多租和 VC 架构解决安全隔离问题
   • 一套应用多处运行
   • 阿里云云原生应用管理平台架构
3. 阿里云云原生应用管理实践
   • 阿里云应用 DevOps 全生命周期
   • 应用管理中的 IAC 和白屏化的取舍
   • 普通应用管理和复杂应用管理的实践

你将获得：

• 了解云原生应用管理的痛点和解法
• 开源框架在云原生应用管理中如何解决应用定义和应用发布的复杂问题
• 中小企业面向云原生应用管理如何结合云进行资源管理和应用生命周期的打通，面向复杂应用通过 IAC、GitOps 以及白屏产品化如何更好的管理应用

随便云原生技术的发展，行业迎来了一次深刻的变革，我们的开发模式，运维模式发生了根本性的变化。不可变基础设施，编排技术，让传统的开发、运维大量的无效工作节省下来，可以更关注于业务。同时，软件设计模式，组织结构也在进行深刻的变革，这种变革最先开始在云计算领域，各种 PaaS 产品不断涌现。

伴随着云原生技术从云计算领域进入传统的开发领域，AI、IoT 技术也相较于以前有了长远的发展，深度学习的应用越来越成熟，各种 AI 框架的出现，给AI提供了真正能落地的土壤；随着越来越丰富的传感器，规范化的物模型，IoT 的应用更加丰富和规范，已经不是以前简单的在一个精简 OS 开发嵌入式了，已经进入真正的标准化阶段。这些技术相互作用，使得边缘计算成为下一个爆发点，成为中心云之后，下一个巨大的市场。

我们基于云原生技术，通过云边协同和云边网络技术，实现边缘应用管理和边缘自治，将复杂的应用以极低的运维成本自动化的在大量边缘节点进行分发、治理。这些零散分布的智能应用，在边缘不同硬件下，通过构建一个AI适配层 Sangfor Runtime，将 AI 的 Pipeline 部署在边缘端，实现广泛的AI是配合加速，通过打通 IoT 与 AI，实现数据流的统一管理，实现本地智能的管理和处理。

通过边缘计算，实现在边缘的智能处理，我们已经帮助多家合作伙伴服务于他们的客户，节省了大量的人力成本。

演讲提纲：

1. 云原生助力边缘计算蓬勃发展
   • 万物互联下的边缘计算
   • 云原生助力边缘计算蓬勃发展
   • 云原生下边缘计算的面临的挑战
2. 深信服边缘计算的设计和实现
   • 深信服边缘计算总体架构
   • OpenYurt 与边缘自治
   • 深信服云边网络设计
   • 深信服边缘应用治理
   • 深信服边缘数据治理
   • 深信服边缘 AI 推理 Pipeline
   • IoT 安全与边缘安全
3. 深信服边缘计算的应用举例
   • 某园区安全生产方案
   • 某煤矿井下作业方案
   • 某变电站智慧管控方案
   • 水利四乱和水文水质检测

你将获得：

• 云原生落地边缘计算中的主要障碍和问题
• 边缘计算下的架构设计和问题

Apache EventMesh 是一款以事件驱动为核心的分布式服务运行时，通过动态的插件式云原生基础服务层，将应用程序和中间件层分离，并提供了灵活，可靠和快速的事件分发和处理能力，同时可以对事件进行管理，可以作为应用进程的连接层，为企业实现其数字化转型的目标，提供其所需的全套应用进程间通信模式。

本次演讲将会介绍 EventMesh 社区的演进，以及相关的特性，和社区后续的相关规划。

演讲提纲：

1. 社区成立与发展
2. 项目架构与特性
3. 云原生生态下的事件驱动架构模型
4. EventMesh 的应用场景，及其他外部落地方案
5. EventMesh 的相关特性
6. 未来发展与规划

你将获得：

• 了解 Apache EventMesh 社区的发展
• 了解 Apache EventMesh 事件驱动运行时的架构与基本功能特性
• 结合 Apache EventMesh 的特性，探索相关的业务场景

云原生场景下，随着 Service Mesh 的逐步落地，其价值也得到了广泛认可，Service Mesh 的模式也可以扩展到中间件的场景，即多运行时架构（multi-runtime architecture）。业界 Dapr/Layotto 等项目均是多运行时架构的具体实践。

字节根据自身业务场景、需求，结合在落地 Service Mesh 过程中积累的经验，开启 ByteRuntime 项目，作为多运行时架构解决方案。主要目标是构建治理和运维平台、开发框架以及深度的性能优化。

当前已有30+类型的中间件 Sidecar, 具备了完整的治理和平台能力，并在性能优化方面进行了深度探索。

未来将注重运维、监控、Sidecar Framework、Wasm Sidecar 等方向。

演讲提纲：

1. 多运行时架构是云原生微服务架构的发展趋势
   • 业界趋势（Dapr/Layotto等）
   • 字节跳动内部业务需求（从实际需求出发，从普遍性的需求出发）
2. 字节多运行时架构实践（ByteRuntime）
   • 概念介绍及实现架构
   • 核心能力介绍: Sidecar Framework、流量编排、平台化运维、链路追踪
   • 难点详细介绍: 性能、稳定性、运维
   • 落地业务: 30+类型 Sidecar
   • 可借鉴的经验总结
3. 下一步发展规划
   • 深度性能优化
   • wasm-based sidecar: in-process sidecar

你将获得：

• 云原生微服务的新架构、新趋势及落地经验
• 从垂直化（Service Mesh）到平台化（Multi-runtime）的技术发展转型之路
• 多运行时架构中的核心难点及解决方案
• 协助制定听众所在公司的云原生技术发展规划