深入挖掘构建高效算力基础设施的技术策略,包括云原生技术、容器化、微服务、GPU虚... 展开 >





快手容器云技术中心负责人,曾就职于百度、小米,二十年技术架构经验、八年云原生老兵。负责公司计算领域的全面云原生化,在近离AI全面混部,提升计算资源效率,有丰富的架构和云原生领域经验。
深入挖掘构建高效算力基础设施的技术策略,包括云原生技术、容器化、微服务、GPU虚拟化、在离线混部等架构模式的实际应用案例,推进计算领域基建的高质量发展和创新性探索。
EventMesh 是新一代 Serverless 事件中间件,用于构建分布式 Serverless 化的事件驱动应用,通过插件化的 Connector 和 Function 架构,提供更强大的事件流处理能力,支持更丰富的事件处理和集成场景。
演讲提纲:
听众受益点:
Kubernetes支持基于静态资源规格的调度,同时提供QoS来保障稳定性。通过为不同类型的工作负载提供不同的资源预测模型,基于策略引擎自动为工作负载应用对应的调度配置,结合模拟调度在保证稳定性的前提下最大化的提升集群资源利用率。
演讲提纲:
听众受益点:
随着快手业务不断发展,服务器数量不断攀升,IT基础设施成本与资源利用率低的的问题日益严峻,同时给公司带来了成本、收益多方面挑战。
在离线混部作为降本增效的一大利器,充分挖掘机器资源提升资源供给的同时提升资源利用率,快手厂内针对不同痛点制定针对性的措施:CPU混部、GPU混部、潮汐混部、套餐标准化等,实现公司级的降本增效。本分享侧重介绍在快手落地的 CPU & GPU 在离线混部场景最佳实践。
演讲提纲:
听众受益点:
在降本增效的大背景下,B站容器平台一直在探索如何用好手上的算力资源,本次演讲主要介绍其中的两项重要技术实践:混部和容量管理。混部侧重通过调度、隔离、虚拟化等技术来挖掘内部闲置算力,而容量管理主要通过统一池、弹性伸缩、配额等手段来精细化管控应用和资源池容量。两种技术方案结合落地,才能帮助我们高效利用算力资源,并显著提升整体资源利用率。
演讲提纲:
听众受益点:



