大规模容器集群降本增效实践 .pdf

大规模容器集群降本增效实践 QCon 2023全球软件开发北京大会 基于业务负载动态调整资源在集群调度系统中的应用 谭霖 / 美团 基础研发平台 目录 1. 在线集群调度的核心挑战 2. 集群负载自动管理系统 （LAR ）落地实践 3. 在线集群调度的运营实践 QCon 2023全球软件开发北京大会 4. 在线集群调度的演进思考 3 在线集群调度的核心挑战 QCon 2023全球软件开发北京大会 4 集群调度领域介绍 集群调度系统又叫做数据中心资源调度系统，目标是 提升数据中心资源利用率，并为业务方提供自动化运 维能力： QCon 2023全球软件开发北京大会 • 整合数据中心的零散异构服务器为大规模弹性计算资源 池，并结合存储/网络能力，为业务按需分配计算能力。 • 通过集群规模效应，降低计算成本 5 集群调度的挑战与困难 提高在线集群 资源利用率 同时保障应用 服务质量 QCon 2023全球软件开发北京大会 提供有状态服 解决不同业务 务实例的自动 之间的个性化 化变更和异常 调度需求并快 处理 速响应 6 行业资源利用率水平 • 2020年全球数据中心的服务器总量达到1800万台，并且正以每年100万台的速度增长。 • 统计数据表明，目前全球数据中心资源利用率仅为10%~20% ，如此低的资源利用率意味着数据中心大量 的资源浪费，导致目前数据中心的成本效率极低。 QCon 2023全球软件开发北京大会 7 美团业务特征 美团部分在线服务具有明显的双峰特征 QCon 2023全球软件开发北京大会 分配给业务的资源在时间和空间维度存在闲置 8 资源利用率提升难点 资源利用率与服务质量的矛盾 • 在线应用对于资源利用率及其敏感，部署在物理机的服务在共享资源 （CPU、Memory、 IO 、LLC ）使用上存在相互干扰 • 利用率水平越高越容易出现业务服务质量受影响的问题 高频问题场景： QCon 2023全球软件开发北京大会 问题场景一：热点宿主问题 问题场景二：集中调度问题 问题场景三：资源争抢问题 容器扩容到集群的热点宿主，影响业务 某个业务的实例都聚集调度到个别宿主 宿主资源不足时，出现核心服务被非核 服务质量 /交换机下，硬件故障后影响大 心服务干扰，影响性能