标签：Kubernetes 调度 打分 均衡 Pod K8s 节点 资源
在近期的工作中，我们发现 K8s 集群中有些节点资源使用率很高，有些节点资源使用率很低，我们尝试重新部署应用和驱逐 Pod，发现并不能有效解决负载不均衡问题。在学习了 Kubernetes 调度原理之后，重新调整了 Request 配置，引入了调度插件，才最终解决问题。这篇就来跟大家分享 Kubernetes 资源和调度相关知识，以及如何解决 K8s 调度不均衡问题
Kubernetes 的资源模型
在 Kubernetes 里，Pod 是最小的原子调度单位。这也就意味着，所有跟调度和资源管理相关的属性都应该是属于 Pod 对象的字段。而这其中最重要的部分，就是 Pod 的 CPU 和内存配置。像 CPU 这样的资源被称作“可压缩资源”（compressible resources）。它的典型特点是，当可压缩资源不足时，Pod 只会“饥饿”，但不会退出。而像内存这样的资源，则被称作“不可压缩资源（incompressible resources）。当不可压缩资源不足时，Pod 就会因为 OOM（Out-Of-Memory）被内核杀掉。Pod 可以由多个 Container 组成，所以 CPU 和内存资源的限额，是要配置在每个 Container 的定义上的。这样，Pod 整体的资源配置，就由这些 Container 的配置值累加得到。Kubernetes 里 Pod 的 CPU 和内存资源，实际上还要分为 limits 和 requests 两种情况：
spec.containers[].resources.limits.cpu spec.containers[].resources.limits.memory spec.containers[].resources.requests.cpu spec.containers[].resources.requests.memory
这两者的区别其实非常简单：在调度的时候，kube-scheduler 只会按照 requests 的值进行调度。而在真正设置 Cgroups 限制的时候，kubelet 则会按照 limits 的值来进行设置。这是因为在实际场景中，大多数作业使用到的资源其实远小于它所请求的资源限额，这种策略能有效的提高整体资源的利用率。
Kubernetes 的服务质量
服务质量 QoS 的英文全称为 Quality of Service。在 Kubernetes 中，每个 Pod 都有个 QoS 标记，通过这个 Qos 标记来对 Pod 进行服务质量管理，它确定 Pod 的调度和驱逐优先级。在 Kubernetes 中，Pod 的 QoS 服务质量一共有三个级别：
- Guaranteed：当 Pod 里的每一个 Container 都同时设置了 requests 和 limits，并且 requests 和 limits 值相等的时候，这个 Pod 就属于 Guaranteed 类别 。
- Burstable：而当 Pod 不满足 Guaranteed 的条件，但至少有一个 Container 设置了 requests。那么这个 Pod 就会被划分到 Burstable 类别。
- BestEffort：而如果一个 Pod 既没有设置 requests，也没有设置 limits，那么它的 QoS 类别就是 BestEffort。
具体地说，当 Kubernetes 所管理的宿主机上不可压缩资源短缺时，就有可能触发 Eviction 驱逐。目前，Kubernetes 为你设置的 Eviction 的默认阈值如下所示：
memory.available<100Mi nodefs.available<10% nodefs.inodesFree<5% imagefs.available<15%
当宿主机的 Eviction 阈值达到后，就会进入 MemoryPressure 或者 DiskPressure 状态，从而避免新的 Pod 被调度到这台宿主机上，然后 kubelet 会根据 QoS 的级别来挑选 Pod 进行驱逐，具体驱逐优先级是：BestEffort -> Burstable -> Guaranteed。QoS 的级别是通过 Linux 内核 OOM 分数值来实现的，OOM 分数值取值范围在-1000 ~1000 之间。在 Kubernetes 中，常用服务的 OOM 的分值如下：
-1000 => sshd等进程 -999 => Kubernetes 管理进程 -998 => Guaranteed Pod 0 => 其他进程 0 2~999 => Burstable Pod 1000 => BestEffort Pod
OOM 分数越高，就代表这个 Pod 的优先级越低，在出现资源竞争的时候，就越早被杀掉，分数为-999 和-1000 的进程永远不会因为 OOM 而被杀掉。
划重点：如果期望 Pod 尽可能的不被驱逐，就应当把 Pod 里的每一个 Container 的 requests 和 limits 都设置齐全，并且 requests 和 limits 值要相等。
Kubernetes 的调度策略
kube-scheduler 是 Kubernetes 集群的默认调度器，它的主要职责是为一个新创建出来的 Pod，寻找一个最合适的 Node。kube-scheduler 给一个 Pod 做调度选择包含三个步骤：
- 过滤：调用一组叫作 Predicate 的调度算法，将所有满足 Pod 调度需求的 Node 选出来；
- 打分：调用一组叫作 Priority 的调度算法，给每一个可调度 Node 进行打分；
- 绑定：调度器将 Pod 对象的 nodeName 字段的值，修改为得分最高的 Node。
Kubernetes 官方过滤和打分编排源码：https://github.com/kubernetes/kubernetes/blob/281023790fd27eec7bfaa7e26ff1efd45a95fb09/pkg/scheduler/framework/plugins/legacy_registry.go
过滤（Predicate）
过滤阶段，首先遍历全部节点，过滤掉不满足条件的节点，属于强制性规则，这一阶段输出的所有满足要求的 Node 将被记录并作为第二阶段的输入，如果所有的节点都不满足条件，那么 Pod 将会一直处于 Pending 状态，直到有节点满足条件，在这期间调度器会不断的重试。调度器会根据限制条件和复杂性依次进行以下过滤检查，检查顺序存储在一个名为 PredicateOrdering() 的函数中，具体如下表格：
可以看出，Kubernetes 正在逐步移除某个具体云服务商的服务的相关代码，而使用接口（Interface）来扩展功能。
打分（Priority）
打分阶段，通过 Priority 策略对可用节点进行评分，最终选出最优节点。具体是用一组打分函数处理每一个可用节点，每一个打分函数会返回一个 0~100 的分数，分数越高表示节点越优， 同时每一个函数也会对应一个权重值。将每个打分函数的计算得分乘以权重，然后再将所有打分函数的得分相加，从而得出节点的最终优先级分值。权重可以让管理员定义优选函数倾向性的能力，其计算优先级的得分公式如下：
finalScoreNode = (weight1 * priorityFunc1) + (weight2 * priorityFunc2) + … + (weightn * priorityFuncn)
全部打分函数如下表格所示：
我自己遇到的是“多节点调度资源不均衡问题”，所以跟节点资源相关的打分算法是我关注的重点。1、BalancedResourceAllocation（默认开启），它的计算公式如下所示：
score = 10 - variance(cpuFraction,memoryFraction,volumeFraction)*10
其中，每种资源的 Fraction 的定义是 ：Pod 的 request 资源 / 节点上的可用资源。而 variance 算法的作用，则是计算每两种资源 Fraction 之间的“距离”。而最后选择的，则是资源 Fraction 差距最小的节点。所以说，BalancedResourceAllocation 选择的，其实是调度完成后，所有节点里各种资源分配最均衡的那个节点，从而避免一个节点上 CPU 被大量分配、而 Memory 大量剩余的情况。2、LeastRequestedPriority（默认开启），它的计算公式如下所示：
score = (cpu((capacity-sum(requested))10/capacity) + memory((capacity-sum(requested))10/capacity))/2
可以看到，这个算法实际上是根据 request 来计算出空闲资源（CPU 和 Memory）最多的宿主机。3、MostRequestedPriority（默认不开启），它的计算公式如下所示：
score = (cpu(10 sum(requested) / capacity) + memory(10 sum(requested) / capacity)) / 2
在 ClusterAutoscalerProvider 中替换 LeastRequestedPriority，给使用多资源的节点更高的优先级。
你可以修改 /etc/kubernetes/manifests/kube-scheduler.yaml 配置，新增 v=10 参数来开启调度打分日志。
自定义配置
如果官方默认的过滤和打分策略，无法满足实际业务，我们可以自定义配置：
- 调度策略：允许你修改默认的过滤 断言 (Predicates) 和打分 优先级 (Priorities) 。
- 调度配置：允许你实现不同调度阶段的插件， 包括：QueueSort, Filter, Score, Bind, Reserve, Permit 等等。你也可以配置 kube-scheduler 运行不同的配置文件。
解决 K8s 调度不均衡问题
一、按实际用量配置 Pod 的 requeste
从上面的调度策略可以得知，资源相关的打分算法 LeastRequestedPriority 和 MostRequestedPriority 都是基于 request 来进行评分，而不是按 Node 当前资源水位进行调度（在没有安装 Prometheus 等资源监控相关组件之前，kube-scheduler 也无法实时统计 Node 当前的资源情况），所以可以动态采 Pod 过去一段时间的资源使用率，据此来设置 Pod 的 Request，才能契合 kube-scheduler 默认打分算法，让 Pod 的调度更均衡。
二、为资源占用较高的 Pod 设置反亲和
对一些资源使用率较高的 Pod ，进行反亲和，防止这些项目同时调度到同一个 Node，导致 Node 负载激增。
三、引入实时资源打分插件 Trimaran
但在实际项目中，并不是所有情况都能较为准确的估算出 Pod 资源用量，所以依赖 request 配置来保障 Pod 调度的均衡性是不准确的。那有没有一种通过 Node 当前实时资源进行打分调度的方案呢？Kubernetes 官方社区 SIG 小组提供的调度插件 Trimaran[1] 就具备这样的能力。
Trimaran 官网地址：https://github.com/kubernetes-sigs/scheduler-plugins/tree/master/pkg/trimaran
Trimaran 是一个实时负载感知调度插件，它利用 load-watcher 获取程序资源利用率数据。目前，load-watcher 支持三种度量工具：Metrics Server、Prometheus 和 SignalFx。
- Kubernetes Metrics Server：是 kubernetes 监控体系中的核心组件之一，它负责从 kubelet 收集资源指标，然后对这些指标监控数据进行聚合 (依赖 kube-aggregator)，并在 Kubernetes Apiserver 中通过 Metrics API( /apis/metrics.k8s.io/) 公开暴露它们；
- Prometheus Server：是一款基于时序数据库的开源监控告警系统，非常适合 Kubernetes 集群的监控。基本原理是通过 Http 协议周期性抓取被监控组件的状态，任意组件只要提供对应的 Http 接口就可以接入监控。不需要任何 SDK 或者其他的集成过程。这样做非常适合做虚拟化环境监控系统，比如 VM、Docker、Kubernetes 等。
- SignalFx：是一家基础设施及应用实时云监控服务商，它采用了一个低延迟、可扩展的流式分析引擎，以监视微服务（松散耦合、独立部署的应用组件集合）和协调的容器环境（如 Kubernetes 和 Docker）。官网地址：https://www.splunk.com/en_us/investor-relations/acquisitions/signalfx.html
Trimaran 的架构如下：
可以看到在 kube-scheduler 打分的过程中，Trimaran 会通过 load-watcher 获取当前 node 的实时资源水位，然后据此打分从而干预调度结果。
Trimaran 打分原理：https://github.com/kubernetes-sigs/scheduler-plugins/tree/master/kep/61-Trimaran-real-load-aware-scheduling
四、引入重平衡工具 descheduler
从 kube-scheduler 的角度来看，调度程序会根据其当时对 Kubernetes 集群的资源描述做出最佳调度决定，但调度是静态的，Pod 一旦被绑定了节点是不会触发重新调度的。虽然打分插件可以有效的解决调度时的资源不均衡问题，但每个 Pod 在长期的运行中所占用的资源也是会有变化的（通常内存会增加）。假如一个应用在启动的时候只占 2G 内存，但运行一段时间之后就会占用 4G 内存，如果这样的应用比较多的话，Kubernetes 集群在运行一段时间后就可能会出现不均衡的状态，所以需要重新平衡集群。除此之外，也还有一些其他的场景需要重平衡：
- 集群添加新节点，一些节点不足或过度使用；
- 某些节点发生故障，其 pod 已移至其他节点；
- 原始调度决策不再适用，因为在节点中添加或删除了污点或标签，不再满足 pod/node 亲和性要求。
当然我们可以去手动做一些集群的平衡，比如手动去删掉某些 Pod，触发重新调度就可以了，但是显然这是一个繁琐的过程，也不是解决问题的方式。为了解决实际运行中集群资源无法充分利用或浪费的问题，可以使用 descheduler 组件对集群的 Pod 进行调度优化，descheduler 可以根据一些规则和配置策略来帮助我们重新平衡集群状态，其核心原理是根据其策略配置找到可以被移除的 Pod 并驱逐它们，其本身并不会进行调度被驱逐的 Pod，而是依靠默认的调度器来实现，descheduler 重平衡原理可参见官网。
descheduler 官网地址：https://github.com/kubernetes-sigs/descheduler
引用链接
https://mp.weixin.qq.com/s/e6jh61iqIJPAMyjwSehL5g
Trimaran: https://github.com/kubernetes-sigs/scheduler-plugins/blob/master/pkg/trimaran/README.md
kubernetes 官网: https://kubernetes.io/zh-cn/
k8s 调度不均匀问题解决: https://blog.csdn.net/trntaken/article/details/122377896
最全的 K8s 调度策略: https://cloud.tencent.com/developer/article/1644857
K8s 之 QoS: https://blog.csdn.net/zenglingmin8/article/details/121152679
当一个 Pod 被调度时，k8s 内部发生了什么？: https://www.bbsmax.com/A/n2d9Neo0zD/
K8s 学习笔记-调度介绍: https://www.cnblogs.com/centos-python/articles/10884738.html
Kubernetes 调度均衡器 Descheduler 使用: https://zhuanlan.zhihu.com/p/475102379
标签：Kubernetes,调度,打分,均衡,Pod,K8s,节点,资源 来源： https://www.cnblogs.com/fengjian2016/p/16408738.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。