Kubernetes专栏

Kubernetes：Job剖析

2021-03-28  本文已影响0人  wyatt_plus

一. 简介

Deployment、StatefulSet，以及 DaemonSet 这三个主要编排的对象，都是“在线业务”，都属于Long Running Task（长作业）。
但是有一类作业显然不满足这样的条件，这就是“离线业务”，叫作 Batch Job（计算业务）。针对这种在计算完成后就直接退出的业务，可以使用我们今天的重点：Job来解决。

关于本文的项目的代码，都放于链接：GitHub资源

二. Job

2.1 案例

如下，我们创建一个计算pi后面100位的案例，需要执行10个这样的任务。
demo-job.yaml 文件如下：

apiVersion: batch/v1
kind: Job
metadata:
  name: demo-job
spec:
  parallelism: 3
  completions: 10
  template:
    spec:
      containers:
      - name: pi
        image: resouer/ubuntu-bc
        command: ["sh", "-c", "echo 'scale=100; 4*a(1)' | bc -l "]
      restartPolicy: Never
  backoffLimit: 4
  activeDeadlineSeconds: 300

2.2 检查Selector

运行完毕后，我们将看到如下的状态：

kubectl describe jobs/demo-job
# result
Name:                     demo-job
Namespace:                default
Selector:                 controller-uid=bde35f54-a1f8-4f1b-845f-d42e9c570f23
Labels:                   controller-uid=bde35f54-a1f8-4f1b-845f-d42e9c570f23
                          job-name=demo-job
Annotations:              <none>
Parallelism:              3
Completions:              10
Start Time:               Sat, 27 Mar 2021 23:58:51 +0000
Completed At:             Sat, 27 Mar 2021 23:59:11 +0000
Duration:                 20s
Active Deadline Seconds:  300s
Pods Statuses:            0 Running / 10 Succeeded / 0 Failed
result

可以看到，这个 Job 对象在创建后，它的 Pod 模板，被自动加上了一个 controller-uid=< 一个随机字符串 > 这样的 Label。而这个 Job 对象本身，则被自动加上了这个 Label 对应的 Selector，从而 保证了 Job 与它所管理的 Pod 之间的匹配关系。之所以要使用这种携带了 UID 的 Label，就是为了避免不同 Job 对象所管理的 Pod 发生重合。

2.3 参数

关于上面的YAML参数，详细分析如下：

三. Job Controller

3.1 原理

Job Controller 控制的对象就是 Pod。
其次，Job Controller 在控制循环中进行的调谐（Reconcile）操作，是根据实际在 Running 状态 Pod 的数目、已经成功退出的 Pod 的数目，以及 parallelism、completions 参数的值共同计算出在这个周期里，应该创建或者删除的 Pod 数目，然后调用 Kubernetes API 来执行这个操作。

如果在这次调谐周期里，Job Controller 发现实际在 Running 状态的 Pod 数目，比 parallelism 还大，那么它就会删除一些 Pod，使两者相等。

Job Controller 实际上控制了作业执行的并行度，以及总共需要完成的任务数这两个重要参数。而在实际使用时，我们需要根据作业的特性，来决定并行度（parallelism）和任务数（completions）的合理取值。

3.2 参数

在 Job 对象中，负责并行控制的参数有两个：

3.3 场景

3.3.1 parallelism和completions都确定

在这种模式下使用 Job 对象，completions 和 parallelism 这两个字段都应该使用默认值 1，而不应该由我们自行设置。
一般实际落地方案就是：外部管理器 +Job 模板。作业 Pod 的并行控制，应该完全交由外部工具来进行管理（比如，KubeFlow）。

3.3.2 parallelism不确定，completions确定

当只关心最后是否有指定数目（spec.completions）个任务成功退出，而不关系任务并行度时。
一般采用：外部MQ+Job。利用确定的Pod数，主动去消费MQ里面的消息达到目标数量即可。
例如，每个 Pod 只需要将任务信息读取出来，处理完成，然后退出即可。而作为用户，只关心最终一共有 10 个计算任务启动并且退出，只要这个目标达到，就认为整个 Job 处理完成了。

3.3.3 parallelism确定，completions不确定

由于任务数目的总数不固定，所以每一个 Pod 必须能够知道，什么时候可以退出。比如，借助上面例子，简单地以“队列为空”，作为任务全部完成的标志。
在这种情况下，难点在于任务的总数是未知的，所以不仅需要一个工作队列来负责任务分发，还需要能够判断工作队列已经为空。

四. Cron Job

4.1 原理

此处先看demo-cronjob.yaml文件：

apiVersion: batch/v1beta1
kind: CronJob
metadata:
  name: demo-cronjob
spec:
  schedule: "*/5 * * * *"
  jobTemplate:
    spec:
      template:
        spec:
          containers:
          - name: hello
            image: busybox
            args:
            - /bin/sh
            - -c
            - date; echo Hello World
          restartPolicy: OnFailure
  concurrencyPolicy: Replace
  startingDeadlineSeconds: 500

在这个 YAML 文件中，最重要的关键词就是 jobTemplate，CronJob 是一个 Job 对象的控制器。CronJob 与 Job 的关系，正如同 Deployment 与 ReplicaSet 的关系一样。

4.2 Unix Cron

CronJob 是一个专门用来管理 Job 对象的控制器。只不过，它创建和删除 Job 的依据，是 schedule 字段定义的、一个标准的Unix Cron格式的表达式。
Cron 表达式中的五个部分分别代表：分钟、小时、日、月、星期。

*/5 * * * * 这个 Cron 表达式里 */5 中的 * 表示从 0 开始，/ 表示“每”，1 表示偏移量。含义就是：从 0 开始，每 5 个时间单位执行一次。

关于上面的任务，执行如下俩条指令可以查看结果(等待5min)：

kubectl get jobs
kubectl get cronjob demo-cronjob

结果如下：


cron job

4.3 并发策略

由于定时任务的特殊性，很可能某个 Job 还没有执行完，另外一个新 Job 就产生了。这时候，你可以通过 spec.concurrencyPolicy字段来定义具体的处理策略。
concurrencyPolicy 有如下三种配置参数：

如果由于任何原因错过了计划的时间，则以秒为单位的可选截止期限，用于开始工作。当在指定的时间窗口内，miss 的数目达到 100 时，那么 CronJob 会停止再创建这个 Job。这个时间窗口，可以由 spec.startingDeadlineSeconds 字段指定。
在上面例子中， startingDeadlineSeconds=500，意味着在过去 500 s 里，如果 miss 的数目达到了 100 次，那么这个 Job 就不会被创建执行了。

四. 总结

关于Job，Cron Job 和 Job Controller 这三者，都是采用了控制器模式设计，利用对象管理对象，是一种树状的层级管理。这点与Deployment，ReplicaSet和Deployment Controller之间的设计理念一致。
用一个对象控制另一个对象，是 Kubernetes 编排的精髓所在！

欢迎收藏个人博客: Wyatt's Blog ，非常感谢～

Reference

https://kubernetes.io/docs/concepts/workloads/pods/pod-lifecycle/#restart-policy

上一篇下一篇

猜你喜欢

热点阅读