问题
大家在使用 Kubernetes 时,会遇到创建Pod失败,这时会分析什么原因导致创建Pod失败?
Pod status 状态解释 [1]
CrashLoopBackOff
:容器退出,kubelet正在将它重启InvalidImageName
:无法解析镜像名称ImageInspectError
:无法校验镜像ErrImageNeverPull
:策略禁止拉取镜像ImagePullBackOff
:镜像正在重试拉取RegistryUnavailable
:连接不到镜像中心ErrImagePull
:通用的拉取镜像出错CreateContainerConfigError
:不能创建kubelet使用的容器配置CreateContainerError
: 创建容器失败m.internalLifecycle.PreStartContainer
:执行hook报错RunContainerError
:启动容器失败PostStartHookError
:执行hook报错ContainersNotInitialized
:容器没有初始化完毕ContainersNotReady
:容器没有准备完毕ContainerCreating
:容器创建中PodInitializing
:pod 初始化中DockerDaemonNotReady
:docker还没有完全启动NetworkPluginNotReady
:网络插件还没有完全启动
容器 Exit Code
容器退出状态码的区间 [2]
- 必须在
0-255
之间 - 0 表示正常退出
- 外界中断将程序退出的时候状态码区间在
129-255
,(操作系统给程序发送中断信号,比如kill -9
是SIGKILL
,ctrl+c
是SIGINT
) - 一般程序自身原因导致的异常退出状态区间在
1-128
(这只是一般约定,程序如果一定要用129-255的状态码也是可以的)
注意:有时我们会看到代码中有 exit(-1),这时会自动做一个转换,最终输出的结果还是会在
0-255
之间。
转换公式如下,code
表现退出的状态码:
当指定的退出时状态码为负数
,转换公式如下:
1 | 256 - (|code| % 256) |
当指定的退出时状态码为正数
,转换公式如下:
1 | code % 256 |
下面是异常状态码区间表,具体信息可以参考链接 http://tldp.org/LDP/abs/html/exitcodes.html
查看 Pod 退出状态码
1 | $ kubectl describe pods ${pod-name} |
下面 Pod 退出状态码是为0,说明容器是正常退出的。
常见的容器退出状态码解释 [3]
EXIT CODE 0
- 退出代码0表示特定容器没有附加前台进程
- 该退出代码是所有其他后续退出代码的例外
- 这不一定意味着发生了不好的事情。如果开发人员想要在容器完成其工作后自动停止其容器,则使用此退出代码。比如:
kubernetes job
在执行完任务后正常退出码为 0
EXIT CODE 1
- 程序错误,或者Dockerfile中引用不存在的文件,如 entrypoint中引用了错误的包
- 程序错误可以很简单,例如 “除以0”,也可以很复杂,比如空引用或者其他程序 crash
EXIT CODE 137
- 表明容器收到了
SIGKILL
信号,进程被杀掉,对应kill -9 - 引发SIGKILL的是docker kill。这可以由用户或由docker守护程序来发起,手动执行:docker kill
137
比较常见,如果 pod 中的limit 资源设置较小,会运行内存不足导致OOMKilled
,此时state 中的 ”OOMKilled” 值为true,你可以在系统的dmesg -T
中看到 oom 日志
EXIT CODE 139
- 表明容器收到了
SIGSEGV
信号,无效的内存引用,对应kill -11 - 一般是代码有问题,或者 docker 的基础镜像有问题
EXIT CODE 143
- 表明容器收到了
SIGTERM
信号,终端关闭,对应kill -15 - 一般对应
docker stop
命令 - 有时docker stop也会导致Exit Code 137。发生在与代码无法处理
SIGTERM
的情况下,docker进程等待十秒钟然后发出SIGKILL
强制退出。
不常用的一些 EXIT CODE
Exit Code 126
: 权限问题或命令不可执行Exit Code 127
: Shell脚本中可能出现错字且字符无法识别的情况Exit Code 1 或 255
:因为很多程序员写异常退出时习惯用 exit(1) 或 exit(-1),-1 会根据转换规则转成 255。这个一般是自定义 code,要看具体逻辑。
小结
在排查Pod为什么创建失败时,首先看 Pod 容器退出状态码是非常有用的,能快速的定位问题原因。