java

JVM系列(4) JVM常见问题

2020-02-16  本文已影响0人  suxin1932

1. OOM常见原因

1. Java heap space
当堆内存(Heap Space)没有足够空间存放新创建的对象时,
就会抛出 java.lang.OutOfMemoryError: Java heap space错误.
根据实际生产经验,可以对程序日志中的 OutOfMemoryError 配置关键字告警,一经发现,立即处理。
#原因分析
Java heap space 错误产生的常见原因可以分为以下几类:
>> 请求创建一个超大对象,通常是一个大数组。
>> 超出预期的访问量/数据量,通常是上游系统请求流量飙升,
常见于各类促销/秒杀活动,可以结合业务流量指标排查是否有尖状峰值。
>> 过度使用终结器(Finalizer),该对象没有立即被 GC。
>> 内存泄漏(Memory Leak),大量对象引用没有释放,JVM 无法对其自动回收,常见于使用了 File 等资源没有回收。
#解决方案
针对大部分情况,通常只需要通过 -Xmx 参数调高 JVM 堆内存空间即可。
如果仍然没有解决,可以参考以下情况做进一步处理:
>> 如果是超大对象,可以检查其合理性,比如是否一次性查询了数据库全部结果,而没有做结果数限制。
>> 如果是业务峰值压力,可以考虑添加机器资源,或者做限流降级。
>> 如果是内存泄漏,需要找到持有的对象,修改代码设计,比如关闭没有释放的连接。

2. GC overhead limit exceeded
当 Java 进程花费 98% 以上的时间执行 GC,但只恢复了不到 2% 的内存,
且该动作连续重复了 5 次,就会抛出 java.lang.OutOfMemoryError:GC overhead limit exceeded 错误。
简单地说,就是应用程序已经基本耗尽了所有可用内存, GC 也无法回收。
此类问题的原因与解决方案跟 Java heap space 非常类似,可以参考上文。

3. Permgen space
该错误表示永久代(Permanent Generation)已用满,
通常是因为加载的 class 数目太多或体积太大。
#原因分析
永久代存储对象主要包括以下几类:
>> 加载/缓存到内存中的 class 定义,包括类的名称,字段,方法和字节码;
>> 常量池;
>> 对象数组/类型数组所关联的 class;
>> JIT 编译器优化后的 class 信息。
PermGen 的使用量与加载到内存的 class 的数量/大小正相关。
#解决方案
根据 Permgen space 报错的时机,可以采用不同的解决方案,如下所示:
>> 程序启动报错,修改 -XX:MaxPermSize 启动参数,调大永久代空间。
>> 应用重新部署时报错,很可能是没有应用没有重启,导致加载了多份 class 信息,只需重启 JVM 即可解决。
>> 运行时报错,应用程序可能会动态创建大量 class,而这些 class 的生命周期很短暂,
但是 JVM 默认不会卸载 class,可以设置 
-XX:+CMSClassUnloadingEnabled 和 
-XX:+UseConcMarkSweepGC 这两个参数允许 JVM 卸载 class。
>> 如果上述方法无法解决,可以通过 jmap 命令 dump 内存对象 
jmap -dump:format=b,file=dump.hprof <process-id> ,
然后利用工具功能逐一分析开销最大的 classloader 和重复 class。

4. Metaspace
JDK 1.8 使用 Metaspace 替换了永久代(Permanent Generation),
该错误表示 Metaspace 已被用满,通常是因为加载的 class 数目太多或体积太大。
此类问题的原因与解决方法跟 Permgen space 非常类似,可以参考上文。
需要特别注意的是调整 Metaspace 空间大小的启动参数为 -XX:MaxMetaspaceSize。

5. Unable to create new native thread
每个 Java 线程都需要占用一定的内存空间,
当 JVM 向底层操作系统请求创建一个新的 native 线程时,
如果没有足够的资源分配就会报此类错误。
#原因分析
JVM 向 OS 请求创建 native 线程失败,就会抛出 Unable to create new native thread,常见的原因包括以下几类:
>> 线程数超过操作系统最大线程数 ulimit 限制。
>> 线程数超过 kernel.pid_max(只能重启)。
>> native 内存不足。
#该问题发生的常见过程主要包括以下几步:
>> JVM 内部的应用程序请求创建一个新的 Java 线程;
>> JVM native 方法代理了该次请求,并向操作系统请求创建一个 native 线程;
>> 操作系统尝试创建一个新的 native 线程,并为其分配内存;
>> 如果操作系统的虚拟内存已耗尽,或是受到 32 位进程的地址空间限制,操作系统就会拒绝本次 native 内存分配;
>> JVM 将抛出 java.lang.OutOfMemoryError: Unable to create new native thread 错误。
#解决方案
>> 升级配置,为机器提供更多的内存;
>> 降低 Java Heap Space 大小;
>> 修复应用程序的线程泄漏问题;
>> 限制线程池大小;
>> 使用 -Xss 参数减少线程栈的大小;
>> 调高 OS 层面的线程最大数:执行 ulimia -a 查看最大线程数限制,使用 ulimit -u xxx 调整最大线程数限制。
[
ulimit -a
.... 省略部分内容 .....
max user processes              (-u) 16384
]

6. Out of swap space?
该错误表示所有可用的虚拟内存已被耗尽。
虚拟内存(Virtual Memory)由物理内存(Physical Memory)和交换空间(Swap Space)两部分组成。
当运行时程序请求的虚拟内存溢出时就会报 Out of swap space 错误。
#原因分析
该错误出现的常见原因包括以下几类:
>> 地址空间不足;
>> 物理内存已耗光;
>> 应用程序的本地内存泄漏(native leak),例如不断申请本地内存,却不释放。
>> 执行 jmap -histo:live 命令,强制执行 Full GC;
如果几次执行后内存明显下降,则基本确认为 Direct ByteBuffer 问题。
#解决方案
根据错误原因可以采取如下解决方案:
>> 升级地址空间为 64 bit;
>> 使用 Arthas 检查是否为 Inflater/Deflater 解压缩问题,如果是,则显式调用 end 方法。
>> Direct ByteBuffer 问题可以通过启动参数 -XX:MaxDirectMemorySize 调低阈值。
>> 升级服务器配置/隔离部署,避免争用。

7. Kill process or sacrifice child
有一种内核作业(Kernel Job)名为 Out of Memory Killer,
它会在可用内存极低的情况下“杀死”(kill)某些进程。
OOM Killer 会对所有进程进行打分,然后将评分较低的进程“杀死”,
具体的评分规则可以参考 Surviving the Linux OOM Killer。
不同于其他的 OOM 错误,Kill process or sacrifice child 错误不是由 JVM 层面触发的,而是由操作系统层面触发的。
#原因分析
默认情况下,Linux 内核允许进程申请的内存总量大于系统可用内存,
通过这种“错峰复用”的方式可以更有效的利用系统资源。
然而,这种方式也会无可避免地带来一定的“超卖”风险。
例如某些进程持续占用系统内存,然后导致其他进程没有可用内存。
此时,系统将自动激活 OOM Killer,寻找评分低的进程,并将其“杀死”,释放内存资源。
#解决方案
>> 升级服务器配置/隔离部署,避免争用。
>> OOM Killer 调优。

8. Requested array size exceeds VM limit
JVM 限制了数组的最大长度,该错误表示程序请求创建的数组超过最大长度限制。
JVM 在为数组分配内存前,会检查要分配的数据结构在系统中是否可寻址,通常为 Integer.MAX_VALUE - 2。
此类问题比较罕见,通常需要检查代码,确认业务是否需要创建如此大的数组,是否可以拆分为多个块,分批执行。

9. Direct buffer memory
Java 允许应用程序通过 Direct ByteBuffer 直接访问堆外内存,
许多高性能程序通过 Direct ByteBuffer 结合内存映射文件(Memory Mapped File)实现高速 IO。
#原因分析
Direct ByteBuffer 的默认大小为 64 MB,一旦使用超出限制,就会抛出 Direct buffer memory 错误。
#解决方案
>> Java 只能通过 ByteBuffer.allocateDirect 方法使用 Direct ByteBuffer,
因此,可以通过 Arthas 等在线诊断工具拦截该方法进行排查。
>> 检查是否直接或间接使用了 NIO,如 netty,jetty 等。
>> 通过启动参数 -XX:MaxDirectMemorySize 调整 Direct ByteBuffer 的上限值。
>> 检查 JVM 参数是否有 -XX:+DisableExplicitGC 选项,如果有就去掉,因为该参数会使 System.gc() 失效。
>> 检查堆外内存使用代码,确认是否存在内存泄漏;
或者通过反射调用 sun.misc.Cleaner 的 clean() 方法来主动释放被 Direct ByteBuffer 持有的内存空间。
>> 内存容量确实不足,升级配置。

2.JVM优雅退出

在某个Java应用增加新功能,缩容机器,或者应用以及机器发生异常,
通常会停止正在运行的应用,该应用通常正在运行着任务,
如果停止应用的操作处理不当的话,很有可能会导致数据丢失,损坏,从而影响业务。
所以在停止应用的时候,需要考虑如何安全优雅的退出。

2.1 jvm关闭的几种情况

#正常关闭
  1. 所有非daemon线程退出
  2. 调用System.exit()
  3. SIGINT(ctrl+c)
  4. SIGTERM(kill -15)

#异常关闭
  1. 未捕获的异常
  2. oom

#强制关闭
  1. SIGKILL(kill -9)
  2. 应用crash
  3. 机器宕机

对于正常关闭、异常关闭的几种情况,JVM关闭前,都会调用已注册的shutdown hooks。
对于强制关闭的几种情况,会直接停止JVM进程,JVM不会调用已注册的shutdown hooks。

2.2 一些概念及JVM钩子

// 1.linux信号以及处理
ctrl+c,kill -15,kill -9 都是通过发送信号的方式来通知jvm进行关闭操作。

// 2.daemon线程和非daemon线程区别
daemon线程在jvm里面的定义是: 
如果jvm中只有daemon线程在运行,则jvm退出。
通常默认新起的线程都是非daemon线程,可以通过设置线程的属性,将线程设置为daemon线程。

// 3.jvm shutdown hooks
jvm提供了Runtime.getRuntime().addShutdownHook方法用来注册自定义的关闭逻辑。
>> 关闭钩子本质上是一个线程,对于一个JVM中注册的多个关闭钩子会并发执行,
所以JVM并不保证它们的执行顺序,建议在一个钩子中执行应用的关闭操作。
>> 在关闭钩子中,不能执行注册、移除钩子的操作,JVM将关闭钩子序列初始化完毕后,
不允许再次添加或者移除已经存在的钩子,否则JVM抛出 IllegalStateException。
不能在钩子中调用System.exit(),否则卡住JVM的关闭过程,但是可以调用Runtime.halt()。
>> jvm退出时会等待所有的钩子线程执行之后,再退出jvm,
到时候会直接停止运行还在运行所有的线程(包括daemon和非daemon)。

2.3 如何实现优雅关闭

#通常一个应用会有两种场景:
>> 外部驱动:接收外部的请求,转换成任务,并运行该任务。
>> 内部驱动:自产自销,通常以一个定时任务的形式运行。

#1.针对第一种场景,需要从两个方面考虑优雅关闭:
1) 停止接收外部新的请求。
对于rpc调用,需要在注册中心主动注销自身的服务,从而避免上游应用继续往该机器发送请求;
对于MQ消费,需要主动告知MQ停止往该机器投递消息。
2) 等待当前接收的所有任务执行完成
通常会通过线程池的方式来实现,可以直接调用线程池的shutdown方法,
注意需要了解shutdownNow和shutdown以及awaitTermination方法的使用

#2.针对第二种场景,定时任务通常有两种实现方式:
1) 使用ScheduldExecutorService线程池方式,优雅退出直接参考上面的线程池关闭即可。
2) 在单线程在里面while循环加sleep的方式实现,通常有两种优雅退出方式:
>> 使用volatile类型的共享变量作为退出标志
通常在使用一个变量标识作为while循环判断的依据,该变量启动之后值为true,
在自定义的jvm关闭钩子里面,修改该变量的值为false,为false时停止退出循环,结束线程。
>> 通过Thread.interrupt方法
在jvm关闭钩子里面,获取到需要关闭的线程对象,调用thread.interrupt方法,
如果此线程处于阻塞状态(比如调用了sleep方法,wait方法,或者io等待),
则会立马退出阻塞,并抛出InterruptedException异常;
如果此线程正处于运行之中,则线程不受任何影响,继续运行,
仅仅是置线程的状态为中断状态interrupted。
在编写线程相关的代码时,需要捕获InterruptedException异常(捕获到异常时会清除interrupted状态),
并且在合理的位置调用 isInterrupted方法来判断查看自己是否被中断,并做退出操作。

#参考框架
dubbo 或 spring框架中的实现
上一篇 下一篇

猜你喜欢

热点阅读