一、GC分类与性能指标

• 垃圾收集器没有在规范中进行过多的规定，可以由不同的厂商、不同版本的JVM来实现
• 由于JDK的版本处于高速迭代过程中，因此Java发展至今已经衍生了众多的GC版本
• 从不同角度分析垃圾收集器，可以将GC分为不同的类型

1、按照 "线程数" 分，可以分为串行垃圾回收器和并行垃圾回收器 串行垃圾回收&并行垃圾回收.png

• 串行回收：是指在同一时间段内只允许有一个 CPU 用于执行垃圾回收操作，此时工作线程被暂停，直至垃圾收集工作结束

  • 在单 CPU 处理器或者较小的应用内存等硬件平台不是特别优越的场合，串行回收器的性能表现可以超越并行回收器和并发回收器。所以，串行回收默认被应用在客户端的 Client 模式下的JVM中
  • 在并发能力比较强的 CPU 上，并行回收器产生的停顿时间要小于串行回收器

• 与串行回收相反，并行收集可以运用多个 CPU 同时执行垃圾回收，因此提升了应用的吞吐量，不过并行回收仍然与串行回收一样，采用独占式，使用了 "Stop-The-World" 机制

2、按照 "工作模式" 分，可以分为并发式垃圾回收器和独立式垃圾回收器

• 并发式垃圾回收器与应用程序线程交替工作，以尽可能减少应用程序的停顿时间
• 独占式垃圾回收器(Stop-The-World)一旦运行，就停止应用程序中的所有用户线程，直到垃圾回收过程完全结束 image.png

3、按照 "碎片处理方式" 分，可以分为 压缩式垃圾回收器 和 非压缩式垃圾回收器

• 压缩式垃圾回收器会在回收完成后，对存活对象进行压缩整理，消除回收后的碎片
• 非压缩式的垃圾回收器不进行这不操作

4、按照 "工作的内存区间" 分，可以分为 年轻代垃圾回收器 和 老年代垃圾回收器

二、评估 GC 的性能指标

1、吞吐量(a / (a + b))：运行用户代码的时间(a)占总运行时间的比例

• 总运行时间：程序的运行时间(a) + 内存回收的时间(b)

• 吞吐量就是 CPU 用于运行用户代码的时间 与 CPU 总消耗时间的比值，即吞吐量 = 运行用户代码时间 / (运行用户代码时间 + 垃圾收集时间)，如虚拟机总共运行了100min，其中垃圾收集花费1min，那吞吐量就是99%

• 这种情况下，应用程序能容忍较高的暂停时间，因此，高吞吐量的应用程序有更长的时间基准，快速响应是不必考虑的

• 吞吐量优先，意味着在单位时间内，STW的时间最短：02 + 0.2 = 0.4 image.png

• 高吞吐量较好因为这会让应用程序的最终用户感觉只有应用程序线程在做 "生产性" 工作。直觉上，吞吐量越高程序运行越快

• 不幸的是 "高吞吐量" 和 "低暂停时间" 是一对相互竞争的目标。因为如果选择以吞吐量优先，那么 "必然需要降低内存回收的执行频率"，但是这样会导致GC需要更长的暂停时间来执行内存回收

2、垃圾收集开销(b / (a + b))：垃圾收集所用时间与总运行时间的比例

3、暂停时间：执行垃圾收集时，程序的工作线程被暂停的时间

• "暂停时间" 是指一个时间段内应用程序线程暂停，让 GC 线程执行的状态，如GC期间100毫秒的暂停时间意味着在这100毫秒期间内没有应用程序线程是活动的

• 暂停时间优先，意味着尽可能让单次STW的时间最短：0.1 + 0.1 + 0.1 + 0.1 + 0.1 = 0.5 image.png

• 低暂停时间(低延迟)较好因为从最终用户的角度来看不管是GC还是其他原因导致一个应用被挂起始终是不好的。这取决于应用程序的类型，有时候甚至短暂的200毫秒暂停都可能打断终端用户体验。因此，具有低的较大暂停时间是非常重要的，特别是对于一个交互式应用程序

• 不幸的是 "高吞吐量" 和 "低暂停时间" 是一对相互竞争的目标。如果选择以低延时优先为原则，那么为了降低每次执行内存回收时的暂停时间，也"只能频繁地执行内存回收"，但这又引起了年轻代内存的缩减和导致程序吞吐量的下降。

4、收集频率：相对于应用程序的执行，收集操作发生的频率

5、内存占用：Java 堆区所占的内存大小

6、快速：一个对象从诞生到被回收所经历的时间

小结

• 吞吐量、垃圾收集开销、暂停时间，这三者共同构成一个 "不可能三角"。三者总体的表现会随着技术进步而越来越好。一款优秀的收集器通常最多同时满足其中的两项
• 这三项里，暂停时间的重要性日益凸显。因为随着硬件发展，内存占用多些越来越能容忍，硬件性能的提升也有助于降低收集器运行时对应用程序的影响，既提高了吞吐量。而内存的扩大，对延迟反而带来负面效果

三、不同的垃圾回收器

1、垃圾收集器发展历史

有了虚拟机，就一定需要收集垃圾的机制，这就是Garbage Collection，对应的产品我们称为 Garbage Collector

• 1990年随JDK1.3.1一起来的是串行方式的 "Serial GC"，它是第一款GC。ParNew垃圾收集器时Serial收集器的多线程版本
• 2002年2月26日，Parallel GC 和Concurrent Mark Sweep GC 跟随JDK1.4.2一起发布
• Parallel GC在 JDK6之后称为 HotSpot 默认GC
• 2012年，在JDK1.7u4，G1可用
• 2017年，在JDK9中G1变成默认的垃圾收集器，以替代CMS
• 2018年3月，JDK10中G1垃圾回收器的并行完整垃圾回收，实现并行性来改善最坏情况下的延迟
• 2018年9月，JDK11发布。引入Epsilon 垃圾回收器，又被称为 "No-Op(无操作)"回收器。同时，引入ZGC：可伸缩的低延迟垃圾回收器(Experimental)。
• 2019年3月，JDK12发布。增强G1，自动返回未用堆内存给操作系统
• 2020年3月，JDK14发布。删除CMS垃圾回收器，扩展ZGC在 macOS和Windows上的应用

2、7款经典的垃圾收集器

• 串行回收器：Serial、Serial Old
• 并行回收器：ParNew、Parallel Scavenge、Parallel Old

• 并发回收器：CMS、G1

  
  7款经典收集器与垃圾分代之间的关系.png
• 新生代收集器：Serial、ParNew、Parallel Scavenge
• 老年代收集器：Serial Old、Parallel Old、CMS
• 整堆收集器：G1

3、垃圾收集器的组合关系

垃圾收集器的组合关系.png

• 两个收集器间有连线，表明它们可以搭配使用

• 其中Serial Old作为 CMS 出现 "Concurrent Mode Failure" 失败的后备预案

• "红色虚线" 由于维护和兼容性测试的成本，在JDK8时将Serial + CMS、ParNew+Serial Old这两个组合声明为废弃，并在JDK9中完全取消了这些组合的支持

• "绿色虚线"JDK14中：弃用Parallel Scavenge 和 SerialOld GC组合

• "青色虚线"JDK 14中：删除CMS垃圾回收器

• 查看命令行相关参数（包含使用的垃圾收集器）

-XX:+PrintCommandLineFlags

• 使用命令行指令

jinfo -flag 相关垃圾回收器参数 进程ID

实测

• 代码

public class GCUseTest {
    public static void main(String[] args) {
        List<byte[]> list = new ArrayList<>();
        while (true) {
            byte[] arr = new byte[100];
            list.add(arr);
            try {
                Thread.sleep(10);
            }
            catch (Exception e) {
                e.printStackTrace();
            }
        }
    }
}

• 终端中输入

jps

• 显示

12689
29764 GCUseTest
29386 RemoteMavenServer36
30095 Jps

• 查看是否使用GC

jinfo -flag UseParallelGC 29764

• 查看输出

+号表示当前项目使用 ParallelGC
-XX:+UseParallelGC  

• 查看是否使用 ParallelOldGC

jinfo -flag UseParallelOldGC 29764

• 查看输出

+号表示当前项目使用 ParallelOldGC
-XX:+UseParallelOldGC

• 查看是否使用G1

jinfo -flag UseG1GC 29764

• 查看输出

-号表示当前项目没有使用 G1GC
-XX:-UseG1GC

4、自定义垃圾回收器

• 配置输出信息

-XX:+PrintCommandLineFlags

image.png

• 输出

-XX:InitialHeapSize=134217728 -XX:MaxHeapSize=2147483648 -XX:+PrintCommandLineFlags -XX:+UseCompressedClassPointers -XX:+UseCompressedOops -XX:+UseParallelGC

• 配置使用 SerialGC 回收器

-XX:+PrintCommandLineFlags -XX:+UseSerialGC

image.png

• 项目输出

-XX:InitialHeapSize=134217728 -XX:MaxHeapSize=2147483648 -XX:+PrintCommandLineFlags -XX:+UseCompressedClassPointers -XX:+UseCompressedOops -XX:+UseSerialGC

• 小结：
  • 默认使用 ParallelGC 垃圾回收器，配置成 SerialGC 垃圾回收器后就使用了 SerialGC 垃圾回收器

四、Serial回收器：串行回收

• Serial收集器是最基本、历史最悠久的垃圾收集器。JDK1.3之前回收新生代唯一的选择
• Serial 收集器作为 HotSpot 中 Client 模式下的默认新生代垃圾收集器
• Serial 收集器采用复制算法、串行回收和 "Stop-The-World"机制的方式执行内存回收
• 除了年轻代之外，Serial收集器还提供用于执行老年代垃圾手机的 Serial Old 收集器。Serial Old 收集器同样也采用了串行回收和 "Stop-The-World"机制，只不过内存回收算法使用的是 "标记-压缩算法"。
  • Serial Old 是运行在Client模式下默认的老年代的垃圾回收器
  • Serial Old 在 Server 模式下主要有两个用途：
    • 1：与新生代的Parallel Scavenge配合使用
    • 2：作为老年代 CMS 收集器的后备垃圾收集方案

image.png

• 这个收集器是一个单线程的收集器，但它的 "单线程" 的意义并不仅仅说明它 "只会使用一个 CPU 或一条收集线程去完成垃圾收集工作"，更重要的是在它进行垃圾收集时，必须暂停其他所有的工作线程，直到它收集结束(Stop-The-World)
• 优势：简单而高效(与其他收集器的单线程比)，对于限定单个 CPU 的环境来说，Serial 收集器由于没有线程交互的开销，专心做垃圾收集自然可以获得最高的单线程收集效率。运行在 Client 模式下的虚拟机是个不错的选择
• 在HotSpot虚拟机中，使用 -XX:+UseSerialGC 参数可以指定年轻代和老年代都使用串行收集器。等价于：新生代采用 Serial GC，且老年代采用 Serial Old GC

五、ParNew回收器：并行回收

• Serial GC是年轻代中的单线程垃圾收集器，那么ParNew收集器则是Serial收集器的多线程版本。Par是Parallel的缩写，New：只能处理的是新生代

• ParNew收集器除了采用并行回收的方式执行内存回收外，两款垃圾收集器之间几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法、“Stop-The-World”机制

• ParNew 是很多 JVM 运行在 Server 模式下新生代的默认垃圾收集器 ParNew / Serial Old收集器.png

• 对于新生代，回收次数频繁，使用并行方式高效

• 对于老年代，回收次数少，使用串行方式节省资源。

• 由于ParNew收集器是基于并行回收，那么是否可以断定ParNew收集器的回收效率在任何场景下都会比Serial收集器更高效？

  • ParNew收集器运行在多CPU的环境下，由于可以充分利用多CPU、多核心等物理硬件资源优势，可以更快速地完成垃圾收集，提升程序的吞吐量
  • 在单个CPU的环境下，ParNew收集器不比Serial收集器更高效。虽然Serial收集器是基于串行回收，但是由于CPU不需要频繁地做任务切换，因此可以有效避免多线程交互过程中产生的一些额外开销。

• 使用 -XX:+UseParNewGC 手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器，不影响老年代

• 使用 -XX:ParallelGCThreads 限制线程数量，默认开启和CPU数量相同的线程数

六、Parallel回收器：吞吐量优先

• HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外，Parallel Scavenge 收集器同样也采用了“复制算法”、“并行回收”和“Stop-The-World”机制
• Parallel收集器的特点：
  • 与ParNew收集器不同，Parallel收集器的目标则是达到一个“可控制的吞吐量”，它也被称为吞吐量优先的垃圾收集器
  • 自适应调节策略是Parallel 与 ParNew一个重要区别
• Parallel收集器在JDK6时提供了用于执行老年代垃圾收集的Parallel Old收集器，用来替代老年代的Serial Old收集器
• Parallel Old收集器采用了“标记-压缩算法”，但同样也是基于“并行回收”和“Stop-The-World”机制 image.png

参数配置

• 使用 -XX:+UseParallelGC 手动指定年轻代使用 Parallel 并行收集器执行内存回收任务
• 使用 -XX:+UseParallelOldGC 手动指定老年代都是使用并行回收收集器
• 使用 -XX:ParallelGCThreads 手动设置年轻代并行收集器的线程数。一般地最好与CPU数量相等，以避免过多的线程数影响垃圾收集性能
  • 在默认情况下，当CPU数量小于8个，ParallelGCThreads 的值等于 CPU 数量
  • 当CPU数量大于 8 个，ParallelGCThreads 的值等于 3 + [5 * CPU_Count] / 8
• 使用 -XX:MaxGCPauseMillis 手动设置垃圾收集器最大停顿时间（即STW的时间），单位为毫秒
  • 为了尽可能地把停顿时间控制在MaxGCPauseMills以内，收集器在工作时会调整Java堆大小或者其他一些参数
  • 对于用户来讲，停顿时间越短体验越好。但是在服务器端，我们注重高并发，整体的吞吐量。所以服务器端适合Parallel，进行控制
• 使用 -XX:GCTimeRatio 垃圾收集时间占总时间的比例（= 1 / (N + 1)）用于衡量吞吐量的大小
  • 取值范围(0, 100)。默认值99，也就是垃圾回收时间不超过1%
  • 与前一个 -XX:MaxGCPauseMillis参数有一定矛盾性。暂停时间越长，Radio参数就容易超过设定的比例
• 使用 -XX:+UseAdaptiveSizePolicy 设置Parallel 收集器具有适应性调节策略
  • 在这种模式下，年轻代的大小、Eden和Survivor的比例、晋升老年代的对象年龄等参数会被自动调整，已达到在堆大小、吞吐量和停顿时间之间的平衡点
  • 在手动调优比较困难的场合，可以直接使用这种自适应的方式，仅指定虚拟机的最大堆、目标吞吐量（GCTimeRatio）和停顿时间（MaxGCPauseMills），让虚拟机自己完成调优工作

七、CMS回收器：低延迟

• 在JDK5时期，HotSpot推出了一款在“强交互应用”中几乎可认为划时代意义的垃圾收集器：CMS（Concurrent-Mark-Sweep）收集器，这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器，它第一次实现了让垃圾收集线程与用户线程同时工作
• CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短（低延迟）就越适合与用户交互的程序，良好的响应速度能提升用户体验。
• CMS的垃圾收集算法采用“标记-清除”算法，并且也会“Stop-The-World”

• 不幸的是，CMS 作为老年代的收集器，却无法与JDK4中已经存在的新生代收集器Parallel配合工作，所以在JDK5中使用CMS来收集老年代的时候，新生代只能选择ParNew或者Serial收集器中的一个

  
  image.png

CMS的工作原理

CMS整个过程比之前的收集器要复杂，整个过程分为4个主要阶段，即：初始标记阶段、并发标记阶段、重新标记阶段和并发清除阶段

1、初始标记(Initial-Mark)阶段

• 在这个阶段中，程序中所有的工作线程都将会因为“Stop-The-World”机制而出现短暂的暂停，这个阶段的主要任务仅仅是标记出“GC Roots 能直接关联到的对象”。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小，所以这里的“速度非常快”。

2、并发标记(ConCurrent-Mark)阶段

• 从GC Roots 的直接关联对象开始遍历整个对象图的过程，这个过程“耗时较长”但是“不需要停顿用户线程”，可以与垃圾收集线程一起并发运行

3、重新标记(Remark)阶段

• 由于在并发标记阶段中，程序的工作线程会和垃圾收集线程同时运行或者交叉运行，因此为了“修正并发标记期间，因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录”，这个阶段的停顿时间通常会比初始标记阶段稍长一些，但也远比并发标记的时间短

4、并发清除(Concurrent-Sweep)阶段

• 此阶段清理删除标记阶段判断的已经死亡的对象，释放内存空间。由于不需要移动存活对象，所以这个阶段也是可以与用户线程同时并发的

小结

• 尽管CMS收集器采用的是并发回收(非独占)，但是在其“初始化标记”和“再次标记”这两个阶段中仍然需要执行“Stop-The-World”机制暂停程序中的工作线程，不过暂停时间并不会太长，因此 可以说明目前的垃圾收集器都做不到完全不需要“Stop-The-World”，只是尽可能地缩短暂停时间
• 由于垃圾收集阶段用户线程没有中断，所以“在CMS回收过程中，还应该确保应用程序用户线程有足够的内存可用”。因此，CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集，而是当堆内存使用率达到某一阈值时，变开始进行回收，以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。
• 要是CMS运行期间预留的内存无法满足程序需要，就会出现依次“Concurrent Mode Failure”失败，这时虚拟机将启动后备预案：临时启用 Serial Old 收集器来重新进行老年代的垃圾收集，这样停顿时间就很长了
• 由于CMS收集器的垃圾收集算法采用的“标记-清除算法”，这意味着每次执行完内存回收后，由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块，不可避免地将会产生一些“内存碎片”。那么CMS再为新对象分配内存空间时，将无法使用指针碰撞(Bump The Pointer)技术，而只能够选择空闲列表(Free List)执行内存分配
• “Mark Sweep”会造成内存碎片，那么为什么不使用“Mark Compact”：因为CMS使用的是并发清除，如果在清除阶段用Compact整理内存的话，原来的用户线程使用的内存还怎么用？要保证用户线程能继续执行，前提是它运行资源不受影响！Mark Compact 更适合“Stop-The-World”这种场景下使用

CMS有点

• 并发收集
• 低延迟

CMS缺点

• “会产生内存碎片”：导致并发清除后，用户线程可用的空间不足。在无法分配大对象的情况下，不得不提前触发Full GC
• CMS收集器对CPU资源非常敏感：在并发阶段，它虽然不会导致用户停顿，但是会因为占用了一部分线程二导致应用程序变慢，总吞吐量降低
• CMS收集器无法处理浮动垃圾：可能出现“Concurrent Mode Failure”失败而导致另一次 Full GC 的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的，那么在并发标记阶段如果产生新的垃圾对象，CMS将无法对这些垃圾对象进行标记，最终会导致这些新产生的垃圾对象没有被及时回收，从而只能在下一次执行GC时释放这些之前未被回收的内存空间

CMS收集器参数设置

• 使用 -XX:+UseConcMarkSweepGC 手动指定使用CMS收集器执行内存回收任务。开启该参数后会自动将 -xx:+UseParNewGC打开，即：ParNew(Young区) + CMS(Old区) + Serial Old 的组合

• 使用 -XX:CMSInitiatingOccupanyFraction 手动设置堆内存使用率的阈值，一旦达到该阈值，便开始进行回收

  • JDK5及以前版本的默认值为 68，即当老年代的空间使用率达到 68%时，会执行一次 CMS 回收。JDK6及以上版本默认值为92%
  • 如果内存增长缓慢，则可以设置一个稍大的值，大的阈值可以有效降低CMS的触发频率，减少老年代回收的次数可以较为明显地改善应用程序性能。反之，如果应用程序内存使用率增长很快，则应该降低这个阈值，以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低 Full GC 的执行次数

• 使用 -XX:+UseCMSCompactAtFullCollection 用于指定在执行完Full GC后对内存空间进行压缩整理，以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行，所带来的问题就是停顿时间变得更长了

• 使用 -XX:CMSFullGCsBeforeCompaction 设置在执行多少此 Full GC后对内存空间进行压缩整理

• -XX:ParallelCMSThreads 设置CMS的线程数量。CMS 默认启动的线程数是(ParallelGCThreads + 3) / 4，ParallelGCThreads 是年轻代并发收集器的线程数。当CPU资源比较紧张时，受到CMS收集器线程的影响，应用程序的性能在垃圾收集阶段可能会非常糟糕