23-G1回收器:区域化分代式
已经有了7款强大的GC,为什么还要发布Garbage First(G1)GC?原因就在于应用程序应对的“业务越来越大、负责、用户越来越多”,没有GC就不能保证应用程序正常进行,而经常造成STW的GC有跟不上实际的需求,所以才会不断地尝试对GC进行优化。G1(Garbage-First)垃圾收集器是在Java7update4之后引入的一个新的垃圾回收器,是当今收集器技术发展的最前沿成果之一。与此同时,为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间(pause time),同时兼顾良好的吞吐量。官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以G1才担当起“全功能收集器”的重任与期望
一、G1回收器:区域分代化
- G1是一个并行回收器,它把堆内存分割位很多不相关的区域(Region)(物理上不连续的)。使用不同的Region来表示Eden区、幸存者0区、幸存者1区,老年代等。
- G1 GC有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region
- 由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以我们给G1一个名称:垃圾优先(Garbage First)
- G1(Garbage-First)是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征
- 在JDK8中G1还不是默认的垃圾回收器,需要使用-XX:+UseG1GC来启用
二、G1回收器的优势
相比其他 GC 收集器,G1使用了全新的分区算法。
并行与并发
- 并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW
- 并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发送完全阻塞应用程序的情况
分代收集
-
从分代上看,G1依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区。但从堆的结构上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量
-
将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代。
-
与之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代或者工作在老年代
传统分代图.png
G1逻辑分代图.png -
空间整合
- CMS:“标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理
- G1将内存划分为一个个的Region。内存的回收时以 Region 作为基本单位的。Region之间是复制算法,但整体上实际可看作是“标记-压缩”算法,这两种算法都可以避免内存碎片。这种特性有利于程序长时间运行
- 分配大对象时不会因为无法找到连续内存空间二提前触发下一次 GC。尤其是当Java堆非常大的时候,G1的优势更加明显。
-
可预测的停顿时间模型(Soft Real-Time):这是G1相对于CMS另一大优势,G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过 N 毫秒
- 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发送也能得到较好的控制
- G1 跟踪各个 Region 里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,“每次根据允许的手机时间,优先回收价值最大的Region”。保证了 G1 收集器在有限的时间内可以获取尽可能高的收集效率
- 相比CMS GC,G1未必能做到CMS在最好情况下的延时停顿,但是最差情况要好很多
三、G1回收器的缺点
- 相较于CMS,G1还不具备全方位、压倒性优势。如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负载(Overload)都要比CMS要搞
- 经验上来说,在小内存应用上CMS的表现大概率会由于G1,而G1在大内存应用上则发挥器优势。平衡点在 6~8GB
四、G1回收器的参数设置
- -XX:+UseG1GC 手动指定使用G1收集器执行内存回收任务
- -XX:G1HeapRegionSize 设置每个Region的大小。值是2的幂,范围是1MB到32MB之间,目标是根据最小的Java堆大小划分出约2048个区域。默认是堆内存的1 / 2000
- -XX:MaxGCPauseMillis 设置期望达到的最大GC停顿时间指标(JVM会尽力实现,但不保证达到)。默认值是 200ms
- -XX:ParallelGCThread 设置STW时GC线程数的值。最多设置为8
- -XX:ConcGCThreads 设置并发标记线程数。将n设置为并行垃圾回收线程数(ParallelGCThreads)的 1 / 4左右
- -XX:InitiatingHeapOccupancyPercent 设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。默认值是45。堆空间已用占比达到45%,老年代才会并发标记
五、G1回收器的设计原则
- G1回收器的设计原则就是简化JVM性能调优,只需三步
- 1、开启G1垃圾收集器
- 2、设置堆的最大内存
- 3、设置最大的停顿时间
- G1中提供了三种垃圾回收模式:YoungGC、Mixed GC 和 Full GC,在不同的条件下被触发
G1回收器的适用场景
- 面向服务端应用,针对具有大内存、多处理器的机器。在普通大小的堆里表现并不惊喜
- 最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方案。如在堆大小约6GB或更大时,可预测的暂停时间可以低于0.5秒(G1通过每次只清理一部分而不是全部的 Region 的增量式清理来保证每次GC停顿时间不会过长)
- 用来替换CMS收集器的情况
- 1、超过50%的Java堆被活动数据占用
- 2、对象分配频率或年代提升频率变化很大
- 3、GC停顿时间过长(长与0.5至1秒)
- HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程,但是这样会造成吞吐量下降
分区Region:化整为零
- 使用 G1 收集器时,它将整个Java堆划分成约 2048 个大小相同的独立 Region 块,每个 Region 块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB之间,且为2的N次幂,即1MB、2MB、4MB、8MB、16MB、32MB,可以通过-XX:G1HeapRegionSize设定。所有的Region大小相同,且在JVM生命周期内不会被改变
- G1虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的,它们都是一部分 Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续
-
注意:如果设置了 Region 数量,那么 Region 大小就不是固定的,但是大小肯定是2的幂次方,并且在1~32MB之间;而如果设置了 Region的大小,那么 Region数量就不是固定的,但是肯定在 2048 附近
image.png - Region只能是Eden、Survivor、old、Humongous中的一种,但是它的身份不是固定的,谁来占用那么这个 Region 就是谁的
- 一个 Region 只可能属于一个角色
- E:表示该Region属于 Eden 区域
- S:表示该Region属于Survivor 区域
- O:表示该Region属于Old内存区域
- 图中空白的表示未使用的内存空间
- G1 垃圾收集器还增加了一种新的内存区域,叫做 Humongous 内存区域(H),主要用于存储大对象,如果超过1.5个Region,就放到H
- 设置H的原因:对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分看待
六、G1回收器垃圾回收过程
- 年轻代GC(Young GC)
- 应用程序分配内存,当年轻代的 Eden 区用尽时开始年轻代回收过程:G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及
- 老年代并发标记过程(Concurrent Marking)
- 当堆内存使用达到一定值(默认45%)时,开始来年代并发标记过程。标记完成马上开始混合回收过程。对于一个混合回收期,G1 GC从老年区间移动存活对象到空闲区间,这些空闲区间也就称为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收期不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的 Region 就可以了。同时,这个老年代Region是和年轻代一起被回收的
- 混合回收(Mixed GC)
- 如果需要单线程、独占式、高强度的Full GC还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收 image.png
Remembered Set解决问题
- 一个对象被不同区域引用的问题
- 一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确?
- 其他的分代收集器,也存在这样的问题(G1更突出)
- 回收新生代也不得不同时扫描老年代?
- 这样的话会降低 Minor GC的效率
解决上面的问题
- 无论G1还是其他分代收集器,JVM都是使用 Remembered Set 来避免全局扫描
- 1、每个Region都有一个对应的 Remembered Set
- 2、每次Reference类型数据写操作时,都会产生一个 Write Barrier暂时中断操作
- 3、然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region(其他收集器:检查老年代对象是否引用了新生代对象)
- 4、如果不同,通过CardTable把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中
-
5、当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set;就可以保证不进行全局扫描,也不会有遗漏
Remembered Set.png - 上面提到的Remembered Set就是上述Reset
- 上面提到的Reference类型就是引用类型
- Reset的作用是记录当前Region中哪些对象对象被外部外部指向
- 如Old区中的对象会指向Eden区的对象,然后当我们要回收某个Region的时候,直接遍历遍历当前Region中的所有对象就可以了,然后针对性的去找到那些指向当前对象的其他对象,最终发现当前对象是否是根可达的,如果不是,那就应该被删除
- 之前的垃圾回收器都涉及到这个问题,当进行Minor GC的时候,通过GC Roots查找的时候还需要遍历Old区的对象,毕竟Old区对象也可能会指向Eden区对象,但是G1通过Rset避免了全堆的扫描,当引用类型数据写操作时,先暂时中断,然后判断当前引用类型数据是否被其他对象所指向:
- 如果不被指向,那就直接放在Region中就可以了
- 如果被其他对象指向,那么还要判断这个对象是在当前要插入的Region中,还是在其他Region中。如果在其他Region中,那就需要使用CardTable把当前引用类型数据的指向信息放在RSet中,也就是形成上面的虚线连线,如果在当前Region中,那就不需要指向了,毕竟到时候我们会进行遍历查找根可达对象,那肯定会找到的,所以这种情况也是直接放在Region中就可以了
G1回收过程一:年轻代GC
- JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程
- 年轻代垃圾回收只会回收Eden区和Survivor区。
- 首先G1停止应用程序的执行(Stop-The-World),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段 image.png
回收过程
- 第一阶段,扫描根。可以体现Rset作用:避免全堆扫描。根是指static变量指向的对象,正在执行的方法调用链条上的局部变量等。根引用连同Rset记录的外部引用作为扫描存活对象的入口
- 第二阶段,更新RSet。作用:保证Rset中的数据准确性。处理dirty card queue中的card,更新RSet。此阶段完成后,RSet可以准确的反映老年代对所在的内存分段中对象的引用
- 第三阶段,处理RSet。作用:根可达性遍历的一部分。识别被老年代对象指向的Eden中的对象,这些被指向的Eden中的对象被认为是存活的对象。
- 第四阶段,复制对象。说明:新生代使用复制算法。此阶段,对象树被遍历,Eden区内存段中存活的对象会被赋值到Survivor区中空的内存分段,Survivor区内存段中存活的对象如果年龄未达阈值,年龄会加1,达到阈值会被复制到Old区中空的内存分段。如果Survivor空间不够,Eden空间的部分数据会直接晋升到老年代空间
- 第五阶段,处理引用。空Eden:Eden变成空的,那它就变成了无主Region,因此会被记录到空链表中,等待下一次被分配,处理soft、weak、Phantom、final、JNI Weak等引用,最终Eden空间的数据为空,GC停止工作,而且标内存中的对象都是连续存储的。没有碎片,所以复制过程可以达到内存整理的效果,减少碎片
- dirty card queue(脏卡表队列)的解释:对于应用程序的引用赋值语句 objOld.field=objNew,JVM会在之前和之后执行特殊的操作以在dirty card queue中入队一个保存了对象引用信息的card。在年轻代回收的时候会对dirty card queue中所有的card进行处理,以更新RSet,保证RSet实时准确的反应引用关系。之所以不在引用赋值语句直接更新RSet是为了性能的需要,RSet处理需要线程同步,开销会很大,使用队列性能会好很多
- 脏卡表队列的作用:Reset更新需要线程同步,所以开销会很大,因此不能实时更新,因此我们需要把引用对象被其他对象引用的关系放在一个脏卡表队列中,当年轻代回收的时候会进行STW,所以我们也正好把脏卡表队列中的值更新到Rset中,这样不仅没有涉及到开销问题,还可以保证Rset中的数据是准确的
G1回收过程二:并发标记过程
- 1、初始标记阶段:标记从根节点直接可达的对象。这个阶段是STW的,并且会触发一次年轻代GC
- 2、根区域扫描(Root Region Scanning):G1 GC扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在Young GC之前完成。主要扫描哪些老年代对象是可达的毕竟我们进行Young GC的时候会移动Survivor区,移动之后就找不到哪些老年代对象是可达的了。
- 3、并发标记(Concurrent Marking):在整个堆中进行并发标记(和应用程序并发执行),此过程可能被Young GC中断。在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)
- 4、再次标记(Remark):由于应用程序持续进行,需要修正上一次的标记结果。是STW的。G1中采用了比CMS更快的初始快照算法:snapshot-at-the-beginning(SATB)。原因:并发标记不准确
- 5、独占清理(cleanup, STW):计算各个区域的存活对象和GC区域比例,并进行排序,识别可以混合回收的区域。为下阶段做铺垫。是STW的。其实是一个统计计算过程,不会涉及垃圾清理。这个阶段并不会实际上去做垃圾的收集
- 6、并发清理阶段:识别并清理完全空闲的区域。如果发现区域对象中的所有对象都是垃圾,那么这个区域会被立即回收
G1回收过程三:混合回收
image.png- 当越来越多的对象晋升到老年代old Region时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾垃圾收集器,即Mixed GC,该算法并不是一个Old GC,除了回收整个Young Region,还会回收一部分的Old Region。这里需要注意:是一部分老年代,而不是全部老年代。可以选择那些Old Region进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC
- 并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分8次(可以通过-XX:G1MixedGCCountTarget设置)被回收
- 混合回收的回收集(Collection Set)包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段。
- 由于老年代中的内存分段默认分8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收,-XX:G1MixedGCLiveThresholdPercent,默认为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。垃圾占比越多,回收优先级越高。
- 混合回收并不一定要进行8次。有一个阈值-XX:G1HeapWastePercent,默认值为10%,意思是允许整个堆内存中有10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。如果垃圾不足Region内存的10%,那么将不会对该老年代Region进行回收,综合上面的来看,只要垃圾占整个老年代Region的比例大于65%,才会对该Region进行回收
G1回收可选的过程四:Full GC
- G1的初衷就是要避免Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行(Stop-The-World),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间很长
- 要避免Full GC的发生,一旦发生需要进行调整。什么时候会发生Full GC?如堆内存太小,当G1在赋值存活对象的时候没有空的内存分段可用,则会回退到Full GC,这种情况可以通过增大内存解决
- 导致G1 Full GC的原因可能有两个:
- 1、Evacuation的时候没有足够的 to-space 来存放晋升的对象。解决方案:加大堆空间
- 2、并发处理过程完成之前空间耗尽。解决方案:调小触发并发GC周期的Java堆占用阈值(默认是45%)
- 3、最大GC停顿时间太短,导致在规定的时间间隔内无法完成垃圾回收也会导致Full GC。解决方案:加大最大GC停顿时间
G1回收器优化建议
- 1、年轻代大小
- 1.1、避免使用-Xmn或-XX:NewPation等相关选项显示设置年轻代大小
- 1.2、固定年轻代的大小会覆盖暂停时间目标。原因:年轻代GC是并行独占式的,所以最好让垃圾回收器自己去调节
- 2、暂停时间目标不要太过严苛
- 2.1、G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾回收时间
- 2.2、评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量。暂停时间和吞吐量是此消彼长的,所以不要把暂停时间设置的太严格,不然因为这个原因引起 Full GC也不太好