《深入理解Java虚拟机》学习笔记
1.1 概述
Java优点:
1、结构严谨,面向对象
2、摆脱硬件平台束缚,实现了“一次编写,到处运行”的理想;
3、提供了一个相对安全的内存管理和访问机制,避免了绝大部分的内存泄漏和指针越界问题;
4、实现了热点代码检测和运行时编译和优化,使得Java应用随着运行时间的增加而获得更高的性能;
5、它有一套完善份应用程序接口,还有无数商业机构和开源社区的第三方类库帮助它实现各种各样的功能;
Java的这些好处使得开发的效率得到极大的提高!
1.2 Java技术体系
Sun官方定义的Java技术体系包括以下几个组成部分:
1、Java程序设计语言
2、各种硬件平台上的Java虚拟机
3、Class文件格式
4、Java API类库
5、来自商业机构和开源社区的第三方Java类库
JDK:
我们可以把 Java程序设计语言,Java虚拟机,API类库这三部分统称为JDK,JDK是用于支持Java程序开发的最小环境。
JRE:
我们可以把Java API类库中的Java SE API子集和Java虚拟机这两部分统称为JRE,JRE是支持Java程序运行的标准环境。
- 下图展示Java技术体系包含的内容,及JDK、JRE涵盖的范围:
若按技术服务领域划分,Java技术体系可分为4个平台:
1、Java Card:支持一些Java小程序(Applets)运行在小内存设备(如智能卡)上的平台。
2、Java ME:支持Java程序运行在移动终端(手机、PDA)上的平台,对Java API有所精简,并加入了针对移动终端的支持,这个版本以前称为J2ME。
3、Java SE:支持面向桌面及应用(如Windows下的应用程序)的Java平台,提供了完整的Java核心API,这个版本以前称为J2SE。
4、Java EE:支持使用多层架构的企业应用(如ERP、CRM应用)的Java平台,除了提供Java SE API以外,还对其做了大量的扩充并提供了相关的部署支持,这个版本以前称为J2EE。
2、Java内存区域与内存溢出异常
2.1、运行时数据区域
2.1.1、程序计数器
Java虚拟机规范中没有任何OutOfMemoryError情况的区域
程序计数器是一块较小的内存空间,它可以看作是当前线程所执行的字节码的行号指示器。在虚拟机的概念模型(仅在模型概念里,各种虚拟机可能通过更高效的方式去实现)里,字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令,分支、循环、跳转、异常处理、线程恢复等基础功能都需要依赖这个计数器来完成。
由于Java虚拟机的多线程是通过 线程轮流切换并分配处理器执行时间的方式来实现的,在任何一个确定的时刻,一个处理器(对于多核处理器来说是一个内核),都会只执行一条线程中的指令。因此,为了线程切换后能恢复到正确的执行位置,每条线程都需要一个独立的程序计数器,各条线程之间计数器互不影响,独立存储,我们称这类内存区域为“线程私有”的内存。
如果线程正在执行一个是一个Java方法,这个计数器记录的是正在执行的虚拟机字节码指令的地址;如果正在执行的是Native方法,这个计数器值则为空(Undefined)。
2.1.2、Java虚拟机栈
与程序计数器一样,Java虚拟机栈也是线程私有的,它的生命周期与线程相同。虚拟机栈描述的是Java方法执行的内存模型:每个方法在执行的同时都会创建一个栈帧(Stack Frame)用于存储 局部变量表、操作数栈、动态链接、方法出口 等信息。每一个方法从调用直至执行完成的过程,就对应着一个栈帧在虚拟机栈中入栈到出栈的过程。
经常有人把Java内存区分为堆内存(Heap)和栈内存(Stack),这种分法比较粗糙,Java内存区域的划分实际上远闭着复杂。这里所指的“栈”就是虚拟机栈,或者说是虚拟机栈中的局部变量表部分。
局部变量表存放了编译期可知的各种基本数据类型(boolean、byte、char、short、int、float、long、double)、对象引用(reference类型,它不等于对象本身,可能是一个指向对象起止地址的引用指针,也可能是指向一个代表对象的句柄或者其他与此对象相关的位置)和returnAddress(指向一条字节码指令的地址)。
其中64位长度的 long 和 double 类型的数据会占用2个局部变量空间(Slot),其余数据类型只占用1个。局部变量所需的内存空间在编译期间完成分配,当进入一个方法时,这个方法需要的在帧中分配的局部变量空间是完全确定的,在方法运行期间不会改变局部变量表的大小。
在Java虚拟机规范中,对这个区域规定了两种异常情况:如果线程请求的栈深度大于虚拟机所允许的深度,将抛出StackOverflowError异常;如果虚拟机栈可以动态扩展(当前大部分虚拟机都可以动态扩展,只不过Java虚拟机规范中也允许固定长度的虚拟机栈),如果扩展时无法申请到足够的内存,就会抛出OutOfMemoryError异常。
2.1.3、本地方法栈
本地方法栈与虚拟机栈所发挥的作用非常相似,它们间的区别是虚拟机栈为执行Java方法(也就是字节码)服务,儿本地方法栈则为虚拟机栈使用到的Native方法服务。
在虚拟机规范中对本地方法栈中方法使用的语言、使用方式与数据结构并没有强制规定,因此具体的虚拟机可以自由的实现它。甚至有的虚拟机(如Sun HotSpot虚拟机)直接把本地方法栈和虚拟机栈合二为一。
与虚拟机栈一样,本地方法栈也会抛出 StackOverflowError 和 OutOfMemoryError异常。
2.1.4、Java堆
对于大多数应用来说,Java堆是Java虚拟机所管理的内存中最大的一块。Java堆是被所有线程共享的一块内存区域,在虚拟机启动时创建。此内存区域的唯一目的是为了存放对象实例,几乎所有的对象实例都在这里分配内存。这一点在Java虚拟机规范中的描述是:所有的对象实例以及数组都要在堆上分配。
Java堆是垃圾收集器管理的主要区域,因此很多时候也被称为“GC堆”。
从内存回收的角度来看,由于现在收集器基本都采用分代收集算法,所以Java堆中还可以细分为:新生代和老年代;再细致一点可以分为Eden空间,From Survivor空间、To Survivor空间等。
从内存分配的角度来看,线程共享的Java堆中可能划分出多个线程私有的分配缓冲区。
不过无论怎么划分,都与存放的内容无关,存储的都依然是对象实例,进一步划分的目的是为了更好的地回收内存,或者更快的分配内存。
根据Java虚拟机规范中的规定,Java堆可以处于物理上的不连续的内存空间中,只要逻辑上是连续的即可,就像我们的磁盘空间一样,在实现时,既可以实现为固定大小的,也可以是可拓展的,不过当前主流的虚拟机都是按照可拓展来实现的通过(-Xmx和-Xms控制)。如果堆中没有内存完成实例分配,并且堆也无法再扩展时,将会抛出OutOfMemoryError异常。
2.1.5 方法区
方法区与Java堆一样,是各个线程共享的内存区域,它用于存储已被虚拟机加载的类信息、常量、静态变量,即时编译器编译的代码等数据。虽然Java虚拟机规范把方法区描述为堆的一个逻辑部分,但它还有一个别名Non-Heap(非堆),目的是为了和Java堆区分开来。
Java虚拟机规范对方法区的限制十分宽松,除了像堆一样不需要连续的内存和可以固定大小或者可拓展外,还可以选择不实现垃圾收集。相对而言垃圾收集行为在这个区域比较少出现,但并非数据进入了方法区就永久存在了。这个区域的内存回收目标主要针对常量池的回收和对类型的卸载,一般来说,这个区域的回收比较难以令人满意,尤其是类型的卸载,条件相当苛刻,但这部分区域的回收确实是必要的。
根据Java虚拟机规范规定,当方法区无法满足内存分配需求时,将会抛出OutOfMemoryError异常。
2.1.6运行时常量池
运行时常量池(Runtime Constant Pool)是方法区的一部分。Class文件中除了有类的版本信息、字段、方法、接口等描述信息外,还有一项信息是常量池(Constant Pool Table),用于存放编译期生成的各种字面量和符号引用,这部分内容将在类加载进入方法区的运行时常量池存放。
Java虚拟机对Class文件的每一部分(包括常量池)的格式都有严格的规定,每一个字节用于存储哪种数据都必须符合规范上的需求才会被虚拟机认可、装载和执行,但对于运行时常量池,Java虚拟机没有做任何细节的要求。一般来说,除了保存Class文件中描述的符号引用外,还会把翻译出来的直接引用也存储在运行时常量池中。
运行时常量池相对于Class文件常量池的的另外一个重要特征是具备动态性,Java语言并不要求常量一定只有编译期才产生,也就是并非预置入Class文件中常量池的内容才能进入方法区运行时常量池,运行期间也可能将新的常量放入池中,这种特性被开发人员利用的比较多的便是String类的intern()方法。
运行时常量池是方法区的一部分,自然受到方法区内存的限制,当常量无法再申请到内存时会抛出OutOfMemoryError异常。
2.1.7 直接内存
直接内存(Direct Memory)并不是虚拟机运行时数据区的一部分,也不是Java虚拟机规范中定义的内存区域。但这部分内存也被频繁地使用,而且也可能导致OutOfMemoryError异常。
在JDK1.4中新加入NIO(New Input/Output)类,引入了一种基于通道(Channel)与缓冲区(Buffer)的I/O方式,它可以使用Native函数库直接分配堆外内存,然后通过一个存储在Java堆中的DirectByBuffer对象作为这块内存的引用进行操作。这样能在一些场景中显著提高性能,因为避免了Java堆和Native堆中来回复制数据。
显然,本机直接内存的分配不受Java堆的大小限制,但是既然是内存,肯定还是受到本机总内存(包括RAM以及SWAP区或者分页文件)大小以及处理器寻址空间的限制。服务器管理员在配置虚拟机参数时,会根据实际内存设置-Xmx等参数信息,但经常忽略直接内存,使得各个内存区域内存总和大于物理内存限制(包括物理的和操作系统级的限制),从而导致动态扩展时出现OutOfMemoryError异常。
2.2 对象探秘
2.2.1 对象的创建
Java是一门面向对象的编程语言,在Java程序运行过程中无时无刻都有对象被创建出来。在语言层面上通常仅仅是一个new关键字而已,而在虚拟机中 ,当虚拟机遇到一条new指令时,首先将去检查这个符号的引用是否已被加载、解析和初始化过。如果没有那必须先执行相应的类加载过程。
在类加载检查通过后,接下来虚拟机将为新生的对象分配内存。对象所需内存大小在类加载完成后便可以完全确定,为对象分配空间的任务等同于把一块确定大小的内存从Java堆中划分出来。划分方式有两种:指针碰撞 、空闲列表
指针碰撞:假设Java堆中内存是绝对规整的,所有用过的内存都放在一边,空闲的内存放在一边,中间放着一个指针作为分界点的指示器,那所分配内存就仅仅是把那个指针向空闲空间那边挪动一段与对象大小相等的距离,这种分配方式称为“指针碰撞”(Bump the Pointer)。
空闲列表: 假设Java堆中的内存并不是规整的,已使用的内存和空闲的内存相互交错,那就没办法进行简单的指针碰撞了,虚拟机就必须维护一个列表,记录上哪块内存是可用的,在分配的时候从列表中找出一块足够大的空间划分给对象实例,并更新列表上的记录,这种方式称为“空闲列表”(Free List)
除如何划分可用空间外,还有另外一种需要考虑的问题是对象创建在虚拟机中是非常频繁的行为,即使是仅仅修改一个指针所指向的位置,在并发情况下也并不是线程安全的,可能出现正在给对象A分配内存,指针还没来得及修改,对象B又同时使用了原来的指针来分配内存的情况。解决这个问题的实际方案有两种,一种是对分配内存的动作进行同步处理----实际上虚拟机采用CAS配上失败重试的方式保证重新操作的原子性;另一种是把内存分配的的动作按照线程划分在不同的空间内进行,即每个线程在Java堆中预先分配一小块内存,称为本地线程缓冲(Thread Local Allocation Buffer,TLAB)。哪个线程要分配内存,就在哪个线程的TLAB上分配,只有TLAB用完并分配新的TLAB时,才需要同步锁定。虚拟机是否使用TLAB,可以通过-XX:+/-UserTLAB参数来设定。
内存分配完毕后,虚拟机需要将分配到的内存空间都初始化为零值(不包括对象头),如果使用TLAB,这一工作过程也可以提前至TLAB分配时进行。这一步操作保证了对象的实例字段在Java代码中可以不赋初始值就直接使用,程序能访问到这些字段的数据类型所对应的零值。
接下来,虚拟机要对对象进行必要的设置,例如这个对象是哪个类的实例,如何才能找到类的元数据信息,对象的哈希码,对象的GC分代年龄等信息。这些信息存放在对象头(Object Header)中,根据虚拟机当前的运行状态的不同,如是否启用偏向锁等,对象头会有不同的设置方式。
在上面工作都完成之后,从虚拟机的视角来看,一个新的对象已经产生了,但从Java程序的视角来看,对象创建才刚刚开始-----<init>方法还没有执行,所有字段都还为零。所以,一般来说,执行new指令之后会接着执行<init>方法,把对象按照程序员的意愿进行初始化,这样一个真正可用的对象才算真正产生出来。
2.2.2 对象的内存布局
在HotSpot虚拟机中,对象在内存中的存储布局可以分为3块区域:对象头(Header)、实例数据(Instance Data)和对齐填充(Padding)。
HotSpot虚拟机的对象头包括两部分信息,第一部分用于存储对象自身的运行时数据,如哈希码(HashCode)、GC分代年龄、锁状态标志、线程持有的锁、偏向线程ID、偏向时间戳等,这部分数据的长度在32位和64位的虚拟机(未开启压缩指针)中分别为32bit和64bit,官方称它为“Mark Word”。对象需要存储的运行时数据很多,其实已经超出了32位、 64位Bitmap结构所能记录的限度,但是对象头信息是与对象自定义的数据无关的额外存储成本,考虑到虚拟机的空间效率,Mark Word被设计成一个非固定的数据结构以便在极小的空间内存储尽量多的信息,它会根据对象的状态复用自己的存储空间。
对象头的另一部分是类型指针,即对象指向它的类元素数据的指针,虚拟机通过这个指针来确定这个对象是哪个类的实例。并不是所有的虚拟机实现都必须在对象数据上保留类型指针,换句话说,查找对象的元数据信息并不是一定要经过对象本身。
实例数据部分是对象真正存储的有效信息,也是在程序代码中所定义的各种类型的字段的内容。无论是从父类继承下来的,还是在子类中定义的,都需要记录起来。这部分的存储顺序会受到虚拟机分配策略参数(FieldAllocationStyle)和字段在Java源码中定义顺序的影响。HotSpot虚拟机默认的分配策略为longs/doubles、ints、shorts/chars、bytes/booleans、opps(Ordinary Object Pointers)、从分配策略中可以看出,相同宽度的字段总是被分配到一起。在满足这个前提条件的情况下,在父类中定义的变量会出现在子类之前。如果CompactFields参数值为true(默认情况下),那么子类之中较窄的变量也可能会插入到父类变量的空隙中。
第三部分对齐填充并不是必然存在的,也没有特别的含义,它仅仅起着占位符的作用。由于HotSpot VM的自动内存管理系统要求对象起止地址必须是8字节的整数倍,换句话说,对象的大小必须是8字节的整数倍。而对象头部分正好是8字节的倍数(1倍或者2倍),因此,当对象实例数据部分没有对齐时,就需要通过对齐填充来补全。
2.2.3对象的访问定位
建立对象是为了使用对象,Java程序通过栈上的reference数据来操作堆上的具体对象。由于reference类型在Java虚拟机规范中只规定了一个指向对象的引用,并没有定义这个引用应该通过何种方式去定位、访问堆中对象的具体位置,所以对象的访问方式也是取决于虚拟机实现而定的。面前主流的访问方式有使用句柄和直接使用指针两种。
如果使用句柄访问的话,那么Java堆中将会划分出一块内存来作为句柄池,reference中存储的就是对象的句柄地址,而句柄中包含了对象实例数据与类型数据各自的具体地址信息。
如果是使用指针直接访问,那么Java堆对象的布局就必须考虑如何放置访问类型数据的相关信息,而reference中直接存储的就是对象地址:
这两种对象的访问方式各有优势,使用句柄来访问的最大好处就是reference中存储的是稳定的句柄地址,在对象被移动(垃圾收集时移动对象是非常普遍的行为)时只会改变句柄中的实例数据指针,而reference本身不需要修改。
使用指针访问方式的最大好处就是速度更快,它节省了一次指针定位的时间开销,由于对象的访问在Java中非常频繁,因此这类开销积少成多后也是一项非常可观的执行成本。就HotSpot而言,它使用的是第二种方式进行对象访问的,但从整个软件开发的范围来看,各种语言和框架使用句柄来访问的情况也十分常见。
2.3 OutOfMemoryError异常
在Java虚拟机规范的描述中,除了程序计数器外,虚拟机内存的其他几个运行时区域都有发生OutofMemoryErro异常的可能。
2.3.1 Java堆溢出
Java堆用于存储对象实例,只要不断地创建对象,并且保证GC Roots到对象之间有可达路径来避免垃圾回收机制清除这些对象,那么在对象数量达到最大堆的容量限制后就会产生内存溢出。
2.3.2 虚拟机栈和本地方法栈溢出
如果线程请求的栈的深度大于虚拟机所允许的最大深度,将会抛出StackOverflowError异常。
如果虚拟机在扩展栈时无法申请到足够的空间,则抛出OutOfMemoryError异常。
这里把异常分为两种情况,看似更加严谨,但存在着一些相互重叠的地方:当栈空间无法继续分配时,到底是内存太小,还是已使用的占空间太大,其本质只是对统计一件事的两种描述而已。
在单线程下无论是由于栈太大还是虚拟机栈容量太小,当内存无法分配时,虚拟机抛出的都是StackOverflowError异常。
通过不断建立线程的方式倒是可以产生内存溢出异常,但是这样产生的内存溢出异常与栈空间是否足够大并不存在任何联系,或者准确地说,在这种情况下,为每个线程分配的内存越大,反而越容易产生内存溢出异常。
其实不难理解,操作系统分配给每个进程的内存是有限制的,譬如32位的Windows限制为2GB,虚拟机提供了参数来控制Java堆和方法区的这两部分内存的最大值。剩余的内存为2GB(操作系统限制)减去Xmx(最大堆容量),再减去MaxPermSize(最大方法区容量),程序计数器消耗内存很小,可以忽略掉。如果虚拟机进程本身耗费的内存不计算在内,剩下的内存就有虚拟机栈和本地方法栈“瓜分”了。每个线程分配到的栈容量越大,可以建立的线程数量自然越少,建立线程时就越容易把剩下的内存耗尽。
如果建立过多线程导致的内存溢出,在不能减少线程数或者更换64位虚拟机的情况下,就只能通过减少最大堆和减少栈容量来换取更多的线程。
3 垃圾收集器与内存分配策略
3.1 对象已死吗?
在堆中存放着Java世界中几乎所有的实例对象,垃圾收集器在堆进行回收以前,第一件事就是要确定这些对象之中哪些还“存活”着,哪些已经“死去”(即不可能再被任何途径的对象使用的对象)。
3.2.1 引用计数法
很多教科书判断对象是否存活的算法是这样的:给对象中添加一个引用计数器,每当有一个地方引用它时,计数器值就加1;当引用失效时,计数器值就减1;任何时刻计数器为0的对象就不能再被使用。
客观地说,引用计数法(Reference Counting)的实现简单,判定效率也很高,在大部分情况下它都是一个不错的算法,但是主流的Java虚拟机里面没有选用引用计数算法来管理内存,其中最主要的原因是它很难解决对象之间相互循环引用的问题;
举个例子:对象objA和对象objB都有字段instance,赋值令objA.instance=objB 及 objB.instance =objA,除此之外,这两个对象再无任何引用,实际上这两个对象已经不可能再被访问,但是它们因为互相引用着对方,导致它们的引用计数都不为0,于是引用计算算法无法通知GC收集器回收它们。
3.2.2 可达性算法分析
在主流的商用语言程序(Java、C#等)的主流实现中,都是通过可达性分析(Reachability Analysis)来判断对象是否存活的。这个算法的基本思路就是通过一系列的称为“GC Roots”的对象作为起始点,从这些节点开始向下搜索,搜索所走过的路径称为引用链(Reference Chain),当一个对象到GC Roots 没有任何引用链相连,则证明此对象是不可用的。
在Java语言中,可作为GC Roots的对象包括下面几种:
1、虚拟机栈(栈帧中的本地变量表)中引用的对象。
2、方法区中类静态属性引用的对象。
3、方法区中常量引用的对象
4、本地方法栈中JNI(即一般说的Native方法)引用的对象
3.2.3 再谈引用
无论是通过引用计数算法判断对象的引用数量,还是通过可达性分析算法判断对象的引用链是否可达,判断对象是否“存活”都与“引用”有关。在JDK1.2以前,Java中的引用的定义很传统:如果reference类型的数据中存储的数值代表的是另一块内存的起止地址值,就称这块内存代表着一个引用。这种定义很纯粹,但是过于狭隘,一个对象在这种定义下只有被引用或者没有被引用两种状态,对于描述一些“食之无味,用之可惜”的对象就显得无能为力了。我们希望能描述这样一类对象:当内存空间还足够时,则能保留在内存中;如果内存空间在垃圾收集后,还是非常紧张,则可以抛弃这些对象。很多系统的缓存功能都符合这样的场景。
在JDK1.2之后,Java对引用的概念进行了扩充,将引用分为强引用(Strong Reference)、软引用(Soft Reference)、弱引用(Weak Reference)、虚引用(Phantom Reference)4种,这4种引用的强度依次逐渐减弱。
强引用:在代码中普遍存在的,类似“Object object = new Object()”这类的引用,只要强引用还在,垃圾回收器永远不会回收掉被引用的对象。
软引用:用来描述一些还有但并非必须的对象。对于软引用关联的对象,在系统将要发生内存溢出异常之前,将会把这些对象列进回收范围之中进行第二次回收。如果这次回收还没有足够的内存,才会抛出内存溢出异常。
弱引用:用来描述非必需对象,但是它的强度比软引用更弱一些,被弱引用关联的对象只能生存到下一次垃圾收集发生之前。在垃圾收集器工作时,无论当前内存是否足够,都会回收掉只被弱引用关联的对象。
虚引用也称为幽灵引用,或者幻影引用,它是最弱的一种引用关系。一个对象是否有虚引用的存在,完全不会对其生存时间构成影响,也无法通过虚引用来取得一个对象实例。为一个对象设置虚引用关联的唯一目的就是能在这个对象被收集器回收时收到一个系统通知。
3.2.4 生存还是死亡
即使在可达性分析算法中不可达的对象,也并非是“非死不可”的,这时候它们暂时处于“缓刑”阶段,要真正宣告一个对象死亡,至少要经历两次标记过程:如果对象在进行可达性分析后发现没有与GC Roots相连接的引用链,那它将会被第一次标记并且进行一次筛选,筛选的条件是此对象是否有必要执行的finalize()方法。当对象没有覆盖finaliza()方法,或者finalize()方法已经被虚拟机调用过,虚拟机将这两种情况都视为“没有必要执行”。
如果这个对象被判定有必要执行finalize()方法,那么这个对象将会放置在一个叫做F-Queue的队列中,并在稍后由一个虚拟机自动机建立的、低优先级的Finalizer线程去执行它,这里所谓的“执行”是指虚拟机会触发这个方法,但并不承诺会等待它运行结束,这样做的原因是,如果一个对象在finalize()方法中执行缓慢,或者发生了死循环(更极端的情况),将很可能会导致F-Queue队列中其他的对象永久处于等待,甚至导致整个内存回收系统奔溃。finalize()方法是对象逃脱死亡命运的最后一次机会,稍后GC将会对F-Queue中的对象进行第二次小规模的标记,如果对象要在finalize()中成功拯救自己——只要重新与引用链上的任何一个对象建立关联即可,譬如把自己(this关键字)赋值给某个变量或者对象的成员变量,那在第二次标记时它将会被移除出“即将回收”的集合;如果对象这时候还没有逃脱,那基本上它就真的被回收了。
3.2.5 回收方法区
很多人认为方法区(或者HotSpot虚拟机中的永久代)是没有垃圾回收的,Java虚拟机规范中确实说过可以不要求虚拟机在方法区实现垃圾收集,而且在方法区中进行垃圾收集的“性价比”一般比较低:在堆中,尤其在新生代中,常规应用进行一次垃圾收集一般可以回收70% ~ 95%的空间,而在永久代的垃圾收集效率远低于此。
永久代的垃圾收集主要分为两部分内容:废弃常量和无用的类。回收废弃常量与回收Java堆中的对象非常类似。以常量池中字面量的回收为例,假如一个字符串“abc”已经进入了常量池中,但是当前系统没有任何一个String对象是叫做“abc”,换句话说,就是没有任何String对象引用常量池中的“abc”常量,也没有其他地方引用这个字面量,如果这时发生内存回收,而且必要的话,这个“abc”常量就会被系统清理出常量池。常量池中的其他类(接口)、方法、字段的符号引用也类似于此;
判定一个常量是否是“废弃常量”比较简单,而要判定一个类是否是“无用的类”的条件则相对苛刻许多。类需要同时,满足下面3个条件才能算是“无用的类”:
该类所有的实例都已经被回收,也就是Java堆中不存在该类的任何实例。
加载该类的ClassLoader已经被回收。
该类对应的java.lang.Class对象没有在任何地方被引用,无法在任何地方通过反射访问该类的方法。
虚拟机可以对满足上述3个条件的无用类进行回收,这里说的仅仅是“可以”,而并不是和对象一样,不使用了就必然会回收。是否对类进行回收,HotSpot虚拟机提供了-Xnoclassgc参数进行控制,还可以使用-verbose:class 以及-XX:+TraceClassLoading、-XX:+TraceClassUnLoading查看类加载和卸载信息,其中-verbose:class和-XX:+TraceClassLoading可以在Product版的虚拟机中使用,-XX:+TraceClassUnLoading参数需要FastDebug版的虚拟机支持。
在大量使用反射、动态代理、CGLib等ByteCode框架、动态生成JSP以及OSGi这类频繁定义ClassLoader的场景都需要虚拟机具备卸载的功能、以保证永久代不会溢出。
3.3 垃圾收集算法
以下介绍几种算法的思想及其发展过程
3.3.1 标记--清除算法
最基础的收集算法是“标记--清除”(Mark-Sweep)算法,如同它的名字一样,算法分为“标记”和“清除”两个阶段:
阶段一:标记出所有需要回收的对象
阶段二:标记完成后,统一回收所有被标记的对象
之所以说它是最基础的算法,是因为后续的收集算法都是基于这种思路并对其不足进行改进而得到的。它主要有两个不足:
不足一:效率问题,标记和清除两个过程的效率都不高
不足二:空间问题,标记清除后会产生大量的不连续的内存碎片,空间碎片太多可能会导致以后在程序运行过程中需要分配较大对象时,无法找到足够的连续内存而不得不提前触发另一次垃圾收集动作。
标记--清除算法的执行过程如下图:
3.3.2 复制算法
为了解决效率问题,一种称为“复制”(Copying)的收集算法出现了,它将可用内存按容量划分为大小相等的两块,每次使用其中的一块。当这一块内存用完了,就将还存活着的对象复制到另外一块上面,然后把已经使用过的内存空间一次清除掉。
优点:这样使得每次都是对整个半区进行内存回收,内存分配时就不用考虑内存碎片的复杂情况,只要移动堆顶指针,按顺序分配内存即可,实现简单,运行高效。
缺点:这种算法将内存缩小为原来的一般,代价太高。
复制算法执行过程如下图所示:
现在的商业虚拟机都采用这种收集算法来回收新生代,IBM公司的专门研究表明,新生代中的对象98%是“朝生夕死”的,所以并不需要按照1:1的比例来划分内存空间,而是将内存分为一块较大的Eden空间和两块较小的Survivor空间,每次使用Eden和其中一块Survivor。当回收时,将Eden和Survivor中还存活着的对象一次性的复制到另一块Survivor空间上,最后清理掉Eden和刚才用过的Survivor空间。HotSpot虚拟机默认Eden和Survivor的大小比例是8:1,也就是每次新生代中可用空间为整个新生代容量的90%(80%+10%),只有10%的内存会被“浪费”。
当然,98%的对象可回收只是一般场景下的数据,我们没法保证每次回收都只有不多于10%的对象存活,当Survivor空间不够时,需要依赖其他内存(这里指老年代)进行分配担保(Handle Promotion)。
3.3.3 标记--整理算法
复制收集算法在对象存活率比较高时就要进行比较多的复制操作,效率将会变低。更关键的是,如果不想浪费50%的空间,就需要额外的空间进行分配担保,以应对被使用的内存中所有对象都是100%存活的极端情况,所以在老年代一般不能直接选用这种算法。
根据老年代的特点,有人提出了另外一种“标记--整理”(Mark-Compact)算法,标记过程仍然与“标记--清除”算法一样,但后续步骤不是直接对可回收对象进行整理,而是让所有存货你的对象都向一端移动,然后直接清理掉端边界以外的内存。
“标记--整理”算法的示意图如下:
3.3.4 分代收集算法
当前商业虚拟机的垃圾收紧都采用“分代收集”(Generational Collection)算法,这种算法并没有什么新思想,只是根据对象存活周期的不同将内存划分为几块。一般是把Java堆分为新生代和老年代,这样就可以根据各个年代的特点采用适当的收集算法。在新生代中,每次垃圾收集时都发现有大批对象死去,只有少量存活,那就选用复制算法,只需要付出少量存活对象的复制成本就可以完成收集。而老年代中因为对象的存活率高,没有额外空间对它进行分配担保,就必须使用“标记--清理”或者“标记--整理”算法来进行回收。
3.4 HotSpot的算法实现
HotSpot上实现算法时,必须对算法的执行效率有严格的考量,才能保证虚拟机高效执行。
3.4.1 枚举根节点
从可达性分析中从GC Roots节点找引用链这个操作为例,可作为GC Roots的节点主要是在全局性的引用(例如常量或者静态属性)与执行上下文(例如栈帧中的本地变量表)中,现在很多应用仅仅方法区就有数百兆,如果要逐个检索里面的引用,那么必然会消耗很多时间。
另外,可达性分析对执行时间的敏感还体现在GC停顿上,因为这项分析工作必须在一个能确保一致性的快照中进行-----这里的“一致性”的意思是指在整个分析期间整个执行系统看起来就像被冻结在某个时间点上,不可以出现分析过程中对象引用关系还在变化的情况,该点不满足的话分析结果准确性就无法得到保证。这点导致GC进行时必须停顿所有的Java执行线程(Sun将这件事称为“Stop The World”)的其中一个重要原因,即使在号称(几乎)不会发生停顿的GMS收集器中,枚举根节点时也是必须要停顿的。
由于目前主流的Java虚拟机使用的都是准确式GC,所以在执行系统停顿下来以后,并不需要一个不漏地检查完所有执行上下文和全局的引用变量,虚拟机应当是有办法直接得知哪些地方存着对象引用。在HotSpot实现中,是使用一组称为OopMap的数据结构来达到这个目的的,在类加载完成的时候,HotSpot就把对象内什么偏移量上是什么类型的数据算出来,在JIT编译过程中,也会在特定的位置记录下栈和寄存器中哪些位置是引用。这样,GC在扫描时就可以直接得知这些信息了。
3.4.2 安全点
在 OopMap的协助下,HotSpot可以快速且准确地完成GC Roots枚举,但是一个很现实的问题随之而来:可能导致引用关系变化,或者说OopMap内容变化的指令非常多,如果为每一条指令都生成对应的OopMap,那将会需要大量的额外空间,这样GC的空间成本将会变得很高。
实际上,HotSpot也的确没有为每条指令都生成OopMap,前面已经提到,只是在“特定的位置”记录了这些信息,这些位置称为安全点(Safepoint),即程序执行时并非在所有地方都停顿下来开始GC,只有在到达安全点时才能暂停。Safepoint的选定既不能太少以至于让GC等待时间太长,也不能过于频繁以致于过分增加运行时的负荷。所以安全点的选定基本上是以程序“是否具有让程序长时间执行的特征”为标准进行选定的----因为每条指令执行的时间都非常短暂,程序不太可能因为指令流长度太长这个原因而过长时间运行,“长时间执行”的最明显特征就是指令序列复用,例如方法调用,循环跳转,异常跳转等,所以具有这些功能的指令才会产生Safepoint。
对于Safepoint,另一种需要考虑到的问题是如何在GC发生时让所有线程(这里不包括执行JNI调用的线程)都“跑”到最近的安全点上再停顿下来。这里有两种方案可供选择:抢先式中断(Preemptive Suspension)和主动式中断(Voluntary SusPension),其中抢断式中断不需要线程的执行代码主动配合,在GC发生时,首先把所有线程全部中断,如果发现有线程在中断的地方不在安全点上,就恢复线程,让它“跑”到安全点上,现在几乎没有虚拟机采用抢先式中断来暂停线程从而响应GC事件。
而主动式中断的思想是当GC需要中断线程的时候,不直接对线程操作,仅仅简单地设置一个标志,各个线程执行时主动去轮询这个标志,发现中断标志为真时就自己中断挂起。轮询标志的地方和安全点事重合的,另外再加上创建对象需要分配内存的地方。
3.4.3 安全区域
使用Safepoint似乎完美地解决了如何进入GC的问题,但实际情况却并不一定。Safepoint机制保证了程序执行时,在不太长的时间内就会遇到可进入GC的Safepoint。但是程序“不执行”的时候呢?所谓的程序不执行就是没有分配CPU时间,典型的例子就是线程处于Sleep状态或者Blocked状态,这时候线程无法响应JVM的中断请求,“走”到安全的地方去中断挂起,JVM也显然不太可能等待线程重新被分配CPU时间。对于这种情况,就需要安全区域(Safe Region)来解决。
安全区域是指一段代码片段之中,引用关系不会发生变化。在这个区域中的任意地方开始GC都是安全的。我们把Safe Region看做是被拓展的SafePoint。
在线程执行到Safe Region中的代码时,首先标识自己已经进入了Safe Region,那样,当在这段时间里JVM发起GC时,就不用管便是自己为Safe Region状态的线程了。在线程将要离开Safe Region时,它要检查系统是否已经完成了根节点枚举(或者整个GC过程),如果完成了,那线程就继续执行,否则就必须等待直到收到可以安全离开Safe Region的信号为止。