1. 运行时数据区域

Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若干个不同的数据 区域。这些区域都有各自的用途,以及创建和销毁的时间,有的区域随着虚拟机进程的 启动而存在,有些区域则是依赖用户线程的启动和结束而建立和销毁。根据《Java虚拟 机规范(第2版)》的规定,Java虚拟机所管理的内存将会包括以下几个运行时数据区 域,如图2-1所示。

1.1 程序计数器

程序计数器(Program Counter Register)是一块较小的内存空间,它的作用可以看 做是当前线程所执行的字节码的行号指示器。在虚拟机的概念模型里(仅是概念模型, 各种虚拟机可能会通过一些更高效的方式去实现),字节码解释器工作时就是通过改变 这个计数器的值来选取下一条需要执行的字节码指令,分支、循环、跳转、异常处理、 线程恢复等基础功能都需要依赖这个计数器来完成。

  由于Java虚拟机的多线程是通过线程轮流切换并分配处理器执行时间的方式来实现 的,在任何一个确定的时刻,一个处理器(对于多核处理器来说是一个内核)只会执行 一条线程中的指令。因此,为了线程切换后能恢复到正确的执行位置,每条线程都需要 有一个独立的程序计数器,各条线程之间的计数器互不影响,独立存储,我们称这类内 存区域为“线程私有”的内存。

  如果线程正在执行的是一个Java方法,这个计数器记录的是正在执行的虚拟机字节 码指令的地址;如果正在执行的是Natvie方法,这个计数器值则为空(Undefined)。此 内存区域是唯一一个在Java虚拟机规范中没有规定任何OutOfMemoryError情况的区域。

1.2 Java虚拟机栈

与程序计数器一样,Java虚拟机栈(Java Virtual Machine Stacks)也是线程私有的, 它的生命周期与线程相同。虚拟机栈描述的是Java方法执行的内存模型:每个方法被执行的时候都会同时创建一个栈帧(Stack Frame®)用于存储局部变量表、操作栈、动态链接、方法出口等信息。每一个方法被调用直至执行完成的过程,就对应着一个栈帧在 虚拟机栈中从入栈到出栈的过程。

  经常有人把Java内存区分为堆内存(Heap)和栈内存(Stack),这种分法比较粗 糙,Java内存区域的划分实际上远比这复杂。这种划分方式的流行只能说明大多数程序 员最关注的、与对象内存分配关系最密切的内存区域是这两块。其中所指的”堆”在后 面会专门讲述,而所指的“栈”就是现在讲的虚拟机栈,或者说是虚拟机栈中的局部变 量表部分。

  局部变量表存放了编译期可知的各种基本数据类型(boolean、byte、char、short、int、 float、long、double),对象引用(reference类型,它不等同于对象本身,根据不同的虚拟 机实现,它可能是一个指向对象起始地址的引用指针,也可能指向一个代表对象的句柄或 者其他与此对象相关的位置)和retumAddress类型(指向了一条字节码指令的地址)。

  其中64位长度的long和double类型的数据会占用2个局部变量空间(Slot),其余 的数据类型只占用1个。局部变量表所需的内存空间在编译期间完成分配,当进入一个 方法时,这个方法需要在帧中分配多大的局部变量空间是完全确定的,在方法运行期间 不会改变局部变量表的大小。

  在Java虚拟机规范中,对这个区域规定了两种异常状况:如果线程请求的栈深度大 于虚拟机所允许的深度,将抛出StackOverflowError异常;如果虚拟机栈可以动态扩展 (当前大部分的Java虚拟机都可动态扩展,只不过Java虚拟机规范中也允许固定长度的 虚拟机栈),当扩展时无法申请到足够的内存时会抛出OutOfMemoryError异常。

1.3 本地方法栈

本地方法栈(Native Method Stacks)与虚拟机栈所发挥的作用是非常相似的,其 区别不过是虚拟机栈为虚拟机执行Java方法(也就是字节码)服务,而本地方法栈则 是为虚拟机使用到的Native方法服务。虚拟机规范中对本地方法栈中的方法使用的语 言、使用方式与数据结构并没有强制规定,因此具体的虚拟机可以自由实现它。甚至 有的虚拟机(譬如Sun HotSpot虚拟机)直接就把本地方法栈和虚拟机栈合二为一。 与虚拟机栈一样,本地方法栈区域也会抛出StackOverflowError和OutOfMemoryError 异常。

1.4 Java 堆

对于大多数应用来说,Java堆(Java Heap)是Java虚拟机所管理的内存中最大的 一块。Java堆是被所有线程共享的一块内存区域,在虚拟机启动时创建。此内存区域的 唯一目的就是存放对象实例,几乎所有的对象实例都在这里分配内存。这一点在Java虚 拟机规范中的描述是:所有的对象实例以及数组都要在堆上分配。但是随着JIT编译器 的发展与逃逸分析技术的逐渐成熟,栈上分配、标量替换®优化技术将会导致一些微妙 的变化发生,所有的对象都分配在堆上也渐渐变得不是那么“绝对”了。

Java堆是垃圾收集器管理的主要区域,因此很多时候也被称做“GC堆”(Garbage Collected Heap,幸好国内没翻译成“垃圾堆”)。如果从内存回收的角度看,由于现在 收集器基本都是采用的分代收集算法,所以Java堆中还可以细分为:新生代和老年代; 再细致-点的有Eden空间、From Survivor空间、To Survivor空间等。如果从内存分配 的角度看,线程共享的Java堆中可能划分出多个线程私有的分配缓冲区(Thread Local Allocation Buffer, TLAB).不过,无论如何划分,都与存放内容无关,无论哪个区域, 存储的都仍然是对象实例,进一步划分的目的是为了更好地回收内存,或者更快地分配 内存。

根据Java虚拟机规范的规定,Java堆可以处于物理上不连续的内存空间中,只要 逻辑上是连续的即可,就像我们的磁盘空间一样。在实现时,既可以实现成固定大小 的,也可以是可扩展的,不过当前主流的虚拟机都是按照可扩展来实现的(通过-Xmx 和-Xms控制)。如果在堆中没有内存完成实例分配,并且堆也无法再扩展时,将会抛出 OutOfMemoryError 异常。

1.5 方法区

方法区(Method Area)与Java堆一样,是各个线程共享的内存区域,它用于存储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。虽 然Java虚拟机规范把方法区描述为堆的一个逻辑部分,但是它却有一个别名叫做Non­Heap (非堆),目的应该是与Java堆区分开来。

  对于习惯在HotSpot虚拟机上开发和部署程序的开发者来说,很多人愿意把方法区 称为“永久代”(Permanent Generation),本质上两者并不等价,仅仅是因为HotSpot虚 拟机的设计团队选择把GC分代收集扩展至方法区,或者说使用永久代来实现方法区而 已。对于其他虚拟机(如BEA JRockit, IBM J9等)来说是不存在永久代的概念的。即 使是HotSpot虚拟机本身,根据官方发布的路线图信息,现在也有放弃永久代并“搬家” 至Native Memory来实现方法区的规划了。

  Java虚拟机规范对这个区域的限制非常宽松,除了和Java堆一样不需要连续的内 存和可以选择固定大小或者可扩展外,还可以选择不实现垃圾收集。相对而言,垃圾 收集行为在这个区域是比较少出现的,但并非数据进入了方法区就如永久代的名字一 样“永久”存在了。这个区域的内存回收目标主要是针对常量池的回收和对类型的卸 载,一般来说这个区域的回收”成绩”比较难以令人满意,尤其是类型的卸载,条件 相当苛刻,但是这部分区域的回收确实是有必要的。在Sun公司的BUG列表中,曾出 现过的若干个严重的BUG就是由于低版本的HotSpot虚拟机对此区域未完全冋收而导 致内存泄漏。

  根据Java虚拟机规范的规定,当方法区无法满足内存分配需求时,将抛出 OutOfMemoryError 异常。

1.6 运行时常量池

运行时常量池(Runtime Constant Pool)是方法区的一部分。Class文件中除了有 类的版本、字段、方法、接口等描述等信息外,还有一项信息是常量池(Constant Pool Table),用于存放编译期生成的各种字面量和符号引用,这部分内容将在类加载后存放 到方法区的运行时常量池中。

  Java虚拟机对Class文件的每一部分(自然也包括常量池)的格式都有严格的规 定,每一个字节用于存储哪种数据都必须符合规范上的要求,这样才会被虚拟机认可、 装载和执行。但对于运行时常量池,Java虚拟机规范没有做任何细节的要求,不同的 提供商实现的虚拟机可以按照自己的需要来实现这个内存区域。不过,一般来说,除 了保存Class文件中描述的符号引用外,还会把翻译出来的直接引用也存储在运行时常 量池中七

  运行时常量池相对于Class文件常量池的另外一个重要特征是具备动态性,Java语 言并不要求常量一定只能在编译期产生,也就是并非预置入Class文件中常量池的内容 才能进入方法区运行时常量池,运行期间也可能将新的常量放入池中,这种特性被开发 人员利用得比较多的便是String类的intern。方法。

既然运行时常量池是方法区的一部分,自然会受到方法区内存的限制,当常量池无 法再申请到内存时会抛出OutOfMemoryError异常。

1.7 直接内存

直接内存(Direct Memory)并不是虚拟机运行时数据区的一部分,也不是Java 虚拟机规范中定义的内存区域,但是这部分内存也被频繁地使用,而且也可能导致 OutOfMemoryError异常出现,所以我们放到这里一起讲解。

  在JDK 1.4中新加入了 NIO (New Input/Output)类,引入了一种基于通道(Channel) 与缓冲区(Buffer)的I/O方式,它可以使用Native函数库直接分配堆外内存,然 后通过一个存储在Java堆里面的DirectByteBuffer对象作为这块内存的引用进行 操作。这样能在一些场景中显著提高性能,因为避免了在Java堆和Native堆中来 回复制数据。

  显然,本机直接内存的分配不会受到Java堆大小的限制,但是,既然是内存,则 肯定还是会受到本机总内存(包括RAM及SWAP区或者分页文件)的大小及处理器 寻址空间的限制。服务器管理员配置虚拟机参数时,一般会根据实际内存设置-Xmx 等参数信息,但经常会忽略掉直接内存,使得各个内存区域的总和大于物理内存限制 (包括物理上的和操作系统级的限制),从而导致动态扩展时出现OutOfMemoryError 异常。

2. 对象访问

介绍完Java虚拟机的运行时数据区之后,我们就可以来探讨一个问题:在Java语 言中,对象访问是如何进行的?对象访问在Java语言中无处不在,是最普通的程序行 为,但即使是最简单的访问,也会却涉及Java栈、Java堆、方法区这三个最重要内存区 域之间的关联关系,如下面的这句代码:

Object obj = new Object();

  假设这句代码出现在方法体中,那“Object obj”这部分的语义将会反映到Java栈 的本地变量表中,作为一个reference类型数据出现。而“new Object()”这部分的语义 将会反映到Java堆中,形成一块存储了 Object类型所有实例数据值(Instance Data,对 象中各个实例字段的数据)的结构化内存,根据具体类型以及虚拟机实现的对象内存布 局(Object Memory Layout)的不同,这块内存的长度是不固定的。另外,在Java堆中 还必须包含能査找到此对象类型数据(如对象类型、父类、实现的接口、方法等)的地 址信息,这些类型数据则存储在方法区中。

  由于reference类型在Java虚拟机规范里面只规定了一个指向对象的引用,并没有 定义这个引用应该通过哪种方式去定位,以及访问到Java堆中的对象的具体位置,因此 不同虚拟机实现的对象访问方式会有所不同,主流的访问方式有两种:使用句柄和直接 指针。

  • 如果使用句柄访问方式,Java堆中将会划分出一块内存来作为句柄池,reference 中存储的就是对象的句柄地址,而句柄中包含了对象实例数据和类型数据各自的具体地址信息,如图2-2所示。

  

  • 如果使用直接指针访问方式,Java堆对象的布局中就必须考虑如何放置访问类型数据的相关信息,reference中直接存储的就是对象地址,如图2-3所示。

  

  这两种对象的访问方式各有优势,使用句柄访问方式的最大好处就是reference中存 储的是稳定的句柄地址,在对象被移动(垃圾收集时移动对象是非常普遍的行为)时只 会改变句柄中的实例数据指针,而reference本身不需要被修改。

  使用直接指针访问方式的最大好处就是速度更快,它节省了一次指针定位的时间开 销,由于对象的访问在Java中非常频繁,因此这类开销积少成多后也是一项非常可观的执行成本。就虚拟机Sun HotSpot而言,它是使用第二种方式进行对象 访问的,但从整个软件开发的范围来看,各种语言和框架使用句柄来访问的情况也十分 常见。

3. 实战:OutOfMemoryError 异常

在Java虚拟机规范的描述中,除了程序计数器外,虚拟机内存的其他几个运行时区 域都有发生OutOfMemoryError (下文称OOM)异常的可能,本节将通过若干实例来验 证异常发生的场景(代码清单2-1至代码清单2-6的几段简单代码),并且会初步介绍几 个与内存相关的最基本的虚拟机参数。

  本节内容的目的有两个:第一,通过代码验证Java虚拟机规范中描述的各个运行 时区域储存的内容;第二,希望读者在工作中遇到实际的内存溢出异常时,能根据异常 的信息快速判断是哪个区域的内存溢出,知道怎样的代码可能会导致这些区域的内存溢 出,以及出现这些异常后该如何处理。

  下面代码的开头都注释了执行时所需要设置的虚拟机启动参数(注释中“VMArgs” 后面跟着的参数),这些参数对实验的结果有直接影响,请读者调试代码的时候不要忽 略掉。如果读者使用控制台命令来执行程序,那直接跟在Java命令之后书写就可以。如果使用Eclipse IDE,则可以参考图2-4在Debug/Run页签中的设置。

  下文的代码都是基于Sun HotSpot 17.1-b03 (JDK 1.6 Update 22中带的虚拟机)运 行的,对于不同公司的不同版本的虚拟机,参数和程序运行的结果可能会有所差别。

3.1 Java堆溢出

Java堆用于储存对象实例,我们只要不断地创建对象,并且保证GC Roots到对象 之间有可达路径来避免垃圾回收机制清除这些对象,就会在对象数量到达最大堆的容量限制后产生内存溢出异常。

  代码清单2-1中限制Java堆的大小为20MB,不可扩展(将堆的最小值-Xms参 数与最大值-Xmx参数设置为一样即可避免堆自动扩展),通过参数-XX:+HeapDump OnOutOfMemoryError可以让虚拟机在出现内存溢出异常时Dump出当前的内存堆转储 快照以便事后进行分析。

package test.one;

import java.util.ArrayList;
import java.util.List;

public class test {
static class OOMObject{

}
public static void main(String[] args) {
List<OOMObject> list = new ArrayList<>();
while (true) {
list.add(new OOMObject());
}

}

}

  

运行参数:-verbose:gc -Xms20M -Xmx20M -Xmn10M -XX:+PrintGCDetails -XX:SurvivorRatio=8

  Java堆内存的OOM异常是实际应用中最常见的内存溢出异常情况。出现Java堆内存溢出时,异常堆栈信息”java.lang.OutOfMemoryError”会跟着进一步提示“Java heap space

  要解决这个区域的异常,一般的手段是首先通过内存映像分析工具(如Eclipse Memory Analyzer)对dump出来的堆转储快照进行分析,重点是确认内存中的对象是 否是必要的,也就是要先分清楚到底是出现了内存泄漏(Memory Leak)还是内存溢 出(Memory Overflow)o 图 2-5 显示了使用 Eclipse Memory Analyzer 打开的堆转储快照文件。

  如果是内存泄漏,可进一步通过工具査看泄漏对象到GC Roots的引用链。于是就 能找到泄漏对象是通过怎样的路径与GC Roots相关联并导致垃圾收集器无法自动回收 它们的。掌握了泄漏对象的类型信息,以及GC Roots引用链的信息,就可以比较准确 地定位出泄漏代码的位置。

  如果不存在泄漏,换句话说就是内存中的对象确实都还必须存活着,那就应当检査 虚拟机的堆参数(-Xmx与-Xms),与机器物理内存对比看是否还可以调大,从代码上 检査是否存在某些对象生命周期过长、持有状态时间过长的情况,尝试减少程序运行期 的内存消耗。

3.2 虚拟机栈和本地方法栈溢出

  由于在HotSpot虚拟机中并不区分虚拟机栈和本地方法栈,因此对于HotSpot来 说,-Xoss参数(设置本地方法栈大小)虽然存在,但实际上是无效的,栈容量只由-Xss 参数设定。关于虚拟机栈和本地方法栈,在Java虚拟机规范中描述了两种异常:

  • 如果线程请求的栈深度大于虚拟机所允许的最大深度,将抛出StackOverflowError 异常。
  • 如果虚拟机在扩展栈时无法申请到足够的内存空间,则抛出OutOfMemoryError 异常。

  这里把异常分成两种情况看似更加严谨,但却存在着一些互相重叠的地方:当栈空 间无法继续分配时,到底是内存太小,还是已使用的栈空间太大,其本质上只是对同一 件事情的两种描述而已。

  在笔者的实验中,如果将实验范围限制于单线程中的操作,尝试了下面两种方法均无法让虚拟机产生OutOfMemoryError异常,尝试的结果都是获得StackOverflowError 异常,测试代码如清单2-2所示。

  • 使用-Xss参数减少栈内存容量。结果:抛出StackOverflowError异常,异常出现 时输出的栈深度相应缩小。
  • 定义了大量的本地变量,增加此方法帧中本地变量表的长度。结果:抛出 StackOverflowError异常时输出的栈深度相应缩小。
package test.one;
//别忘了设置运行参数 -Xss128k
public class JavaVMStackSOF {
private int stackLength = 1;
public void stackLeak() {
stackLength++;
stackLeak();
}
public static void main(String[] args) {
JavaVMStackSOF oom = new JavaVMStackSOF();
try {
oom.stackLeak();
} catch (Exception e) {
System.out.println("stack length:"+oom.stackLength);
throw e;
}
}

}

  实验结果表明:在单个线程下,无论是由于栈帧太大,还是虚拟机栈容量太小,当 内存无法分配的时候,虚拟机抛出的都是StackOverflowEnor异常。

  如果测试时不限于单线程,通过不断地建立线程的方式倒是可以产生内存溢出异 常,如代码清单2-3所示。但是,这样产生的内存溢出异常与栈空间是否足够大并不存 在任何联系,或者准确地说,在这种情况下,给每个线程的栈分配的内存越大,反而越容易产生内存溢出异常。

  原因其实不难理解,操作系统分配给每个进程的内存是有限制的,譬如32位的 Windows限制为2GB。虚拟机提供了参数来控制Java堆和方法区的这两部分内存的最大值。剩余的内存为2GB (操作系统限制)减去Xmx (最大堆容量),再减去MaxPermSize (最大方法区容量),程序计数器消耗内存很小,可以忽略掉。如果虚拟机进程本身耗费的内存不计算在内,剩下的内存就由虚拟机栈和本地方法栈”瓜分” 了。每个线程分配到的栈容量越大,可以建立的线程数量自然就越少,建立线程时就越容易把剩下的内存耗尽。

  这一点需要在开发多线程应用的时候特别注意,出现StackOverflowError异常时有错误堆栈可以阅读,相对来说,比较容易找到问题的所在。而且,如果使用虚拟机 默认参数,栈深度在大多数情况下(因为每个方法压入栈的帧大小并不是一样的,所以 只能说大多数情况下)达到1000 - 2000完全没有问题,对于正常的方法调用(包括递 归),这个深度应该完全够用了。但是,如果是建立过多线程导致的内存溢出,在不能 减少线程数或者更换64位虚拟机的情况下,就只能通过减少最大堆和减少栈容量来换 取更多的线程。如果没有这方面的经验,这种通过“减少内存”的手段来解决内存溢出 的方式会比较难以想到。

  下面代码还是不要跑了,cpu直接跑满了,系统直接卡死

package test.one;
//别忘了设置运行参数 -Xss2M
public class JavaVMStackOOM {
private void dontStop() {
while(true) {
}
}
public void stackLeakByThread() {
while(true) {
Thread thread = new Thread(new Runnable() {

@Override
public void run() {
dontStop();
}
});
thread.start();
}
}
public static void main(String[] args) {
JavaVMStackOOM oom = new JavaVMStackOOM();
oom.stackLeakByThread();
}

}

  注意 特别提示一下,如果要尝试运行上面这段代码,记得要先保存当前的工作, 由于在Windows平台的虚拟机中,Java的线程是映射到操作系统的内核线程上的,所 以上述代码执行时有较大的风险,可能会导致操作系统假死。

3.3 运行时常量池溢出

如果要向运行时常量池中添加内容,最简单的做法就是使用String.intem()这个 Native方法。该方法的作用是:如果池中已经包含一个等于此String对象的字符串,则返回代表池中这个字符串的String对象;否则,将此String对象包含的字符串添加到常量池中,并且返回此String对象的引用。由于常量池分配在方法区内,我们可以通 过-XX:PermSize和-XX:MaxPermSize限制方法区的大小,从而间接限制其中常量池的容量,如代码清单2-4所示。

package test.one;
//别忘了设置运行参数 -XX:PermSize=10M -XX:MaxPermSize=10M
import java.util.ArrayList;
import java.util.List;

public class RuntimeConstantPoolOOM {
public static void main(String[] args) {
List<String> list = new ArrayList<String>();
int i = 0;
while(true) {
list.add(String.valueOf(i++).intern());
}
}
}

  

3.4 方法区溢出

方法区用于存放Class的相关信息,如类名、访问修饰符、常量池、字段描述、方法描述等。对于这个区域的测试,基本的思路是运行时产生大量的类去填 满方法区,直到溢出。虽然直接使用Java SE API也可以动态产生类(如反射时的 GeneratedConstructorAccessor和动态代理等),但在本次实验中操作起来比较麻 烦。在代码清单2-5中,笔者借助CGLib®直接操作字节码运行时,生成了大量的动态类。

  值得特别注意的是,我们在这个例子中模拟的场景并非纯粹是一个实验,这样的应 用经常会出现在实际应用中:当前的很多主流框架,如Spring和Hibernate对类进行增强时,都会使用到CGLib这类字节码技术,增强的类越多,就需要越大的方法区来保证 动态生成的Class可以加载入内存。

  下面代码还是不要跑了,内存跑满才行

package com.intehel.demo.domain;

import org.springframework.cglib.proxy.Enhancer;
import org.springframework.cglib.proxy.MethodInterceptor;
import org.springframework.cglib.proxy.MethodProxy;
import java.lang.reflect.Method;

public class JavaMethodAreaOOM {
public static void main(String[] args) {
while (true) {
Enhancer enhancer = new Enhancer();
enhancer.setSuperclass(OOMObject.class);
enhancer.setUseCache(false);
enhancer.setCallback(new MethodInterceptor() {
@Override
public Object intercept(Object o, Method method, Object[] objects, MethodProxy methodProxy) throws Throwable {
return methodProxy.invokeSuper(o,objects);
}
});
enhancer.create();
}
}
static class OOMObject{

}
}

  方法区溢出也是一种常见的内存溢出异常,一个类如果要被垃圾收集器回收掉,判定条件是非常苛刻的。在经常动态生成大量Class的应用中,需要特别注意类的回收状况。这类场景除了上面提到的程序使用了 GCLib字节码增强外,常见的还有:大量JSP 或动态产生JSP文件的应用(JSP第一次运行时需要编译为Java类)、基于OSGi的应用 (即使是同一个类文件,被不同的加载器加载也会视为不同的类)等。

3.5 本机直接内存溢出

DirectMemory容量可通过-XX:MaxDirectMemorySize指定,如果不指定,则默认与Java堆的最大值(-Xmx指定)一样。代码清单2-6越过了 DirectByteBuffer 类,直接通过反射获取Unsafe实例并进行内存分配(Unsafe类的getUnsafe()方 法限制了只有引导类加载器才会返回实例,也就是设计者希望只有rt.jar中的类 才能使用Unsafe的功能)。因为,虽然使用DirectByteBuffer分配内存也会抛出 内存溢出异常,但它抛出异常时并没有真正向操作系统申请分配内存,而是通过 计算得知内存无法分配,于是手动抛出异常,真正申请分配内存的方法是unsafe. allocateMemory()。

4. 小结

  通过本章的学习,我们明白了虚拟机里面的内存是如何划分的, 样的代码和操作可能导致内存溢出异常。虽然Java有垃圾收集机制, 我们并不遥远,本章只是讲解了各个区域出现内存溢出异常的原因, Java垃圾收集机制为了避免内存溢出异常的出现都做了哪些努力。