30 October 2011

原文地址: http://caoxudong818.iteye.com/blog/1223086

1 Introduction and Overview

Java HotSpot™虚拟机是Sun公司针对Java平台实现的高性能虚拟机。Java HotSpot为Java SE平台提供了基础,为快速开发和部署商业关键应用提供了首要的解决方案。Java SE技术在Solaris、Linux、Windows和其他经过Java技术授权的平台上均可使用。

图 1   Java标准版技术

Java平台已经成为了软件开发和部署的主要选择。有了成千上万的用户和开发者的支持,Java平台在很多方面都得到了迅速的发展:从信用卡到无线设备,从桌面应用到大型机设备等。在Web方面,Java平台也称为了部署Web页面Applet、Web Service、大型商业应用等场景的基础。

Java HotSpot虚拟机建立在Java的跨平台技术支持和健壮的安全模型的支持上,拥有良好的伸缩性、执行质量和执行性能。此外,Java HotSpot虚拟机一直都是向后兼容的。

Java HotSpot虚拟机几乎支持开发、部署和管理应用程序中的各个方面,在以下方面得到应用:

  • IDE,包括Java Studio Tools、NetBeans、Eclipse、IntelliJ IDEA等
  • 应用服务器供应商,包括WebLogic、WebSphere、Tomcat等

Sun公司也通过制定各种工业标准,开发内部标准来不断的提升执行性能。这些改进对客户端和服务器端的Java虚拟机环境都是适用的。

Java标准版平台包含两种Java虚拟机的实现:

  • Java HotSpot客户端虚拟机:专为加速客户端应用程序启动,并减少内存占用而进行优化 *Java HotSpot服务器端虚拟机:运行在服务器环境中,专为最大化程序执行速度而优化

1.1 Java HotSpot虚拟机——建立在坚实的基础上

Java HotSpot虚拟机建立在一个坚实的基础之上,拥有许多特性。该架构支持动态的、面向对象的优化,具有世界级的执行性能。即使在需要进行大量计算的系统中,仍可通过高伸缩性来支持多线程运行。在执行企业级快速开发、内省和管理中,具有较高的可靠性、可用性和服务性。

2 Java HotSpot虚拟机架构

2.1 概述

Java HotSpot虚拟机是Sun公司为Java平台实现的虚拟机,使用了很多技术来提升程序的执行性能,包括先进的内存模型、垃圾收集器和自适应的优化器等。这些都是以高级的、面向对象的形式实现的:

  • 同一对象模型
  • 在同一个栈中混用解释帧、编译帧和本地帧
  • 基于本地线程的可抢占式多线程实现
  • 精确的分代压缩垃圾收集
  • 快速的线程同步机制
  • 动态的去优化和激进的编译器优化并存
  • 在虚拟机启动时产生系统指定的运行时例程
  • 支持并行编译的编译器接口
  • 运行时统计强制编译器只对“热点”方法进行编译

JDK中包含了两种Java虚拟机,分别是客户端虚拟机和专为服务器应用程序调优的服务器端虚拟机。这两种方案共享了同一个Java HotSpot虚拟机环境代码,但使用了适合于不同性能特点的编译器。这些区别包括编译器内联策略和堆的默认使用策略。

在JDK的发行版中,包含了上述的两种虚拟机。程序员可以通过在命令行中指定-client-server来启动不同的虚拟机。

尽管服务器端虚拟机和客户端虚拟机是相似的,但服务器端虚拟机为提升最大执行速度做了调优。它适合于运行那些需要长时间运行、执行速度比启动速度或内存占用更重要的应用程序。

客户端虚拟机的编译器作为Classic虚拟机和JIT(Just-In-Time)编译器的升级版本,应用于各种版本的JDK中。客户端虚拟机加快了应用程序和小程序(applet)的运行时性能。Java HotSpot客户端虚拟机专门为加快启动速度和减少内存占用做了优化,使其更适用于客户端环境。一般来说,客户端虚拟机更适合于GUI应用程序。

客户端虚拟机编译器并不会执行一些服务器端虚拟机所要作的优化操作,但这样可以用更少的时间来分析并编译一段代码。因此,客户端虚拟机有更快的启动速度和更少的内存占用。

服务器端虚拟机中有一个高级自适应编译器,可以支持很多类型的优化,例如调用虚方法时的激进的内联优化。相对于静态编译器,这具有较强的竞争力和性能优势,自适应优化技术在实现上非常灵活,优于静态分析和编译技术。

图 2    Java虚拟机中编译器的划分

2.2 内存模型

2.2.1 无句柄对象

在之前的Java虚拟机版本中,例如Classic版本的虚拟机中,使用间接句柄来表示对象的引用。在执行垃圾回收时,这使得重定位对象比较容易,但这也是一个主要的性能瓶颈,因为Java编程语言访问实例变量需要两级转向。

在Java HotSpot虚拟机中,Java代码没有使用句柄。对象引用是用直接指针实现的,这样访问实例变量的时候可以达到C语言一样的速度。在内存回收过程中,重定位对象时,垃圾收集器负责找到并更新所有对象的引用。

2.2.2 两字长的对象头

Java HotSpot虚拟机使用了两个机器字长的对象头,而Classic虚拟机则使用了3个字长的对象头。因为Java 对象的平均大小比较小,这对内存空间的消耗具有重要影响,可节约大约8%的堆大小的内存。对象头的第1个字包含了诸如标识哈希码和GC状态等信息。第2个字是一个指向对象的类的引用。只有数组类型的对象有第3个字,用于存储数组的长度。

2.2.3 反射数据也是对象

类、方法和其他内部反射数据都是堆上的对象(尽管这些对象并不能由基于Java 技术的程序来访问)。这不仅简化了虚拟机的内部对象模型,也使得这些类可以被其他Java对象所使用的同一个垃圾收集器回收掉。

2.2.4 本地线程支持,包括抢占式和多线程处理

每个线程的活动栈都会使用主机操作系统的栈和线程模型。Java编程语言方法和本地方法共享同一个栈,实现了C语言和Java语言之间的快速调用。全抢占式Java线程使用了主机操作系统的线程调度机制。

使用本地操作系统线程及调度机制的优点是可以透明了利用本地操作系统的多线程处理支持。由于Java HotSpot虚拟机被设计成对在执行Java代码时因抢占和/或多线程处理造成的竞争条件不敏感,所以Java 线程会自动调整本地操作系统提供的调度和处理器分配策略。

2.3 垃圾回收

Java HotSpot虚拟机系统中的分代管理使得针对不同类型应用程序选择不同的垃圾收集算法更具灵活性。Java HotSpot虚拟机支持不同多种不同的垃圾收集算法来满足对不同的暂定时间和吞吐量的要求。

2.3.1 背景知识

程序员们喜爱Java 编程语言的一个主要原因是这是第1个内建支持自动内存管理,或称垃圾收集的编程语言。在传统的程序设计语言中,动态内存分配是显式的使用allocate/free来完成的。在实际应用中,这经常导致内存溢出、程序bug甚至崩溃,往往也成为系统的瓶颈所在,难以实现模块化和代码重用。在Java 程序设计语言中,垃圾回收是支持安全执行的一个重要组成部分,有力的支持的安全模型。

垃圾收集器会自动释放无用对象占用的内存,只有到程序再也不会用到这个对象时,才会被释放掉。这种机制解决了由自由指针引起的内存泄漏、程序崩溃,已经其他一些难以发现的bug。

从传统上讲,相比于显式释放内存,垃圾收集被认为没有效率,并且会降低系统性能。事实上,现代垃圾收集技术已经取得长足的进步,系统的整体性能甚至略好于那些显式释放内存的系统。

2.3.2 Java HotSpot垃圾收集器

除了下面将要描述的一些特性外,内存系统的设计也是非常干净的、面向对象的,很容易使用新的垃圾回收算法来测量、实验和扩展。

Java HotSpot垃圾收集器的主要特点将在下面叙述。总体上讲,这些特性既适合于那些对高性能有要求的应用程序,也可应用于那些需要长时间运行的、不允许出现内存溢出或较多内存碎片的应用程序。

2.3.2.1 准确性

Java HotSpot垃圾收集器是一个准确式的垃圾收集器。相比之下,其他的很多垃圾收集器都是保守的,或半精确的。有时,保守的垃圾收集器是比较有吸引力的,因为它可以很容易的被添加到一个没有垃圾收集器的系统中,但也有一些缺陷。保守的垃圾收集器可能会引发内存泄漏,使对象无法移动,也可能造成堆碎片。

保守的垃圾收集器无法准确定位所有的对象引用。所以,它会假设指向对象的内存字实际上都是对象引用。这样的话就说产生一些错误,例如将整形数字当成对象指针对待。看起来像指针的内存单元,被当作指针使用,垃圾收集器就无法做到准确收集。这样的做法还有一些其他的负面影响。首先,当发生这些错误时(实际上并不会频繁发生),可能会发生内存泄漏,而程序员几乎无法调试。其次,由于本身可能发生错误,保守的垃圾收集器可能会使用句柄来间接的引用对象(这样会降低性能),或者避免回收对象,因为回收无句柄对象要更新所有对象的句柄。无法回收对象会导致内存碎片的产生,更重要的是,无法使用将要在下面描述的高级的分代拷贝垃圾收集算法。

Java HotSpot垃圾收集器是精确的,有一些保守垃圾收集器所没有的特性:

  • 所有不可达的对象都会被可靠的回收
  • 所有对象都是可移动的,允许压缩对象占用的内存,这会减少内存碎片,提高内存紧凑性

精确的垃圾收集机制可以避免偶然的内存泄漏,移动对象可以防止对整个堆进行压缩Java HotSpot虚拟机的垃圾收集机制适用于非常大的堆。

2.3.2.2 分代拷贝垃圾

Java HotSpot虚拟机使用了业界领先的分代拷贝垃圾收集器,有以下两大主要特性:

  • 相比于非分代垃圾收集器,提升了垃圾回收速度和垃圾收集效率
  • 相对减少了垃圾收集频率和因执行垃圾收集而造成的程序暂停的时间

分代垃圾收集器基于这样一个事实,在大多数程序中,大量对象(95%以上)的生命周期非常短(例如,只是临时存储数据使用)。通过将新近创建的对象隔离到一块专门的区域,分代垃圾收集器就可以做很多事了。首先,因为新创建的对象都被存放到一块类似于栈的空间中,分配速度是非常快的,因为只需要更新一个指针,检查一次这块区域是否有溢出。其次,当这块区域溢出后,区域的大多数对象都已经死了,垃圾收集器只需要简单的将或者的对象移到其他地方,就可以将全部区域回收,避免了对区域中已死对象的回收。

2.3.2.3 并行新生代垃圾收集器

上面描述的单线程拷贝垃圾收集器适合于很多应用程序,但可能会成为利用了多处理器特性的应用程序在伸缩性上的瓶颈。为了充分利用多CPU的特点,Java HotSpot虚拟机提供了一种可选的、多线程的、作用于年轻代的垃圾收集器,这样、跟踪和拷贝对象的工作都是多线程并发执行的。在具体实现中,对垃圾收集器进行了优化,在各个处理之间平衡了垃圾收集的工作,是垃圾收集器可以运行在具有很多CPU的机器上。这样,就可以检查在清理年轻代时引起的程序暂停,并最大化应用程序的吞吐量。并行垃圾收集器已经在拥有100的CPU和1TB堆的机器上经过了测试。Server模式的虚拟机默认使用并行年轻代垃圾收集器作为垃圾回收算法。

在移动对象时,并行垃圾收集器试图将相关对象放到一起,这样可以优化内存布局和缓存的使用,提升整体性能。这是通过拷贝对象时,执行深度优先遍历完成的。

并行垃圾收集器能更好的利用内存。它并不需要保留旧对象的一部分空间来完成对象拷贝的工作。它使用了一项新技术来拷贝对象。如果旧对象空间不足,这项技术就会对堆进行压缩,而不需要保留一部分空间备用。这样可以更好的利用堆的可用空间。

最后,并行垃圾收集器可以针对应用程序的堆分配情况,动态调整它的参数,这样可以提升在整个应用程序环境内的垃圾回收的执行性能。这个特性是并行垃圾收集器首先引入的,在其他的垃圾收集算法中也得到了使用。

相比于默认的单线程垃圾收集器,并行垃圾收集器收支平衡点出现在2个和4个CPU之间,依赖于具体的应用程序环境。这会在将来的版本中进一步优化。

2.3.2.4 标记压缩老年对象垃圾收集器

尽管分代拷贝垃圾收集器能有效的回收已死亡对象,但那些存活时间较长的对象仍然会在 老年对象内存区不断积累。偶然情况下,由于内存较低或一些程序上的要求,必须使用老年对象垃圾收集。Java HotSpot虚拟机默认使用了标准标记-压缩垃圾收集算法,该算法会从根对象开始遍历所有活动对象,然后执行清理,并压缩清理已死亡对象后留下的内存空隙。通过压缩堆中的空隙,而不是将它存入到一个freelist 中,可以消除内存碎片,并可以实现老年对象分配的线性化,而无需再查找freelist。

2.3.2.5 CMS收集器

对于那些要求较大堆空间,默认的老年代标记清理垃圾收集器会引起应用程序线程的暂停。Java HotSpot虚拟机实现了一个可选的并发垃圾收集器,可充分利用空闲处理器来对老年对象进行垃圾回收,并且只会使应用程序有很短的暂停。这是通过在应用程序执行过程中不断的跟踪和清理来完成的。在某些应用场景中,应用程序吞吐量的峰值会有一些下降,因为处理器会并发执行垃圾回收。但是,平均和最差情况下垃圾收集暂停时间都可以通过1个或2个重要的命令来减少,当在一个大堆上执行默认的同步标记清理算法时,允许应用程序更加平稳的响应,而不会产生突发性响应的问题。

2.3.2.6 并行的老年代垃圾收集器

当前版本的Java HotSpot虚拟机为老年代引入了并行标记清理垃圾收集器,专用于提升需要较大堆的应用程序的伸缩性。CMS垃圾收集器专注于减少应用程序的暂停时间,老年代的并行垃圾收集器则通过在stop-the-world暂停期间,使用多线程同时执行垃圾收集来提高应用程序的吞吐量。并行老年代垃圾收集在内部使用了新的技术的数据结构,使其不仅保留了在垃圾收集期间的精确性和最小化开销的优点,还达到了较好的系统伸缩性。

2.4 超快的线程同步

Java编程语言支持应用程序的多线程执行,并在语言级提供了现场同步的机制,可以快速的建立具有较细粒度的锁的多线程应用程序。在此之前的同步实现,如Classic虚拟机中,相比于Java编程语言中其他的宏观操作性能低下,使用细粒度的锁会成为性能的瓶颈。

Java HotSpot虚拟机整合了竞争和非竞争的同步操作,这是提升同步性能的一大因素。非竞争的同步操作,包含了大量的同步操作,使用了超快的(ultra-fast)、常量时间的(constant-time)技术来实现。基于最新的优化技术,在最佳情况下,即使是在多处理器计算场景中,也可以无损耗的运行。竞争性同步操作,充分利用了自旋锁的优点,即使应用程序中有大量的竞争锁,仍可提升吞吐量。因此,大于大部分应用程序来说,同步性能已不再是关键的性能指标。

2.5 64位架构

Java HotSpot虚拟机的早期版本会受到4G内存空间的限制,即使是在如Solaris OE这样的64位操作系统上。现在,很多桌面系统都已经达到了4G内存的使用环境,而现代服务器都已经拥有了更大的内存。例如,Sun Fire E25K服务器的每个域都支持1.15TB的内存。使用64位的Java虚拟机,可以利用系统的整个内存空间。

基于64位地址空间,应用程序可以有很多种用途。例如,那些会在内存中保存大量数据集的应用程序。应用程序可以避免从磁盘中获取分页数据或从RDBMS中获取数据的性能损耗。这样,应用程序的性能得以大幅提升。

现在,64位的Java HotSpot虚拟机是可以安全使用的。Server模式下的虚拟机支持32位和64位两种操作。你可以使用命令行选项“-d32”或“-d64”来明确指定使用哪种模式。而JNI的用户若想在64位虚拟机上运行程序,则需要重新编译代码。

2.6 对象包装

对象包装功能可以最小化不同数据类型大小之间的空间浪费。这是64位虚拟机的主要特性,即使在32位虚拟机上,对系统性能也有所提升。

例如:

public class Button { 
    char shape; 
    String label; 
    int xposition; 
    int yposition; 
    char color; 
    int joe; 
    object mike; 
    char armed; 
} 

上面的代码中,在color和joe 之间(浪费3个字节),以及joe 和mike之间(在64位系统上会浪费4个字节)会产生空间浪费。现在,这些字段会被重新排序,如下所示:

... 
object mike; 
int joe; 
char color; 
char armed; 
... 

这样么就不会有内存空间的浪费了。

3 Java HotSpot编译器

3.1 概述

大多数试图加速Java编程语言的努力都集中在对为传入语言开发的编译器上。JIT编译器本质上是一个快速的传统编译器,在Java程序运行过程中,将Java字节码编译成本地机器代码。运行在用户机上上的JIT编译器实际上会执行字节码,并在第一次执行的时候编译每个方法。

但是,对JIT 编译器还有几个问题要说。首先,因为编译器运行在执行代码的机器上,并且占用用户时间,所以它受CPU速度的影响很大。如果CPU的速度不快的话,在启动应用程序或应用程序的一部分时,用户会明显的感觉到延迟。这就会带来一种权衡,使得更难以执行高级优化,因为高级优化通常会使编译性能大大降低。

其次,JIT 有足够的时间来执行全面的优化,相比于传统的编程语言,如C/C++,Java编程语言的JIT执行一些的优化也不是那么有效率,原因如下:

  • Java语言是动态安全的,即它保证了程序不会违反语义或直接访问位结构化的内存,这就要求必须经常执行动态类型检查(当类型扩展,或转换为Object时发生)。
  • Java语言中,所有的对象都是在堆中分配的。相比之下,C++中的很多对象是在栈中分配的。因此,Java语言中需要更快的对象分配速度。此外,相比于C++,Java中有着完全不同的内存分配开销(包括潜在的擦除和白色屏障开销)。
  • 在Java语言中,大多数的方法调用都是虚方法调用(潜在的多态),这比C++中使用的频率多很多。其中的含义不仅仅是方法调用的性能成了程序性能的主要因素,更说明了静态编译器优化(尤其是一些全局优化,如内联)更加难以对方法调用进行优化。许多传统的编译器优化对函数之间调用最为有效,减少函数调用间的距离,但在Java语言中,这些优化就不那么有效了,因为Java中方法的代码段都比较小。
  • 由于使用了动态类载入技术,基于Java 技术的程序可以在运行时修改。这样执行全局优化就更加困难。借助于动态载入,编译器不仅仅可以检测到这些优化选项什么时候变为无效,还可以在程序运行期间取消或重做某些优化,即使它们涉及到栈上的活动方法。

结果是,任何想要在Java语言中实现基础优化的想法都必须对这些非传统的进行解答,而不是在传统编译器技术上提供2进制兼容性。

Java虚拟机结构使用了自适应的优化技术来解决上述问题。

3.2 热点监测

自适应优化利用了一个有趣的程序属性来解决JIT编译的问题。几乎所有的程序都会花费大量的时间来执行很少的一段代码。因此,不再是一个一个方法进行编译,Java虚拟机会使用解释器立即执行程序,并在程序运行时监测关键热点。然后,它会让全局本地代码优化器(global native-code optimizer)对热点进行优化。这样,避免对一些不经常使用的方法进行编译(程序中的大部分方法都是这样的),Java HotSpot编译器可以将更多的精力放在影响性能的关键点上,而不会增加总体的编译时间。热点监测与程序运行同时执行,并收集一些其他信息,例如为虚方法调用手机调用者与被调用者的关系等。

使用这种方法有一个微妙但很重要的好处,通过将编译延后到程序运行了一段时间之后(这里的时间指的是机器时间,不是用户时间),可以对代码的执行信息进行收集,使用一些更好的优化方法。同时也可以降低内存消耗。此外,对程序运行中的热点收集信息的同时,也可以收集一些其他信息,如与在虚方法调用时的调用者与被调用者的关系相关的数据。

3.3 方法内联

Java编程语言中对虚方法的频繁调用是一个很重要的优化瓶颈。在程序运行时,如果Java HotSpot自适应优化器收集到了有关热点程序的信息,它不仅会将热点编译成本地代码,还会在热点代码上执行有着不小性能损耗的方法内联。

内联的作用很大。它可以极大的方法调用的动态频率,这可以减少方法调用的时间。但更重要的是,方法内联会产生一些较大的代码块,方便优化器进行优化。这可以显著的提高传统编译优化的效率,克服了提升Java编程语言性能的主要障碍。

内联与代码优化是协同作用的,因为内联使优化更有效率,随着Java HotSpot编译器逐渐成熟,操作较大的、内联的代码块的能力会在将来打开通向更高级性能优化的大门。

3.4 动态去优化

尽管内联是一项重要的优化手段,但对于像Java 这样的动态面向对象语言来说,执行起来很困难。此外,由于探测热点并对热点区域的方法调用进行内联操作也有相当的难度,所以也无法有效的提供Java语言的全部语义。这是因为Java语言不仅可以在运行时改变方法调用的模式,还可以动态载入Java代码到程序中。

内联是一全局分析为基础的。动态载入使得内联的复杂度大大增加,因为它改变了程序中的全局关系。一个新的Java类可能包含了需要内联到适当位置的方法。因此,Java HotSpot虚拟机必须可以动态去优化(必要的话,还需要重优化)之前已经优化过的热点代码,甚至是正在热点代码。如果没有这种能力,一般意义上的内联操作就无法应用于基于Java 技术的应用程序了。

Java HotSpot虚拟机的客户端模式编译器和服务器模式编译器都提供了对动态去优化的完整支持。这样就可以使用一些激进乐观的优化方法和其他一些技术,例如全速调试(full-speed debugging)。

3.5 Java HotSpot客户端编译器

Java HotSpot客户端编译器是一个简单、快速的三段式编译器。在第一阶段,一个平台 无关的前端会从字节码中构建出 高级中间表示(high-level intermediate representation,HIR)。HIR使用 静态单一分配(static single assignment,SSA)来表示值,这样就可以更容易使用某些优化策略,这些优化可以在IR创建中,或创建后执行。在第二个阶段,平台相关的(编译器)后端会从HIR中生成 低级中间表示(low-level intermediate representation,LIR)。最后一个阶段中,会使用自定义的线性扫描算法在LIR上进行寄存器分配,在LIR上执行窥孔优化,并从LIR中生成机器码。

上述三个阶段的重点在于尽可能的从字节码中提取出更多的信息。客户端编译器着重于 本地代码的质量,只做很少的全局优化,因为那些通常会需要较长的编译时间,开销较大。

3.6 Java HotSpot服务器端编译器

服务器端编译器用于典型的服务器端应用程序。Java HotSpot服务器端编译器是一个高端全功能优化编译器。它使用了高级的基于SSA的IR 优化策略。优化器会执行所有的经典优化,包括 剔除死代码(dead code elimination)提升循环不变量(loop invariant hoisting)剔除通用子表达式(common subexpression elimination)常量传播(constant propagation)全局值编号(global value numbering)全局代码移动(global code motion)。此外,还包括一些针对Java技术的优化,例如Null检查和范围检查剔除,以及对异常抛出路径的优化。寄存器分配器是一个全局图像着色分配器,充分利用了常用于RISC微处理器中的寄存器集合。编译器具有较高的可移植性,依赖于描述了目标机器硬件各个方面的机器描述文件。虽然编译器比标准的JIT编译器慢一些,但仍然比传统的优化编译器快,通过降低编译代码的次数减少了提升代码质量所需的编译时间。

3.7 编译器优化

Java HotSpot编译器可以使用很多高级优化来提升体传统面向过程语言和面向对象语言的执行性能。其中一些优化包括:

  • 深度内联(deep inlining)潜在虚调用内联(inlining of potentially virtual calls):正如前文所述,客户端编译器和服务器端编译器都会使用方法内联、全局分析和动态去优化来启用深度内联,因此可以减少方法调用的性能损耗。
  • 快速类型检查(Fast instanceof/checkcast):Java编译语言为了类型安全的需要,会频繁的进行类型检查,Java HotSpot虚拟机使用一项新技术来加速类型检查的过程。这可以减少面向对象语言的运行时消耗。
  • 范围检查剔除(Range check elimination):Java语言规范要求在访问数组时进行边界检查。如果编译器可以保证访问数组时所使用索引肯定不会超越边界,那么就可以将边界检查剔除。
  • 循环展开(Loop unrolling):以服务器模式运行的虚拟机对此提供了支持。循环展开是一种标准编译器优化,它可以加快循环的执行速度。循环展开在增加了循环体大小的同时,减少了迭代次数。循环展开也可以增加其他优化的效率。
  • 反馈制导优化(Feedback-directed optimizations):以服务器模式运行的虚拟机在将Java 字节码编译为本地代码前会对解释器中的程序进行一些比较耗费性能的监测操作。这些监测数据提供了与正在使用的数据类型、热点代码和其他一些属性相关的更多的信息。在特定情况下,编译器可以使用这些信息对代码执行一些更激进、更乐观的优化操作。如果代码在运行过程中违反了假定的属性,那么编译器会对代码进行去优化操作,并在稍后重新编译优化。

4 Java HotSpot虚拟机的高级特性

Java HotSpot虚拟机拥有很多高级特性来提供对高扩展性、高性能和企业级可靠性、可用性和可服务性的支持。

4.1 扩展性

最近,Java HotSpot虚拟机添加了名为 “人体工程学(Ergonomics)”的自适应机制。当前,人体工程学主要应用于两个方面。首先,根据目标机器的物理配置(例如,要考虑处理器的数量和可用物理内存的大小等),自动选择以客户端模式还是服务器端模式运行虚拟机。当物理硬件有大量的CPU,大量的内存时,会自动以服务器端模式运行虚拟机,并且会自动为服务器端应用程序选择一个适合的堆的大小值。第二,Java HotSpot虚拟机中的垃圾收集算法也是会自动调整的,因此,已经不再需要显式的设置年轻代和老年代的相对大小了。垃圾收集器会自动进行调整,来提升应用程序的吞吐量,减少垃圾收集导致的程序暂停的时间。人体工程技术可提升服务器端应用程序的扩展性,在Java HotSpot虚拟机将来的版本中,会对此作更多的开发工作。

4.2 性能

除了Java HotSpot 虚拟机架构中使用的核心面向对象优化以外,虚拟机以及Sun Java Runtime Environment(JRE)还提供了其他一些关键性能优化:

  • 快速反射(Fast reflection):现在,Java库会对那些经常使用的反射对象,如Method和Constructor生成字节码存根。这项技术将反射调用暴露给Java HotSpot编译器,提升了执行性能,在某些情况下,服务器端虚拟机可以完全剔除掉反射调用的性能损耗。可以明显提升某些大量使用反射操作的代码的执行效率,例如RMI,序列化,和CORBA。
  • 新IO优化(New I/O optimizations):Java HotSpot编译器对新IO的Buffer对象有专门的操作,为get方法和put方法调用生产保质量的机器代码。新IO 提供了在网络和文件IO 方面的高性能和高扩展性,也使得Java应用程序可以达到与C/C++程序类似的吞吐量。新IO对Buffer类优化也是用于其他类型的问题,如3D图形,以及Java平台之间大数据的传送。

4.3 可靠性、可用性和可服务性

当前版本的Java HotSpot虚拟机是迄今为止最可靠的版本。基于对Sun微系统公司大量应用程序的运行过程的跟踪,最近版本的虚拟机已经达到了企业级应用程序所需的可靠性和可用性的新纪录。

Java HotSpot虚拟机包含了Java Virtual Machine Tools Interface(JVMTI)的参考实现。该 接口允许一些工具来观察、控制JVM,如性能跟踪器、调试器和监视器等。JVMTI所包含的 特性有:

  • 全速调试(Full-speed debugging):Java HotSpot虚拟机利用动态去优化技术来支持 对全速运行的应用程序的调试。在Java虚拟机的早期实现中,当开启调试的时候, 应用程序仅能在解释器中运行。在调试场景中启用Java HotSpot编译器可以极大的 提升执行性能,并在在某些情况下,对某些可服务性有要求的应用程序来说,可以始终开启调试功能。此外,启动调试器可能会抛出一些异常。
  • 热替换(HotSwap):Java HotSpot虚拟机的面向对象架构提供了高级特性,例如类的运行时重定义,或称为热替换。该特性使应用程序可以在运行过程中通过调试API来改变代码。热替换为Java Platform Debugger Architecture(JPDA)添加的新功能,在调试器的控制下,可以在运行时修改类定义。此外,还可以在运行时插入一些性能监测代码来执行一些性能检测的操作。

Java HotSpot虚拟机提供的一些额外特性提升了Java应用程序的开发和可服务性:

  • JNI错误检查(JNI error checking):使用命令行选项“-Xcheck:jni”可以开启对JNI的额外检查。启用JNI错误检查后会在开发期间建超JNI参数的有效性,这样就可以在项目部署到正式环境之前发现问题。特别的,Java HotSpot虚拟机会检查传给JNI 方法的参数的有效性,并在处理JNI 请求前,检查运行时环境数据。如果在本地代码中发现了任何无效数据,虚拟机会自动终止。
  • 错误报告(Error reporting):如果JVM检测到程序员编写的本地代码崩溃,或JVM本身崩溃,它会记录下相应的错误日志。一般来说,错误信息包括方法名称、库名称、源文件名称和发生错误的代码的行号。这样,程序员就可以更容易、更有效的调试程序。如果错误信息表示错误是由于JVM 本身引起的,程序员也可以提交更准确、更有用的错误报告。
  • 信号链(Signal-chaining facility):信号链是Java平台能够更好的与拥有信号处理功能本地代码进行交互。该功能在Solaris和Linux平台都可以正常工作。引入信号链是为了修复之前版本的Java HotSpot虚拟机中的问题。在1.4版本之前,Java HotSpot虚拟机中运行的应用程序无法对特定的信号进行相应,这些信号包括,SIGBUS、SIGSEGV和SIGILL。之所以有这个问题是因为这些信号处理与Java HotSpot虚拟机内部的信号处理有冲突。

5 软件重用性的影响

面向对象编程最主要的好处是,为了实现软件重用,它通过强有力的语言机制提升了软件开发的生产力。但实际上,软件重用很难实现。大量使用这种机制会显著降低执行性能,导致程序员在使用的时候也是持保守态度。Java HotSpot虚拟机的一个令人惊叹的优势是它显著的降低了这种性能损耗。Sun公司相信,如果各公司能够充分利用软件重用机制,并且无需向性能损耗妥协的话,那么这将多面向对象开发产生重要影响。

这种效果的案例很好找。一份对Java 程序员的调查问卷显示,许多人避免使用虚方法调用(因此写了很多行数很大的方法),因为他们相信每个虚方法调用都会受到性能惩罚。普遍的、细粒度的虚方法使用,例如Java语言中的非静态方法或非final方法,对于构建高可用性的类是很重要的,因为每个这样的方法都扮演了“钩子”的角色,允许子类修改父类的行为。

因为Java HotSpot虚拟机可以自动对大部分虚方法调用做内联操作,所以性能惩罚会显著降低,很多情况下会完全剔除。

很难夸大这种影响的重要性。它潜在的改变了面向对象编程的方法,因为他显著的改变了使用重用机制的性能权衡。此外,随着面向对象编程的成熟,有一种趋势愈发明显,那就是编写更细粒度的对象和更细粒度的方法。这种趋势会增加虚方法的调用频率。随着这种更高级的编码风格的流行,Java HotSpot虚拟机技术的优势也更加突出。

6 小结

Java HotSpot虚拟机致力于提升Java应用程序的性能,包括一些高级优化、垃圾回收和现场同步功能等。此外,为了提升基于Java 技术的应用程序的整体的可靠性、可用性和可服务性,虚拟机还提供了调试功能。Java HotSpot虚拟机分别为客户端环境可服务器端环境了提供了不同的编译器,这样应用程序可以根据自身部署环境而进行相应的优化。64位的Java HotSpot服务器端编译器也显著增强了应用程序的可扩展性。

在Java HotSpot虚拟机中,以客户端模式运行的应用程序启动更快速,占用更少的内存资源,以服务器端模式运行的应用程序则为长期运行提供了更好的性能支持。这两种方案都致力于提供可靠、安全和可维护的环境来满足企业客户的需要。

7 使用

Java HotSpot虚拟机包含Java SE平台环境。在java.sun.com上可以找到对应如下环境的 版本:

  • SPARC平台上的Solaris操作环境;
  • Intel平台上的Solaris操作环境;
  • Linux操作系统,在包括Red Hat Enterprise Linux、SuSE Linux和Sun Java Desktop System的几个版本上都正式支持Intel 平台,Java SE的最近几个版本也在其他Linux平台;
  • Intel平台上的Microsoft Windows操作系统。

Java HotSpot虚拟机已经成为苹果电脑公司的Macintosh OS X操作系统的一部分。Java HotSpot 服务器端虚拟机也包含在Hewlett-Packard公司为其PA-RISC硬件平台提供的Java SE技术的发行版中。

8 资源