jvm

图解jvm--(四)内存模型

2020-02-06  本文已影响0人  韩who

内存模型

java 内存模型

很多人将【java 内存结构】与【java 内存模型】傻傻分不清,【java 内存模型】是 Java Memory Model(JMM)的意思。

简单的说,JMM 定义了一套在多线程读写共享数据时(成员变量、数组)时,对数据的可见性、有序性、和原子性的规则和保障

1.原子性

问题提出,两个线程对初始值为 0 的静态变量一个做自增,一个做自减,各做 5000 次,结果是 0 吗?

1.1 问题分析

以上的结果可能是正数、负数、零。为什么呢?因为 Java 中对静态变量的自增,自减并不是原子操作。

例如对于 i++ 而言(i 为静态变量),实际会产生如下的 JVM 字节码指令:

         0: getstatic     #2                 i // 获取静态变量1的值
         3: iconst_1                           //准备常量1
         4: iadd                               //加法
         5: putstatic     #2                 i //将修改后的值存入静态变量i
         8: return

而相应 i-- 也是类似

         0: getstatic     #2                 i // 获取静态变量1的值
         3: iconst_1                           //准备常量1
         4: isub                               //减法
         5: putstatic     #2                 i //将修改后的值存入静态变量i
         8: return

而 Java 的内存模型如下,完成静态变量的自增,自减需要在主存和线程内存中进行数据交换:

image

如果出现多个线程的情况下,会由于指令的非原则性,导致,数据跟实际不一样

如果是单线程以上 8 行代码是顺序执行(不会交错)没有问题:

// 假设i的初始值为0
getstatic   i // 线程1-获取静态变量i的值 线程内i=0
iconst_1      // 线程1-准备常量1 
iadd          // 线程1-自增 线程内i=1
putstatic i   // 线程1-将修改后的值存入静态变量i 静态变量i=1
getstatic i   // 线程1-获取静态变量i的值 线程内i=1
iconst_1      // 线程1-准备常量1 
isub          // 线程1-自减 线程内i=0
putstatic i    // 线程1-将修改后的值存入静态变量i 静态变量i=0

但多线程下这 8 行代码可能交错运行(为什么会交错?思考一下): 出现负数的情况:

// 假设i的初始值为0 
    getstatic i    // 线程1-获取静态变量i的值 线程内i=0
    getstatic i    // 线程2-获取静态变量i的值 线程内i=0
    iconst_1       // 线程1-准备常量1 
    iadd            // 线程1-自增 线程内i=1 
    putstatic i     // 线程1-将修改后的值存入静态变量i 静态变量i=1 
    iconst_1       // 线程2-准备常量1 isub // 线程2-自减 线程内i=-1
    putstatic i     // 线程2-将修改后的值存入静态变量i 静态变量i=-1

出现正数的情况:

// 假设i的初始值为0
    getstatic i      // 线程1-获取静态变量i的值 线程内i=0 
    getstatic i      // 线程2-获取静态变量i的值 线程内i=0
    iconst_1         // 线程1-准备常量1 
    iadd             // 线程1-自增 线程内i=1
    iconst_1         // 线程2-准备常量1
    isub             // 线程2-自减 线程内i=-1
    putstatic i      // 线程2-将修改后的值存入静态变量i 静态变量i=-1
    putstatic i      // 线程1-将修改后的值存入静态变量i 静态变量i=1

1.2 解决方法

synchronized (同步关键字)

语法

synchronized( 对象 ) { 
    要作为原子操作代码
}

synchronized 解决并发问题:

static int i = 0;
static Object obj = new Object();
public static void main(String[] args) throws InterruptedException {
    Thread t1 = new Thread(() -> {
        for (int j = 0; j < 5000; j++) {
            synchronized (obj) {
                i++; 
            }
        }
    });
    
    Thread t2 = new Thread(() -> {
        for (int j = 0; j < 5000; j++) {
            synchronized (obj) { 
                i--;
            } 
        }
    });
    
    t1.start();
    t2.start();
    t1.join();//让mian线程,等待t1执行完后,才继续执行
    t2.join();//让mian线程,等待t2执行完后,才继续执行
    System.out.println(i); 
}

如何理解呢:你可以把 obj 想象成一个房间,线程 t1,t2 想象成两个人。

当线程 t1 执行到 synchronized(obj) 时就好比 t1 进入了这个房间,并反手锁住了门,在门内执行count++ 代码。

这时候如果 t2 也运行到了 synchronized(obj) 时,它发现门被锁住了,只能在门外等待。当 t1 执行完 synchronized{} 块内的代码,这时候才会解开门上的锁,从 obj 房间出来。t2 线程这时才可以进入 obj 房间,反锁住门,执行它的 count-- 代码。

注意:上例中 t1 和 t2 线程必须用 synchronized 锁住同一个 obj 对象,如果 t1 锁住的是 m1 对

象,t2 锁住的是 m2 对象,就好比两个人分别进入了两个不同的房间,没法起到同步的效果。

2.可见性

2.1 退不出的循环

先来看一个现象,main 线程对 run 变量的修改对于 t 线程不可见,导致了 t 线程无法停止:

static boolean run = true;
public static void main(String[] args) throws InterruptedException { 
    Thread t = new Thread(()->{ 
        while(run){ 
            // ....
        } 
    }); 
    t.start();
    Thread.sleep(1000); 
    run = false; // 线程t不会如预想的停下来 
}

为什么呢?分析一下:

  1. 初始状态, t 线程刚开始从主内存读取了 run 的值到工作内存。
image
  1. 因为 t 线程要频繁从主内存中读取 run 的值,JIT 编译器会将 run 的值缓存至自己工作内存中的高

速缓存中,减少对主存中 run 的访问,提高效率

image
  1. 1 秒之后,main 线程修改了 run 的值,并同步至主存,而 t 是从自己工作内存中的高速缓存中读

取这个变量的值,结果永远是旧值

image

2.2 解决方法

volatile(易变关键字)

它可以用来修饰成员变量和静态成员变量,他可以避免线程从自己的工作缓存中查找变量的值,必须到主存中获取它的值,线程操作 volatile 变量都是直接操作主存

volatile 保证可见性,但不能保证原子性

2.3 可见性

前面例子体现的实际就是可见性,它保证的是在多个线程之间,一个线程对 volatile 变量的修改对另一个线程可见, 不能保证原子性,仅用在一个写线程,多个读线程的情况: 上例从字节码理解是这样的:

    getstatic run // 线程 t 获取 run true
    getstatic run // 线程 t 获取 run true
    getstatic run // 线程 t 获取 run true
    getstatic run // 线程 t 获取 run true
    putstatic run // 线程 main 修改 run 为 false, 仅此一次 
    getstatic run // 线程 t 获取 run false

比较一下之前我们将线程安全时举的例子:两个线程一个 i++ 一个 i-- ,只能保证看到最新值,不能解决指令交错

// 假设i的初始值为0
getstatic i     // 线程1-获取静态变量i的值 线程内i=0 
getstatic i     // 线程2-获取静态变量i的值 线程内i=0 
iconst_1        // 线程1-准备常量1
iadd            // 线程1-自增 线程内i=1 
putstatic i     // 线程1-将修改后的值存入静态变量i 静态变量i=1
iconst_1        // 线程2-准备常量1 
isub            // 线程2-自减 线程内i=-1 
putstatic i     // 线程2-将修改后的值存入静态变量i 静态变量i=-1

注意 :

synchronized 语句块既可以保证代码块的原子性,也同时保证代码块内变量的可见性。但缺点是synchronized是属于重量级操作,性能相对更低

如果在前面示例的死循环中加入 System.out.println() 会发现即使不加 volatile 修饰符,线程 t 也能正确看到对 run 变量的修改了,想一想为什么?

 public void println(int x) {
        synchronized (this) {
            print(x);
            newLine();
        }
    }

原来,println()方法,里面有加入了synchronized 对打印输出流做同步,同步也可以防止,对象从高速缓存区中取出内容,强制当前线程去主存中取值

3. 有序性

3.1 诡异的结果

    int num = 0;
    boolean ready = false;

    public void actor1(I_Result r) {
        if(ready) {
            r.r1 = num + num;
        } else {
            r.r1 = 1;
        }
    }

 
    public void actor2(I_Result r) {
        num = 2;
        ready = true;
    }

I_Result 是一个对象,有一个属性 r1 用来保存结果,问,可能的结果有几种?

情况1:线程1 先执行,这时 ready = false,所以进入 else 分支结果为 1

情况2:线程2 先执行 num = 2,但没来得及执行 ready = true,线程1 执行,还是进入 else 分支,结果为1

情况3:线程2 执行到 ready = true,线程1 执行,这会进入 if 分支,结果为 4(因为 num 已经执行过了)

情况4: 0, 这种情况下是:线程2 执行 ready = true,切换到线程1,进入 if 分支,相加为 0,再切回线程2 执行

num = 2

这种现象叫做指令重排

3.2 解决方法

volatile 修饰的变量,可以禁用指令重排

/@JCStressTest
@Outcome(id = {"1", "4"}, expect = Expect.ACCEPTABLE, desc = "ok")
@Outcome(id = "0", expect = Expect.ACCEPTABLE_INTERESTING, desc = "!!!!")
@State
public class ConcurrencyTest {

    int num = 0;
    volatile boolean ready = false;
    @Actor
    public void actor1(I_Result r) {
        if(ready) {
            r.r1 = num + num;
        } else {
            r.r1 = 1;
        }
    }

    @Actor
    public void actor2(I_Result r) {
        num = 2;
        ready = true;
    }

}

3.3 有序性的理解

JVM 会在不影响正确性的前提下,可以调整语句的执行顺序,思考下面一段代码

static int i; 
static int j;  // 在某个线程内执行如下赋值操作
i = ...;       // 较为耗时的操作 
j = ...;

可以看到,至于是先执行 i 还是 先执行 j ,对最终的结果不会产生影响。所以,上面代码真正执行时,既可以是

i=...;//较为耗时的操作
j=...;

也可以是

j=...;
i=...;//较为耗时的操作

这种特性称之为『指令重排』,多线程下『指令重排』会影响正确性,例如著名的 double-checked locking 模式实现单例

public final class Singleton { 
    private Singleton() { 
    } 
    private static Singleton INSTANCE = null; 
    public static Singleton getInstance() {
        // 实例没创建,才会进入内部的 synchronized代码块 
        if (INSTANCE == null) { 
            synchronized (Singleton.class) { 
                // 也许有其它线程已经创建实例,所以再判断一次
                if (INSTANCE == null) {
                    INSTANCE = new Singleton(); 
                }
            } 
        }return INSTANCE; 
    } 
}

以上的实现特点是:

懒惰实例化

首次使用 getInstance() 才使用 synchronized 加锁,后续使用时无需加锁

但在多线程环境下,上面的代码是有问题的, INSTANCE = new Singleton() 对应的字节码为:

0: new #2 // class cn/itcast/jvm/t4/Singleton
3: dup
4: invokespecial #3 // Method "<init>":()V
7: putstatic #4 // Field
INSTANCE:Lcn/itcast/jvm/t4/Singleton;

其中 4 7 两步的顺序不是固定的,也许 jvm 会优化为:先将引用地址赋值给 INSTANCE 变量后,再执行构造方法,如果两个线程 t1,t2 按如下时间序列执行:

时间1 t1 线程执行到 INSTANCE = new Singleton(); 
时间2 t1 线程分配空间,为Singleton对象生成了引用地址(0 处)
时间3 t1 线程将引用地址赋值给 INSTANCE,这时 INSTANCE != null(7 处) 
时间4 t2 线程进入getInstance() 方法,发现 INSTANCE != null(synchronized块外),直接 返回 INSTANCE
时间5 t1 线程执行Singleton的构造方法(4 处)

这时 t1 还未完全将构造方法执行完毕,如果在构造方法中要执行很多初始化操作,那么 t2 拿到的是将是一个未初始化完毕的单例

对 INSTANCE 使用 volatile 修饰即可,可以禁用指令重排,但要注意在 JDK 5 以上的版本的 volatile 才会真正有效

3.4 happens-before

happens-before 规定了哪些写操作对其它线程的读操作可见,它是可见性与有序性的一套规则总结,

抛开以下 happens-before 规则,JMM 并不能保证一个线程对共享变量的写,对于其它线程对该共享变

量的读可见

static int x;
static Object m = new Object(); 
new Thread(()->{ 
    synchronized(m) {
        x = 10; 
    } 
},"t1").start();

new Thread(()->{ 
    synchronized(m) {
        System.out.println(x); 
    } 
},"t2").start();
volatile static int x; 
new Thread(()->{ 
    x = 10; 
},"t1").start(); 

new Thread(()->{ 
    System.out.println(x);
},"t2").start();
static int x; 
x = 10; 

new Thread(()->{ 
    System.out.println(x);
},"t2").start();
static int x;
Thread t1 = new Thread(()->{ 
    x = 10; 
},"t1"); 
t1.start();
t1.join(); 
System.out.println(x);
static int x;
public static void main(String[] args) {
    Thread t2 = new Thread(()->{
        while(true) { 
            if(Thread.currentThread().isInterrupted()) {
                System.out.println(x); 
                break;
            } 
        } 
    },"t2");
    t2.start();
    
    new Thread(()->{
        try {
            Thread.sleep(1000);
            } 
        catch (InterruptedException e) {
            e.printStackTrace(); 
        }
        x = 10;
        t2.interrupt(); 
    },"t1").start(); 
    
    while(!t2.isInterrupted()) { 
        Thread.yield(); 
    }
    
    System.out.println(x);

变量都是指成员变量或静态成员变量

4. CAS 与 原子类

4.1 CAS

CAS 即 Compare and Swap ,它体现的一种乐观锁的思想,比如多个线程要对一个共享的整型变量执行 +1 操作:

// 需要不断尝试 
while(true) {
    int 旧值 = 共享变量 ; // 比如拿到了当前值 0 
    int 结果 = 旧值 + 1; // 在旧值 0 的基础上增加 1 ,正确结果是 1
    
    /*这时候如果别的线程把共享变量改成了 5,本线程的正确结果 1 就作废了,这时候
    compareAndSwap 返回 false,重新尝试,直到:
    compareAndSwap 返回 true,表示我本线程做修改的同时,别的线程没有干扰 
    */
    if( compareAndSwap ( 旧值, 结果 )) { 
        //将结果写会共享内存,并比较旧值与共享变量旧值是否一致,不一致返回false
        // 成功,退出循环 
    }
}

获取共享变量时,为了保证该变量的可见性,需要使用 volatile 修饰。结合 CAS 和 volatile 可以实现无锁并发,适用于竞争不激烈、多核 CPU 的场景下。

CAS 底层依赖于一个 Unsafe 类来直接调用操作系统底层的 CAS 指令,下面是直接使用 Unsafe 对象进

行线程安全保护的一个例子

image

4.2 乐观锁与悲观锁

4.3 原子操作类

juc(java.util.concurrent)中提供了原子操作类,可以提供线程安全的操作,例如:AtomicInteger、

AtomicBoolean等,它们底层就是采用 CAS 技术 + volatile 来实现的。

可以使用 AtomicInteger 改写之前的例子:

// 创建原子整数对象 
private static AtomicInteger i = new AtomicInteger(0); 
public static void main(String[] args) throws InterruptedException { 
    Thread t1 = new Thread(() -> {
        for (int j = 0; j < 5000; j++) {
            i.getAndIncrement(); // 获取并且自增 i++ 
            // i.incrementAndGet(); // 自增并且获取 ++i
        } 
    });
    
    Thread t2 = new Thread(() -> { 
        for (int j = 0; j < 5000; j++) {
            i.getAndDecrement(); // 获取并且自减 i-- 
        } 
    }); 
    t1.start(); 
    t2.start(); 
    t1.join();
    t2.join(); 
    System.out.println(i);
}

5. synchronized 优化

Java HotSpot 虚拟机中,每个对象都有对象头(包括 class 指针和 Mark Word)。Mark Word 平时存储这个对象的 哈希码 、 分代年龄 ,当加锁时,这些信息就根据情况被替换为 标记位 、 线程锁记录指针 、 重量级锁指针 、 线程ID 等内容

5.1 轻量级锁

如果一个对象虽然有多线程访问,但多线程访问的时间是错开的(也就是没有竞争),那么可以使用轻量级锁来优化。这就好比:

学生(线程 A)用课本占座,上了半节课,出门了(CPU时间到),回来一看,发现课本没变,说明没有竞争,继续上他的课。

如果这期间有其它学生(线程 B)来了,会告知(线程A)有并发访问,线程A 随即升级为重量级锁,进入重量级锁的流程。

而重量级锁就不是那么用课本占座那么简单了,可以想象线程 A 走之前,把座位用一个铁栅栏围起来

假设有两个方法同步块,利用同一个对象加锁

static Object obj = new Object();
public static void method1() {
    synchronized( obj ) { 
        // 同步块
        A method2(); 
    } 
}
public static void method2() {
    synchronized( obj ) {
        // 同步块 B 
    } 
}

每个线程的栈帧都会包含一个锁记录的结构,内部可以存储锁定对象的 Mark Word (8个字节 )

线程 1 对象 Mark Word 线程 2
访问同步块 A,把 Mark 复制到线程 1 的锁记录 01(无锁) -
CAS 修改 Mark 为线程 1 锁记录地址 01(无锁) -
成功(加锁) 00(轻量锁)线程 1 锁记录地址 -
执行同步块 A 00(轻量锁)线程 1 锁记录地址 -
访问同步块 B,把 Mark 复制到 线程 1 的锁记录 00(轻量锁)线程 1 锁记录地址 -
CAS 修改 Mark 为线程 1 锁记录地址 00(轻量锁)线程 1 锁记录地址 -
失败(发现是自己的锁) 00(轻量锁)线程 1 锁记录地址 -
锁重入 00(轻量锁)线程 1 锁记录地址 -
执行同步块 B 00(轻量锁)线程 1 锁记录地址 -
同步块 B 执行完毕 00(轻量锁)线程 1 锁记录地址 -
同步块 A 执行完毕 00(轻量锁)线程 1 锁记录地址 -
成功(解锁) 01(无锁) -
- 01(无锁) 访问同步块 A,把 Mark 复制到线程 2 的锁记录
- 01(无锁) CAS 修改 Mark 为线程 2 锁记录地址
- 00(轻量锁)线程 2 锁记录地址 成功(加锁)
- ... ...

5.2 锁膨胀

如果在尝试加轻量级锁的过程中,CAS 操作无法成功,这时一种情况就是有其它线程为此对象加上了轻量级锁(有竞争),这时需要进行锁膨胀,将轻量级锁变为重量级锁

static Object obj = new Object(); 
public static void method1() {
    synchronized( obj ) { 
        // 同步块
    } 
}
线程1 对象 Mark 线程 2
访问同步块,把 Mark 复制到线程 1 的锁记录 01(无锁) -
CAS 修改 Mark 为线程 1 锁记录地址 01(无锁) -
成功(加锁) 00(轻量锁)线程 1 锁记录地址 -
执行同步块 00(轻量锁)线程 1 锁记录地址 -
执行同步块 00(轻量锁)线程 1 锁记录地址 访问同步块,把 Mark 复制到线程 2
执行同步块 00(轻量锁)线程 1 锁记录地址 CAS 修改 Mark 为线程 2 锁记录地址
执行同步块 00(轻量锁)线程 1 锁记录地址 失败(发现别人已经占了锁)
执行同步块 00(轻量锁)线程 1 锁记录地址 CAS 修改 Mark 为重量锁
执行同步块 10(重量锁)重量锁指针 阻塞中
执行完毕 10(重量锁)重量锁指针 阻塞中
失败(解锁) 10(重量锁)重量锁指针 阻塞中
释放重量锁,唤起阻塞线程竞争 01(无锁) 阻塞中
- 10(重量锁) 竞争重量锁
- 10(重量锁) 成功(加锁)
- ... ...

5.3 重量锁

重量级锁竞争的时候,还可以使用自旋来进行优化,如果当前线程自旋成功(即这时候持锁线程已经退出了同步块,释放了锁),这时当前线程就可以避免阻塞。

在 Java 6 之后自旋锁是自适应的,比如对象刚刚的一次自旋操作成功过,那么认为这次自旋成功的可能性会高,就多自旋几次;反之,就少自旋甚至不自旋,总之,比较智能。

自旋重试成功的情况

线程 1 (cpu 1上) 对象 Mark 线程 2 cpu 2 上)
- 10(重量锁) -
访问同步块,获取 monitor 10(重量锁)重量锁指针 -
成功(加锁) 10(重量锁)重量锁指针 -
执行同步块 10(重量锁)重量锁指针 -
执行同步块 10(重量锁)重量锁指针 访问同步块,获取 monitor
执行同步块 10(重量锁)重量锁指针 自旋重试
执行完毕 10(重量锁)重量锁指针 自旋重试
成功(解锁) 01(无锁) 自旋重试
- 10(重量锁)重量锁指针 成功(加锁)
- 10(重量锁)重量锁指针 执行同步块
- ... ...

自旋重试失败的情况

线程 1 (cpu 1上) 对象 Mark 线程 2 cpu 2 上)
- 10(重量锁) -
访问同步块,获取 monitor 10(重量锁)重量锁指针 -
成功(加锁) 10(重量锁)重量锁指针 -
执行同步块 10(重量锁)重量锁指针 -
执行同步块 10(重量锁)重量锁指针 访问同步块,获取 monitor
执行同步块 10(重量锁)重量锁指针 自旋重试
执行完毕 10(重量锁)重量锁指针 自旋重试
成功(解锁) 10(重量锁)重量锁指针 自旋重试
- 10(重量锁)重量锁指针 阻塞
- 10(重量锁)重量锁指针 执行同步块
- ... ...

5.4 偏向锁

轻量级锁在没有竞争时(就自己这个线程),每次重入仍然需要执行 CAS 操作。Java 6 中引入了偏向锁来做进一步优化:只有第一次使用 CAS 将线程 ID 设置到对象的 Mark Word 头,之后发现这个线程 ID是自己的就表示没有竞争,不用重新 CAS.

假设有两个方法同步块,利用同一个对象加锁

static Object obj = new Object();
public static void method1() {
    synchronized( obj ) { 
        // 同步块
        A method2(); 
    } 
}
public static void method2() {
    synchronized( obj ) {
        // 同步块 B 
    } 
}
线程 1 对象 Mark
访问同步块 A,检查 Mark 中是否有线程 ID 101(无锁可偏向)
尝试加偏向锁 101(无锁可偏向)对象 hashCode
成功(加锁) 101(无锁可偏向)线程ID
执行同步块 101(无锁可偏向)线程ID
访问同步块 B,检查 Mark 中是否有线程 ID 101(无锁可偏向)线程ID
是自己的线程 ID,锁是自己的,无需做更多操作 1101(无锁可偏向)线程ID
执行同步块 B 101(无锁可偏向)线程ID
执行完毕 101(无锁可偏向)对象 hashCode

5.3 其他优化

1. 减少上锁时间

同步代码块中尽量短

2. 减少锁的粒度

将一个锁拆分为多个锁提高并发度,例如:

3. 锁粗化

多次循环进入同步块不如同步块内多次循环 另外 JVM 可能会做如下优化,把多次 append 的加锁操作粗化为一次(因为都是对同一个对象加锁,没必要重入多次)

new StringBuffer().append("a").append("b").append("c");

4. 锁消除

JVM 会进行代码的逃逸分析,例如某个加锁对象是方法内局部变量,不会被其它线程所访问到,这时候

就会被即时编译器忽略掉所有同步操作。

5. 读写分离

CopyOnWriteArrayList

CopyOnWriteSet

上一篇下一篇

猜你喜欢

热点阅读