多线程上下文切换
一、CPU时间片
- CPU时间片即CPU分配给每个线程的执行时间段，称作它的时间片。CPU时间片一般为几十毫秒(ms)。
二、什么是上下文切换
CPU通过时间片段的算法来循环执行线程任务，而循环执行即每个线程允许运行的时间后的切换，而这种循环的切换使各个程序从表面上看是同时进行的。而切换时会保存之前的线程任务状态，当切换到该线程任务的时候，会重新加载该线程的任务状态。而这个从保存到加载的过程称之为上下文切换。
- 若当前线程还在运行而时间片结束后，CPU将被剥夺并分配给另一个线程。
- 若线程在时间片结束前阻塞或结束，CPU进行线程切换。而不会造成CPU资源浪费。
三、上下文切换造成的影响
我们可以通过对比串联执行和并发执行进行对比。
private static final long count = 1000000;
public static void main(String[] args) throws Exception {
concurrency();
series();
}
/**
* 并发执行
* @throws Exception
*/
private static void concurrency() throws Exception {
long start = System.currentTimeMillis();
//创建线程执行a+=
Thread thread = new Thread(new Runnable() {
public void run() {
int a = 0;
for (int i = 0; i < count; i++) {
a += 1;
}
}
});
//启动线程执行
thread.start();
//使用主线程执行b--;
int b = 0;
for (long i = 0; i < count; i++) {
b--;
}
//合并线程，统计时间
thread.join();
long time = System.currentTimeMillis() - start;
System.out.println("Concurrency：" + time + "ms, b = " + b);
}
/**
* 串联执行
*/
private static void series() {
long start = System.currentTimeMillis();
int a = 0;
for (long i = 0; i < count; i++) {
a += 1;
}
int b = 0;
for (int i = 0; i < count; i++) {
b--;
}
long time = System.currentTimeMillis() - start;
System.out.println("Serial：" + time + "ms, b = " + b + ", a = " + a);
}
通过修改循环次数,对比串行运行和并发运行的时间测试结果：
| 循环次数 | 并发执行时间 | 串联执行时间 |
|---|---|---|
| 一百万 | 2ms | 4ms |
| 十万 | 2ms | 2ms |
| 一万 | 1ms | 0ms |
通过数据的对比我们可以看出。在一万以下的循环次数时，串联的执行速度比并发的执行速度块。是因为线程上下文切换导致额外的开销。
在Linux系统下可以使用vmstat命令来查看上下文切换的次数，如果要查看上下文切换的时长，可以利用Lmbench3，这是一个性能分析工具。
四、如何减少上下文切换导致额外的开销
减少上下文切换次数便可以提高多线程的运行效率。减少上下文切换的方法有无锁并发编程、CAS算法、避免创建过多的线程和使用协程。
-
无锁并发编程.当任何特定的运算被阻塞的时候，所有CPU可以继续处理其他的运算。换种方式说，在无锁系统中，当给定线程被其他线程阻塞的时候，所有CPU可以不停的继续处理其他工作。无锁算法大大增加系统整体的吞吐量，因为它只偶尔会增加一定的交易延迟。大部分高端数据库系统是基于无锁算法而构造的，以满足不同级别。
-
CAS算法。Java提供了一套原子性操作的数据类型（java.util.concurrent.atomic包下），使用CAS算法来更新数据，不需要加锁。如:AtomicInteger、AtomicLong等。
-
避免创建过多的线程。如任务量少时，尽可能减少创建线程。对于某个时间段任务量很大的这种情况，我们可以通过线程池来管理线程的数量，避免创建过多线程。
-
协程：即协作式程序，其思想是，一系列互相依赖的协程间依次使用CPU，每次只有一个协程工作，而其他协程处于休眠状态。如：JAVA中使用wait和notify来达到线程之间的协同工作。
参考：
《Java并发编程的艺术》
