并发编程的挑战
前言
在进行多线程编程时，是希望程序运行的更快，但也会有很多挑战，如上下文切换、死锁、以及受限于硬件和软件的资源限制等问题。
本文会介绍这些挑战 ：
- 多线程运行时的上下文切换概念
- 多线程一定快么，因为线程的创建和上下文切换是耗时的，可能会比同步执行慢
- 如何测量上下文切换耗时 和 上下文切换次数
- 如何减少上下文切换
- 死锁的挑战，如何解决
- 资源限制的挑战，如何解决
什么是上下文切换
CPU通过时间片分配算法来循环执行任务，当前任务执行一个时间片后会切换到下一个任务。但是在切换前会保存上一个任务的状态，以便下次切换回这个任务时，可以再加载这个任务的状态。所以任务从保存到再加载的过程就是一次上下文切换。
多线程环境中，当一个线程的状态由Runnable转换为非Runnable（Blocked、Waiting、Timed_Waiting）时，相应线程的上下文信息（包括cpu的寄存器和程序计数器在某一时间点的内容等）需要被保存，以便相应线程稍后再次进入Runnable状态时能够在之前的执行进度的基础上继续前进。而一个线程从非Runnable状态进入Runnable状态可能涉及恢复之前保存的上下文信息。这个对线程的上下文进行保存和恢复的过程就被称为上下文切换。
上下文切换会带来额外的开销，这包括对线程上下文信息保存和恢复的开销，对线程进行调度的cpu时间开销以及cpu缓存失效的开销。
线程状态
多线程一定快么
因为线程创建和上下文切换(线程来回切换) 的开销，所以不一定多线程就快。
- 使用
Lmbench3可以测量上下文切换时长 - 使用
vmstat可以测量上下文切换次数
如何减少上下文切换
- 无锁并发编程
多线程竞争锁时，会引起上下文切换。所以多线程处理数据时，可以使用一些办法来避免使用锁。如将数据的ID按照hash算法分段，不同线程处理不同段的数据。 - CAS算法
是现代处理器上提供的高效机器级别的原子指令，这些原子指令以原子方式对内存执行读-写-改操作。Java的Atomic包基于CAS指令来更新数据，不需要加锁。 - 使用最少线程
避免创建不需要的线程。 - 协程
在单线程里实现多任务的调度，并在单线程里维持多个任务间的切换 - 可以使用volatile的地方不要使用synchronized
volatile如果使用得当的话，它比synchronized的使用和执行成本更低，因为它不会引起线程上下文的切换和调度。
死锁
指多个线程因抢夺资源而产生的互相等待的现象。
当两个以上的运算单元，双方都在等待对方停止运行，以获取系统资源，但是没有一方提前退出时，就称为死锁。 或所有线程都进入等待状态。
- 如何避免的常见方法：
- 避免一个线程同时获取多个锁
- 避免一个线程在锁内同时占用多个资源，尽量保证每个锁只占用一个资源
- 尝试使用定时锁，使用lock.tryLock(timeout)来替代使用内部锁机制
- 对于数据库锁，加锁和解锁必须在同一个数据库连接里，否则会出现解锁失败的情况
资源限制的挑战
-
什么是资源限制
资源限制是指在进行并发编程时，程序的执行速度受限于计算机硬件或软件资源。在进行并发编程时，要考虑这些资源的限制。 -
资源限制有哪些
硬件资源限制有：带宽的上传下载速度、硬盘读写速度 、CPU的内核数、CPU的处理速度、内存大小等。
软件资源限制有：数据库的连接数、socket连接数等 -
资源限制引发的问题
在并发编程中，将代码执行速度加快的原则是将代码中串行执行的部分变成并发执行。但可能某种情况下因为受限于资源，反而会因为增加了上下文切换和资源调度的时间导致了更慢。 -
如何解决资源限制的问题
对于硬件资源限制，可以考虑使用集群并行执行程序。
对于软件资源限制，可以考虑使用资源池将资源复用。 -
在资源限制情况下进行并发编程
根据不同的资源限制调整程序的并发度，这样可以让程序执行的更快。
