Java CPU亲和性

最近在项目中碰到整个进程的CPU占用率极低，分析了很久，才排查到是CPU亲和性相关的问题，因为在项目启动配置过程中，调用了一个FPGA的初始化操作的native函数，FPGA初始化的C代码中进行了绑核操作(将当前线程绑定到CPU某个核上)，导致此后运行过程中Java主线程创建的所有子线程的都会被调度到了该核上运行，所以特意进行了CPU亲和性和进程线程创建方面的学习

CPU亲和性

CPU Affinity 可以将进程或线程绑定到一个CPU核或一组CPU核上，这样进程或线程只能在指定的CPU核上执行。可以看做是对操作系统中的调度算法的进行了修改。

意义：线程在一个CPU上运行后，CPU的缓存中可能保存了一些信息，调度该线程在同一CPU上执行减少了缓存未命中，提高了性能，例如用于进行图形渲染的程序

Linux中使用位掩码cpu_set_t表示亲和性,它一共有1024位，每一位都可以对应一个cpu核心，默认所有比特位全为1，表示可以在任何CPU上运行、迁移，例如0x00000003，表示在#0和#1核上运行

相关API：

#include <sched.h>

/* Set the CPU affinity for a task */
int sched_setaffinity (__pid_t __pid, size_t __cpusetsize, const cpu_set_t *__cpuset);

/* Get the CPU affinity for a task */
int sched_getaffinity (__pid_t __pid, size_t __cpusetsize, cpu_set_t *__cpuset);

#include <pthread.h>
/* Limit specified thread TH to run only on the processors represented
   in CPUSET.  */
int pthread_setaffinity_np (pthread_t __th, size_t __cpusetsize, const cpu_set_t *__cpuset)；

/* Get bit set in CPUSET representing the processors TH can run on.  */
int pthread_getaffinity_np (pthread_t __th, size_t __cpusetsize, cpu_set_t *__cpuset)

查询设定亲和性的命令 taskset

// 查询进程的亲和
taskset -p pid
// 设定亲和
taskset -p mask pid
// -c：用列表方式指定要绑定的cpu
taskset -pc 0,3,7-11 700

此外还有一个库，可以让Java线程实现亲和性Java-Thread-Affinity，它的实现原理是通过JNA调用底层的C函数，设置亲和性

线程和进程

Java使用的是一对一的线程模型，JVM中线程创建的源码如下

// myjdk8u/hotspot/src/os/linux/vm/os_linux.cpp
bool os::create_thread(Thread* thread, ThreadType thr_type, size_t stack_size) {

...
  // init thread attributes
  pthread_attr_t attr;
  pthread_attr_init(&attr);
  pthread_attr_setdetachstate(&attr, PTHREAD_CREATE_DETACHED);
...
  {
...
    pthread_t tid;
    int ret = pthread_create(&tid, &attr, (void* (*)(void*)) java_start, thread);

    pthread_attr_destroy(&attr);
...
  }
...
}

进程控制块PCB在Linux中对应的是一个结构体task_struct，内核并没有线程的概念. 每一个线程在内核中都存在一个进程描述符task_struct对应, 所以线程也叫作轻量级进程Light Weighted Process，CPU亲和性在内核中的设定也存储在task_struct中，结构体中对应的字段定义为

cpumask_t  cpus_allowed;

在创建进程的时候，会复制当前进程的部分task_struct信息，所以导致CPU亲和性的继承，线程也是类似

所以解决方案就是要么取消底层的绑核操作，要么再新建一个线程，在新建线程中调用native函数，或者如果程序容易改动的话，先创建各种多线程，最后调用涉及绑核的native函数