YYDispatchQueuePool
2018-02-06 本文已影响509人
linbj
大量使用并行队列来执行较多任务时，会出现cpu资源被挤掉的情况，很有可能造成卡顿等性能问题。但是如果不用这个的话，那只能用serial queue，而serial queue并不能很好的利用多核的优势。
YYDispatchQueuePool里说到:
大量的任务提交到后台队列时，某些任务会因为某些原因（此处是 CGFont 锁）被锁住导致线程休眠，或者被阻塞，concurrent queue 随后会创建新的线程来执行其他任务。当这种情况变多时，或者 App 中使用了大量 concurrent queue 来执行较多任务时，App 在同一时刻就会存在几十个线程同时运行、创建、销毁。CPU 是用时间片轮转来实现线程并发的，尽管 concurrent queue 能控制线程的优先级，但当大量线程同时创建运行销毁时，这些操作仍然会挤占掉主线程的 CPU 资源。ASDK 有个 Feed 列表的 Demo：SocialAppLayout，当列表内 Cell 过多，并且非常快速的滑动时，界面仍然会出现少量卡顿，我谨慎的猜测可能与这个问题有关。
使用 concurrent queue 时不可避免会遇到这种问题，但使用 serial queue 又不能充分利用多核 CPU 的资源。我写了一个简单的工具 YYDispatchQueuePool，为不同优先级创建和 CPU 数量相同的 serial queue，每次从 pool 中获取 queue 时，会轮询返回其中一个 queue。我把 App 内所有异步操作，包括图像解码、对象释放、异步绘制等，都按优先级不同放入了全局的 serial queue 中执行，这样尽量避免了过多线程导致的性能问题。
#import <Foundation/Foundation.h>
#ifndef YYDispatchQueuePool_h
#define YYDispatchQueuePool_h
NS_ASSUME_NONNULL_BEGIN
/**
A dispatch queue pool holds multiple serial queues.
Use this class to control queue's thread count (instead of concurrent queue).
*/
@interface YYDispatchQueuePool : NSObject
- (instancetype)init UNAVAILABLE_ATTRIBUTE;
+ (instancetype)new UNAVAILABLE_ATTRIBUTE;
/**
创建一个线程池
Creates and returns a dispatch queue pool.
@param name The name of the pool.
@param queueCount Maxmium queue count, should in range (1, 32).
@param qos Queue quality of service (QOS).
@return A new pool, or nil if an error occurs.
*/
- (instancetype)initWithName:(nullable NSString *)name queueCount:(NSUInteger)queueCount qos:(NSQualityOfService)qos;
// 线程池名字
/// Pool's name.
@property (nullable, nonatomic, readonly) NSString *name;
// 获取串行线程池
/// Get a serial queue from pool.
- (dispatch_queue_t)queue;
+ (instancetype)defaultPoolForQOS:(NSQualityOfService)qos;
@end
/// Get a serial queue from global queue pool with a specified qos.
extern dispatch_queue_t YYDispatchQueueGetForQOS(NSQualityOfService qos);
NS_ASSUME_NONNULL_END
#endif
#import "YYDispatchQueuePool.h"
#import <UIKit/UIKit.h>
#import <libkern/OSAtomic.h>
#define MAX_QUEUE_COUNT 32
/**
根据系统优先级获取dispatch_queue_priority_t
@param qos 系统优先级
@return dispatch_queue_priority_t
NSQualityOfServiceUserInteractive
与用户交互的任务，这些任务通常跟UI级别的刷新相关，比如动画，这些任务需要在一瞬间完成
NSQualityOfServiceUserInitiated
由用户发起的并且需要立即得到结果的任务，比如滑动scroll view时去加载数据用于后续cell的显示，这些任务通常跟后续的用户交互相关，在几秒或者更短的时间内完成
NSQualityOfServiceUtility
一些可能需要花点时间的任务，这些任务不需要马上返回结果，比如下载的任务，这些任务可能花费几秒或者几分钟的时间
NSQualityOfServiceBackground
这些任务对用户不可见，比如后台进行备份的操作，这些任务可能需要较长的时间，几分钟甚至几个小时
NSQualityOfServiceDefault
优先级介于user-initiated 和 utility，当没有 QoS信息时默认使用，开发者不应该使用这个值来设置自己的任务
*/
static inline dispatch_queue_priority_t NSQualityOfServiceToDispatchPriority(NSQualityOfService qos) {
switch (qos) {
case NSQualityOfServiceUserInteractive: return DISPATCH_QUEUE_PRIORITY_HIGH;
case NSQualityOfServiceUserInitiated: return DISPATCH_QUEUE_PRIORITY_HIGH;
case NSQualityOfServiceUtility: return DISPATCH_QUEUE_PRIORITY_LOW;
case NSQualityOfServiceBackground: return DISPATCH_QUEUE_PRIORITY_BACKGROUND;
case NSQualityOfServiceDefault: return DISPATCH_QUEUE_PRIORITY_DEFAULT;
default: return DISPATCH_QUEUE_PRIORITY_DEFAULT;
}
}
/**
根据系统优先级获取服务质量
@param qos 系统优先级
@return qos_class_t
*/
static inline qos_class_t NSQualityOfServiceToQOSClass(NSQualityOfService qos) {
switch (qos) {
case NSQualityOfServiceUserInteractive: return QOS_CLASS_USER_INTERACTIVE; // 用户交互(希望尽快完成，用户对结果很期望，不要放太耗时操作)
case NSQualityOfServiceUserInitiated: return QOS_CLASS_USER_INITIATED; // 用户期望(不要放太耗时操作)
case NSQualityOfServiceUtility: return QOS_CLASS_UTILITY; // 实用工具(耗时操作，可以使用这个选项)
case NSQualityOfServiceBackground: return QOS_CLASS_BACKGROUND; // 后台
case NSQualityOfServiceDefault: return QOS_CLASS_DEFAULT; // 默认(不是给程序员使用的，用来重置对列使用的)
default: return QOS_CLASS_UNSPECIFIED; //未指定
}
}
typedef struct {
const char *name; // queue的标签
void **queues; // queue数组
uint32_t queueCount; // 可用数
int32_t counter; // 所创建的任务的总数，共享属性，需要写锁。
} YYDispatchContext;
/**
创建一个线程上下文
@param name 名字
@param queueCount 线程数量
@param qos 系统优先级
@return 上下文
*/
static YYDispatchContext *YYDispatchContextCreate(const char *name,
uint32_t queueCount,
NSQualityOfService qos) {
// 创建一个上下文,分配空间
YYDispatchContext *context = calloc(1, sizeof(YYDispatchContext));
if (!context) return NULL;
context->queues = calloc(queueCount, sizeof(void *));
if (!context->queues) {
free(context);
return NULL;
}
// dispatch_qos_class_t iOS 8.0之后才能使用
if ([UIDevice currentDevice].systemVersion.floatValue >= 8.0) {
dispatch_qos_class_t qosClass = NSQualityOfServiceToQOSClass(qos);
// 根据传入的线程数量 循环创建队列
for (NSUInteger i = 0; i < queueCount; i++) {
dispatch_queue_attr_t attr = dispatch_queue_attr_make_with_qos_class(DISPATCH_QUEUE_SERIAL, qosClass, 0);
dispatch_queue_t queue = dispatch_queue_create(name, attr);
context->queues[i] = (__bridge_retained void *)(queue);
}
} else {
// 版本低于8.0 使用 dispatch_set_target_queue方法创建线程
long identifier = NSQualityOfServiceToDispatchPriority(qos);
for (NSUInteger i = 0; i < queueCount; i++) {
dispatch_queue_t queue = dispatch_queue_create(name, DISPATCH_QUEUE_SERIAL);
dispatch_set_target_queue(queue, dispatch_get_global_queue(identifier, 0));
context->queues[i] = (__bridge_retained void *)(queue);
}
}
context->queueCount = queueCount;
if (name) {
context->name = strdup(name);
}
return context;
}
/**
释放线程上下文
@param context 传入线程上下文
*/
static void YYDispatchContextRelease(YYDispatchContext *context) {
if (!context) return;
if (context->queues) {
// 循环遍历出线程池中的线程并置空释放
for (NSUInteger i = 0; i < context->queueCount; i++) {
void *queuePointer = context->queues[i];
dispatch_queue_t queue = (__bridge_transfer dispatch_queue_t)(queuePointer);
const char *name = dispatch_queue_get_label(queue);
if (name) strlen(name); // avoid compiler warning
queue = nil;
}
free(context->queues);
context->queues = NULL;
}
if (context->name) free((void *)context->name);
}
/**
根据线程上下文获取线程
@param context 线程上下文
@return 队列
*/
static dispatch_queue_t YYDispatchContextGetQueue(YYDispatchContext *context) {
//OSAtomicIncrement32：自增函数，线程安全的；
uint32_t counter = (uint32_t)OSAtomicIncrement32(&context->counter);
void *queue = context->queues[counter % context->queueCount];
return (__bridge dispatch_queue_t)(queue);
}
/**
根据优先级去创建上下文并放到线程上下文数组中
@param qos 系统优先级
@return 线程上下文
*/
static YYDispatchContext *YYDispatchContextGetForQOS(NSQualityOfService qos) {
// 当前项目活跃进程数量
// [NSProcessInfo processInfo].activeProcessorCount;
static YYDispatchContext *context[5] = {0};
// 根据不同系统优先级创建对应具体的上下文
switch (qos) {
case NSQualityOfServiceUserInteractive: {
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
int count = (int)[NSProcessInfo processInfo].activeProcessorCount;
count = count < 1 ? 1 : count > MAX_QUEUE_COUNT ? MAX_QUEUE_COUNT : count;
context[0] = YYDispatchContextCreate("com.ibireme.yykit.user-interactive", count, qos);
});
return context[0];
} break;
case NSQualityOfServiceUserInitiated: {
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
int count = (int)[NSProcessInfo processInfo].activeProcessorCount;
count = count < 1 ? 1 : count > MAX_QUEUE_COUNT ? MAX_QUEUE_COUNT : count;
context[1] = YYDispatchContextCreate("com.ibireme.yykit.user-initiated", count, qos);
});
return context[1];
} break;
case NSQualityOfServiceUtility: {
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
int count = (int)[NSProcessInfo processInfo].activeProcessorCount;
count = count < 1 ? 1 : count > MAX_QUEUE_COUNT ? MAX_QUEUE_COUNT : count;
context[2] = YYDispatchContextCreate("com.ibireme.yykit.utility", count, qos);
});
return context[2];
} break;
case NSQualityOfServiceBackground: {
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
int count = (int)[NSProcessInfo processInfo].activeProcessorCount;
count = count < 1 ? 1 : count > MAX_QUEUE_COUNT ? MAX_QUEUE_COUNT : count;
context[3] = YYDispatchContextCreate("com.ibireme.yykit.background", count, qos);
});
return context[3];
} break;
case NSQualityOfServiceDefault:
default: {
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
int count = (int)[NSProcessInfo processInfo].activeProcessorCount;
count = count < 1 ? 1 : count > MAX_QUEUE_COUNT ? MAX_QUEUE_COUNT : count;
context[4] = YYDispatchContextCreate("com.ibireme.yykit.default", count, qos);
});
return context[4];
} break;
}
}
@implementation YYDispatchQueuePool {
@public
YYDispatchContext *_context;
}
/**
释放线程上下文
*/
- (void)dealloc {
if (_context) {
YYDispatchContextRelease(_context);
_context = NULL;
}
}
/**
初始化一个线程池
@param context 传入线程上下文
@return 返回线程池
*/
- (instancetype)initWithContext:(YYDispatchContext *)context {
self = [super init];
if (!context) return nil;
self->_context = context;
_name = context->name ? [NSString stringWithUTF8String:context->name] : nil;
return self;
}
/**
初始化线程池
@param name 传入的名字
@param queueCount 传入的线程数量
@param qos 传入的优先级
@return 线程池
*/
- (instancetype)initWithName:(NSString *)name queueCount:(NSUInteger)queueCount qos:(NSQualityOfService)qos {
if (queueCount == 0 || queueCount > MAX_QUEUE_COUNT) return nil;
self = [super init];
_context = YYDispatchContextCreate(name.UTF8String, (uint32_t)queueCount, qos);
if (!_context) return nil;
_name = name;
return self;
}
/**
通过本线程池中的线程上下文获取具体队列
@return 队列
*/
- (dispatch_queue_t)queue {
return YYDispatchContextGetQueue(_context);
}
/**
根据优先级创建默认线程池
@param qos 优先级
@return 线程池
*/
+ (instancetype)defaultPoolForQOS:(NSQualityOfService)qos {
switch (qos) {
case NSQualityOfServiceUserInteractive: {
static YYDispatchQueuePool *pool;
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
pool = [[YYDispatchQueuePool alloc] initWithContext:YYDispatchContextGetForQOS(qos)];
});
return pool;
} break;
case NSQualityOfServiceUserInitiated: {
static YYDispatchQueuePool *pool;
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
pool = [[YYDispatchQueuePool alloc] initWithContext:YYDispatchContextGetForQOS(qos)];
});
return pool;
} break;
case NSQualityOfServiceUtility: {
static YYDispatchQueuePool *pool;
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
pool = [[YYDispatchQueuePool alloc] initWithContext:YYDispatchContextGetForQOS(qos)];
});
return pool;
} break;
case NSQualityOfServiceBackground: {
static YYDispatchQueuePool *pool;
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
pool = [[YYDispatchQueuePool alloc] initWithContext:YYDispatchContextGetForQOS(qos)];
});
return pool;
} break;
case NSQualityOfServiceDefault:
default: {
static YYDispatchQueuePool *pool;
static dispatch_once_t onceToken;
dispatch_once(&onceToken, ^{
pool = [[YYDispatchQueuePool alloc] initWithContext:YYDispatchContextGetForQOS(NSQualityOfServiceDefault)];
});
return pool;
} break;
}
}
@end
dispatch_queue_t YYDispatchQueueGetForQOS(NSQualityOfService qos) {
return YYDispatchContextGetQueue(YYDispatchContextGetForQOS(qos));
}
