异步I/O——协程

2017-12-13 本文已影响0人爱秋刀鱼的猫

什么是协程？
协程，又称微线程，纤程。英文名Coroutine。协程的概念有点像子程序。
子程序，或者称为函数，在所有语言中都是层级调用，比如A调用B，B在执行过程中又调用了C，C执行完毕返回，B执行完毕返回，最后是A执行完毕。
所以子程序调用是通过栈实现的，一个线程就是执行一个子程序。子程序调用总是一个入口，一次返回，调用顺序是明确的。而协程的调用和子程序不同。
协程看上去也是子程序，但执行过程中，在子程序内部可中断，然后转而执行别的子程序，在适当的时候再返回来接着执行。
协程的特点在于是一个线程执行，那和多线程比，协程有何优势？

最大的优势就是协程极高的执行效率。因为子程序切换不是线程切换，而是由程序自身控制，因此，没有线程切换的开销，和多线程比，线程数量越多，协程的性能优势就越明显。
第二大优势就是不需要多线程的锁机制，因为只有一个线程，也不存在同时写变量冲突，在协程中控制共享资源不加锁，只需要判断状态就好了，所以执行效率比多线程高很多。

Python对协程的支持是通过generator实现的。generate机制可以看这里生成器。

直接看这段代码：

def consumer():
    r = ''
    while True:
#3
        n = yield r
        if not n:
            return
        print('[CONSUMER] Consuming %s...' % n)
#4
        r = '200 OK'

def produce(c):
#1
    c.send(None)
    n = 0
    while n < 5:
        n = n + 1
        print('[PRODUCER] Producing %s...' % n)
#2
        r = c.send(n)
        print('[PRODUCER] Consumer return: %s' % r)
    c.close()

c = consumer()
produce(c)

先不看这段代码的执行结果。先来分析一下。
consumer()是一个生成器。
#1 表示对协程的"预激"，必须得有，不然会报错，参见。
#2 生成器对象具有 send()，可以向 yield 传值(之前学生成器那节时，知道了 yield 会返回值)。此时，n为1，即 #2 处 c.send(1)向#3处的 yield 语句传了个 1.
注意，代码运行到 #4处时循环还在继续，然后又开始执行#3 的 yield 语句，此时，r 的值变为"200 OK"，即#2处 c.send(n)的返回值即为"200 OK"。
如此循环往复。

整个流程是这样的：把一个consumer传入produce后：

首先调用c.send(None)启动生成器；
然后，一旦生产了东西，通过c.send(n)切换到consumer执行；
consumer通过yield拿到消息，处理，又通过yield把结果传回；
produce拿到consumer处理的结果，继续生产下一条消息；
produce决定不生产了，通过c.close()关闭consumer，整个过程结束。

整个流程无锁，由一个线程执行，produce和consumer协作完成任务，所以称为“协程”，而非线程的抢占式多任务。

对于生成器的理解，有这么一段话：

生成器函数中最关键也是最易理解错的，就是receive=yield value这句,如果对循环体的执行步骤理解错误，就会失之毫厘，差之千里。
其实receive=yield value包含了3个步骤：
1、向函数外抛出（返回）value
2、暂停(pause)，等待next()或send()恢复
3、赋值receive=MockGetValue() 。这个MockGetValue()是假想函数，用来接收send()发送进来的值

所以上面程序的运行结果就是：

[PRODUCER] Producing 1...
[CONSUMER] Consuming 1...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 2...
[CONSUMER] Consuming 2...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 3...
[CONSUMER] Consuming 3...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 4...
[CONSUMER] Consuming 4...
[PRODUCER] Consumer return: 200 OK
[PRODUCER] Producing 5...
[CONSUMER] Consuming 5...
[PRODUCER] Consumer return: 200 OK

知道这些以后，我们可以利用协程加速爬虫速度。不过这一切的前提是，你了解了一条爬虫是怎么诞生的

参考资料：了解协程的前世今生

异步I/O——协程

猜你喜欢

热点阅读