最近对Python中的协程挺感兴趣,这里记录对协程的个人理解。

要理解协程,首先需要知道生成器是什么。生成器其实就是不断产出值的函数,只不过在函数中需要使用yield这一个关键词将值产出。下面来看一个例子:

def gen():

n = 0

while True:

yield n

n += 1

g = gen()

print(g) #

print(next(g)) # 输出结果为0

print(next(g)) # 输出结果为1

我们调用gen()函数并不会直接执行该函数,而是会得到一个生成器对象。对这个生成器对象调用next()函数,这个生成器对象会开始执行到第一个yield处,于是产出一个值0,注意:这时候gen()就暂停在yield处,直到第二次调用next()函数。

到这里我们可以发现,生成器函数是可以暂停的函数,它在调用方的驱使下(调用方使用next()函数),每次执行到yield处将yield后方的值产出给调用方后就暂停自己的执行,直到调用方下一次驱动它执行。

send

我们知道,生成器函数可以不断的产出值给调用方,那如果想要调用方传递值给生成器函数呢?这就自然而然的引入了send()函数。来看send()函数的使用:

def gen():

s = yield "hello"

print("用户传递进来的值为:%s" % s)

yield s

g = gen()

print(next(g))

print(g.send("world"))

执行上面的代码,我们可以看到结果如下:

来看看上面代码的执行:首先调用gen()得到一个生成器对象,这时候生成器函数还没有开始执行,接着调用next()函数,生成器函数执行到第一个yield处,产出字符串hello后暂停执行,调用方得到产出的值打印输出。然后调用方通过send()发送了一个字符串world给生成器函数,这时候,生成器函数将world赋值给s,继续它的执行,直到第二个yield处,将调用方传递进来的world返回给调用方。

到这里我们可以发现,此时的生成器函数既可以暂停时产出值,又可以接收调用方传递进来的值恢复执行,这就和协程的思想差不多了。

yield from

python3.3中提出了这样一个表达式yield from,我所知道的这个表达式有两个用法:

第一个用法是简化for循环:

def func():

for x in "ABC":

yield x

for x in func():

print(x)

上面的写法等同于:

def func():

yield from "ABC"

for x in func():

print(x)

这是yield from 的第一种用法,即后面跟一个可迭代的对象,yield from可以在调用方的驱使下将可迭代对象一个一个的输出。

第二个用法是作为委派生成器使用:

def func():

"""生成器函数"""

n = 0

while True:

s = yield n

if s is None:

break

n += 1

return n

def deligate():

"""委派生成器"""

result = yield from func()

print("the result is : %s" % result)

def main():

"""调用方"""

g = deligate()

print(next(g))

for i in range(3):

print(g.send(i))

# 在这里发送None给生成器,生成器不会产出值而抛出StopIteration异常

try:

g.send(None)

except StopIteration:

pass

if __name__ == '__main__':

main()

在上面的代码中,委派生成器使用了yield from,这就使得调用方在得到生成器对象时,可以通过send()方法和真正的生成器(这里为func)直接通信。于是我们在调用方中使用for循环了3次,每次传递进去的值都会传递给func函数中的s,当我们最后传递进一个None时,真正的生成器跳出for循环并将n的值返回,这时候委派生成器得到func生成器的返回值并将它赋给result。这样就完成了调用方和真正的生成器函数之间的通信,并且真正的生成器在执行结束之后会将结果返回给委派生成器。

我们可以看到,使用了yield from的委派生成器其实就是为调用方和真正的生成器提供了一个通道,这个通道可以让它们直接通信。

Event Loop

在真正的理解协程之前,还有个东西时我觉得必须要理解的,那就是事件循环(Event Loop)。

协程是单线程的,单线程就意味着所有的任务需要在单线程上排队执行,也就是前一个任务没有执行完成,后一个任务就没有办法执行。在CPU密集型的任务之中,这样其实还行,但是如果我们的任务都是IO密集型的呢?也就是我们大部分的任务都是在等待网络的数据返回,等待磁盘文件的数据,这就会造成CPU一直在等待这些任务的完成再去执行下一个任务。

有没有什么办法能够让单线程的任务执行不这么笨呢?其实我们可以将这些需要等待IO设备的任务挂在一边嘛!这时候,如果我们的任务都是需要等待的任务,那么单线程在执行时遇到一个就把它挂起来,这里可以通过一个数据结构(例如队列)将这些处于执行等待状态的任务放进去,为什么是执行等待状态呢?因为它们正在执行但是又不得不等待例如网络数据的返回等等。直到将所有的任务都放进去之后,单线程就可以开始它的接连不断的表演了:有没有任务完成的小伙伴呀!快来我这里执行!

此时如果有某个任务完成了,它会得到结果,于是发出一个信号:我完成了。那边还在循环追问的单线程终于得到了答复,就会去看看这个任务有没有绑定什么回调函数呀?如果绑定了回调函数就进去把回调函数给执行了,如果没有,就将它所在的任务恢复执行,并将结果返回。

到这里事件循环的大致作用已经说完了,我们可以看到,仅仅有协程是不够的,我们还需要事件循环和它配合使用,这样才能让多个协程可以并发的执行。

Python3.4中,引入了asyncio包,这个包提供了关于事件循环的实现,这就使得在Python中使用协程实现高并发成为可能。我们来模拟一个爬虫:

import asyncio

@asyncio.coroutine

def get_html(url, name):

print("%s get %s html start" % (name, url))

yield from asyncio.sleep(2)

print("%s get %s html end" % (name, url))

if __name__ == '__main__':

loop = asyncio.get_event_loop()

# 创建两个协程

tasks = [

get_html("http://www.baidu.com", "A"),

get_html("http://www.souhu.com", "B"),

]

# 启动事件循环并将协程放进去执行

loop.run_until_complete(asyncio.wait(tasks))

在上面的模拟爬虫的代码中,我们使用了装饰器@asyncio.coroutine来将这个get_html()函数定义为协程,在协程中使用了asyncio.sleep()函数模拟从网络请求数据。在执行的过程中,我们首先使用asyncio提供的get_event_loop()创建一个事件循环,这里我们不需要自己实现事件循环,接着创建两个协程,并将这两个协程扔到事件循环中执行。

运行上面代码,可以看到以下结果:

仔细观察,我们会发现在协程中并没有使用time.sleep()函数,而是使用了asyncio.sleep()函数,是因为time.sleep()函数会将整个线程休眠几秒,而asyncio.sleep()其实也是一个协程,这个协程将和事件循环直接通信并将一个Future对象交给事件循环,事件循环会一直监视着它直到它的任务完成(在这里就是休眠两秒),并不会将整个线程都停止执行。

到现在,我们可以使用基于生成器的协程和事件循环来做到高并发了。但是问题来了,这里是基于生成器的协程,生成器其实有自己的用法,为什么还要给它强加一个协程的用法呢?

async/await

Python3.5中引入了async/await这一组关键词,这就使得python可以定义原生协程了。await的用法和yield from用法类似,但是await后面只能跟Awaitable的对象(实现了__await__魔法方法),而yield from后面可以跟生成器、协程等等。

使用async/await修改上面的代码:

import asyncio

async def get_html(url, name):

print("%s get %s html start" % (name, url))

await asyncio.sleep(2)

print("%s get %s html end" % (name, url))

if __name__ == '__main__':

loop = asyncio.get_event_loop()

# 创建两个协程

tasks = [

get_html("http://www.baidu.com", "A"),

get_html("http://www.souhu.com", "B"),

]

# 启动事件循环并将协程放进去执行

loop.run_until_complete(asyncio.wait(tasks))

在Tornado的官方文档中,其实是建议用户使用async/await来定义原生协程,原因有以下几点:

1.原生协程要快于基于生成器的协程

2.原生协程可以使用async for和async with语法

参考文章

python 协程是啥_Python协程相关推荐

  1. python中协程的理解_python协程的理解

    一.介绍 什么是并发? 并发的本质就是切换+保存状态 cpu正在运行一个任务,会在两种情况下切走去执行其他的任务(切换由操作系统强制控制): 1.任务发生阻塞 2.计算任务时间过长,需要让出cpu给高 ...

  2. python协程的作用_python 协程

    Python中的协程和生成器很相似但又稍有不同.主要区别在于: 生成器是数据的生产者 协程则是数据的消费者 首先我们先来回顾下生成器的创建过程.我们可以这样去创建一个生成器: def fib(): a ...

  3. python协程详解_python协程详解

    原博文 2019-10-25 10:07 − # python协程详解 ![python协程详解](https://pic2.zhimg.com/50/v2-9f3e2152b616e89fbad86 ...

  4. python编程超市购物系统_python面向过程编程小程序- 模拟超市收银系统

    6.16自我总结 功能介绍程序功能介绍: 商品信息再读取修改买卖均已xlsx格式 且生成购物记录也按/用户名/购买时间.xlsx格式生成 账号密码输入错误三次按照时间进行冻结 用户信息已json格式保 ...

  5. python收银小程序_python面向过程编程小程序- 模拟超市收银系统

    6.16自我总结 功能介绍 程序功能介绍: 商品信息再读取修改买卖均已xlsx格式 且生成购物记录也按/用户名/购买时间.xlsx格式生成 账号密码输入错误三次按照时间进行冻结 用户信息已json格式 ...

  6. python gevent模块 下载_Python协程阻塞IO非阻塞IO同步IO异步IO

    Python-协程-阻塞IO-非阻塞IO-同步IO-异步IO 一.协程 协程又称为微线程 CPU 是无法识别协程的,只能识别是线程,协程是由开发人员自己控制的.协程可以在单线程下实现并发的效果(实际计 ...

  7. python 协程_Python 协程与 Go 协程的区别(一)

    ? "Python猫" ,一个值得加星标的公众号 花下猫语:年关将近,不知各位过得怎样?我最近有些忙,收获也挺多,以后有机会分享下.吃饭时间,追了两部剧<了不起的麦瑟尔夫人& ...

  8. python协程实时输出_python协程

    不知道你有没有被问到过有没有使用过的python协程? 协程是什么? 协程是一种用户态轻量级,是实现并发编程的一种方式.说到并发,就能想到了多线程 / 多进程模型,是解决并发问题的经典模型之一. 但是 ...

  9. python 协程原理_Python协程greenlet实现原理

    greenlet是stackless Python中剥离出来的一个项目,可以作为官方CPython的一个扩展来使用,从而支持Python协程.gevent正是基于greenlet实现. 协程实现原理 ...

最新文章

  1. Quick Cocos2dx 初步战斗
  2. 32岁的老程序员面试没通过,一问原因,挺突然的...
  3. mpc 安全多方计算协议_BNC公链 | 不看到数据却能进行计算?一文了解安全多方计算...
  4. 【树链剖分】【倍增】宝石(2021GDOI Day2 T1)
  5. 新浪微博搜索php待遇,新浪微博面试
  6. 代码面试最常用的10大算法
  7. 51Nod-1091 线段的重叠【排序】
  8. 面试求职中需要了解的Java多线程知识
  9. 《波斯王子-时之砂》精美图文攻略
  10. ad建集成库_AD16创建集成库的步骤
  11. 广告违规词、敏感词在线检测
  12. 【C/C++】字节对齐 ALIGN宏
  13. openerp mysql_openerp 经典收藏 Openerp开发进销存系统完毕总结(转载)
  14. http91spwp index.php,index.php
  15. Vue3中 watch、watchEffect 详解
  16. 调整PC版百度网盘界面清晰度(其他软件也适用)
  17. 中兴GWH-11 ZXV10 H108B的AD路由器获取超级用户密码
  18. 临时表空间不足ORA-01652: unable to extend temp segment by 64 in tablespace
  19. 最快捷有效的Au贴唱流程攻略
  20. matlab 图像 局部极值,[转载]matlab 图像局部求极值

热门文章

  1. 如何用php实现crud,php实现简单的CRUD操作
  2. SQL查询出的两列合并成一列显示
  3. 分布式ID生成算法——leaf算法
  4. centos卸载mysql重装_Centos 卸载mysql并重装
  5. 2008年中国在线支付网站排行榜
  6. ajax php jquery 序列化,ajax使用serializa()序列化表单如何增加其他参数
  7. vue dplayer插件 播放m3u8(直播推流)
  8. 微信小程序通过for循环实现列表渲染
  9. 艺术与计算机结合的作品,艺术设计与计算机结合应用
  10. Python编程基础:评定成绩等级**