前言

python由于GIL(全局锁)的存在,不能发挥多核的优势,其性能一直饱受诟病。然而在IO密集型的网络编程里,异步处理比同步处理能提升成百上千倍的效率,弥补了python性能方面的短板。

asyncio于Python3.4引入标准库,增加了对异步I/O的支持,asyncio基于事件循环,可以轻松实现异步I/O操作。接下来,我们用基于asyncio的库实现一个高性能爬虫。

asyncio的编程模型就是一个消息循环。我们从asyncio模块中直接获取一个EventLoop的引用,然后把需要执行的协程扔到EventLoop中执行,就实现了异步IO。

同步和异步

同步:不同程序单元为了完成某个任务,在执行过程中需靠某种通信方式以协调一致,称这些程序单元是同步执行的。

异步:为完成某个任务,不同程序单元之间过程中无需通信协调,也能完成任务的方式。简言之,异步意味着无序。

python同步和异步

下面通过举例来对比同步代码和异步代码编写方面的差异,其次看下两者性能上的差距,使用time.sleep()来模拟io操作

同步代码:

import time

def task(i):

time.sleep(1)

print(f'task {i}')

pass

start = time.time()

for i in range(4):

task(i)

pass

end = time.time()

print(f"Time consuming:{end -start}")

执行结果:最后消耗的时间是4s多,顺序是从0到3,从上到下顺序执行的

task 0

task 1

task 2

task 3

Time consuming:4.0012712478637695

异步代码:需要导入asyncio模块,Python3.4加入到标准库

import time

import asyncio

async def task(i):

await asyncio.sleep(1)

print(f'task {i}')

pass

tasks = [] # 任务列表

loop = asyncio.get_event_loop() # 创建事件循环对象

start = time.time()

for i in range(4):

tasks.append(asyncio.ensure_future(task(i))) # 添加到任务列表

pass

loop.run_until_complete(asyncio.wait(tasks)) # 异步执行任务

end = time.time()

print(f"Time consuming:{end -start}")

执行结果:可以看到使用异步后执行顺序不在是顺序执行,执行的时间也从4s缩短为1s

task 0

task 2

task 1

task 3

Time consuming:1.0003290176391602

async def 用来定义异步函数,其内部有异步操作。每个线程有一个事件循环,主线程调用asyncio.get_event_loop()时会创建事件循环,你需要把异步的任务丢给这个循环的run_until_complete()方法,事件循环会安排协同程序的执行。

python异步asy_python异步编程asyncio相关推荐

  1. python异步asy_Python 异步编程之asyncio【转载】

    一.协程的认识 协程(Coroutine),也可以被称为微线程,是一种用户态内的上下文切换技术. 简而言之,其实就是通过一个线程实现代码块相互切换执行.例如:deffunc1():print(1) . ...

  2. python 异步编程——asyncio

    python 异步编程--asyncio 摘要 1. 协程 1.1 基本概念 1.2 实现方法 1.2.1 greenlet 1.2.2 yield 1.2.3 asyncio模块 1.2.4 asy ...

  3. python 异步编程 asyncio

    协程 协程(Coroutine),也可以被称为微线程,是一种用户态内的上下文切换技术.简而言之,其实就是通过一个线程实现代码块相互切换执行 在Python中有多种方式可以实现协程,例如: greenl ...

  4. python3异步编程_协程 Python异步编程(asyncio)

    协程(Coroutine) 也可以被称为微线程,是一种用户态内的上下文切换技术.简而言之,其实就是通过一个线程实现代码块相互切换执行. 直接上代码,例如: 同步编程 import time def f ...

  5. python 异步io_python异步IO编程(一)

    python异步IO编程(一) 基础概念 异步IO (async IO):一种由多种语言实现的与语言无关的范例(或模型). asyncio:Python 3.4版本引入的标准库,直接内置了对异步IO的 ...

  6. python processpoolexector 释放内存_一起看看python 中日志异步发送到远程服务器

    在python中使用日志最常用的方式就是在控制台和文件中输出日志了,logging模块也很好的提供的相应的类,使用起来也非常方便,但是有时我们可能会有一些需求,如还需要将日志发送到远端,或者直接写入数 ...

  7. Java异步非阻塞编程的几种方式

    简介: Java异步非阻塞编程的几种方式 一. 从一个同步的Http调用说起 一个很简单的业务逻辑,其他后端服务提供了一个接口,我们需要通过接口调用,获取到响应的数据. 逆地理接口:通过经纬度获取这个 ...

  8. Python爬虫 之 异步爬虫

    异步爬虫 异步爬虫 初识异步爬虫方式 li视频源码讲解 协程异步编程 什么是协程: 实现携程的方法: 事件循环 单条时间启动 多个事件启动(重要) await关键字(重要) 回调函数(重要) 协程中的 ...

  9. python异步requests_Python异步Request操作: aiohttp

    1. Tutorial 2. 其他库推荐 2.1. aiohttp-requests 这个库时对aiohttp库的网络请求模块的封装,用了这个库,在异步网络请求的时候,可以在写法上更简洁易懂.本质上还 ...

最新文章

  1. Android与JS混编(js调用android相机扫描二维码)
  2. 存图matlab,matlab中保存图片的方法
  3. applicationcontext理解使用
  4. EFCore查缺补漏(二):查询
  5. php配置实例,php mailto配置实例
  6. Spring Boot系列教程八: Mybatis使用分页插件PageHelper
  7. linux基本命令示例_Linux正常运行时间命令示例
  8. uni-app 开发微信,支付宝小程序
  9. (三)mybatisPlus自定义Sql语句
  10. 什么是动作分析?动作分析的方法有哪些?
  11. Redis常用命令总结,java开发流程面试
  12. cat <<EOF语句的意思
  13. [附源码]计算机毕业设计JAVA校园超市进销存管理系统
  14. MATLAB 手把手带你制作第一个APP designer程序(电子词典)
  15. android fstrim命令,满血复活:安卓4.3为所有Nexus带来TRIM
  16. 中国移动规范学习——4A技术要求(账号管理)
  17. [激活官方作弊模式]关于<野兽与乡巴佬>中文版游戏的修改-已研究成功
  18. 一文带你详细学习什么是光纤到户FTTH
  19. ST-Resnet 论文笔记
  20. QC2.0/QC3.0车充设计FP6601Q应用设计多种协议快充充电器YB2416+HL6601实例设计

热门文章

  1. bcrypt安装不上_bcrypt
  2. 可怕的社会工程学黑客渗透技术,比骗术更高明的艺术
  3. Spring Enable 是什么?
  4. Android ListView item里控件的监听
  5. c语言链表fwrite二进制保存,读取时出现 屯 的问题
  6. arcGIS加载cad的dwg文件
  7. vscode修改“前进”和“后退”快捷键,“放大缩小”窗口
  8. 音视频基础——声音的主要概念
  9. 上好云文字转语音软件使用说明
  10. 小小知更鸟也“懂”量子力学