Python线程池模块ThreadPoolExecutor用法分析


Posted in Python onDecember 28, 2018

本文实例讲述了Python线程池模块ThreadPoolExecutor用法。分享给大家供大家参考,具体如下:

python3内置的有Threadingpool和ThreadPoolExecutor模块,两个都可以做线程池,当然ThreadPoolExecutor会更好用一些,而且也有ProcessPoolExecutor进程池模块,使用方法基本一致。

首先导入模块

from concurrent.futures import ThreadPoolExecutor

使用方法很简单,最常用的可能就是map方法和submit+as_completed

注意,一定要使用with,而不要使用for,如果你一定要用for,那么一定要手动进行executor.shutdown,而你使用了with方法的话,再with方法内部已经实现了wait(),在使用完毕之后可以自行关闭线程池,减少资源浪费。

使用map

with ThreadPoolExecutor(max_workers=2) as executor:
  result = executor.map(map_fun, itr_arg)
  '''map_fun:你传入的要执行的map函数
    itr_arg:一个可迭代的参数,可以是列表字典等可迭代的对象
    基本上和python的map函数一样
    注意result并不是你map_fun返回的结果,而是一个生成器,如果要从中去结果,你可以使用列表生成式或者其他你想使用的方法
  '''
  for res in result:
    print(res) #这个res就是你map_fun返回的结果,你可以在这里做进一步处理

使用submit+as_completed也可以很灵活

with ThreadPoolExecutor(max_workers=2) as executor:
  future= executor.submit(fun, args)
  '''
  在这里你可以使用for循环来做,返回的是一个future对象
  future_list=[]
  for i in range(max_workers):
    future= executor.submit(fun, args[i])
    future_list.append(future)
  '''
  for res in ac_completed(futrue_list): #这个futrure_list是你future对象的列表
    print(res.result())        #循环遍历时用.result()来取返回值

两种方式差不多,都可以很好的实现多线程任务,切记一定使用with!

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
python将ansible配置转为json格式实例代码
May 15 Python
详解K-means算法在Python中的实现
Dec 05 Python
Python cookbook(数据结构与算法)通过公共键对字典列表排序算法示例
Mar 15 Python
python中csv文件的若干读写方法小结
Jul 04 Python
对python:threading.Thread类的使用方法详解
Jan 31 Python
Python flask框架post接口调用示例
Jul 03 Python
python与C、C++混编的四种方式(小结)
Jul 15 Python
wxpython实现按钮切换界面的方法
Nov 19 Python
pycharm 对代码做静态检查操作
Jun 09 Python
Ubuntu20下的Django安装的方法步骤
Jan 24 Python
Pytorch自定义Dataset和DataLoader去除不存在和空数据的操作
Mar 03 Python
Django项目配置Memcached和Redis, 缓存选择哪个更有优势
Apr 06 Python
Python实现的逻辑回归算法示例【附测试csv文件下载】
Dec 28 #Python
python 检查是否为中文字符串的方法
Dec 28 #Python
浅谈python3发送post请求参数为空的情况
Dec 28 #Python
python3使用flask编写注册post接口的方法
Dec 28 #Python
python通过tcp发送xml报文的方法
Dec 28 #Python
对python 生成拼接xml报文的示例详解
Dec 28 #Python
Python 3.x基于Xml数据的Http请求方法
Dec 28 #Python
You might like
分享自定义的几个PHP功能函数
2015/04/15 PHP
详解PHP数组赋值方法
2015/11/07 PHP
linux下为php添加iconv模块的方法
2016/02/28 PHP
PHP中FTP相关函数小结
2016/07/15 PHP
php实现URL加密解密的方法
2016/11/17 PHP
PHP编程实现阳历转换为阴历的方法实例
2017/08/08 PHP
TP框架实现上传一张图片和批量上传图片的方法分析
2020/04/23 PHP
不懂JavaScript应该怎样学
2008/04/16 Javascript
从零学jquery之如何使用回调函数
2014/05/16 Javascript
使用Raygun对Node.js应用进行错误处理的方法
2015/06/23 Javascript
BootStrap的table表头固定tbody滚动的实例代码
2016/08/24 Javascript
AngularJS 模块化详解及实例代码
2016/09/14 Javascript
jQuery插件form-validation-engine正则表达式操作示例
2017/02/09 Javascript
nodejs构建本地web测试服务器 如何解决访问静态资源问题
2017/07/14 NodeJs
ES6使用export和import实现模块化的方法
2018/09/10 Javascript
vue项目首屏加载时间优化实战
2019/04/23 Javascript
微信小程序实现点击卡片 翻转效果
2019/09/04 Javascript
Vue 动态路由的实现及 Springsecurity 按钮级别的权限控制
2019/09/05 Javascript
CKEditor扩展插件:自动排版功能autoformat插件实现方法详解
2020/02/06 Javascript
微信小程序canvas开发水果老虎机的思路详解
2020/02/07 Javascript
Vue中watch、computed、updated三者的区别及用法
2020/07/27 Javascript
用实例说明python的*args和**kwargs用法
2013/11/01 Python
python生成日历实例解析
2014/08/21 Python
利用Celery实现Django博客PV统计功能详解
2017/05/08 Python
Python3安装psycopy2以及遇到问题解决方法
2019/07/03 Python
Python 读取用户指令和格式化打印实现解析
2019/09/02 Python
详解Python3 中的字符串格式化语法
2020/01/15 Python
TensorFlow的reshape操作 tf.reshape的实现
2020/04/19 Python
什么是会话Bean
2015/05/14 面试题
2015年派出所民警工作总结
2015/04/24 职场文书
政协常委会议主持词
2015/07/03 职场文书
技能培训通讯稿
2015/07/18 职场文书
mysql知识点整理
2021/04/05 MySQL
教你如何使用Python实现二叉树结构及三种遍历
2021/06/18 Python
10大幻兽系恶魔果实 蝙蝠果实上榜,第一自愈能力强
2022/03/18 日漫
Python中npy和mat文件的保存与读取
2022/04/24 Python