python多进程使用函数封装实例


Posted in Python onMay 02, 2020

我就废话不多说了,直接看代码吧!

import multiprocessing as mp
from multiprocessing import Process
class MyProcess(Process):
  """
  自定义多进程,继承自原生Process,目的是获取多进程结果到queue
  """
  def __init__(self, func, args, q):
    super(MyProcess, self).__init__()
    self.func = func
    self.args = args
    self.res = ''
    self.q = q
    #self._daemonic = True
    #self._daemonic = True
 
  def run(self):
    self.res = self.func(*self.args)
    self.q.put((self.func.__name__, self.res))
  
def use_multiprocessing(func_list):
  #os.system('export PYTHONOPTIMIZE=1') # 解决 daemonic processes are not allowed to have children 问题
  q = mp.Queue() # 队列,将多进程结果存入这里,进程间共享, 多进程必须使用 multiprocessing 的queue
  proc_list = []
  res = []
  for func in func_list:
    proc = MyProcess(func['func'], args=func['args'], q=q)
    proc.start()
    proc_list.append(proc)
 
  for p in proc_list:
    p.join()
  while not q.empty():
    r = q.get()
    res.append(r)
  return res

使用时候,将需要多进程执行的函数和函数的参数当作字段,组成个list 传给use_multiprocessing 方法即可

补充知识:python一个文件里面多个函数同时执行(多进程的方法,并发)

看代码吧!

#coding=utf-8
import time
from selenium import webdriver
import threading

def fun1(a):
print a

def fun2():

print 222

threads = []
threads.append(threading.Thread(target=fun1,args=(u'爱情买卖',)))
threads.append(threading.Thread(target=fun2))
print(threads)
if __name__ == '__main__':

for t in threads:


t.setDaemon(True) #我拿来做selenium自动化模拟多个用户使用浏览器的时候,加了这个就启动不了,要去掉


t.start()

import threading

首先导入threading 模块,这是使用多线程的前提。

threads = []
t1 = threading.Thread(target=fun1,args=(u'爱情买卖',))
threads.append(t1)

创建了threads数组,创建线程t1,使用threading.Thread()方法,在这个方法中调用music方法target=music,args方法对music进行传参。 把创建好的线程t1装到threads数组中。

接着以同样的方式创建线程t2,并把t2也装到threads数组。

for t in threads:
t.setDaemon(True)

t.start()

最后通过for循环遍历数组。(数组被装载了t1和t2两个线程)

setDaemon()

setDaemon(True)将线程声明为守护线程,必须在start() 方法调用之前设置,如果不设置为守护线程程序会被无限挂起。子线程启动后,父线程也继续执行下去,当父线程执行完最后一条语句print "all over %s" %ctime()后,没有等待子线程,直接就退出了,同时子线程也一同结束。

start()

开始线程活动。

后记:

搞了个并发浏览器操作,

如果要做参数化,用ddt会导致所有行为都在一个浏览器操作,去掉ddt框架后,并发正常

以上这篇python多进程使用函数封装实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python 序列化 pickle/cPickle模块使用介绍
Nov 30 Python
Python生成器(Generator)详解
Apr 13 Python
django之常用命令详解
Jun 30 Python
python获取文件路径、文件名、后缀名的实例
Apr 23 Python
Python发展史及网络爬虫
Jun 19 Python
Django框架自定义模型管理器与元选项用法分析
Jul 22 Python
Golang GBK转UTF-8的例子
Aug 26 Python
Python使用re模块验证危险字符
May 21 Python
如何利用pycharm进行代码更新比较
Nov 04 Python
编译 pycaffe时报错:fatal error: numpy/arrayobject.h没有那个文件或目录
Nov 29 Python
Python进程池与进程锁之语法学习
Apr 11 Python
python实现学生信息管理系统(面向对象)
Jun 05 Python
Python中使用filter过滤列表的一个小技巧分享
May 02 #Python
python同时遍历两个list用法说明
May 02 #Python
python多线程实现同时执行两个while循环的操作
May 02 #Python
python 实现两个线程交替执行
May 02 #Python
Python中使用threading.Event协调线程的运行详解
May 02 #Python
浅谈Python3多线程之间的执行顺序问题
May 02 #Python
python继承threading.Thread实现有返回值的子类实例
May 02 #Python
You might like
从网上搜到的phpwind 0day的代码
2006/12/07 PHP
MYSQL环境变量设置方法
2007/01/15 PHP
php中使用addslashes函数报错问题的解决方法
2013/02/06 PHP
php简单smarty入门程序实例
2015/06/11 PHP
javascript 原型模式实现OOP的再研究
2009/04/09 Javascript
DOM2非标准但却支持很好的几个属性小结
2012/01/21 Javascript
js获取IP和PcName(IE)在vs中可用
2013/08/02 Javascript
jquery 层次选择器siblings与nextAll的区别介绍
2013/08/02 Javascript
火狐下input焦点无法重复获取问题的解决方法
2014/06/16 Javascript
浅析javascript的间隔调用和延时调用
2014/11/12 Javascript
zepto中使用swipe.js制作轮播图附swipeUp,swipeDown不起效果问题
2015/08/27 Javascript
浅谈DOM的操作以及性能优化问题-重绘重排
2017/01/08 Javascript
React学习笔记之高阶组件应用
2018/06/02 Javascript
vue2.0 下拉框默认标题设置方法
2018/08/22 Javascript
vue项目搭建以及全家桶的使用详细教程(小结)
2018/12/19 Javascript
详解bootstrap-fileinput文件上传控件的亲身实践
2019/03/21 Javascript
利用JS响应式修改vue实现页面的input值
2019/09/02 Javascript
Vue实现商品详情页的评价列表功能
2019/09/04 Javascript
JQuery常用简单动画操作方法回顾与总结
2019/12/07 jQuery
[03:56]DOTA2完美大师赛趣味视频之小鸽子和Mineski打台球
2017/11/24 DOTA
Python中有趣在__call__函数
2015/06/21 Python
python利用正则表达式提取字符串
2016/12/08 Python
Python 中开发pattern的string模板(template) 实例详解
2017/04/01 Python
python实现多进程代码示例
2018/10/31 Python
Python和Java的语法对比分析语法简洁上python的确完美胜出
2019/05/10 Python
Python之虚拟环境virtualenv,pipreqs生成项目依赖第三方包的方法
2019/07/23 Python
提升Python效率之使用循环机制代替递归函数
2019/07/23 Python
利用python计算windows全盘文件md5值的脚本
2019/07/27 Python
通过HTML5规范搞定i、em、b、strong元素的区别
2017/03/04 HTML / CSS
英国Office鞋店德国网站:在线购买鞋子、靴子和运动鞋
2018/12/19 全球购物
国际商务系学生个人的自我评价
2013/11/26 职场文书
初中地理教学反思
2014/01/11 职场文书
企业安全生产标语
2014/06/06 职场文书
小学生迎国庆演讲稿
2014/09/05 职场文书
银行先进个人总结
2015/02/15 职场文书
写作技巧:优秀文案必备的3种结构
2019/08/19 职场文书