python多进程(加入进程池)操作常见案例


Posted in Python onOctober 21, 2019

本文实例讲述了python多进程(加入进程池)操作。分享给大家供大家参考,具体如下:

一、多进程复制多个文件

import multiprocessing
import os
import time
# 复制文件,传入文件名
def copy_file(old_file_name, old_name):
  new_file_name = 'new_file'
  new_name = old_name
  if not os.path.exists(new_file_name):
    os.makedirs(new_file_name)
  with open(old_file_name + '/' + old_name, 'rb') as f:
    file_content = f.read()
  with open(new_file_name + '/' + new_name, 'wb') as f:
    f.write(file_content)
if __name__ == '__main__':
  old_file_name = 'old_file'
  name_list = os.listdir(old_file_name)
  time_old = time.time()
  for name in name_list:
    process = multiprocessing.Process(target=copy_file, args=(old_file_name, name))
    process.start()
  time_new = time.time()
  print('执行时间:%f' % (time_new - time_old))

二、优化加入进程池,并显示复制进度:

import multiprocessing
import os
import time
# 复制文件,传入文件名
def copy_file(old_file_name, old_name, queue):
  new_file_name = 'new_file'
  new_name = old_name
  if not os.path.exists(new_file_name):
    os.makedirs(new_file_name)
  with open(old_file_name + '/' + old_name, 'rb') as f:
    file_content = f.read()
  with open(new_file_name + '/' + new_name, 'wb') as f:
    f.write(file_content)
    queue.put(new_file_name)
if __name__ == '__main__':
  old_file_name = 'old_file' #存放文件的文件名
  name_list = os.listdir(old_file_name) #取出所有文件的文件名
  queue = multiprocessing.Manager().Queue() #创建队列对象,用于计算复制完成百分比
  po = multiprocessing.Pool(3) #创建线程池
  time_old = time.time() #用于计算花费时间
  for name in name_list:
    po.apply_async(copy_file, (old_file_name, name, queue))
  po.close()
  index = 0
  while True:
    index += 1
    queue.get()
    print('\r以保存%.2f%%' % ((index / len(name_list)) * 100), end='')
    if index == len(name_list):
      break
  time_new = time.time()
  print('执行时间:%f' % (time_new - time_old))

三、多进程聊天器:

import multiprocessing
import socket
import threading
# 需求:
# 1.主进程创建一个TCPconnect
# 2.主进程connect后创建进程开启一个新的Socketconnect
# 3.进程里创建线程不断的接收和提示发送消息
# 有连接时新创建一个进程处理聊天
def speak_send(tcp_msg):
  while True:
    test = input('请输入要发送的消息')
    tcp_msg.send(test.encode('utf-8'))
def speak_rec(tcp_msg):
  while True:
    print(tcp_msg.recv(1024).decode('gbk'))
# 开启的进程聊天
def speak_process(tcp_sock, tcp_msg, ip):
  print('开启进程')
  # 5.开线程循环接收消息
  msg_rec = threading.Thread(target=speak_rec, args=(tcp_msg,))
  # print(tcp_msg.recv(1024).decode('gbk'))
  # 6.开线程循环发送消息
  msg_send = threading.Thread(target=speak_send, args=(tcp_msg,))
  msg_rec.start()
  msg_send.start()
  msg_rec.join()
  msg_send.join()
  # 7.关闭
  # tcp_msg.close()
def main():
  # 1创建TCP对象
  tcp_sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
  # 2.绑定ip和端口
  tcp_sock.bind(('', 9999))
  # 3.改主动为被动
  tcp_sock.listen(128)
  # 4.accept接收msg和ip
  while True:
    tcp_msg, ip = tcp_sock.accept()
    process = multiprocessing.Process(target=speak_process, args=(tcp_sock, tcp_msg, ip))
    process.start()
if __name__ == '__main__':
  main()

希望本文所述对大家Python程序设计有所帮助。

Python 相关文章推荐
Python文件处理
Feb 29 Python
python snownlp情感分析简易demo(分享)
Jun 04 Python
Python实现的基于优先等级分配糖果问题算法示例
Apr 25 Python
Python使用一行代码获取上个月是几月
Aug 30 Python
pyqt5实现按钮添加背景图片以及背景图片的切换方法
Jun 13 Python
在python中将list分段并保存为array类型的方法
Jul 15 Python
Pycharm中安装wordcloud等库失败问题及终端通过pip安装的Python库如何添加到Pycharm解释器中(推荐)
May 10 Python
解决Keyerror ''acc'' KeyError: ''val_acc''问题
Jun 18 Python
关于Python字符编码与二进制不得不说的一些事
Oct 04 Python
Matplotlib配色之Colormap详解
Jan 05 Python
用python监控服务器的cpu,磁盘空间,内存,超过邮件报警
Jan 29 Python
python3 字符串str和bytes相互转换
Mar 23 Python
Python实现字符串中某个字母的替代功能
Oct 21 #Python
基于Python实现船舶的MMSI的获取(推荐)
Oct 21 #Python
基于Python解密仿射密码
Oct 21 #Python
python多继承(钻石继承)问题和解决方法简单示例
Oct 21 #Python
python超时重新请求解决方案
Oct 21 #Python
详解python中*号的用法
Oct 21 #Python
python中bytes和str类型的区别
Oct 21 #Python
You might like
SESSION信息保存在哪个文件目录下以及能够用来保存什么类型的数据
2012/06/17 PHP
PHP结合JQueryJcrop实现图片裁切实例详解
2014/07/24 PHP
PHP实现的多进程控制demo示例
2019/07/22 PHP
TNC vs IO BO3 第一场2.13
2021/03/10 DOTA
javascript 文章截取部分无损html显示实现代码
2010/05/04 Javascript
JavaScript类和继承 prototype属性
2010/09/03 Javascript
关于JavaScript定义类和对象的几种方式
2010/11/09 Javascript
利用jQuery接受和处理xml数据的代码(.net)
2011/03/28 Javascript
js实现的光标位置工具函数示例
2016/10/03 Javascript
Ajax的概述与实现过程
2016/11/18 Javascript
用jquery获取select标签中选中的option值及文本的示例
2018/01/25 jQuery
一步步教会你微信小程序的登录鉴权
2018/04/09 Javascript
纯JS开发baguetteBox.js响应式画廊插件
2020/06/28 Javascript
linux系统使用python获取内存使用信息脚本分享
2014/01/15 Python
详解Django中的权限和组以及消息
2015/07/23 Python
Python中struct模块对字节流/二进制流的操作教程
2017/01/21 Python
解决python爬虫中有中文的url问题
2018/05/11 Python
Django学习笔记之为Model添加Action
2019/04/30 Python
关于python导入模块import与常见的模块详解
2019/08/28 Python
Python编程快速上手——强口令检测算法案例分析
2020/02/29 Python
Python selenium自动化测试模型图解
2020/04/15 Python
python将dict中的unicode打印成中文实例
2020/05/11 Python
python模拟点击在ios中实现的实例讲解
2020/11/26 Python
澳大利亚快时尚鞋类市场:Billini
2018/05/20 全球购物
英国乐购杂货:Tesco Groceries
2018/11/29 全球购物
DBA的职责都有哪些
2012/05/16 面试题
介绍一下Ruby的特点
2013/01/20 面试题
机电工程专业应届生求职信
2013/10/03 职场文书
中英文自我评价语句
2013/12/20 职场文书
主题教育活动总结
2014/05/05 职场文书
公司节能减排倡议书
2014/05/14 职场文书
主题党日活动总结
2014/07/08 职场文书
2015年个人实习工作总结
2014/12/12 职场文书
法定代表人身份证明书
2015/06/18 职场文书
先进个人主要事迹范文
2015/11/04 职场文书
Redis6.0搭建集群Redis-cluster的方法
2021/05/08 Redis