详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python实现的选择排序算法示例
Nov 29 Python
python matplotlib 注释文本箭头简单代码示例
Jan 08 Python
Flask入门之上传文件到服务器的方法示例
Jul 18 Python
python找出因数与质因数的方法
Jul 25 Python
python生成随机红包的实例写法
Sep 02 Python
结合OpenCV与TensorFlow进行人脸识别的实现
Oct 10 Python
python GUI库图形界面开发之PyQt5信号与槽多窗口数据传递详细使用方法与实例
Mar 08 Python
Python HTMLTestRunner库安装过程解析
May 25 Python
win10下python3.8的PIL库安装过程
Jun 08 Python
python学习笔记之多进程
Aug 06 Python
基于Python模拟浏览器发送http请求
Nov 06 Python
FP-growth算法发现频繁项集——发现频繁项集
Jun 24 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
判“新”函数:得到今天与明天的秒数
2006/10/09 PHP
如何跨站抓取别的站点的页面的补充
2006/10/09 PHP
discuz安全提问算法
2007/06/06 PHP
php include的妙用,实现路径加密
2008/07/29 PHP
获取远程文件大小的php函数
2010/01/11 PHP
PHP array_multisort()函数的使用札记
2011/07/03 PHP
JavaScript与DropDownList 区别分析
2010/01/01 Javascript
jquery 事件对象属性小结
2010/04/27 Javascript
jQuery AjaxQueue改进步骤
2011/10/06 Javascript
jquery教程限制文本框只能输入数字和小数点示例分享
2014/01/13 Javascript
JavaScript中遍历对象的property的3种方法介绍
2014/12/30 Javascript
后台获取ZTREE选中节点的方法
2015/02/12 Javascript
无刷新上传文件并返回自定义值
2015/06/11 Javascript
详解AngularJS中$http缓存以及处理多个$http请求的方法
2016/02/06 Javascript
JS+CSS实现鼠标经过弹出一个DIV框完整实例(带缓冲动画渐变效果)
2016/03/25 Javascript
AngularJS删除路由中的#符号的方法
2016/09/20 Javascript
js代码延迟一定时间后执行一个函数的实例
2017/02/15 Javascript
node.js读取Excel数据(下载图片)的方法示例
2018/08/02 Javascript
让axios发送表单请求形式的键值对post数据的实例
2018/08/11 Javascript
Vue 框架之键盘事件、健值修饰符、双向数据绑定
2018/11/14 Javascript
D3.js的基础部分之数组的处理数组的排序和求值(v3版本)
2019/05/09 Javascript
基于JavaScript实现表格隔行换色
2020/05/08 Javascript
JS简易计算器实例讲解
2020/06/30 Javascript
详解Swift中属性的声明与作用
2016/06/30 Python
使用css3制作动感导航条示例
2014/01/26 HTML / CSS
中间件分为哪几类
2012/03/14 面试题
介绍一下SOA和SOA的基本特征
2016/02/24 面试题
红旗方阵解说词
2014/02/12 职场文书
日化店促销方案
2014/03/26 职场文书
大学生撤销处分思想汇报
2014/09/12 职场文书
八项规定个人对照检查材料思想汇报
2014/09/25 职场文书
运动与健康自我评价
2015/03/09 职场文书
工作简历自我评价
2015/03/11 职场文书
因公司原因离职的辞职信范文
2015/05/12 职场文书
会议营销主持词
2015/07/03 职场文书
如何解决php-fpm启动不了问题
2021/11/17 PHP