详解pandas apply 并行处理的几种方法


Posted in Python onFebruary 24, 2021

1. pandarallel (pip install )

对于一个带有Pandas DataFrame df的简单用例和一个应用func的函数,只需用parallel_apply替换经典的apply。

from pandarallel import pandarallel
 
# Initialization
pandarallel.initialize()
 
# Standard pandas apply
df.apply(func)
 
# Parallel apply
df.parallel_apply(func)

注意,如果不想并行化计算,仍然可以使用经典的apply方法。

另外可以通过在initialize函数中传递progress_bar=True来显示每个工作CPU的一个进度条。

2. joblib (pip install )

到此这篇关于详解pandas apply 并行处理的几种方法的文章就介绍到这了,更多相关pandas apply 并行处理内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python基于Tkinter库实现简单文本编辑器实例
May 05 Python
python实现实时监控文件的方法
Aug 26 Python
在Pycharm中项目解释器与环境变量的设置方法
Oct 29 Python
pandas dataframe的合并实现(append, merge, concat)
Jun 24 Python
python使用 cx_Oracle 模块进行查询操作示例
Nov 28 Python
Python编写一个验证码图片数据标注GUI程序附源码
Dec 09 Python
PyQt5结合matplotlib绘图的实现示例
Sep 15 Python
Python 使用office365邮箱的示例
Oct 29 Python
如何基于matlab相机标定导出xml文件
Nov 02 Python
Django搭建项目实战与避坑细节详解
Dec 06 Python
pytorch通过训练结果的复现设置随机种子
Jun 01 Python
一篇文章搞懂python混乱的切换操作与优雅的推导式
Aug 23 Python
python自动生成sql语句的脚本
Feb 24 #Python
Django与AJAX实现网页动态数据显示的示例代码
Feb 24 #Python
一文读懂python Scrapy爬虫框架
Feb 24 #Python
Django如何重置migration的几种情景
Feb 24 #Python
Django中的DateTimeField和DateField实现
Feb 24 #Python
Python制作运行进度条的实现效果(代码运行不无聊)
Feb 24 #Python
学点简单的Django之第一个Django程序的实现
Feb 24 #Python
You might like
php安全开发 添加随机字符串验证,防止伪造跨站请求
2013/02/14 PHP
php实现excel中rank函数功能的方法
2015/01/20 PHP
PHP获取photoshop写入图片文字信息的方法
2015/03/31 PHP
详解Laravel视图间共享数据与视图Composer
2016/08/04 PHP
ThinkPHP3.1.x修改成功与失败跳转页面的方法
2017/09/29 PHP
php删除一个路径下的所有文件夹和文件的方法
2018/02/07 PHP
js获取单选按钮的数据
2006/11/27 Javascript
几个比较经典常用的jQuery小技巧
2010/03/01 Javascript
让js弹出窗口居前显示的实现方法
2013/07/10 Javascript
浅谈javascript中this在事件中的应用
2015/02/15 Javascript
JavaScript控制table某列不显示的方法
2015/03/16 Javascript
JS获取iframe中longdesc属性的方法
2015/04/01 Javascript
javascript中attachEvent用法实例分析
2015/05/14 Javascript
使用JavaScript的AngularJS库编写hello world的方法
2015/06/23 Javascript
利用JavaScript脚本实现滚屏效果的方法
2015/07/07 Javascript
Jquery元素追加和删除的实现方法
2016/05/24 Javascript
JS提示:Uncaught SyntaxError:Unexpected token ) 错误的解决方法
2016/08/19 Javascript
node.js基于mongodb的搜索分页示例
2017/01/22 Javascript
JavaScript实现向select下拉框中添加和删除元素的方法
2017/03/07 Javascript
关于Vue实现组件信息的缓存问题
2017/08/23 Javascript
一步步教你利用webpack如何搭一个vue脚手架(超详细讲解和注释)
2018/01/08 Javascript
Vue中错误图片的处理的实现代码
2019/11/07 Javascript
原生js实现轮播图特效
2020/05/04 Javascript
[01:57]2018DOTA2亚洲邀请赛赛前采访-iG
2018/04/03 DOTA
[03:00]DOTA2-DPC中国联赛1月18日Recap集锦
2021/03/11 DOTA
Python Sphinx使用实例及问题解决
2020/01/17 Python
HTML5文档结构标签
2017/04/21 HTML / CSS
HTML5之SVG 2D入门3—文本与图像及渲染文本介绍
2013/01/30 HTML / CSS
C语言基础笔试题
2013/04/27 面试题
电信营业员自我评价分享
2014/01/17 职场文书
《新型玻璃》教学反思
2014/04/13 职场文书
公司停电通知
2015/04/15 职场文书
2015年银行员工工作总结
2015/04/24 职场文书
关于车尾的标语大全
2015/08/11 职场文书
Python+Appium自动化测试的实战
2021/06/30 Python
Linux中一对多配置日志服务器的详细步骤
2022/07/23 Servers