利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
解读Python中degrees()方法的使用
May 18 Python
深入浅析Python中list的复制及深拷贝与浅拷贝
Sep 03 Python
python web自制框架之接受url传递过来的参数实例
Dec 17 Python
Python下简易的单例模式详解
Apr 08 Python
解决Pytorch 训练与测试时爆显存(out of memory)的问题
Aug 20 Python
python计算无向图节点度的实例代码
Nov 22 Python
使用Pandas将inf, nan转化成特定的值
Dec 19 Python
python序列化与数据持久化实例详解
Dec 20 Python
Python使用enumerate获取迭代元素下标
Feb 03 Python
jupyter notebook 添加kernel permission denied的操作
Apr 21 Python
Python如何自动获取目标网站最新通知
Jun 18 Python
python中requests模拟登录的三种方式(携带cookie/session进行请求网站)
Nov 17 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
如何使用PHP中的字符串函数
2006/10/09 PHP
PHP执行zip与rar解压缩方法实现代码
2010/12/05 PHP
PHPExcel内存泄漏问题解决方法
2015/01/23 PHP
php实现转换html格式为文本格式的方法
2016/05/16 PHP
mysql desc(DESCRIBE)命令实例讲解
2016/09/24 PHP
php简单读取.vcf格式文件的方法示例
2017/09/02 PHP
自写的利用PDO对mysql数据库增删改查操作类
2018/02/19 PHP
PHP使Laravel为JSON REST API返回自定义错误的问题
2018/10/16 PHP
解决laravel session失效的问题
2019/10/14 PHP
JavaScript等比例缩放图片控制超出范围的图片
2013/08/06 Javascript
jQuery教程 $()包装函数来实现数组元素分页效果
2013/08/13 Javascript
js动态添加删除,后台取数据(示例代码)
2013/11/25 Javascript
跟我学习JScript的Bug与内存管理
2015/11/18 Javascript
Nodejs高扩展性的模板引擎 functmpl简介
2017/02/13 NodeJs
node.js入门学习之url模块
2017/02/25 Javascript
jquery实现图片上传前本地预览
2017/04/28 jQuery
js判断节假日实例代码
2017/12/27 Javascript
24个解决实际问题的ES6代码片段(小结)
2020/02/02 Javascript
微信h5静默和非静默授权获取用户openId的方法和步骤
2020/06/08 Javascript
[02:32]DOTA2英雄基础教程 美杜莎
2014/01/07 DOTA
举例详解Python中的split()函数的使用方法
2015/04/07 Python
关于python写入文件自动换行的问题
2018/06/23 Python
python实现邮件自动发送
2019/08/10 Python
澳大利亚在线床零售商:Bedworks
2020/09/01 全球购物
介绍一下Python下range()函数的用法
2013/11/07 面试题
计算机专业毕业生自我鉴定
2014/01/16 职场文书
医生进修自我鉴定
2014/01/19 职场文书
网络程序员自荐信
2014/01/25 职场文书
《乡愁》教学反思
2014/02/18 职场文书
大学生村官座谈会发言材料
2014/05/25 职场文书
一份恶作剧的检讨书
2014/09/13 职场文书
2015年班组工作总结
2015/04/20 职场文书
创业计划书之韩国烧烤店
2019/09/19 职场文书
uwsgi+nginx代理Django无法访问静态资源的解决
2021/05/10 Servers
MySQL派生表联表查询实战过程
2022/03/20 MySQL
PostgreSQL数据库去除重复数据和运算符的基本查询操作
2022/04/12 PostgreSQL