利用pandas向一个csv文件追加写入数据的实现示例


Posted in Python onApril 23, 2020

我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)

pandas to_csv()只能在新文件写数据?当然不是!

pandas to_csv() 是可以向已经存在的具有相同结构的csv文件增加dataframe数据。

df.to_csv('my_csv.csv', mode='a', header=False)

to_csv()方法mode默认为w,我们加上mode='a',便可以追加写入数据。

pandas读写文件,处理数据的效率太高了,所以我们尽量使用pandas的进行输出。

下面让我们来看一下示例

# -*- coding:utf-8 -*-
import os
import time
import pandas as pd
 
from multiprocessing import Pool
 
def merge(filename):
  return pd.read_csv('./fun_data/'+filename)
 
if __name__ == "__main__":
  file_list = os.listdir('./fun_data')
  e1 = time.time()
 
  pool = Pool(20)
  result = pool.map(merge,file_list)
  pool.close()
  pool.join()
 
  e2 = time.time()
  print(e2 - e1)
 
  for i in result:
    i.to_csv('./static.csv',mode='a',encoding='utf-8',header=False,index=False)
  e3 = time.time()
  print(e3-e2)

到此这篇关于利用pandas向一个csv文件追加写入数据的实现示例的文章就介绍到这了,更多相关pandas csv追加写入内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木! 

Python 相关文章推荐
Python编写检测数据库SA用户的方法
Jul 11 Python
Python下Fabric的简单部署方法
Jul 14 Python
python 随机数使用方法,推导以及字符串,双色球小程序实例
Sep 12 Python
python实现装饰器、描述符
Feb 28 Python
Ubuntu下使用python读取doc和docx文档的内容方法
May 08 Python
Python键盘输入转换为列表的实例
Jun 23 Python
Python使用爬虫抓取美女图片并保存到本地的方法【测试可用】
Aug 30 Python
python版飞机大战代码分享
Nov 20 Python
对pandas写入读取h5文件的方法详解
Dec 28 Python
在Python中使用Neo4j的方法
Mar 14 Python
python中 * 的用法详解
Jul 10 Python
解决pytorch读取自制数据集出现过的问题
May 31 Python
在matplotlib中改变figure的布局和大小实例
Apr 23 #Python
Python将二维列表list的数据输出(TXT,Excel)
Apr 23 #Python
Python基于DB-API操作MySQL数据库过程解析
Apr 23 #Python
详解pandas绘制矩阵散点图(scatter_matrix)的方法
Apr 23 #Python
Python matplotlib实时画图案例
Apr 23 #Python
windows下的pycharm安装及其设置中文菜单
Apr 23 #Python
使用python+poco+夜神模拟器进行自动化测试实例
Apr 23 #Python
You might like
PHP HTML代码串截取代码
2008/12/29 PHP
PHP mb_convert_encoding 获取字符串编码类型实现代码
2009/04/26 PHP
php中函数的形参与实参的问题说明
2010/09/01 PHP
php 文件上传实例代码
2012/04/19 PHP
PHP安装BCMath扩展的方法
2019/02/13 PHP
firefox下对ajax的onreadystatechange的支持情况分析
2009/12/14 Javascript
javascript中获取下个月一号,是星期几
2012/06/01 Javascript
解析Javascript中大括号“{}”的多义性
2013/12/02 Javascript
js查找某元素中的所有图片地址的方法
2014/01/16 Javascript
PHP 数组current和next用法分享
2015/03/05 Javascript
jQuery实现折叠、展开的菜单组效果代码
2015/09/16 Javascript
GitHub上一些实用的JavaScript的文件压缩解压缩库推荐
2016/03/13 Javascript
老生常谈Javascript中的原型和this指针
2016/10/09 Javascript
JS小数转换为整数的方法分析
2017/01/07 Javascript
javascript 判断一个对象为数组的方法
2017/05/03 Javascript
JavaScript在控件上添加倒计时功能的实现代码
2017/07/04 Javascript
Node.js原生api搭建web服务器的方法步骤
2019/02/15 Javascript
vue下使用nginx刷新页面404的问题解决
2019/08/02 Javascript
JS实现使用POST方式发送请求
2019/08/30 Javascript
JavaScript HTML DOM 元素 (节点)新增,编辑,删除操作实例分析
2020/03/02 Javascript
用Python制作检测Linux运行信息的工具的教程
2015/04/01 Python
Python数据分析matplotlib设置多个子图的间距方法
2018/08/03 Python
python pygame模块编写飞机大战
2018/11/20 Python
pyqt5实现俄罗斯方块游戏
2019/01/11 Python
Python opencv实现人眼/人脸识别以及实时打码处理
2019/04/29 Python
python常用数据重复项处理方法
2019/11/22 Python
Python 解决火狐浏览器不弹出下载框直接下载的问题
2020/03/09 Python
python opencv实现图像配准与比较
2021/02/09 Python
将SVG图引入到HTML页面的实现
2019/09/20 HTML / CSS
幼儿园教师演讲稿
2014/05/06 职场文书
环境科学专业教师求职信
2014/07/12 职场文书
2014年工会工作总结
2014/11/12 职场文书
员工离职感谢信
2015/01/22 职场文书
使用Vue3+Vant组件实现App搜索历史记录功能(示例代码)
2021/06/09 Vue.js
pandas数值排序的实现实例
2021/07/25 Python
JavaScript中MutationObServer监听DOM元素详情
2021/11/27 Javascript