python批量读取txt文件为DataFrame的方法


Posted in Python onApril 03, 2018

我们有时候会批量处理同一个文件夹下的文件,并且希望读取到一个文件里面便于我们计算操作。比方我有下图一系列的txt文件,我该如何把它们写入一个txt文件中并且读取为DataFrame格式呢?

python批量读取txt文件为DataFrame的方法

首先我们要用到glob模块,这个python内置的模块可以说是非常的好用。

glob.glob('*.txt')

得到如下结果:

python批量读取txt文件为DataFrame的方法

all.txt是我最后得到的结果文件。可以见返回的是一个包含txt文件名称的列表,当然如果你的文件夹下面只有txt文件,那么你用os.listdir()可以得到一个一样的列表

然后读取的时候只要注意txt文件的编码格式(可以用notepad++打开记事本查看)和间隔符的形式就好了,完整的代码如下:

import os
import pandas
import codecs
import glob
import pandas as pd
os.getcwd()
os.chdir('D:\AAAASXQ\python study\data preprocessing')
def txtcombine():
 
 files = glob.glob('*.txt')
 
 all = codecs.open('all.txt','a')
 
 for filename in flist: 
 print(filename) 
 fopen=codecs.open(filename,'r',encoding='utf-8') 
 lines=[] 
 lines=fopen.readlines() 
 fopen.close() 
 i=0 
 for line in lines: 
  for x in line: 
  all.write(x)
 #读取为DataFrame格式
 all1 = pd.read_csv('all.txt',sep=' ',encoding='GB2312')
 #保存为csv格式
 all1.to_csv('all.csv',encoding='GB2312')
 
if __name__ == '__main__': 
 txtcombine()

以上这篇python批量读取txt文件为DataFrame的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python使用pyhook监控键盘并实现切换歌曲的功能
Jul 18 Python
Python2.7基于笛卡尔积算法实现N个数组的排列组合运算示例
Nov 23 Python
Python运维之获取系统CPU信息的实现方法
Jun 11 Python
influx+grafana自定义python采集数据和一些坑的总结
Sep 17 Python
对Python中小整数对象池和大整数对象池的使用详解
Jul 09 Python
Python定时任务工具之APScheduler使用方式
Jul 24 Python
Python pandas RFM模型应用实例详解
Nov 20 Python
python调用函数、类和文件操作简单实例总结
Nov 29 Python
使用Tensorflow将自己的数据分割成batch训练实例
Jan 20 Python
Python中使用threading.Event协调线程的运行详解
May 02 Python
Python魔术方法专题
Jun 19 Python
python脚本使用阿里云slb对恶意攻击进行封堵的实现
Feb 04 Python
python逐行读写txt文件的实例讲解
Apr 03 #Python
Python实现的计算马氏距离算法示例
Apr 03 #Python
python2.7无法使用pip的解决方法(安装easy_install)
Apr 03 #Python
快速解决安装python没有scripts文件夹的问题
Apr 03 #Python
Python中将变量按行写入txt文本中的方法
Apr 03 #Python
python使用tensorflow深度学习识别验证码
Apr 03 #Python
使用python获取csv文本的某行或某列数据的实例
Apr 03 #Python
You might like
PHP中创建空文件的代码[file_put_contents vs touch]
2012/01/20 PHP
Laravel框架模板继承操作示例
2018/06/11 PHP
php微信开发之谷歌测距
2018/06/14 PHP
PHP设计模式之单例模式定义与用法分析
2019/03/26 PHP
javascript Array.remove() 数组删除
2009/08/06 Javascript
了解一点js的Eval函数
2012/07/26 Javascript
JS实现图片预加载无需等待
2012/12/21 Javascript
js控制的遮罩层实例介绍
2013/05/29 Javascript
用jQuery实现一些导航条切换,显示隐藏的实例代码
2013/06/08 Javascript
利用jquery写的左右轮播图特效
2014/02/12 Javascript
JavaScript的arguments对象应用示例
2014/09/15 Javascript
javascript针对cookie的基本操作实例详解
2015/11/30 Javascript
jquery ztree实现模糊搜索功能
2016/02/25 Javascript
Vue.js实现网格列表布局转换方法
2017/08/25 Javascript
JavaScript累加、迭代、穷举、递归等常用算法实例小结
2018/05/08 Javascript
jQuery AJAX 方法success()后台传来的4种数据详解
2018/08/08 jQuery
解决vuecli3.0热更新失效的问题
2018/09/19 Javascript
js实现继承的方法及优缺点总结
2019/05/08 Javascript
微信小程序页面渲染实现方法
2019/11/06 Javascript
Vue 中 filter 与 computed 的区别与用法解析
2019/11/21 Javascript
如何基于javascript实现贪吃蛇游戏
2020/02/09 Javascript
举例讲解Python中的迭代器、生成器与列表解析用法
2016/03/20 Python
ActiveMQ:使用Python访问ActiveMQ的方法
2019/01/30 Python
python logging模块的使用总结
2019/07/09 Python
Python实现滑动平均(Moving Average)的例子
2019/08/24 Python
Django框架 查询Extra功能实现解析
2019/09/04 Python
python如何使用socketserver模块实现并发聊天
2019/12/14 Python
Python面向对象封装操作案例详解 II
2020/01/02 Python
Python字典深浅拷贝与循环方式方法详解
2020/02/09 Python
在pycharm中使用matplotlib.pyplot 绘图时报错的解决
2020/06/01 Python
python读取excel进行遍历/xlrd模块操作
2020/07/12 Python
纯CSS3实现带动画效果导航菜单无需js
2013/09/27 HTML / CSS
出租车拒载检讨书
2015/01/28 职场文书
解决python存数据库速度太慢的问题
2021/04/23 Python
Java 泛型详解(超详细的java泛型方法解析)
2021/07/02 Java/Android
Mysql中的触发器定义及语法介绍
2022/06/25 MySQL