python 实现读取csv数据,分类求和 再写进 csv


Posted in Python onMay 18, 2020

这两天在测试过程中,遇到这样的问题:

数据量很大,一份csv文件的数据与另外一个文件的数据进行对比,但是csv中的文件数据量很大,并且进行统计 ,如果手动单个去对比,会很花时间,吃力不讨好,还容易出错。

比如说,这样的数据

python 实现读取csv数据,分类求和 再写进 csv

需要对AskPrice值相同对应的AskQuantity 统计出来。

直接上脚本 :

import pandas as pd
import csv
df=pd.read_csv('D:\test\orderBook.csv')
df_sum = df.groupby('AskPrice')['AskQuantity'].sum() 
df_sum.to_csv('D:\test\orderBook2.csv')

然后运行得到:

python 实现读取csv数据,分类求和 再写进 csv

这对于大数据量的处理特别方便。

补充知识:python处理csv文件(场景分类)

最近做一个关于场景分类的比赛,总共有20类,不到2万张图片,首先要做的就是把20类图片分到每个文件夹下。

import numpy as np
import os
import xlrd
import pandas as pd
import shutil
list_0 = []
list_file = []
flag = []
filename = os.listdir('F:\工作\比赛\未来杯\image_scene_training\data')
af = pd.read_excel('19.xlsx')
ww = af.values.tolist()
for i in ww:
  for j in i:
    list_0.append(j)
for name in filename:
  list_file.append(name[0:-4])
 
for name in list_file:
  if name in list_0:
    flag.append(True)
  else:
    flag.append(False)
 
for name in list_file:
  if flag[list_file.index(name)]:
    oldname = u'F:\工作\比赛\未来杯\image_scene_training\data\\'+name+'.jpg'
    newname = u'F:\工作\比赛\未来杯\image_scene_training\\train_data\\beach\\'+name+'.jpg'
    shutil.copyfile(oldname,newname)

unicodeDecodeError:'utf-8' codec can't decode byte 0xce in position 72: invalid continuation byte

1:升级pip python -m pip install --upgrade pip

2:改python文件内容:找到lib\site-packages\pip\compat\__init__.py

return s.decode('utf-8')

将‘utf-8'改成'gbk'

以上这篇python 实现读取csv数据,分类求和 再写进 csv就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python对象的深拷贝和浅拷贝详解
Aug 25 Python
Python中几种操作字符串的方法的介绍
Apr 09 Python
Python2.x与Python3.x的区别
Jan 14 Python
Python字典中的键映射多个值的方法(列表或者集合)
Oct 17 Python
python无限生成不重复(字母,数字,字符)组合的方法
Dec 04 Python
python处理DICOM并计算三维模型体积
Feb 26 Python
Python数据可视化实现正态分布(高斯分布)
Aug 21 Python
安装PyInstaller失败问题解决
Dec 14 Python
基于MSELoss()与CrossEntropyLoss()的区别详解
Jan 02 Python
python em算法的实现
Oct 03 Python
Python函数调用追踪实现代码
Nov 27 Python
python中super()函数的理解与基本使用
Aug 30 Python
python 实现分组求和与分组累加求和代码
May 18 #Python
Django ORM实现按天获取数据去重求和例子
May 18 #Python
如何实现更换Jupyter Notebook内核Python版本
May 18 #Python
python mysql自增字段AUTO_INCREMENT值的修改方式
May 18 #Python
Pycharm安装并配置jupyter notebook的实现
May 18 #Python
Django中的AutoField字段使用
May 18 #Python
jupyter notebook运行命令显示[*](解决办法)
May 18 #Python
You might like
php函数的常用方法及注意之处小结
2011/07/10 PHP
php引用返回与取消引用的详解
2013/06/08 PHP
PHP按行读取、处理较大CSV文件的代码实例
2014/04/09 PHP
CodeIgniter输出中文乱码的两种解决办法
2014/06/12 PHP
Laravel统计一段时间间隔的数据方法
2019/10/09 PHP
xml分页+ajax请求数据源+dom取结果实例代码
2008/10/31 Javascript
用Javascript实现Sleep暂停功能代码
2010/09/03 Javascript
24款非常有用的 jQuery 插件分享
2011/04/06 Javascript
基于jquery自定义图片热区效果
2012/07/21 Javascript
js 日期比较相关天数代码
2014/04/02 Javascript
一个可以增加和删除行的table并可编辑表格中内容
2014/06/16 Javascript
JS模式之单例模式基本用法
2015/06/30 Javascript
JavaScript Date对象详解
2016/03/01 Javascript
Bootstrap树形菜单插件TreeView.js使用方法详解
2016/11/01 Javascript
JS实现的驼峰式和连字符式转换功能分析
2016/12/21 Javascript
ionic2打包android时gradle无法下载的解决方法
2017/04/05 Javascript
jQuery实现鼠标滑过商品小图片上显示对应大图片功能【测试可用】
2018/04/27 jQuery
JS中判断某个字符串是否包含另一个字符串的五种方法
2018/05/03 Javascript
angularJs select绑定的model取不到值的解决方法
2018/10/08 Javascript
通过vue手动封装on、emit、off的代码详解
2019/05/29 Javascript
[02:52]2017DOTA2国际邀请赛中国区预选赛晋级之路
2017/07/03 DOTA
Python ORM框架SQLAlchemy学习笔记之数据添加和事务回滚介绍
2014/06/10 Python
Python中的几种矩阵乘法(小结)
2019/07/10 Python
Django上使用数据可视化利器Bokeh解析
2019/07/31 Python
python 批量将中文名转换为拼音
2021/02/07 Python
使用tkinter实现三子棋游戏
2021/02/25 Python
中专生毕业自我鉴定
2013/11/01 职场文书
工程师岗位职责
2013/11/08 职场文书
任课老师推荐信范文
2013/11/24 职场文书
平面设计师工作职责范文
2013/12/03 职场文书
《玩具柜台前的孩子》教学反思
2014/02/13 职场文书
2015年宣传思想工作总结
2015/05/22 职场文书
青年人初次创业的“五不要”
2019/08/23 职场文书
MySQL令人咋舌的隐式转换
2021/04/05 MySQL
pytorch 实现变分自动编码器的操作
2021/05/24 Python
口袋妖怪冰系十大最强精灵,几何雪花排第七,第六类似北极熊
2022/03/18 日漫