利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python ldap实现登录实例代码
Sep 30 Python
python3+PyQt5实现使用剪贴板做复制与粘帖示例
Jan 24 Python
Python通过命令开启http.server服务器的方法
Nov 04 Python
Python实现PS滤镜中马赛克效果示例
Jan 20 Python
Python针对给定列表中元素进行翻转操作的方法分析
Apr 27 Python
数组保存为txt, npy, csv 文件, 数组遍历enumerate的方法
Jul 09 Python
Python  unittest单元测试框架的使用
Sep 08 Python
Python采集猫眼两万条数据 对《无名之辈》影评进行分析
Dec 05 Python
Jupyter notebook在mac:linux上的配置和远程访问的方法
Jan 14 Python
python 比较2张图片的相似度的方法示例
Dec 18 Python
Python爬虫实现自动登录、签到功能的代码
Aug 20 Python
OpenCV-Python实现图像平滑处理操作
Jun 08 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
PHP 创建文件(文件夹)以及目录操作代码
2010/03/04 PHP
php内核解析:PHP中的哈希表
2014/01/30 PHP
PHP递归实现快速排序的方法示例
2017/12/18 PHP
学习jquery之一
2007/04/27 Javascript
createElement动态创建HTML对象脚本代码
2008/11/24 Javascript
jquery.validate使用攻略 第一部
2010/07/01 Javascript
jQuery 定时局部刷新(setInterval)
2010/11/19 Javascript
jqPlot 基于jquery的画图插件
2011/04/26 Javascript
Jquery Validate 正则表达式实用验证代码大全
2013/08/23 Javascript
JS中生成随机数的用法及相关函数
2016/01/09 Javascript
Vue.JS入门教程之处理表单
2016/12/01 Javascript
Angular 4依赖注入学习教程之ValueProvider的使用(七)
2017/06/04 Javascript
mongoose设置unique不生效问题的解决及如何移除unique的限制
2017/11/07 Javascript
使用Three.js实现太阳系八大行星的自转公转示例代码
2019/04/09 Javascript
js实现打字小游戏
2019/12/17 Javascript
Python重新引入被覆盖的自带function
2014/07/16 Python
Python的for和break循环结构中使用else语句的技巧
2016/05/24 Python
Python标准库之itertools库的使用方法
2017/09/07 Python
python将字典内容存入mysql实例代码
2018/01/18 Python
python中pika模块问题的深入探究
2018/10/13 Python
Python自动化导出zabbix数据并发邮件脚本
2019/08/16 Python
Python标准库shutil模块使用方法解析
2020/03/10 Python
keras中的卷积层&池化层的用法
2020/05/22 Python
用Python 执行cmd命令
2020/12/18 Python
如何使用canvas绘制可移动网格的示例代码
2020/12/14 HTML / CSS
Giglio德国网上精品店:奢侈品服装和配件
2016/09/23 全球购物
韩国家庭购物网上商店:Nsmall
2017/05/07 全球购物
Java如何支持I18N?
2016/10/31 面试题
计算机应用与科学个人的自我评价
2013/11/15 职场文书
求职教师自荐书
2014/06/19 职场文书
思想道德自我评价2015
2015/03/09 职场文书
辛亥革命观后感
2015/06/02 职场文书
在酒桌上的敬酒词
2015/08/12 职场文书
Python 多线程之threading 模块的使用
2021/04/14 Python
AJAX学习笔记
2021/05/18 Javascript
图文详解Nginx版本平滑升级方案
2021/09/15 Servers