利用numpy和pandas处理csv文件中的时间方法


Posted in Python onApril 19, 2018

环境:numpy,pandas,python3

在机器学习和深度学习的过程中,对于处理预测,回归问题,有时候变量是时间,需要进行合适的转换处理后才能进行学习分析,关于时间的变量如下所示,利用pandas和numpy对csv文件中时间进行处理。

date (UTC) Price 
01/01/2015 0:00 48.1 
01/01/2015 1:00 47.33 
01/01/2015 2:00 42.27
#coding:utf-8
import datetime
import pandas as pd
import numpy as np
import pickle
#用pandas将时间转为标准格式
dateparse = lambda dates: pd.datetime.strptime(dates,'%d/%m/%Y %H:%M')
#将时间栏合并,并转为标准时间格式
rawdata = pd.read_csv('RealMarketPriceDataPT.csv',parse_dates={'timeline':['date','(UTC)']},date_parser=dateparse)
#定义一个将时间转为数字的函数,s为字符串
def datestr2num(s):
 #toordinal()将时间格式字符串转为数字
 return datetime.datetime.strptime(s,'%Y-%m-%d %H:%M:%S').toordinal()
x = []
y = []
new_date = []
for i in range(rawdata.shape[0]):
 x_convert = int(datestr2num(str(rawdata.ix[i,0])))
 new_date.append(x_convert)
 y_convert = rawdata.ix[i,1].astype(np.float32)
 x.append(x_convert)
 y.append(y_convert)
x = np.array(x).astype(np.float32)
"""
with open('price.pickle','wb') as f:
 pickle.dump((x,y),f)
"""
print(datetime.datetime.fromordinal(new_date[0]),'------>>>>>>',new_date[0])
print(datetime.datetime.fromordinal(new_date[10]),'------>>>>>>',new_date[10])
print(datetime.datetime.fromordinal(new_date[20]),'------>>>>>>',new_date[20])
print(datetime.datetime.fromordinal(new_date[30]),'------>>>>>>',new_date[30])
print(datetime.datetime.fromordinal(new_date[40]),'------>>>>>>',new_date[40])
print(datetime.datetime.fromordinal(new_date[50]),'------>>>>>>',new_date[50])

结果

将csv文件中的时间栏合并为一列,并转为方便数据分析的float或int类型

利用numpy和pandas处理csv文件中的时间方法

以上这篇利用numpy和pandas处理csv文件中的时间方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python文件读写并使用mysql批量插入示例分享(python操作mysql)
Feb 17 Python
Python yield 小结和实例
Apr 25 Python
Python Paramiko模块的安装与使用详解
Nov 18 Python
对python中的 os.mkdir和os.mkdirs详解
Oct 16 Python
如何基于Python实现电子邮件的发送
Dec 16 Python
TensorFlow Saver:保存和读取模型参数.ckpt实例
Feb 10 Python
pytorch 使用加载训练好的模型做inference
Feb 20 Python
Mac中PyCharm配置Anaconda环境的方法
Mar 04 Python
python里的单引号和双引号的有什么作用
Jun 17 Python
matplotlib绘制鼠标的十字光标的实现(内置方式)
Jan 06 Python
Python利器openpyxl之操作excel表格
Apr 17 Python
详解Python中*args和**kwargs的使用
Apr 07 Python
Python处理CSV与List的转换方法
Apr 19 #Python
python3+PyQt5重新实现QT事件处理程序
Apr 19 #Python
python3+PyQt5重新实现自定义数据拖放处理
Apr 19 #Python
python之从文件读取数据到list的实例讲解
Apr 19 #Python
python实现读取大文件并逐行写入另外一个文件
Apr 19 #Python
python按行读取文件,去掉每行的换行符\n的实例
Apr 19 #Python
PyQt5每天必学之拖放事件
Aug 27 #Python
You might like
ThinkPHP中实例Model方法的区别说明
2010/08/21 PHP
php中的注释、变量、数组、常量、函数应用介绍
2012/11/16 PHP
解析:php调用MsSQL存储过程使用内置RETVAL获取过程中的return值
2013/07/03 PHP
PHP闭包函数详解
2016/02/13 PHP
Zend Framework入门知识点小结
2016/03/19 PHP
thinkPHP引入类的方法详解
2016/12/08 PHP
php实现支持中文的文件下载功能示例
2017/08/30 PHP
JavaScript 事件的一些重要说明
2009/10/25 Javascript
Js如何判断客户端是PC还是手持设备简单分析
2012/11/22 Javascript
javascript判断非数字的简单例子
2013/07/18 Javascript
IE6下拉框图层问题探讨及解决
2014/01/03 Javascript
Node.js中的流(Stream)介绍
2015/03/30 Javascript
基于Bootstrap使用jQuery实现简单可编辑表格
2016/05/04 Javascript
JS完成画圆圈的小球
2017/03/07 Javascript
JavaScript数据结构之二叉树的计数算法示例
2017/04/13 Javascript
JavaScript强制类型转换和隐式类型转换操作示例
2019/05/01 Javascript
wxPython中文教程入门实例
2014/06/09 Python
python引用DLL文件的方法
2015/05/11 Python
python学习之编写查询ip程序
2016/02/27 Python
python 给DataFrame增加index行名和columns列名的实现方法
2018/06/08 Python
浅谈Python2之汉字编码为unicode的问题(即类似\xc3\xa4)
2019/08/12 Python
python反扒机制的5种解决方法
2021/02/06 Python
实例讲解CSS3中的box-flex弹性盒属性布局
2016/06/09 HTML / CSS
canvas实现烟花的示例代码
2020/01/16 HTML / CSS
经典C++面试题一
2016/11/06 面试题
自荐书模板
2013/12/19 职场文书
财务专业大学生职业生涯规划范文
2013/12/30 职场文书
班级旅游计划书
2014/05/03 职场文书
新闻学专业职业生涯规划范文:我的人生我做主
2014/09/12 职场文书
群众路线查摆问题整改措施思想汇报
2014/10/10 职场文书
2015新年寄语(一句话)
2014/12/08 职场文书
同学聚会感言一句话
2015/07/30 职场文书
Laravel中获取IP的真实地理位置
2021/04/01 PHP
企业开发CSS命名BEM代码规范实践
2022/02/12 HTML / CSS
DSP接收机前端设想
2022/04/05 无线电
Centos7 Shell编程之正则表达式、文本处理工具详解
2022/08/05 Servers