利用python进行数据加载


Posted in Python onJune 20, 2021

前言

最近参加了datawhale的组队学习活动,在组队学习动员下,开始通过强迫自己输出来实现更好的输入与处理,6-15开始自己的第一次文章发布,我会把自己这个真的很小白遇到的问题写出来,希望能给屏幕前小白的你带来帮助。

工作中大量繁琐的自动化,把以前在学校摸过的python重新捡起来,不成体系的、拼图一样把需要的工作搭建起来,工作暂时是可用上了,每天节省了至少3个小时的数据处理工作,手里拿着python这个锤子,看什么都像钉子。

首先,你要先学会安装软件,anaconda软件,安装成功后,你点击jupyter notebook打开代码框。

现在可以开始尝试做数据分析了。

一、数据加载

1.1 载入数据

数据集下载 https://www.kaggle.com/c/titanic/overview

1.1.1 导入包

导入numpy和pandas

import pandas as pd
import numpy as np

如果出错了,需要注意大小写、有没有单词写错了

1.1.2 载入数据

(1) 使用相对路径载入数据
(2) 使用绝对路径载入数据  

df = pd.read_csv('train.csv')
df.head(3)
df = pd.read_csv('/Users/Documents/train.csv')
df.head(3)

注意绝对路径的 “  /  ” 方向不要错。

1.1.3 大文件时要分块读取

每1000行为一个数据模块,逐块读取

chunker = pd.read_csv('train.csv', chunksize=1000)

1.1.4

对着整个表修改列名:将表头改成中文,索引改为乘客ID ,要注意的是,要记得把名字跟列一一对上,数量对上、顺序对上

PassengerId => 乘客ID
Survived => 是否幸存
Pclass => 乘客等级(1/2/3等舱位)
Name => 乘客姓名
Sex => 性别
Age => 年龄
SibSp => 堂兄弟/妹个数
Parch => 父母与小孩个数
Ticket => 船票信息
Fare => 票价
Cabin => 客舱
Embarked => 登船港口

df = pd.read_csv('train.csv', names=['乘客ID','是否幸存','仓位等级','姓名','性别','年龄','兄弟姐妹个数','父母子女个数','船票信息','票价','客舱','登船港口'],index_col='乘客ID',header=0)
df.head()

1.2 初步观察

导入数据后,我们可以对数据的整体结构和样例进行概览,比如说,数据大小、有多少列,各列都是什么格式的,是否包含null等。info 后面加()跟不加()会 有不同的内容。

print(df.info())

如想在python的查看数据,可以用head

df.head(10)
df.tail(15)

判断数据是否为空,为空的地方返回True,其余地方返回False

df.isnull().head()

1.3 保存数据

在工作目录下保存为一个新文件train_chinese.csv,如不希望表格自带index,可以加入index=false

df.to_csv('train_chinese.csv',index=flase)

 

到此这篇关于利用python进行数据加载的文章就介绍到这了,更多相关python数据加载内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python 实现一个贴吧图片爬虫的示例
Oct 12 Python
python爬虫获取京东手机图片的图文教程
Dec 29 Python
python函数与方法的区别总结
Jun 23 Python
python实现鸢尾花三种聚类算法(K-means,AGNES,DBScan)
Jun 27 Python
wxPython之wx.DC绘制形状
Nov 19 Python
python中count函数简单用法
Jan 05 Python
pycharm设置python文件模板信息过程图解
Mar 10 Python
django model 条件过滤 queryset.filter(**condtions)用法详解
May 20 Python
Pytorch转onnx、torchscript方式
May 25 Python
python的flask框架难学吗
Jul 31 Python
Python语言规范之Pylint的详细用法
Jun 24 Python
Python中time标准库的使用教程
Apr 13 Python
Python编解码问题及文本文件处理方法详解
浅谈Python协程asyncio
Jun 20 #Python
Python3接口性能测试实例代码
Jun 20 #Python
使用Djongo模块在Django中使用MongoDB数据库
python自动计算图像数据集的RGB均值
详解如何用Python实现感知器算法
python中24小时制转换为12小时制的方法
Jun 18 #Python
You might like
smarty中先strip_tags过滤html标签后truncate截取文章运用
2010/10/25 PHP
PHP中__autoload和Smarty冲突的简单解决方法
2016/04/08 PHP
PHP实现简单用户登录界面
2019/10/23 PHP
IE和Firefox在JavaScript应用中的兼容性探讨
2008/04/01 Javascript
jtable列中自定义button示例代码
2013/11/21 Javascript
js获得参数的getParameter使用示例
2014/02/26 Javascript
javascript工厂方式定义对象
2014/12/26 Javascript
javascript动态修改Li节点值的方法
2015/01/20 Javascript
Yii2使用Bootbox插件实现自定义弹窗
2015/04/02 Javascript
原创jQuery弹出层插件分享
2015/04/02 Javascript
Javascript监视变量变化的方法
2015/06/09 Javascript
jQuery通过ajax请求php遍历json数组到table中的代码(推荐)
2016/06/12 Javascript
微信js-sdk分享功能接口常用逻辑封装示例
2016/10/13 Javascript
详解vue中computed 和 watch的异同
2017/06/30 Javascript
浅谈Vue-cli单文件组件引入less,sass,css样式的不同方法
2018/03/13 Javascript
浅析java线程中断的办法
2018/07/29 Javascript
vue.js循环radio的实例
2019/11/07 Javascript
layui写后台表格思路和赋值用法详解
2019/11/14 Javascript
如何手写简易的 Vue Router
2020/10/10 Javascript
基于Python3 逗号代码 和 字符图网格(详谈)
2017/06/22 Python
Python设计模式之工厂模式简单示例
2018/01/09 Python
python 实现读取一个excel多个sheet表并合并的方法
2019/02/12 Python
Python实现生成密码字典的方法示例
2019/09/02 Python
python--shutil移动文件到另一个路径的操作
2020/07/13 Python
Python3.9.1中使用match方法详解
2021/02/08 Python
计算s=f(f(-1.4))的值
2014/05/06 面试题
工程造价专业大专生求职信
2013/10/06 职场文书
个人简历自我鉴定
2013/10/11 职场文书
C++程序员求职信范文
2014/04/14 职场文书
励志演讲稿800字
2014/08/21 职场文书
领导班子四风对照检查材料范文
2014/09/27 职场文书
聘任书范文大全
2015/09/21 职场文书
2016优秀员工先进事迹材料
2016/02/25 职场文书
go mod 安装依赖 unkown revision问题的解决方案
2021/05/06 Golang
剑指Offer之Java算法习题精讲二叉树专项训练
2022/03/21 Java/Android
《艾尔登法环》Boss腐烂树灵很有可能是《黑暗之魂3》的一个废案
2022/04/11 其他游戏