spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Flask框架学习笔记(一)安装篇(windows安装与centos安装)
Jun 25 Python
Python实现遍历windows所有窗口并输出窗口标题的方法
Mar 13 Python
python实现获取客户机上指定文件并传输到服务器的方法
Mar 16 Python
对Python中的@classmethod用法详解
Apr 21 Python
python实现RabbitMQ的消息队列的示例代码
Nov 08 Python
使用Python3内置文档高效学习以及官方中文文档
May 19 Python
python os模块简单应用示例
May 23 Python
使用Python检测文章抄袭及去重算法原理解析
Jun 14 Python
Python实现不规则图形填充的思路
Feb 02 Python
基于Tensorflow:CPU性能分析
Feb 10 Python
Django REST framwork的权限验证实例
Apr 02 Python
基于Python的接口自动化unittest测试框架和ddt数据驱动详解
Jan 27 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
PHP原生函数一定好吗?
2014/12/08 PHP
PHP实现二维数组去重功能示例
2017/01/12 PHP
PHP 图片处理
2020/09/16 PHP
MSN消息提示类
2006/09/05 Javascript
textarea的value是html文件源代码,存成html文件的代码
2007/04/20 Javascript
JQuery 学习笔记 选择器之三
2009/07/23 Javascript
Extjs中通过Tree加载右侧TabPanel具体实现
2013/05/05 Javascript
node.js中的querystring.parse方法使用说明
2014/12/10 Javascript
jQuery获得包含margin的outerWidth和outerHeight的方法
2015/03/25 Javascript
jQuery判断checkbox选中状态
2016/05/12 Javascript
JS简单实现DIV相对于浏览器固定位置不变的方法
2016/06/17 Javascript
jQuery实现每隔几条元素增加1条线的方法
2016/06/27 Javascript
jquery插件autocomplete用法示例
2016/07/01 Javascript
Bootstrap模态框调用功能实现方法
2016/09/19 Javascript
jQuery实现根据生日计算年龄 星座 生肖
2016/11/23 Javascript
JavaScript中清空数组的三种方式
2017/03/22 Javascript
Vue2.0 组件传值通讯的示例代码
2017/08/01 Javascript
M2实现Nodejs项目自动部署的方法步骤
2019/05/05 NodeJs
Python基于分水岭算法解决走迷宫游戏示例
2017/09/26 Python
对pandas中时间窗函数rolling的使用详解
2018/11/28 Python
Java文件与类动手动脑实例详解
2019/11/10 Python
tensorflow ckpt模型和pb模型获取节点名称,及ckpt转pb模型实例
2020/01/21 Python
Selenium常见异常解析及解决方案示范
2020/04/10 Python
Python中常见的数制转换有哪些
2020/05/27 Python
HTML5边玩边学(2)基础绘图实现方法
2010/09/21 HTML / CSS
自我鉴定范文300字
2013/10/01 职场文书
毕业生自我推荐
2013/11/04 职场文书
学术会议欢迎词
2014/01/09 职场文书
期末考试动员演讲稿
2014/01/10 职场文书
优秀毕业生就业推荐信
2014/05/22 职场文书
股东授权委托书范本
2014/09/13 职场文书
运动会加油稿20字
2014/11/15 职场文书
2015年重阳节主持词
2015/07/04 职场文书
php微信小程序解包过程实例详解
2021/03/31 PHP
Python+Appium自动化测试的实战
2021/06/30 Python
Python 数据可视化神器Pyecharts绘制图像练习
2022/02/28 Python