spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
浅谈MySQL中的触发器
May 05 Python
Python读写unicode文件的方法
Jul 10 Python
基于Python函数的作用域规则和闭包(详解)
Nov 29 Python
Python爬虫_城市公交、地铁站点和线路数据采集实例
Jan 10 Python
python中yaml配置文件模块的使用详解
Apr 27 Python
利用Python如何制作好玩的GIF动图详解
Jul 11 Python
Django CSRF认证的几种解决方案
Mar 03 Python
python 使用cx-freeze打包程序的实现
Mar 14 Python
使用Python将图片转正方形的两种方法实例代码详解
Apr 29 Python
Django ForeignKey与数据库的FOREIGN KEY约束详解
May 20 Python
详解numpy1.19.4与python3.9版本冲突解决
Dec 15 Python
Python中的程序流程控制语句
Feb 24 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
第六节--访问属性和方法
2006/11/16 PHP
PHP array 的加法操作代码
2010/07/24 PHP
php性能优化分析工具XDebug 大型网站调试工具
2011/05/22 PHP
PHP实现通过Luhn算法校验信用卡卡号是否有效
2015/03/23 PHP
PHP开发中常用的十个代码样例
2016/02/02 PHP
PHP自定义错误处理的方法分析
2018/12/19 PHP
laravel实现上传图片的两种方式小结
2019/10/12 PHP
javascript实现划词标记+划词搜索功能
2007/03/06 Javascript
javaScript 删除字符串空格多种方法小结
2012/10/24 Javascript
javascript:FF/Chrome与IE动态加载元素的区别说明
2014/01/26 Javascript
使用jquery解析XML示例代码
2014/09/05 Javascript
javascript 数组操作详解
2015/01/29 Javascript
Vuejs第十二篇之动态组件全面解析
2016/09/09 Javascript
canvas 绘制圆形时钟
2017/02/22 Javascript
浅谈angular2路由预加载策略
2017/10/04 Javascript
JS实现提交表单前的数字及邮箱校检功能
2017/11/13 Javascript
JavaScript中变量、指针和引用功能与操作示例
2018/08/04 Javascript
JS前端面试必备——基本排序算法原理与实现方法详解【插入/选择/归并/冒泡/快速排序】
2020/02/24 Javascript
javascript实现图片轮换动作方法
2020/08/07 Javascript
python3实现短网址和数字相互转换的方法
2015/04/28 Python
web.py 十分钟创建简易博客实现代码
2016/04/22 Python
python中函数总结之装饰器闭包详解
2016/06/12 Python
python实现斗地主分牌洗牌
2020/06/22 Python
SheIn俄罗斯:时尚女装网上商店
2017/02/28 全球购物
澳大利亚票务和娱乐市场领导者:Ticketmaster
2017/03/03 全球购物
mysql有关权限的表都有哪几个
2015/04/22 面试题
实习老师个人总结的自我评价
2013/09/28 职场文书
产假请假条
2014/04/10 职场文书
综艺节目策划方案
2014/06/13 职场文书
学雷锋志愿者活动方案
2014/08/21 职场文书
公司股东出资证明书
2014/11/01 职场文书
2016年元旦致辞
2015/08/01 职场文书
原来实习报告是这样写的呀!
2019/07/03 职场文书
详解Python中下划线的5种含义
2021/07/15 Python
Android开发手册Chip监听及ChipGroup监听
2022/06/10 Java/Android
华为HarmonyOS3.0强在哪? 看看鸿蒙3.0这7个小功能
2023/01/09 数码科技