spark dataframe 将一列展开,把该列所有值都变成新列的方法


Posted in Python onJanuary 29, 2019

The original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python求斐波那契数列示例分享
Feb 14 Python
Python性能提升之延迟初始化
Dec 04 Python
python+opencv轮廓检测代码解析
Jan 05 Python
Python遍历pandas数据方法总结
Feb 09 Python
python获取酷狗音乐top500的下载地址 MP3格式
Apr 17 Python
Pycharm 设置自定义背景颜色的图文教程
May 23 Python
对python中array.sum(axis=?)的用法介绍
Jun 28 Python
在python Numpy中求向量和矩阵的范数实例
Aug 26 Python
python验证码图片处理(二值化)
Nov 01 Python
Python实现元素等待代码实例
Nov 11 Python
pandas实现excel中的数据透视表和Vlookup函数功能代码
Feb 14 Python
python使用pywinauto驱动微信客户端实现公众号爬虫
May 19 Python
Python使用ctypes调用C/C++的方法
Jan 29 #Python
dataframe 按条件替换某一列中的值方法
Jan 29 #Python
Numpy之random函数使用学习
Jan 29 #Python
pandas DataFrame 删除重复的行的实现方法
Jan 29 #Python
使用Python向DataFrame中指定位置添加一列或多列的方法
Jan 29 #Python
Python Pexpect库的简单使用方法
Jan 29 #Python
在Pandas中DataFrame数据合并,连接(concat,merge,join)的实例
Jan 29 #Python
You might like
前端必学之PHP语法基础
2016/01/01 PHP
简单谈谈php延迟静态绑定
2016/01/26 PHP
JQuery的Validation插件中Remote验证的中文问题
2010/07/26 Javascript
用js实现控件的隐藏及style.visibility的使用
2013/06/14 Javascript
Jquery选择子控件"大于号"和" "区别介绍及使用示例
2013/06/25 Javascript
javascript实现将文件保存到本地方法汇总
2015/07/26 Javascript
深入理解关于javascript中apply()和call()方法的区别
2016/04/12 Javascript
javascript中Number的方法小结
2016/11/21 Javascript
vue.js+Element实现表格里的增删改查
2017/01/18 Javascript
JavaScript使用atan2来绘制箭头和曲线的实例
2017/09/14 Javascript
详解微信小程序Page中data数据操作和函数调用
2017/09/27 Javascript
React Native AsyncStorage本地存储工具类
2017/10/24 Javascript
把vue-router和express项目部署到服务器的方法
2018/02/21 Javascript
如何获取TypeScript的声明文件.d.ts
2018/05/01 Javascript
nodejs微信开发之授权登录+获取用户信息
2019/03/17 NodeJs
基于javascript处理二进制图片流过程详解
2020/06/08 Javascript
jQuery编写QQ简易聊天框
2020/08/27 jQuery
python错误处理详解
2014/09/28 Python
Python编程中的for循环语句学习教程
2015/10/14 Python
python爬虫之BeautifulSoup 使用select方法详解
2017/10/23 Python
Python3实现发送QQ邮件功能(html)
2017/12/15 Python
python 实现对文件夹内的文件排序编号
2018/04/12 Python
Python用于学习重要算法的模块pygorithm实例浅析
2018/08/16 Python
pyqt5 使用label控件实时显示时间的实例
2019/06/14 Python
详解Django模版中加载静态文件配置方法
2019/07/21 Python
Python爬虫工具requests-html使用解析
2020/04/29 Python
Django模板获取field的verbose_name实例
2020/05/19 Python
Python使用requests模块爬取百度翻译
2020/08/25 Python
儿科护士自我鉴定
2013/10/14 职场文书
工商管理本科生求职信
2014/07/13 职场文书
学籍证明模板
2014/11/21 职场文书
员工辞职信范文大全
2015/05/12 职场文书
毕业生求职自荐信(2016最新版)
2016/01/28 职场文书
工人先锋号事迹材料(2016精选版)
2016/03/01 职场文书
话题作文之生命的旋律
2019/12/17 职场文书
Rust 连接 PostgreSQL 数据库的详细过程
2022/01/22 PostgreSQL