将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
python完成FizzBuzzWhizz问题(拉勾网面试题)示例
May 05 Python
详解Python nose单元测试框架的安装与使用
Dec 20 Python
python+matplotlib绘制简单的海豚(顶点和节点的操作)
Jan 02 Python
python opencv 图像尺寸变换方法
Apr 02 Python
Python读写zip压缩文件的方法
Aug 29 Python
在PyCharm导航区中打开多个Project的关闭方法
Jan 17 Python
计算机二级python学习教程(2) python语言基本语法元素
May 16 Python
Python 最强编辑器详细使用指南(PyCharm )
Sep 16 Python
给 TensorFlow 变量进行赋值的方式
Feb 10 Python
Python3 用matplotlib绘制sigmoid函数的案例
Dec 11 Python
Python3.9.0 a1安装pygame出错解决全过程(小结)
Feb 02 Python
python 定义函数 返回值只取其中一个的实现
May 21 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
php、java、android、ios通用的3des方法(推荐)
2016/09/09 PHP
php表单处理操作
2017/11/16 PHP
php实现算术验证码功能
2018/12/05 PHP
Javascript 网页水印(非图片水印)实现代码
2010/03/01 Javascript
浅谈JavaScript中null和undefined
2015/07/09 Javascript
基于jQuery实现的美观星级评论打分组件代码
2015/10/30 Javascript
JavaScript 弹出子窗体并返回结果到父窗体的实现代码
2016/05/28 Javascript
nodejs构建本地web测试服务器 如何解决访问静态资源问题
2017/07/14 NodeJs
js用类封装pop弹窗组件
2017/10/08 Javascript
详解基于vue-cli配置移动端自适应
2018/01/13 Javascript
ES6与CommonJS中的模块处理的区别
2018/06/13 Javascript
在vue中给列表中的奇数行添加class的实现方法
2018/09/05 Javascript
关于vue.js中实现方法内某些代码延时执行
2019/11/14 Javascript
微信小程序通过websocket实时语音识别的实现代码
2020/08/19 Javascript
[02:10]DOTA2 TI10勇士令状玩法及不朽Ⅰ展示:焕新世界,如你所期
2020/05/29 DOTA
Python入门之三角函数tan()函数实例详解
2017/11/08 Python
详解Django+Uwsgi+Nginx的生产环境部署
2018/06/25 Python
Python如何获得百度统计API的数据并发送邮件示例代码
2019/01/27 Python
Python 中判断列表是否为空的方法
2019/11/24 Python
Python实现括号匹配方法详解
2020/02/10 Python
在keras中model.fit_generator()和model.fit()的区别说明
2020/06/17 Python
python PyAUtoGUI库实现自动化控制鼠标键盘
2020/09/09 Python
python 获取字典特定值对应的键的实现
2020/09/29 Python
HTML5 Canvas画线技巧——实现绘制一个像素宽的细线
2013/08/02 HTML / CSS
Michael Kors美国官网:美式奢侈生活风格的代表
2016/11/25 全球购物
日本PLST在线商店:日本时尚杂志刊载的人气服装
2016/12/10 全球购物
英国玛莎百货澳大利亚:Marks & Spencer Australia
2019/08/30 全球购物
毕业生自荐信的主要内容
2013/10/29 职场文书
自主招生自荐信范文
2013/12/04 职场文书
有多年工作经验的自我评价
2014/03/02 职场文书
承诺书模板
2014/08/30 职场文书
2014年平安夜寄语
2014/12/08 职场文书
辞职离别感言
2015/08/04 职场文书
MySQL获取所有分类的前N条记录
2021/05/07 MySQL
如何用 Python 子进程关闭 Excel 自动化中的弹窗
2021/05/07 Python
go xorm框架的使用
2021/05/22 Golang