将string类型的数据类型转换为spark rdd时报错的解决方法


Posted in Python onFebruary 18, 2019

在将string类型的数据类型转换为spark rdd时,一直报这个错,StructType can not accept object %r in type %s” % (obj, type(obj)))

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize(list0)
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

查了半天的资料,问了不少同事都没能解决掉这个bug。最后终于google到一个类似的case,终于把问题解决。记录一下!

.
.
.
s = str(tree)
y = str(YESTERDAY)
list0 = [s, y]
outRes = self.sc.parallelize([list0])
df_tree = outRes.toDF("model: string, dt: string").registerTempTable("temp")
.
.
.

上面的问题办法是,将sc.parallelize([list0])中的list0再转成一个整体list,问题即可解决。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对三水点靠木的支持。如果你想了解更多相关内容请查看下面相关链接

Python 相关文章推荐
利用Python命令行传递实例化对象的方法
Nov 02 Python
Python Paramiko模块的使用实际案例
Feb 01 Python
详解TensorFlow在windows上安装与简单示例
Mar 05 Python
python按照多个条件排序的方法
Feb 08 Python
通过shell+python实现企业微信预警
Mar 07 Python
Python计算指定日期是今年的第几天(三种方法)
Mar 26 Python
python except异常处理之后不退出,解决异常继续执行的实现
Apr 25 Python
Python os库常用操作代码汇总
Nov 03 Python
如何使用Python对NetCDF数据做空间相关分析
Apr 21 Python
十个Python自动化常用操作,即拿即用
May 10 Python
PyTorch梯度裁剪避免训练loss nan的操作
May 24 Python
深入理解pytorch库的dockerfile
Jun 10 Python
对Python3使运行暂停的方法详解
Feb 18 #Python
解决python线程卡死的问题
Feb 18 #Python
Python中时间datetime的处理与转换用法总结
Feb 18 #Python
对python中的try、except、finally 执行顺序详解
Feb 18 #Python
python调用matlab的m自定义函数方法
Feb 18 #Python
在Python文件中指定Python解释器的方法
Feb 18 #Python
Python字符串逆序的实现方法【一题多解】
Feb 18 #Python
You might like
PHP 5昨天隆重推出--PHP 5/Zend Engine 2.0新特性
2006/10/09 PHP
php 文件上传后缀名与文件类型对照表(几乎涵盖所有文件)
2010/05/16 PHP
PHP截取IE浏览器并缩小原图的方法
2016/03/04 PHP
php封装的mysqli类完整实例
2016/10/18 PHP
PHP获取中国时间(上海时区时间)及美国时间的方法
2017/02/23 PHP
jQuery图片播放8款精美插件分享
2013/02/17 Javascript
HTML5之lang属性与dir属性的详解
2013/06/19 Javascript
使用CamanJS在Web页面上处理图像的技巧
2015/08/18 Javascript
jquery UI Datepicker时间控件冲突问题解决
2016/12/16 Javascript
JavaScript简单生成 N~M 之间随机数的方法
2017/01/13 Javascript
Bootstrap中glyphicons-halflings-regular.woff字体报404错notfound的解决方法
2017/01/19 Javascript
javascript深拷贝和浅拷贝详解
2017/02/14 Javascript
AngularJS路由切换实现方法分析
2017/03/17 Javascript
Vue键盘事件用法总结
2017/04/18 Javascript
vue拦截器Vue.http.interceptors.push使用详解
2017/04/22 Javascript
jQuery中的deferred对象和extend方法详解
2017/05/08 jQuery
BootStrap数据表格实例代码
2017/09/13 Javascript
vue router仿天猫底部导航栏功能
2017/10/18 Javascript
解决vue单页面多个组件嵌套监听浏览器窗口变化问题
2020/07/30 Javascript
[04:26]DOTA2上海特锦赛小组赛第二日 TOP10精彩集锦
2016/02/27 DOTA
Python Web服务器Tornado使用小结
2014/05/06 Python
python计算圆周率pi的方法
2015/07/11 Python
Python中pygame安装方法图文详解
2015/11/11 Python
对Python的Django框架中的项目进行单元测试的方法
2016/04/11 Python
Python常用内置模块之xml模块(详解)
2017/05/23 Python
Python实现两个list对应元素相减操作示例
2017/06/09 Python
Python多层装饰器用法实例分析
2018/02/09 Python
使用python进行文本预处理和提取特征的实例
2018/06/05 Python
Python常见数字运算操作实例小结
2019/03/22 Python
pytorch在fintune时将sequential中的层输出方法,以vgg为例
2019/08/20 Python
浅谈关于html5中图片抛物线运动的一些心得
2018/01/09 HTML / CSS
美国最灵活的移动提供商:Tello
2017/07/18 全球购物
英国奢侈品牌时尚购物平台:Farfetch(支持中文)
2020/02/18 全球购物
2014机关党员干部“正风肃纪”思想汇报
2014/09/15 职场文书
2014年助理工程师工作总结
2014/11/14 职场文书
销售经理工作检讨书
2015/02/19 职场文书