Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
Python调用SQLPlus来操作和解析Oracle数据库的方法
Apr 09 Python
关于Python中浮点数精度处理的技巧总结
Aug 10 Python
Python3调用微信企业号API发送文本消息代码示例
Nov 10 Python
mac安装pytorch及系统的numpy更新方法
Jul 26 Python
Scrapy框架爬取西刺代理网免费高匿代理的实现代码
Feb 22 Python
python随机生成大小写字母数字混合密码(仅20行代码)
Feb 01 Python
解决python虚拟环境切换无效的问题
Apr 30 Python
几款Python编译器比较与推荐(小结)
Oct 15 Python
Python常用外部指令执行代码实例
Nov 05 Python
使用Python判断一个文件是否被占用的方法教程
Dec 16 Python
用python对excel进行操作(读,写,修改)
Dec 25 Python
Python中使用Selenium环境安装的方法步骤
Feb 22 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
一个php作的文本留言本的例子(六)
2006/10/09 PHP
解析php DOMElement 操作xml 文档的实现代码
2013/05/10 PHP
php中获取主机名、协议及IP地址的方法
2014/11/18 PHP
php接口数据加密、解密、验证签名
2015/03/12 PHP
php用户名的密码加密更安全的方法
2019/06/21 PHP
PHP变量的作用范围实例讲解
2020/12/22 PHP
Aster vs KG BO3 第二场2.19
2021/03/10 DOTA
JavaScript方法和技巧大全
2006/12/27 Javascript
单击按钮显示隐藏子菜单经典案例
2013/01/04 Javascript
windows系统下简单nodejs安装及环境配置
2013/01/08 NodeJs
jquery 定位input元素的几种方法小结
2013/07/28 Javascript
javascript实现带下拉子菜单的导航菜单效果
2015/05/14 Javascript
AngularJS 所有版本下载地址
2016/09/14 Javascript
JavaScript“尽快失败”的原则实例详解
2016/10/08 Javascript
JS 实现计算器详解及实例代码(一)
2017/01/08 Javascript
微信小程序 基础组件与导航组件详细介绍
2017/02/21 Javascript
Bootstrap Table使用整理(二)
2017/06/09 Javascript
AngularJs 最新验证手机号码的实例,成功测试通过
2017/11/26 Javascript
jQuery实现的简单拖拽功能示例【测试可用】
2018/08/14 jQuery
vue-cli的build的文件夹下没有dev-server.js文件配置mock数据的方法
2019/04/17 Javascript
nodejs环境使用Typeorm连接查询Oracle数据
2019/12/05 NodeJs
python发送邮件功能实现代码
2016/07/15 Python
20招让你的Python飞起来!
2016/09/27 Python
关于反爬虫的一些简单总结
2017/12/13 Python
值得收藏,Python 开发中的高级技巧
2018/11/23 Python
Python函数参数匹配模型通用规则keyword-only参数详解
2019/06/10 Python
Python使用tkinter模块实现推箱子游戏
2019/10/08 Python
pycharm如何设置官方中文(如何汉化)
2020/12/29 Python
程序运行正确, 但退出时却"core dump"了,怎么回事
2014/02/19 面试题
前台接待岗位职责
2013/12/03 职场文书
小区物业门卫岗位职责
2014/04/10 职场文书
新学期标语
2014/06/30 职场文书
群众路线四风自我剖析材料
2014/10/08 职场文书
山东省召开党的群众路线教育实践活动总结大会新闻稿
2014/10/21 职场文书
2014年城管工作总结
2014/11/20 职场文书
深入理解Pytorch微调torchvision模型
2021/11/11 Python