Python字符串的encode与decode研究心得乱码问题解决方法


Posted in Python onMarch 23, 2009

为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。 

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


代码中字符串的默认编码与代码文件本身的编码一致。 

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。 

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode)  #用来判断是否为unicode 

用非unicode编码形式的str来encode会报错 


 如何获得系统的默认编码? 

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()  

该段程序在英文WindowsXP上输出为:ascii 


在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。 

如在UliPad中运行如下代码:

s=u"中文"
print s 

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码 

使用str.__class__可以查看str的编码形式


原理说了半天,最后来个包治百病的吧:)

#!/usr/bin/env python 
#coding=utf-8 
s="中文" if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')
Python 相关文章推荐
使用python实现strcmp函数功能示例
Mar 25 Python
python创建临时文件夹的方法
Jul 06 Python
python 将md5转为16字节的方法
May 29 Python
在pycharm下设置自己的个性模版方法
Jul 15 Python
python读取word 中指定位置的表格及表格数据
Oct 23 Python
python 画3维轨迹图并进行比较的实例
Dec 06 Python
python实现QQ邮箱发送邮件
Mar 06 Python
python mysql自增字段AUTO_INCREMENT值的修改方式
May 18 Python
浅谈PyTorch中in-place operation的含义
Jun 27 Python
Python list和str互转的实现示例
Nov 16 Python
从Pytorch模型pth文件中读取参数成numpy矩阵的操作
Mar 04 Python
Python&Matlab实现樱花的绘制
Apr 07 Python
python 判断自定义对象类型
Mar 21 #Python
python mysqldb连接数据库
Mar 16 #Python
wxpython 学习笔记 第一天
Mar 16 #Python
Python 返回汉字的汉语拼音
Feb 27 #Python
用Python的urllib库提交WEB表单
Feb 24 #Python
wxpython 学习笔记 第一天
Feb 09 #Python
python 输出一个两行字符的变量
Feb 05 #Python
You might like
PHP脚本的10个技巧(5)
2006/10/09 PHP
第五节--克隆
2006/11/16 PHP
php 模拟get_headers函数的代码示例
2013/04/27 PHP
mongo Table类文件 获取MongoCursor(游标)的实现方法分析
2013/07/01 PHP
浅谈PHP中JSON数据操作
2015/07/01 PHP
curl和libcurl的区别简介
2015/07/01 PHP
php获取用户真实IP和防刷机制的实例代码
2018/11/28 PHP
laravel框架中视图的基本使用方法分析
2019/11/23 PHP
javascript 学习之旅 (1)
2009/02/05 Javascript
jQuery 使用手册(四)
2009/09/23 Javascript
javascript中数组的多种定义方法和常用函数简介
2014/05/09 Javascript
jQuery+CSS3实现树叶飘落特效
2015/02/01 Javascript
浅谈js中的延迟执行和定时执行
2016/05/31 Javascript
js实现漫天星星效果
2017/01/19 Javascript
微信小程序 es6-promise.js封装请求与处理异步进程
2017/06/12 Javascript
JS实现的简单标签点击切换功能示例
2017/09/21 Javascript
对Vue2 自定义全局指令Vue.directive和指令的生命周期介绍
2018/08/30 Javascript
微信小程序引用iconfont图标的方法
2018/10/22 Javascript
vue.js实现的全选与全不选功能示例【基于elementui】
2018/12/03 Javascript
Vue 样式绑定的实现方法
2019/01/15 Javascript
JavaScript禁止右击保存图片,禁止拖拽图片的实现代码
2020/04/28 Javascript
基于脚手架创建Vue项目实现步骤详解
2020/08/03 Javascript
JavaScript枚举选择jquery插件代码实例
2020/11/17 jQuery
详解Python读取配置文件模块ConfigParser
2017/05/11 Python
Django项目中model的数据处理以及页面交互方法
2018/05/30 Python
python 实现控制鼠标键盘
2020/11/27 Python
pytorch下的unsqueeze和squeeze的用法说明
2021/02/06 Python
Pytorch之扩充tensor的操作
2021/03/04 Python
CSS3教程(3):border-color网页边框色彩
2009/04/02 HTML / CSS
List、Map、Set三个接口,存取元素时,各有什么特点?
2015/09/27 面试题
《鸟的天堂》教学反思
2014/02/27 职场文书
开幕式邀请函
2015/01/31 职场文书
成本会计岗位职责
2015/02/03 职场文书
redis限流的实际应用
2021/04/24 Redis
mysql如何配置白名单访问
2021/06/30 MySQL
muduo TcpServer模块源码分析
2022/04/26 Redis