Python3如何解决字符编码问题详解


Posted in Python onApril 23, 2017

编码

因为计算机只能处理数字,如果要处理文本,就必须先把文本转换为数字才能处理。最早的计算机在设计时采用8个比特(bit)作为一个字节(byte),所以,一个字节能表示的最大的整数就是255(二进制11111111=十进制255),如果要表示更大的整数,就必须用更多的字节。比如两个字节可以表示的最大整数是65535,4个字节可以表示的最大整数是4294967295。

由于计算机是美国人发明的,因此,最早只有127个字母被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65,小写字母z的编码是122。

Python3字符编码

Python3 最重要的一项改进之一就是解决了 Python2 中字符串与字符编码遗留下来的这个大坑。

Python2 字符串设计上的一些缺陷:

  • 使用 ASCII 码作为默认编码方式,对中文处理很不友好。
  • 把字符串的牵强地分为 unicode 和 str 两种类型,误导开发者

当然这并不算 Bug,只要处理的时候多留心也可以避免这些坑。但在 Python3 两个问题都很好的解决了。

首先,Python3 把系统默认编码设置为 UTF-8

>>> import sys
>>> sys.getdefaultencoding()
'utf-8'
>>>

然后,文本字符和二进制数据区分得更清晰,分别用 str 和 bytes 表示。文本字符全部用 str 类型表示,str 能表示 Unicode 字符集中所有字符,而二进制字节数据用一种全新的数据类型,用 bytes 来表示。

str

>>> a = "a"
>>> a
'a'
>>> type(a)
<class 'str'>

>>> b = "禅"
>>> b
'禅'
>>> type(b)
<class 'str'>

bytes

Python3 中,在字符引号前加‘b',明确表示这是一个 bytes 类型的对象,实际上它就是一组二进制字节序列组成的数据,bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据,但不能用中文等非ASCII字符表示。

>>> c = b'a'
>>> c
b'a'
>>> type(c)
<class 'bytes'>

>>> d = b'\xe7\xa6\x85'
>>> d
b'\xe7\xa6\x85'
>>> type(d)
<class 'bytes'>
>>>

>>> e = b'禅'
 File "<stdin>", line 1
SyntaxError: bytes can only contain ASCII literal characters.

bytes 类型提供的操作和 str 一样,支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 + 操作,尽管在py2中是可行的。

>>> b"a"+b"c"
b'ac'
>>> b"a"*2
b'aa'
>>> b"abcdef\xd6"[1:]
b'bcdef\xd6'
>>> b"abcdef\xd6"[-1]
214

>>> b"a" + "b"
Traceback (most recent call last):
 File "<stdin>", line 1, in <module>
TypeError: can't concat bytes to str

python2 与 python3 字节与字符的对应关系

python2 python3 表现 转换 作用
str bytes 字节 encode 存储
unicode str 字符 decode 显示

encode 与 decode

str 与 bytes 之间的转换可以用 encode 和从decode 方法。

Python3如何解决字符编码问题详解

encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换。

>>> s = "Python之禅"
>>> s.encode()
b'Python\xe4\xb9\x8b\xe7\xa6\x85'
>>> s.encode("gbk")
b'Python\xd6\xae\xec\xf8'

decode 负责字节到字符的解码转换,通用使用 UTF-8 编码格式进行转换。

>>> b'Python\xe4\xb9\x8b\xe7\xa6\x85'.decode()
'Python之禅'
>>> b'Python\xd6\xae\xec\xf8'.decode("gbk")
'Python之禅'

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

Python 相关文章推荐
使用httplib模块来制作Python下HTTP客户端的方法
Jun 19 Python
Python3连接MySQL(pymysql)模拟转账实现代码
May 24 Python
python数据清洗系列之字符串处理详解
Feb 12 Python
PyQt5实现下载进度条效果
Apr 19 Python
windows下python 3.6.4安装配置图文教程
Aug 21 Python
python 读取鼠标点击坐标的实例
Dec 29 Python
python+pyqt5实现图片批量缩放工具
Mar 18 Python
如何利用python给图片添加半透明水印
Sep 06 Python
Python中生成一个指定长度的随机字符串实现示例
Nov 06 Python
Pyqt5自适应布局实例
Dec 13 Python
将tensorflow.Variable中的某些元素取出组成一个新的矩阵示例
Jan 04 Python
Python 找出英文单词列表(list)中最长单词链
Dec 14 Python
Python制作刷网页流量工具
Apr 23 #Python
Python读取指定目录下指定后缀文件并保存为docx
Apr 23 #Python
正确理解python中的关键字“with”与上下文管理器
Apr 21 #Python
python妙用之编码的转换详解
Apr 21 #Python
简单谈谈Python中的元祖(Tuple)和字典(Dict)
Apr 21 #Python
Python学习笔记之解析json的方法分析
Apr 21 #Python
Python正则抓取网易新闻的方法示例
Apr 21 #Python
You might like
缅甸的咖啡简史
2021/03/04 咖啡文化
落伍首发 php+mysql 采用ajax技术的 省 市 地 3级联动无刷新菜单 源码
2006/12/16 PHP
Laravel中使用自己编写类库的3种方法
2015/02/10 PHP
最新最全PHP生成制作验证码代码详解(推荐)
2016/06/12 PHP
关于PHP中字符串与多进制转换函数的实例代码
2016/11/03 PHP
如何在PHP中读写文件
2020/09/07 PHP
jquery插件开发注意事项小结
2013/06/04 Javascript
JS实现简单的Canvas画图实例
2013/07/04 Javascript
加载列表时jquery获取ul中第一个li的属性
2014/11/02 Javascript
浅谈Javascript中的Function与Object
2015/01/26 Javascript
JavaScript判断数组是否存在key的简单实例
2016/08/03 Javascript
微信小程序 获取当前地理位置和经纬度实例代码
2016/12/05 Javascript
yii form 表单提交之前JS在提交按钮的验证方法
2017/03/15 Javascript
AngularJs导出数据到Excel的示例代码
2017/08/11 Javascript
three.js实现3D视野缩放效果
2017/11/16 Javascript
详解redis在nodejs中的应用
2018/05/02 NodeJs
jQuery中$原理实例分析
2018/08/13 jQuery
element-ui组件中input等的change事件中传递自定义参数
2019/05/22 Javascript
js全屏事件fullscreenchange 实现全屏、退出全屏操作
2019/09/17 Javascript
python获取标准北京时间的方法
2015/03/24 Python
python3.5 + PyQt5 +Eric6 实现的一个计算器代码
2017/03/11 Python
Python使用POP3和SMTP协议收发邮件的示例代码
2019/04/16 Python
python如何读取bin文件并下发串口
2019/07/05 Python
Python 处理文件的几种方式
2019/08/23 Python
Python3查找列表中重复元素的个数的3种方法详解
2020/02/13 Python
python使用matplotlib绘制折线图的示例代码
2020/09/22 Python
CSS3 二级导航菜单的制作的示例
2018/04/02 HTML / CSS
Laura Geller官网:美国彩妆品牌
2018/12/29 全球购物
我的求职计划书
2014/01/10 职场文书
搞笑创意广告语
2014/03/17 职场文书
《卖木雕的少年》教学反思
2014/04/11 职场文书
高中生打架检讨书1000字
2015/02/17 职场文书
加薪申请报告范本
2015/05/15 职场文书
毕业典礼致辞
2015/07/29 职场文书
《玩出了名堂》教学反思
2016/02/17 职场文书
找规律教学反思
2016/02/23 职场文书