Python中使用中文的方法


Posted in Python onFebruary 19, 2011

先来看看python的版本:
>>> import sys
>>> sys.version
'2.5.1 (r251:54863, Apr 18 2007, 08:51:08) [MSC v.1310 32 bit (Intel)]'

(一)
用记事本创建一个文件ChineseTest.py,默认ANSI:
s = "中文"
print s

测试一下瞧瞧:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xd6' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

偷偷地把文件编码改成UTF-8:
E:\Project\Python\Test>python ChineseTest.py
File "ChineseTest.py", line 1
SyntaxError: Non-ASCII character '\xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.python.org/peps/pep-0263.html for details

无济于事。。。
既然它提供了网址,那就看看吧。简单地浏览一下,终于知道如果文件里有非ASCII字符,需要在第一行或第二行指定编码声明。把ChineseTest.py文件的编码重新改为ANSI,并加上编码声明:
# coding=gbk
s = "中文"
print s

再试一下:
E:\Project\Python\Test>python ChineseTest.py
中文

正常咯:)
(二)
看一看它的长度:
# coding=gbk
s = "中文"
print len(s)
结果:4。
s这里是str类型,所以计算的时候一个中文相当于两个英文字符,因此长度为4。
我们这样写:
# coding=gbk
s = "中文"
s1 = u"中文"
s2 = unicode(s, "gbk") #省略参数将用python默认的ASCII来解码
s3 = s.decode("gbk") #把str转换成unicode是decode,unicode函数作用与之相同
print len(s1)
print len(s2)
print len(s3)
结果:
2
2

(三)
接着来看看文件的处理:
建立一个文件test.txt,文件格式用ANSI,内容为:
abc中文
用python来读取
# coding=gbk
print open("Test.txt").read()
结果:abc中文
把文件格式改成UTF-8:
结果:abc涓???
显然,这里需要解码:
# coding=gbk
import codecs
print open("Test.txt").read().decode("utf-8")
结果:abc中文
上面的test.txt我是用Editplus来编辑的,但当我用Windows自带的记事本编辑并存成UTF-8格式时,
运行时报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
print open("Test.txt").read().decode("utf-8")
UnicodeEncodeError: 'gbk' codec can't encode character u'\ufeff' in position 0: illegal multibyte sequence

原来,某些软件,如notepad,在保存一个以UTF-8编码的文件时,会在文件开始的地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。
因此我们在读取时需要自己去掉这些字符,python中的codecs module定义了这个常量:
# coding=gbk
import codecs
data = open("Test.txt").read()
if data[:3] == codecs.BOM_UTF8:
data = data[3:]
print data.decode("utf-8")
结果:abc中文

(四)一点遗留问题
在第二部分中,我们用unicode函数和decode方法把str转换成unicode。为什么这两个函数的参数用"gbk"呢?
第一反应是我们的编码声明里用了gbk(# coding=gbk),但真是这样?
修改一下源文件:
# coding=utf-8
s = "中文"
print unicode(s, "utf-8")
运行,报错:
Traceback (most recent call last):
File "ChineseTest.py", line 3, in <module>
s = unicode(s, "utf-8")
UnicodeDecodeError: 'utf8' codec can't decode bytes in position 0-1: invalid data
显然,如果前面正常是因为两边都使用了gbk,那么这里我保持了两边utf-8一致,也应该正常,不至于报错。
更进一步的例子,如果我们这里转换仍然用gbk:
# coding=utf-8
s = "中文"
print unicode(s, "gbk")
结果:中文
翻阅了一篇英文资料,它大致讲解了python中的print原理:
When Python executes a print statement, it simply passes the output to the operating system (using fwrite() or something like it), and some other program is responsible for actually displaying that output on the screen. For example, on Windows, it might be the Windows console subsystem that displays the result. Or if you're using Windows and running Python on a Unix box somewhere else, your Windows SSH client is actually responsible for displaying the data. If you are running Python in an xterm on Unix, then xterm and your X server handle the display. <>

To print data reliably, you must know the encoding that this display program expects.

简单地说,python中的print直接把字符串传递给操作系统,所以你需要把str解码成与操作系统一致的格式。Windows使用CP936(几乎与gbk相同),所以这里可以使用gbk。
最后测试:
# coding=utf-8
s = "中文"
print unicode(s, "cp936")
结果:中文

Python 相关文章推荐
在Python中使用sort()方法进行排序的简单教程
May 21 Python
Python使用lxml模块和Requests模块抓取HTML页面的教程
May 16 Python
快速实现基于Python的微信聊天机器人示例代码
Mar 03 Python
Python 和 JS 有哪些相同之处
Nov 23 Python
每天迁移MySQL历史数据到历史库Python脚本
Apr 13 Python
对python cv2批量灰度图片并保存的实例讲解
Nov 09 Python
Django 简单实现分页与搜索功能的示例代码
Nov 07 Python
python使用 cx_Oracle 模块进行查询操作示例
Nov 28 Python
Python实现变声器功能(萝莉音御姐音)
Dec 05 Python
python绘图模块之利用turtle画图
Feb 12 Python
Python爬取奶茶店数据分析哪家最好喝以及性价比
Sep 23 Python
Python使用pandas导入csv文件内容的示例代码
Dec 24 Python
python实现的防DDoS脚本
Feb 08 #Python
Python牛刀小试密码爆破
Feb 03 #Python
初学python数组的处理代码
Jan 04 #Python
让python json encode datetime类型
Dec 28 #Python
让python的Cookie.py模块支持冒号做key的方法
Dec 28 #Python
python封装对象实现时间效果
Apr 23 #Python
python下函数参数的传递(参数带星号的说明)
Sep 19 #Python
You might like
PHP 最大运行时间 max_execution_time修改方法
2010/03/08 PHP
php !function_exists(&quot;T7FC56270E7A70FA81A5935B72EACBE29&quot;))代码解密
2011/01/07 PHP
创建无限极分类树型结构的简单方法
2017/06/20 PHP
js 单引号 传递方法
2009/06/22 Javascript
javascript 二维数组的实现与应用
2010/03/16 Javascript
动态创建样式表在各浏览器中的差异测试代码
2011/09/13 Javascript
JSON.stringify 语法实例讲解
2012/03/14 Javascript
分析Node.js connect ECONNREFUSED错误
2013/04/09 Javascript
Javascript实现的简单右键菜单类
2015/09/23 Javascript
Jquery中request和request.form和request.querystring的区别
2015/11/26 Javascript
Easyui 之 Treegrid 笔记
2016/04/29 Javascript
拥Bootstrap入怀——导航栏篇
2016/05/30 Javascript
原生JS查找元素的方法(推荐)
2016/11/22 Javascript
JavaScript利用闭包实现模块化
2017/01/13 Javascript
Javascript实现跨域后台设置拦截的方法详解
2017/08/04 Javascript
jsonp跨域获取百度联想词的方法分析
2019/05/13 Javascript
详解package.json版本号规则
2019/08/01 Javascript
JS实现数据动态渲染的竖向步骤条
2020/06/24 Javascript
Antd下拉选择,自动匹配功能的实现
2020/10/24 Javascript
vue实现一个矩形标记区域(rectangle marker)的方法
2020/10/28 Javascript
8个非常实用的Vue自定义指令
2020/12/15 Vue.js
python 数据加密代码
2008/12/24 Python
python 动态获取当前运行的类名和函数名的方法
2014/04/15 Python
Python的爬虫程序编写框架Scrapy入门学习教程
2016/07/02 Python
利用Python自动监控网站并发送邮件告警的方法
2016/08/24 Python
Python 取numpy数组的某几行某几列方法
2019/10/24 Python
基于python实现学生信息管理系统
2019/11/22 Python
python实现ssh及sftp功能(实例代码)
2020/03/16 Python
Infababy英国:婴儿推车、Travel System婴儿车和婴儿汽车座椅销售
2018/05/23 全球购物
德国大型箱包和皮具商店:Koffer
2019/10/01 全球购物
美国家居用品和厨具购物网站:DealsDot
2019/10/07 全球购物
华硕新加坡官方网上商店:ASUS Singapore
2020/07/09 全球购物
怎样写留学自荐信
2013/11/11 职场文书
大学生暑期实践感言
2014/02/26 职场文书
2015年反腐倡廉工作总结
2015/05/14 职场文书
Python实现简繁体转换
2021/06/07 Python