浅谈Python爬取网页的编码处理


Posted in Python onNovember 04, 2016

背景

中秋的时候,一个朋友给我发了一封邮件,说他在爬链家的时候,发现网页返回的代码都是乱码,让我帮他参谋参谋(中秋加班,真是敬业= =!),其实这个问题我很早就遇到过,之前在爬小说的时候稍微看了一下,不过没当回事,其实这个问题就是对编码的理解不到位导致的。

问题

很普通的一个爬虫代码,代码是这样的:

# ecoding=utf-8
import re
import requests
import sys
reload(sys)
sys.setdefaultencoding('utf8')

url = 'http://3water.com/ershoufang/rs%E6%8B%9B%E5%95%86%E6%9E%9C%E5%B2%AD/'
res = requests.get(url)
print res.text

目的其实很简单,就是爬一下链家的内容,但是这样执行之后,返回的结果,所有涉及到中文的内容,全部会变成乱码,比如这样

浅谈Python爬取网页的编码处理

<script type="text/template" id="newAddHouseTpl">
 <div class="newAddHouse">
  自从您上次浏览(<%=time%>)之后,该搜索条件下æ?°å¢žåŠ äº†<%=count%>套房源
  <a href="<%=url%>" class="LOGNEWERSHOUFANGSHOW" <%=logText%>><%=linkText%></a>
  <span class="newHouseRightClose">x</span>
 </div>
</script>

这样的数据拿来可以说毫无作用。

问题分析

这里的问题很明显了,就是文字的编码不正确,导致了乱码。

查看网页的编码

从爬取的目标网页的头来看,网页是用utf-8来编码的。

<meta http-equiv="Content-Type" content="text/html; charset=utf-8">

所以,最终的编码,我们肯定也要用utf-8来处理,也就是说,最终的文本处理,要用utf-8来解码,也就是:decode('utf-8')

文本的编码解码

Python的编码解码的过程是这样的,源文件 ===》 encode(编码方式) ===》decode(解码方式),在很大的程度上,不推荐使用

import sys
reload(sys)
sys.setdefaultencoding('utf8')

这种方式来硬处理文字编码。不过在某些时候不影响的情况下,偷偷懒也不是什么大问题,不过比较建议的就是获取源文件之后,使用encode和decode的方式来处理文本。

回到问题

现在问题最大的是源文件的编码方式,我们正常使用requests的时候,它会自动猜源文件的编码方式,然后转码成Unicode的编码,但是,毕竟是程序,是有可能猜错的,所以如果猜错了,我们就需要手工来指定编码方式。官方文档的描述如下:

When you make a request, Requests makes educated guesses about the encoding of the response based on the HTTP headers. The text encoding guessed by Requests is used when you access r.text. You can find out what encoding Requests is using, and change it, using the r.encoding property.

所以我们需要查看requests返回的编码方式到底是什么?

# ecoding=utf-8
import re
import requests
from bs4 import BeautifulSoup
import sys
reload(sys)
sys.setdefaultencoding('utf8')

url = 'http://3water.com/ershoufang/rs%E6%8B%9B%E5%95%86%E6%9E%9C%E5%B2%AD/'

res = requests.get(url)
print res.encoding

打印的结果如下:

ISO-8859-1

也就是说,源文件使用的是ISO-8859-1来编码。百度一下ISO-8859-1,结果如下:

ISO8859-1,通常叫做Latin-1。Latin-1包括了书写所有西方欧洲语言不可缺少的附加字符。

问题解决

发现了这个东东,问题就很好解决了,只要指定一下编码,就能正确的打出中文了。代码如下:

# ecoding=utf-8
import requests
import sys
reload(sys)
sys.setdefaultencoding('utf8')

url = 'http://3water.com/ershoufang/rs%E6%8B%9B%E5%95%86%E6%9E%9C%E5%B2%AD/'

res = requests.get(url)
res.encoding = ('utf8')

print res.text

打印的结果就很明显,中文都正确的显示出来了。

浅谈Python爬取网页的编码处理

另一种方式是在源文件上做解码和编码,代码如下:

# ecoding=utf-8
import requests
import sys
reload(sys)
sys.setdefaultencoding('utf8')

url = 'http://3water.com/ershoufang/rs%E6%8B%9B%E5%95%86%E6%9E%9C%E5%B2%AD/'

res = requests.get(url)
# res.encoding = ('utf8')

print res.text.encode('ISO-8859-1').decode('utf-8')

另:ISO-8859-1也叫做latin1,使用latin1做解码结果也是正常的。

关于字符的编码,很多东西可以说,想了解的朋友可以参考以下大神的资料。

•《The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets (No Excuses!)》

以上这篇浅谈Python爬取网页的编码处理就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持三水点靠木。

Python 相关文章推荐
在Python的while循环中使用else以及循环嵌套的用法
Oct 14 Python
Python Tkinter实现简易计算器功能
Jan 30 Python
python 产生token及token验证的方法
Dec 26 Python
python3的print()函数的用法图文讲解
Jul 16 Python
Python+AutoIt实现界面工具开发过程详解
Aug 07 Python
PyCharm刷新项目(文件)目录的实现
Feb 14 Python
Python 炫技操作之合并字典的七种方法
Apr 10 Python
TensorFlow打印输出tensor的值
Apr 19 Python
全网首秀之Pycharm十大实用技巧(推荐)
Apr 27 Python
django创建css文件夹的具体方法
Jul 31 Python
python绘图pyecharts+pandas的使用详解
Dec 13 Python
详解Pycharm第三方库的安装及使用方法
Dec 29 Python
Django接受前端数据的几种方法总结
Nov 04 #Python
Python多维/嵌套字典数据无限遍历的实现
Nov 04 #Python
浅谈Python数据类型判断及列表脚本操作
Nov 04 #Python
浅谈python字典多键值及重复键值的使用
Nov 04 #Python
用Python将动态GIF图片倒放播放的方法
Nov 02 #Python
各种Python库安装包下载地址与安装过程详细介绍(Windows版)
Nov 02 #Python
Python实现简单的四则运算计算器
Nov 02 #Python
You might like
来自PHP.NET的入门教程
2006/10/09 PHP
php快递单号查询接口使用示例
2014/05/05 PHP
PHP递归遍历指定文件夹内的文件实现方法
2016/11/15 PHP
PHP实现按之字形顺序打印二叉树的方法
2018/01/16 PHP
javascript一些不错的函数脚本代码
2008/09/10 Javascript
jquery Firefox3.5中操作select的问题
2009/07/10 Javascript
JS自动缩小超出大小的图片
2012/10/12 Javascript
Three.js源码阅读笔记(光照部分)
2012/12/27 Javascript
ExtJS下 Ext.Direct加载和提交过程排错小结
2013/04/02 Javascript
jQuery阻止事件冒泡具体实现
2013/10/11 Javascript
jquery实现当滑动到一定位置时固定效果
2014/06/17 Javascript
JS中判断字符串中出现次数最多的字符及出现的次数的简单实例
2016/06/03 Javascript
js中数组插入、删除元素操作的方法
2017/02/15 Javascript
vue js秒转天数小时分钟秒的实例代码
2018/08/08 Javascript
微信小程序实现跳转的几种方式总结(推荐)
2019/04/24 Javascript
Node.JS枚举统计当前文件夹和子目录下所有代码文件行数
2019/08/23 Javascript
vue 监听 Treeselect 选择项的改变操作
2020/08/31 Javascript
Python多进程同步Lock、Semaphore、Event实例
2014/11/21 Python
python实现猜拳小游戏
2020/04/05 Python
使用python实现数组、链表、队列、栈的方法
2019/12/20 Python
pytorch进行上采样的种类实例
2020/02/18 Python
如何基于线程池提升request模块效率
2020/04/18 Python
python和go语言的区别是什么
2020/07/20 Python
如何使用amaze ui的分页样式封装一个通用的JS分页控件
2020/08/21 HTML / CSS
唤醒头发毛囊的秘密武器:Grow Gorgeous
2016/08/28 全球购物
THE OUTNET美国官网:国际设计师品牌折扣网站
2017/03/07 全球购物
澳大利亚购买健身器材网站:Gym Direct
2019/12/19 全球购物
几个判断型的面试题
2012/07/03 面试题
设计部经理的岗位职责
2013/11/16 职场文书
大专毕业生自我鉴定
2013/11/21 职场文书
医务人员自我评价
2014/01/26 职场文书
公务员转正鉴定材料
2014/02/11 职场文书
幼儿园欢迎词范文
2015/01/26 职场文书
2015年节能减排工作总结
2015/05/14 职场文书
告诉你一个秘密:富人致富的五大优点
2019/07/11 职场文书
Windows下载并安装MySQL8.0.x 版本的完整教程
2022/04/10 MySQL