Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
在Python中使用itertools模块中的组合函数的教程
Apr 13 Python
Python实现将文本生成二维码的方法示例
Jul 18 Python
Python高级特性切片(Slice)操作详解
Sep 27 Python
Pycharm设置去除显示的波浪线方法
Oct 28 Python
Python动态参数/命名空间/函数嵌套/global和nonlocal
May 29 Python
对python中基于tcp协议的通信(数据传输)实例讲解
Jul 22 Python
python的移位操作实现详解
Aug 21 Python
决策树剪枝算法的python实现方法详解
Sep 18 Python
TensorFlow学习之分布式的TensorFlow运行环境
Feb 05 Python
Java Spring项目国际化(i18n)详细方法与实例
Mar 20 Python
详解Python中的路径问题
Sep 02 Python
python PyAUtoGUI库实现自动化控制鼠标键盘
Sep 09 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
域名和cookie问题(域名后缀)
2012/10/10 PHP
LBS blog sql注射漏洞[All version]-官方已有补丁
2007/08/26 Javascript
JavaScript 字符串连接性能优化
2008/12/20 Javascript
JS获取整个页面文档的实现代码
2011/12/15 Javascript
javascript中有趣的反柯里化深入分析
2012/12/05 Javascript
用js提交表单解决一个页面有多个提交按钮的问题
2014/09/01 Javascript
详解javascript实现瀑布流绝对式布局
2016/01/29 Javascript
HTML中setCapture、releaseCapture 使用方法浅析
2016/09/25 Javascript
require.js 加载 vue组件 r.js 合并压缩的实例
2016/10/14 Javascript
jquery心形点赞关注效果的简单实现
2016/11/14 Javascript
JavaScript正则表达式exec/g实现多次循环用法示例
2017/01/17 Javascript
AngularJS报错$apply already in progress的解决方法分析
2017/01/30 Javascript
vuex进阶知识点巩固
2018/05/20 Javascript
百度小程序之间的页面通信过程详解
2019/07/18 Javascript
6种JavaScript继承方式及优缺点(小结)
2020/02/06 Javascript
python3爬取数据至mysql的方法
2018/06/26 Python
详解Django中类视图使用装饰器的方式
2018/08/12 Python
Python神奇的内置函数locals的实例讲解
2019/02/22 Python
python字符串替换第一个字符串的方法
2019/06/26 Python
python opencv 简单阈值算法的实现
2019/08/04 Python
Django rstful登陆认证并检查session是否过期代码实例
2019/08/13 Python
jupyter lab的目录调整及设置默认浏览器为chrome的方法
2020/04/10 Python
CSS3 实现发光边框特效
2020/11/11 HTML / CSS
HTML5到底会有什么发展?HTML5的前景展望
2015/07/07 HTML / CSS
Html5 canvas实现粒子时钟的示例代码
2018/09/06 HTML / CSS
Marmot土拨鼠官网:美国专业户外运动品牌
2018/01/11 全球购物
Java平台和其他软件平台有什么不同
2015/06/05 面试题
计算机科学与技术应届生求职信
2013/11/07 职场文书
如何写好自荐信
2014/04/07 职场文书
护理专科学生自荐书
2014/07/05 职场文书
2014年车间工作总结
2014/11/21 职场文书
党员转正党支部意见
2015/06/02 职场文书
活着观后感
2015/06/03 职场文书
公司员工管理制度
2015/08/04 职场文书
学者《孟子》名人名言
2019/08/09 职场文书
python flappy bird小游戏分步实现流程
2022/02/15 Python