Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
python根据出生日期获得年龄的方法
Mar 31 Python
Python解析nginx日志文件
May 11 Python
python实现数据预处理之填充缺失值的示例
Dec 22 Python
python selenium firefox使用详解
Feb 26 Python
Mac安装python3的方法步骤
Aug 09 Python
python3.5 cv2 获取视频特定帧生成jpg图片
Aug 28 Python
python程序 线程队列queue使用方法解析
Sep 23 Python
pytorch .detach() .detach_() 和 .data用于切断反向传播的实现
Dec 27 Python
python分别打包出32位和64位应用程序
Feb 18 Python
python递归函数求n的阶乘,优缺点及递归次数设置方式
Apr 02 Python
python 实现关联规则算法Apriori的示例
Sep 30 Python
Python实现生活常识解答机器人
Jun 28 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
别人整理的服务器变量:$_SERVER
2006/10/20 PHP
PHP 修复未正常关闭的HTML标签实现代码(支持嵌套和就近闭合)
2012/06/07 PHP
php正则表达式获取内容所有链接
2015/07/24 PHP
求帮忙修改个php curl模拟post请求内容后并下载文件的解决思路
2015/09/20 PHP
PHP中key和current,next的联合运用实例分析
2016/03/29 PHP
Bookmarklet实现启动jQuery(模仿 云输入法)
2010/09/15 Javascript
js禁止document element对象选中文本实现代码
2013/03/21 Javascript
js实现select组件的选择输入过滤代码
2014/10/14 Javascript
jQuery中data()方法用法实例
2014/12/27 Javascript
javascript实现了照片拖拽点击置顶的照片墙代码
2015/04/03 Javascript
APP中javascript+css3实现下拉刷新效果
2016/01/27 Javascript
AngularJS 实现JavaScript 动画效果详解
2016/09/08 Javascript
Bootstrap选项卡学习笔记分享
2017/02/13 Javascript
js实现PC端根据IP定位当前城市地理位置
2017/02/22 Javascript
javascript 动态生成css代码的两种方法
2017/03/17 Javascript
js获取html页面代码中图片地址的实现代码
2018/03/05 Javascript
Express之托管静态文件的方法
2018/06/01 Javascript
JavaScript中十种一步拷贝数组的方法实例详解
2019/04/22 Javascript
如何写好一个vue组件,老夫的一年经验全在这了(推荐)
2019/05/18 Javascript
深入浅出了解Node.js Streams
2019/05/27 Javascript
easyUI 实现的后台分页与前台显示功能示例
2020/06/01 Javascript
python 判断一个进程是否存在
2009/04/09 Python
python字典排序实例详解
2015/05/20 Python
Python计算已经过去多少个周末的方法
2015/07/25 Python
Python 描述符(Descriptor)入门
2016/11/20 Python
Python 调用Java实例详解
2017/06/02 Python
详解Python在七牛云平台的应用(一)
2017/12/05 Python
python将类似json的数据存储到MySQL中的实例
2019/07/12 Python
Numpy 多维数据数组的实现
2020/06/18 Python
什么是.net的Remoting技术
2016/07/08 面试题
法律专业推荐信范文
2013/11/29 职场文书
工厂保安员岗位职责
2014/01/31 职场文书
大学生优秀自荐信范文
2014/02/25 职场文书
员工三分钟演讲稿
2014/08/19 职场文书
分居协议书范本
2014/11/03 职场文书
关爱留守儿童主题班会
2015/08/13 职场文书