Python读取网页内容的方法


Posted in Python onJuly 30, 2015

本文实例讲述了Python读取网页内容的方法。分享给大家供大家参考。具体如下:

import urllib2
#encoding = utf-8
class Crawler:
  def main(self):
    #req = urllib2.Request('http://www.baidu.com/')
    #req.add_header('User-Agent', 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:5.0)')
    #urllib2.socket.setdefaulttimeout(10) # 超时10秒
    #page = urllib2.urlopen(req)
    page = urllib2.urlopen('http://www.google.com', timeout=10)
    data = page.read()
    print data
    print len(data) #计算字节长度
if __name__ == '__main__':
  me=Crawler()
  me.main()

希望本文所述对大家的Python程序设计有所帮助。

Python 相关文章推荐
Python随机生成一个6位的验证码代码分享
Mar 24 Python
python web框架学习笔记
May 03 Python
python中的break、continue、exit()、pass全面解析
Aug 05 Python
深入理解Python爬虫代理池服务
Feb 28 Python
Scrapy框架爬取Boss直聘网Python职位信息的源码
Feb 22 Python
Python中的几种矩阵乘法(小结)
Jul 10 Python
使用Windows批处理和WMI设置Python的环境变量方法
Aug 14 Python
python3 requests库文件上传与下载实现详解
Aug 22 Python
python用类实现文章敏感词的过滤方法示例
Oct 27 Python
Python中实现输入超时及如何通过变量获取变量名
Jan 18 Python
anaconda3安装及jupyter环境配置全教程
Aug 24 Python
python的变量和简单数字类型详解
Sep 15 Python
python查看FTP是否能连接成功的方法
Jul 30 #Python
python如何实现excel数据添加到mongodb
Jul 30 #Python
python学习之第三方包安装方法(两种方法)
Jul 30 #Python
Python实现的Excel文件读写类
Jul 30 #Python
Djang中静态文件配置方法
Jul 30 #Python
Python实现根据IP地址和子网掩码算出网段的方法
Jul 30 #Python
Python实现配置文件备份的方法
Jul 30 #Python
You might like
用PHP和ACCESS写聊天室(三)
2006/10/09 PHP
xml在joomla表单中的应用详解分享
2012/07/19 PHP
php无法连接mysql数据库的正确解决方法
2016/07/01 PHP
php使用get_class_methods()函数获取分类的方法
2016/07/20 PHP
PHP实现对数组分页处理实例详解
2017/02/07 PHP
[全兼容哦]--实用、简洁、炫酷的页面转入效果loing
2007/05/07 Javascript
关于 文本框默认值 的操作js代码
2012/01/12 Javascript
关于extjs4如何获取grid修改后的数据的问题
2013/08/07 Javascript
jQuery实现仿新浪微博浮动的消息提示框(可智能定位)
2015/10/10 Javascript
快速掌握Node.js之Window下配置NodeJs环境
2016/03/21 NodeJs
详解JavaScript实现设计模式中的适配器模式的方法
2016/05/18 Javascript
jQuery 利用$.ajax 时获取原生XMLHttpRequest 对象的方法
2016/08/25 Javascript
JQ选择器_选择同类元素的第N个子元素的实现方法
2016/09/08 Javascript
jQuery图片切换动画效果
2017/02/28 Javascript
教你快速搭建Node.Js服务器的方法教程
2017/03/30 Javascript
Angular.JS内置服务$http对数据库的增删改使用教程
2017/05/07 Javascript
ReactNative列表ListView的用法
2017/08/02 Javascript
js实现图片区域可点击大小随意改变(适用移动端)代码实例
2019/09/11 Javascript
layui数据表格 table.render 报错的解决方法
2019/09/29 Javascript
node.js +mongdb实现登录功能
2020/06/18 Javascript
element-ui点击查看大图的方法示例
2020/12/14 Javascript
Python中实现结构相似的函数调用方法
2015/03/10 Python
分析python切片原理和方法
2017/12/19 Python
Django 重写用户模型的实现
2019/07/29 Python
tensorflow实现测试时读取任意指定的check point的网络参数
2020/01/21 Python
Anaconda+Pycharm环境下的PyTorch配置方法
2020/03/13 Python
H5 canvas中width、height和style的宽高区别详解
2018/11/02 HTML / CSS
考核工作实施方案
2014/03/30 职场文书
企业文化宣传标语
2014/06/09 职场文书
学生检讨书怎么写
2014/10/09 职场文书
在HTML5 localStorage中存储对象的示例代码
2021/04/21 Javascript
Mysql 用户权限管理实现
2021/05/25 MySQL
Mysql忘记密码解决方法
2022/02/12 MySQL
十大最强水系宝可梦,最美宝可梦排第三,榜首大家最熟悉
2022/03/18 日漫
未发现nvidia显卡怎么办?Win11系统中未检测到nvidia显卡解决教程
2022/04/08 数码科技