python3.7简单的爬虫实例详解


Posted in Python onJuly 08, 2019

python3.7简单的爬虫,具体代码如下所示:

#https://www.runoob.com/w3cnote/python-spider-intro.html

#Python 爬虫介绍

import urllib.parse
import urllib.request
from http import cookiejar
url = "http://www.baidu.com"
response1 = urllib.request.urlopen(url)
print("第一种方法")
#获取状态码,200表示成功
print(response1.getcode())
#获取网页内容的长度
print(str(response1.read()))
print(len(response1.read()))
print("第二种方法")
request = urllib.request.Request(url)
#模拟Mozilla浏览器进行爬虫
request.add_header("user-agent","Mozilla/5.0")
response2 = urllib.request.urlopen(request)
print(response2.getcode())
print(len(response2.read()))
print("第三种方法")
cookie = cookiejar.CookieJar()
#加入urllib2处理cookie的能力#
opener = urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cookie))
urllib.request.install_opener(opener)
response3 = urllib.request.urlopen(url)
print(response3.getcode())
print(len(response3.read()))
print(cookie)
code: https://github.com/pascal19821003/python
path: python/study/tutorial/pachong/1.py

总结

以上所述是小编给大家介绍的python3.7简单的爬虫实例详解,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Python 相关文章推荐
Python使用random和tertools模块解一些经典概率问题
Jan 28 Python
Python面向对象编程之继承与多态详解
Jan 16 Python
python表格存取的方法
Mar 07 Python
对tensorflow 的模型保存和调用实例讲解
Jul 28 Python
PowerBI和Python关于数据分析的对比
Jul 11 Python
Python用字典构建多级菜单功能
Jul 11 Python
python利用itertools生成密码字典并多线程撞库破解rar密码
Aug 12 Python
python实现最大优先队列
Aug 29 Python
Tensorflow轻松实现XOR运算的方式
Feb 03 Python
Python 私有属性和私有方法应用场景分析
Jun 19 Python
django下创建多个app并设置urls方法
Aug 02 Python
如何使用Python对NetCDF数据做空间相关分析
Apr 21 Python
在python中画正态分布图像的实例
Jul 08 #Python
python实现beta分布概率密度函数的方法
Jul 08 #Python
python中pip的使用和修改下载源的方法
Jul 08 #Python
python绘制直方图和密度图的实例
Jul 08 #Python
搭建python django虚拟环境完整步骤详解
Jul 08 #Python
python中break、continue 、exit() 、pass终止循环的区别详解
Jul 08 #Python
33个Python爬虫项目实战(推荐)
Jul 08 #Python
You might like
php为什么选mysql作为数据库? Mysql 创建用户方法
2007/07/02 PHP
javascript实现unicode和字符的互相转换
2007/07/18 Javascript
js自动查找select下拉的菜单并选择(示例代码)
2014/02/26 Javascript
js对文章内容进行分页示例代码
2014/03/05 Javascript
director.js实现前端路由使用实例
2015/02/03 Javascript
js 判断所选时间(或者当前时间)是否在某一时间段的实现代码
2015/09/05 Javascript
jquery仅用6行代码实现滑动门效果
2015/09/07 Javascript
PHP抓取HTTPS内容和错误处理的方法
2016/09/30 Javascript
Cookies 和 Session的详解及区别
2017/04/21 Javascript
微信小程序实现页面跳转传值的方法
2017/10/12 Javascript
微信小程序视图容器(swiper)组件创建轮播图
2020/06/19 Javascript
解决在vue项目中webpack打包后字体不生效的问题
2018/09/01 Javascript
vue实现循环切换动画
2018/10/17 Javascript
vue.js中ref和$refs的使用及示例讲解
2019/08/14 Javascript
Layer.js实现表格溢出内容省略号显示,悬停显示全部的方法
2019/09/16 Javascript
Vue中inheritAttrs的使用实例详解
2020/12/31 Vue.js
python图片验证码生成代码
2016/07/02 Python
TensorFlow实现Logistic回归
2018/09/07 Python
python3 打印输出字典中特定的某个key的方法示例
2019/07/06 Python
django 做 migrate 时 表已存在的处理方法
2019/08/31 Python
selenium+Chrome滑动验证码破解二(某某网站)
2019/12/17 Python
Python 使用threading+Queue实现线程池示例
2019/12/21 Python
Python count函数使用方法实例解析
2020/03/23 Python
Python接口测试结果集实现封装比较
2020/05/01 Python
selenium自动化测试入门实战
2020/12/21 Python
HTML5如何使用SVG的方法示例
2019/01/11 HTML / CSS
GWebs公司笔试题
2012/05/04 面试题
推荐信格式要求
2014/05/09 职场文书
学生检讨书如何写
2014/10/30 职场文书
六年级语文下册教学计划
2015/01/22 职场文书
婚姻出轨保证书
2015/05/08 职场文书
会计工作自我鉴定范文
2019/06/21 职场文书
Python学习之迭代器详解
2022/04/01 Python
Golang 链表的学习和使用
2022/04/19 Golang
python中pycryto实现数据加密
2022/04/29 Python
SQL Server使用PIVOT与unPIVOT实现行列转换
2022/05/25 SQL Server