python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python类的专用方法实例分析
Jan 09 Python
使用Python的Twisted框架构建非阻塞下载程序的实例教程
May 25 Python
详解MySQL数据类型int(M)中M的含义
Nov 20 Python
Python3.5 + sklearn利用SVM自动识别字母验证码方法示例
May 10 Python
python输出电脑上所有的串口名的方法
Jul 02 Python
Python3 合并二叉树的实现
Sep 30 Python
详解Django admin高级用法
Nov 06 Python
简单了解Python3 bytes和str类型的区别和联系
Dec 19 Python
Tensorflow累加的实现案例
Feb 05 Python
sublime3之内网安装python插件Anaconda的流程
Nov 10 Python
python爬虫破解字体加密案例详解
Mar 02 Python
Python实现猜拳与猜数字游戏的方法详解
Apr 06 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
教你如何快捷的使用cmd访问mysql小技巧
2014/05/26 PHP
点击文章内容处弹出页面代码
2009/10/01 Javascript
html+js实现动态显示本地时间
2013/09/21 Javascript
在myeclipse中如何加入jquery代码提示功能
2014/06/03 Javascript
jQuery实现表格行上下移动和置顶效果
2015/06/05 Javascript
浅析Node.js中的内存泄漏问题
2015/06/23 Javascript
jQuery on()方法绑定动态元素的点击事件实例代码浅析
2016/06/16 Javascript
Node.js检测端口(port)是否被占用的简单示例
2016/09/29 Javascript
JS常见创建类的方法小结【工厂方式,构造器方式,原型方式,联合方式等】
2017/04/01 Javascript
详解浏览器缓存和webpack缓存配置
2018/07/06 Javascript
javascriptvoid(0)含义以及与"#"的区别讲解
2019/01/19 Javascript
layui 数据表格 点击分页按钮 监听事件的实例
2019/09/02 Javascript
JS实现分页导航效果
2020/02/19 Javascript
JavaScript实现栈结构Stack过程详解
2020/03/07 Javascript
vue style width a href动态拼接问题的解决
2020/08/07 Javascript
Django1.3添加app提示模块不存在的解决方法
2014/08/26 Python
python append、extend与insert的区别
2016/10/13 Python
Python操作使用MySQL数据库的实例代码
2017/05/25 Python
ubuntu系统下使用pm2设置nodejs开机自启动的方法
2018/05/12 NodeJs
使用Scrapy爬取动态数据
2018/10/21 Python
python使用magic模块进行文件类型识别方法
2018/12/08 Python
windows下搭建python scrapy爬虫框架步骤
2018/12/23 Python
Django框架使用mysql视图操作示例
2019/05/15 Python
python绘图模块matplotlib示例详解
2019/07/26 Python
python库skimage给灰度图像染色的方法示例
2020/04/27 Python
Python如何实现线程间通信
2020/07/30 Python
Django修改app名称和数据表迁移方案实现
2020/09/17 Python
高三地理教学反思
2014/01/11 职场文书
医院节能减排方案
2014/06/13 职场文书
感谢信模板大全
2015/01/23 职场文书
考察邀请函范文
2015/01/31 职场文书
消防演习通知
2015/04/25 职场文书
论语读书笔记
2015/06/26 职场文书
2016年青少年禁毒宣传教育活动总结(学校)
2016/04/05 职场文书
python实现批量提取指定文件夹下同类型文件
2021/04/05 Python
Nginx工作模式及代理配置的使用细节
2022/03/21 Servers