python爬虫用request库处理cookie的实例讲解


Posted in Python onFebruary 20, 2021

python爬虫中使用urli库可以使用opener"发送多个请求,这些请求是能共享处理cookie的,小编之前也提过python爬虫中使用request库会比urllib库更加⽅便,使用使用requests也能达到共享cookie的目的,即使用request库get方法和使用requests库提供的session对象都可以处理。

方法一:使用request库get方法

resp = requests.get('http://www.baidu.com/') 
print(resp.cookies) 
print(resp.cookies.get_dict())

方法二:使用requests库提供的 session对象

import requests
url = "http://www.renren.com/PLogin.do" 
data = {"email":"970138074@qq.com",'password':"pythonspider"} 
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登录
session = requests.session() session.post(url,data=data,headers=headers)
#访问
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```

知识点扩展:

我们知道了requests中的session对象能够在请求之间保持cookie,它极大地方便了我们去使用cookie。当我们想设置方法级别中的请求时,可以如下面示例一样操作。

import requests
s = requests.session()
# 第一步:发送一个请求,用于设置请求中的cookies
cookies = dict(cookies_are='cookie1')
# tips: http://httpbin.org能够用于测试http请求和响应
r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r1.text)
# 第二步:发送一个请求,用于再次设置请求中的cookies
cookies = dict(cookies_are='cookie2')
r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies)
print(r2.text)

运行后

# r1.text
{
 "cookies": {
 "cookies_are": "cookie1"
 }
}
# t2.text
{
 "cookies": {
 "cookies_are": "cookie2"
 }
}

到此这篇关于python爬虫用request库处理cookie的实例讲解的文章就介绍到这了,更多相关python爬虫如何使用request库处理cookie内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python中文件操作简明介绍
Apr 13 Python
Python合并字符串的3种方法
May 21 Python
python安装教程
Feb 28 Python
python使用代理ip访问网站的实例
May 07 Python
python opencv3实现人脸识别(windows)
May 25 Python
详解Django-auth-ldap 配置方法
Dec 10 Python
基于python3监控服务器状态进行邮件报警
Oct 19 Python
Python callable内置函数原理解析
Mar 05 Python
Python在终端通过pip安装好包以后在Pycharm中依然无法使用的问题(三种解决方案)
Mar 10 Python
基于python SMTP实现自动发送邮件教程解析
Jun 02 Python
Python urllib2运行过程原理解析
Jun 04 Python
Python 读写 Matlab Mat 格式数据的操作
May 19 Python
python 多线程爬取壁纸网站的示例
Feb 20 #Python
python 制作网站小说下载器
Feb 20 #Python
如何用python爬取微博热搜数据并保存
Feb 20 #Python
python 统计list中各个元素出现的次数的几种方法
Feb 20 #Python
pandas统计重复值次数的方法实现
Feb 20 #Python
pandas 按日期范围筛选数据的实现
Feb 20 #Python
基于Python-Pycharm实现的猴子摘桃小游戏(源代码)
Feb 20 #Python
You might like
PHP stream_context_create()函数的使用示例
2015/05/12 PHP
php获取网站根目录物理路径的几种方法(推荐)
2017/03/04 PHP
php实现页面纯静态的实例代码
2017/06/21 PHP
PHP如何通过表单直接提交大文件详解
2019/01/08 PHP
启用OPCache提高PHP程序性能的方法
2019/03/21 PHP
(仅IE下有效)关于checkbox 三态
2007/05/12 Javascript
js时钟翻牌效果实现代码分享
2020/07/31 Javascript
JavaScript编程的单例设计模讲解
2015/11/10 Javascript
JavaScript获取浏览器信息的方法
2015/11/20 Javascript
最全的Javascript编码规范(推荐)
2016/06/22 Javascript
JS导出PDF插件的方法(支持中文、图片使用路径)
2016/07/12 Javascript
vue.js利用defineProperty实现数据的双向绑定
2017/04/28 Javascript
JS实现上传图片的三种方法并实现预览图片功能
2017/07/14 Javascript
基于bootstrop常用类总结(推荐)
2017/09/11 Javascript
简述Angular 5 快速入门
2017/11/04 Javascript
原生JS+HTML5实现跟随鼠标一起流动的粒子动画效果
2018/05/03 Javascript
JS Math对象与Math方法实例小结
2019/07/05 Javascript
VUE 自定义组件模板的方法详解
2019/08/30 Javascript
vue实现配置全局访问路径头(axios)
2019/11/01 Javascript
python实现文件分组复制到不同目录的例子
2014/06/04 Python
Python中支持向量机SVM的使用方法详解
2017/12/26 Python
解决python3捕获cx_oracle抛出的异常错误问题
2018/10/18 Python
使用pandas库对csv文件进行筛选保存
2020/05/25 Python
CSS3混合模式mix-blend-mode/background-blend-mode简介
2018/03/15 HTML / CSS
CSS3 display知识详解
2015/11/25 HTML / CSS
css3实现背景动态渐变效果
2019/12/10 HTML / CSS
意大利婴儿产品网上商店:Mukako
2018/10/14 全球购物
美国班级戒指、帽子和礼服、毕业产品、年鉴:Balfour
2018/11/01 全球购物
Java程序员面试题
2013/07/15 面试题
应届生幼儿园求职信
2013/11/12 职场文书
四风问题自查报告剖析材料
2014/02/08 职场文书
保密工作责任书
2014/04/16 职场文书
年度优秀员工获奖感言
2014/08/15 职场文书
公司年会主持词范文!
2019/05/07 职场文书
Python批量解压&压缩文件夹的示例代码
2022/04/04 Python