首页
所有分类
TAGS
文字工具 EMOJI BIBLE
编程 Python

如何使用python爬虫爬取要登陆的网站

Posted in Python onJuly 12, 2019

你好

由于你是游客

无法查看本文

请你登录再进

谢谢合作。。。。。

如何使用python爬虫爬取要登陆的网站

当你在爬某些网站的时候

需要你登录才可以获取数据

咋整？

莫慌

把这几招传授给你

让你以后从容应对

如何使用python爬虫爬取要登陆的网站

登录的常见方法无非是这两种

1、让你输入帐号和密码登录

如何使用python爬虫爬取要登陆的网站

2、让你输入帐号密码+验证码登录

如何使用python爬虫爬取要登陆的网站

今天

先跟你说说第一种

需要验证码的咱们下一篇再讲

第一招

如何使用python爬虫爬取要登陆的网站

Cookie大法

你平常在上某个不为人知的网站的时候

是不是发现你只要登录一次

就可以一直看到你想要的内容

过了一阵子才需要再次登录

这就是因为 Cookie 在做怪

简单来说

就是每一个使用这个网站的人

服务器都会给他一个 Cookie

那么下次你再请求数据的时候

你顺带把这个 Cookie 传过去

服务器一看

诶，小伙子是老客户啊

如何使用python爬虫爬取要登陆的网站

有登录过

直接返回数据给他吧

在服务中还可以设置 Cookie 的有效时间

也就是说

当你下次携带一个过期了的 Cookie 给服务器的时候

服务器虽然知道你是老客户

但是还是需要你重新再登录一次

然后再给你一个有效的 Cookie

Cookie 的时长周期是服务器那边定的

ok

了解了这一点之后

我们就来玩一下吧

我们以「逼乎」为例

https://biihu.cc/account/login/

输入地址之后

按一下 F12

点击 network 标签

然后登录你的帐号

然后点击其中一个

你就可以看到在 Request Headers 有你的 Cookie

如何使用python爬虫爬取要登陆的网站

有了 Cookie 之后

我们在代码中直接获取我的个人信息

import requests
headers = {
 # 假装自己是浏览器
 'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/73.0.3683.75 Chrome/73.0.3683.75 Safari/537.36',
 # 把你刚刚拿到的Cookie塞进来
 'Cookie': 'eda38d470a662ef3606390ac3b84b86f9; Hm_lvt_f1d3b035c559e31c390733e79e080736=1553503899; biihu__user_login=omvZVatKKSlcXbJGmXXew9BmqediJ4lzNoYGzLQjTR%2Fjw1wOz3o4lIacanmcNncX1PsRne5tXpE9r1sqrkdhAYQrugGVfaBICYp8BAQ7yBKnMpAwicq7pZgQ2pg38ZzFyEZVUvOvFHYj3cChZFEWqQ%3D%3D; Hm_lpvt_f1d3b035c559e31c390733e79e080736=1553505597',
}
session = requests.Session()
response = session.get('https://biihu.cc/people/wistbean%E7%9C%9F%E7%89%B9%E4%B9%88%E5%B8%85', headers=headers)
print(response.text)

运行后可以发现不用登录就可以直接拿到自己的个人信息了

<!DOCTYPE html>
<html>
<head>
<meta content="text/html;charset=utf-8" http-equiv="Content-Type" />
<meta content="width=device-width, initial-scale=1.0, maximum-scale=1.0, user-scalable=no" name="viewport" />
<meta http-equiv="X-UA-Compatible" content="IE=edge,Chrome=1" />
<meta name="renderer" content="webkit" />
<title>小帅b真特么帅 的个人主页 - 逼乎</title>
<meta name="keywords" content="逼乎,问答,装逼,逼乎网站" />
<meta name="description" content="逼乎 ，与世界分享你的装逼技巧与见解" />
<base href="https://biihu.cc/" rel="external nofollow" /><!--[if IE]></base><![endif]-->
<link rel="stylesheet" type="text/css" href="https://biihu.cc/static/css/bootstrap.css" rel="external nofollow" />
<link rel="stylesheet" type="text/css" href="https://biihu.cc/static/css/icon.css" rel="external nofollow" />
<link href="https://biihu.cc/static/css/default/common.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/default/link.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/js/plug_module/style.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/default/user.css?v=20180831" rel="external nofollow" rel="stylesheet" type="text/css" />
<link href="https://biihu.cc/static/css/mood/mood.css" rel="external nofollow" rel="stylesheet" type="text/css" />
<script type="text/javascript">
 var _02AEC94D5CA08B39FC0E1F7CC220F9B4="a5359326797de302bfc9aa6302c001b8";
 var G_POST_HASH=_02AEC94D5CA08B39FC0E1F7CC220F9B4;
 var G_INDEX_SCRIPT = "";
 var G_SITE_NAME = "逼乎";
 var G_BASE_URL = "https://biihu.cc";
 var G_STATIC_URL = "https://biihu.cc/static";
 var G_UPLOAD_URL = "/uploads";
 var G_USER_ID = "188";
 var G_USER_NAME = "666";
 var G_UPLOAD_ENABLE = "Y";
 var G_UNREAD_NOTIFICATION = 0;
 var G_NOTIFICATION_INTERVAL = 100000;
 var G_CAN_CREATE_TOPIC = "1";
 var G_ADVANCED_EDITOR_ENABLE = "Y";
 var FILE_TYPES = "jpg,jpeg,png,gif,zip,doc,docx,rar,pdf,psd";
</script>
<script src="https://biihu.cc/static/js/jquery.2.js?v=20180831" type="text/javascript"></script>

第二招

如何使用python爬虫爬取要登陆的网站

表单请求大法

很简单

就是通过抓包

获取请求登录的时候需要用到的用户名密码参数

然后以表单的形式请求服务器

如果你细心一点的话应该会知道之前说过拉

具体在这

去看下

我就不多说了

第三招

如何使用python爬虫爬取要登陆的网站

Selenium 自动登录法

获取到两个输入框的元素

再获取到登录按钮

往输入框写你的帐号密码

然后自动点击一下登录

username = WAIT.until(EC.presence_of_element_located((By.CSS_SELECTOR, "帐号的selector")))
password = WAIT.until(EC.presence_of_element_located((By.CSS_SELECTOR, "密码的selector")))
submit = WAIT.until(EC.element_to_be_clickable((By.XPATH, '按钮的xpath')))
username.send_keys('你的帐号')
password.send_keys('你的密码')
submit.click()

登录完之后拿到 Cookie

cookies = webdriver.get_cookies()

有了 Cookie 你就可以拿到你想要的数据了，希望对你有帮助

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持三水点靠木。

如何使用python爬虫爬取要登陆的网站

- Author -

千锋Python唐唐君

声明：登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

Python 相关文章推荐
Django中实现一个高性能计数器(Counter)实例
Jul 09 Python
python smtplib模块发送SSL/TLS安全邮件实例
Apr 08 Python
python提取页面内url列表的方法
May 25 Python
在Python的Django框架中生成CSV文件的方法
Jul 22 Python
Python制作词云的方法
Jan 03 Python
Python使用matplotlib的pie函数绘制饼状图功能示例
Jan 08 Python
Python中staticmethod和classmethod的作用与区别
Oct 11 Python
Python项目 基于Scapy实现SYN泛洪攻击的方法
Jul 23 Python
Django文件存储 自己定制存储系统解析
Aug 02 Python
Python和Sublime整合过程图示
Dec 25 Python
python脚本监控logstash进程并邮件告警实例
Apr 28 Python
解决pip安装的第三方包在PyCharm无法导入的问题
Oct 15 Python
Pycharm使用之设置代码字体大小和颜色主题的教程
Jul 12 #Python
python增加图像对比度的方法
Jul 12 #Python
Python 控制终端输出文字的实例
Jul 12 #Python
在Django的View中使用asyncio的方法
Jul 12 #Python
检测python爬虫时是否代理ip伪装成功的方法
Jul 12 #Python
在PyCharm中控制台输出日志分层级分颜色显示的方法
Jul 11 #Python
基于sklearn实现Bagging算法（python）
Jul 11 #Python
死亡搁浅(1) 大话西游(1) LOL(1) 铁拳(1) 东方异文石(1) 模拟人生(1) 吸血鬼(1) 战锤40K(1) 绿林侠盗(1) 遗弃(1)
You might like
MySQL授权问题总结
2007/05/06 PHP
BOOM vs RR BO5 第四场 2.14
2021/03/10 DOTA
WordPress JQuery处理沙发头像
2009/06/22 Javascript
JavaScript判断窗口是否最小化的代码(跨浏览器)
2010/08/01 Javascript
jquery next nextAll nextUntil siblings的区别介绍
2013/10/05 Javascript
推荐10个2014年最佳的jQuery视频插件
2014/11/12 Javascript
jquery中checkbox全选失效的解决方法
2014/12/26 Javascript
Angular如何引入第三方库的方法详解
2017/07/13 Javascript
vue项目中axios使用详解
2018/02/07 Javascript
JS严格模式知识点总结
2018/02/27 Javascript
Vue条件循环判断+计算属性+绑定样式v-bind的实例
2018/09/18 Javascript
微信小程序实现底部导航
2018/11/05 Javascript
Vue element-ui父组件控制子组件的表单校验操作
2020/07/17 Javascript
两个命令把 Vim 打造成 Python IDE的方法
2016/03/20 Python
Python OpenCV实现图片上输出中文
2018/01/22 Python
Python如何抓取天猫商品详细信息及交易记录
2018/02/23 Python
对python中的argv和argc使用详解
2018/12/15 Python
如何用Python破解wifi密码过程详解
2019/07/12 Python
python Gunicorn服务器使用方法详解
2019/07/22 Python
解决Djang2.0.1中的reverse导入失败的问题
2019/08/16 Python
基于Keras的格式化输出Loss实现方式
2020/06/17 Python
matplotlib绘制多子图共享鼠标光标的方法示例
2021/01/08 Python
雅萌 (YA-MAN) ：日本美容家电领域的龙头企业
2017/05/12 全球购物
美津浓巴西官方网站：Mizuno巴西
2019/07/24 全球购物
Crocs波兰官方商店：女鞋、男鞋、童鞋、洞洞鞋
2019/10/08 全球购物
在购买印度民族服饰：Soch
2020/09/15 全球购物
理工科学生的自我评价
2013/12/15 职场文书
《挑山工》的教学反思
2014/02/16 职场文书
品质管理部岗位职责范文
2014/03/01 职场文书
个人培训自我鉴定
2014/03/28 职场文书
宣传部部长竞选演讲稿
2014/04/26 职场文书
工程部经理岗位职责
2015/02/02 职场文书
大雁塔导游词
2015/02/04 职场文书
2015年路政工作总结
2015/05/22 职场文书
2019森林防火宣传标语大全！
2019/07/03 职场文书
收音机爱好者玩机13年，简评其使用过的19台收音机
2022/04/30 无线电