python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
解决Python 遍历字典时删除元素报异常的问题
Sep 11 Python
Python3基于sax解析xml操作示例
May 22 Python
pandas Dataframe行列读取的实例
Jun 08 Python
python opencv实现运动检测
Jul 10 Python
Python实现获取本地及远程图片大小的方法示例
Jul 21 Python
Python单向链表和双向链表原理与用法实例详解
Aug 31 Python
Python OpenCV读取png图像转成jpg图像存储的方法
Oct 28 Python
Python2和Python3之间的str处理方式导致乱码的讲解
Jan 03 Python
python中通过selenium简单操作及元素定位知识点总结
Sep 10 Python
python实现名片管理器的示例代码
Dec 17 Python
OpenCV Python实现拼图小游戏
Mar 23 Python
python+selenium爬取微博热搜存入Mysql的实现方法
Jan 27 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
浅析PHP Socket技术
2013/08/02 PHP
Dwz与thinkphp整合下的数据导出到Excel实例
2014/12/04 PHP
php微信开发之音乐回复功能
2018/06/14 PHP
让焦点自动跳转
2006/07/01 Javascript
Firefox div高度自适应
2009/04/28 Javascript
JS input 数字验证代码
2009/07/30 Javascript
javascript 打开页面window.location和window.open的区别
2010/03/17 Javascript
JavaScript toFixed() 方法
2010/04/15 Javascript
js使用函数绑定技术改变事件处理程序的作用域
2011/12/26 Javascript
JavaScript面向对象知识串结(读JavaScript高级程序设计(第三版))
2012/07/17 Javascript
js防止表单重复提交的两种方法
2013/09/30 Javascript
JS代码防止SQL注入的方法(超简单)
2016/04/12 Javascript
用JS实现图片轮播效果代码(一)
2016/06/26 Javascript
AngularJS入门教程之ng-checked 指令详解
2016/08/01 Javascript
基于JS实现发送短信验证码后的倒计时功能(无视页面刷新,页面关闭不进行倒计时功能)
2016/09/02 Javascript
React Native实现简单的登录功能(推荐)
2016/09/19 Javascript
javaScript 事件绑定、事件冒泡、事件捕获和事件执行顺序整理总结
2016/10/10 Javascript
js中删除数组中的某一元素实例(无下标时)
2017/02/28 Javascript
vue双花括号的使用方法 附练习题
2017/11/07 Javascript
vue脚手架中配置Sass的方法
2018/01/04 Javascript
微信小程序开发之转发分享功能
2019/10/22 Javascript
uin-app+mockjs实现本地数据模拟
2020/08/26 Javascript
JavaScript中展开运算符及应用的实例代码
2021/01/14 Javascript
跟老齐学Python之有容乃大的list(3)
2014/09/15 Python
python实现多线程暴力破解登陆路由器功能代码分享
2015/01/04 Python
web.py 十分钟创建简易博客实现代码
2016/04/22 Python
python使用tkinter实现简单计算器
2018/01/30 Python
Python+Django搭建自己的blog网站
2018/03/13 Python
python输入多行字符串的方法总结
2019/07/02 Python
python 爬取腾讯视频评论的实现步骤
2021/02/18 Python
Python绘制K线图之可视化神器pyecharts的使用
2021/03/02 Python
电子商务应届生求职信
2013/11/16 职场文书
新闻系毕业生推荐信
2013/11/16 职场文书
工作决心书
2014/03/11 职场文书
《猴子种果树》教学反思
2014/04/26 职场文书
2016年幼儿园教研活动总结
2016/04/05 职场文书