python实现爱奇艺登陆密码RSA加密的方法示例详解


Posted in Python onMay 27, 2020

前言

通过Python实现对大麦网近期全国演唱会数据进行爬取,通过分析,我们发现大麦网属于Python爬虫策略中“中等型”难度网站,演唱会数据封装在json文件中。因此,我们简单的通过requests、json就可以将数据爬取出来,后期通过pandas进行数据筛选并保存至Excel文件中。

1.目标网站分析

python实现爱奇艺登陆密码RSA加密的方法示例详解

检查一下看xhr中有没有我们需要的数据。

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

很好,就在xhr中用json封装了数据。

2.构造相应的Request URL

python实现爱奇艺登陆密码RSA加密的方法示例详解

python实现爱奇艺登陆密码RSA加密的方法示例详解

request url中只有一个参数变化,那就是“Page=”这个选项变了,简单了?,一共6页,直接循环构造了。

python实现爱奇艺登陆密码RSA加密的方法示例详解

for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
# print(url)

3.requests爬虫走起

直接上代码:

def crawl(url): 
 headers={
 'cookie': 'cna=J7K2Fok5AXECARu7QWn6+cxu; isg=BCcnDiP-NfKV5bF-OctWuXuatl3xrPuOyBVJJfmQLrZn6ESqAX0y3jrhCuj2ANMG; l=eBSmWoPRQeT6Zn3iBO5whurza77O1CAf1sPzaNbMiIncC6BR1AvOCJxQLtyCvptRR8XcGLLB4nU7C5eTae7_7CDmndLHuI50MbkyCef..',
 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
 }
 response=requests.get(url,headers=headers)
 json_text=json.loads(response.text)
 # print(json_text.keys())
 rdata=json_text['pageData']['resultData']
 # print(rdata)
 return(rdata)

加一个headers,简单做一个防反爬。

4.保存至excel文件

基本思路是将每页数据保存成pandas的DataFrame结构,然后进行拼接,拼接完后再保存到Excel文件中。

inidata=pd.DataFrame(columns=('name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic'))
for i in range(1,7):
 url=f'https://search.damai.cn/searchajax.html?keyword=&cty=&ctl=%E6%BC%94%E5%94%B1%E4%BC%9A&sctl=&tsg=0&st=&et=&order=1&pageSize=30&currPage={i}&tn='
 # print(url)
 # print(crawl(url))
 data=pd.DataFrame(crawl(url))
 data1=data[['name','actors','cityname','showtime','price_str','venue','venuecity','verticalPic']]
 inidata=inidata.append(data1)
# print(inidata)
inidata.to_excel('大麦网演唱会.xlsx',index=0)

5.看看效果

python实现爱奇艺登陆密码RSA加密的方法示例详解

总结

到此这篇关于python实现爱奇艺登陆的密码RSA加密的文章就介绍到这了,更多相关python实现爱奇艺登陆的密码RSA加密内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
使用python实现strcmp函数功能示例
Mar 25 Python
使用Python脚本将绝对url替换为相对url的教程
Apr 24 Python
Python之用户输入的实例
Jun 22 Python
Scrapy框架使用的基本知识
Oct 21 Python
python打包生成的exe文件运行时提示缺少模块的解决方法
Oct 31 Python
使用urllib库的urlretrieve()方法下载网络文件到本地的方法
Dec 19 Python
Django uwsgi Nginx 的生产环境部署详解
Feb 02 Python
Python 经典算法100及解析(小结)
Sep 13 Python
Python 实现数组相减示例
Dec 27 Python
基于Python实现简单学生管理系统
Jul 24 Python
Django windows使用Apache实现部署流程解析
Oct 12 Python
python使用pygame创建精灵Sprite
Apr 06 Python
python如何求100以内的素数
May 27 #Python
pytorch查看通道数 维数 尺寸大小方式
May 26 #Python
Pytorch 使用 nii数据做输入数据的操作
May 26 #Python
python变量的作用域是什么
May 26 #Python
Python3 pywin32模块安装的详细步骤
May 26 #Python
什么是python的列表推导式
May 26 #Python
python中列表的含义及用法
May 26 #Python
You might like
虹吸壶是谁发明的?煮出来的咖啡好喝吗
2021/03/04 冲泡冲煮
php计算税后工资的方法
2015/07/28 PHP
php 下 html5 XHR2 + FormData + File API 上传文件操作实例分析
2020/02/28 PHP
JavaScript 笔记二 Array和Date对象方法
2010/05/22 Javascript
js 有框架页面跳转(target)三种情况下的应用
2013/04/09 Javascript
jQuery中$.fn的用法示例介绍
2013/11/05 Javascript
jQuery实现本地预览上传图片功能
2016/01/08 Javascript
jQuery验证插件validate使用详解
2016/05/11 Javascript
JavaScript获取select中text值的方法
2017/02/13 Javascript
node.js学习之事件模块Events的使用示例
2017/09/28 Javascript
JavaScript插入排序算法原理与实现方法示例
2018/08/06 Javascript
mock.js实现模拟生成假数据功能示例
2019/01/15 Javascript
Element Backtop回到顶部的具体使用
2020/07/27 Javascript
微信小程序自定义支持图片的弹窗
2020/12/21 Javascript
解决谷歌搜索技术文章时打不开网页问题的python脚本
2013/02/10 Python
Python中条件选择和循环语句使用方法介绍
2013/03/13 Python
python静态方法实例
2015/01/14 Python
python学习之第三方包安装方法(两种方法)
2015/07/30 Python
说一说Python logging
2016/04/15 Python
pandas 转换成行列表进行读取与Nan处理的方法
2018/10/30 Python
Python2和Python3的共存和切换使用
2019/04/12 Python
django实现日志按日期分割
2020/05/21 Python
PHP两种查询函数array/row的区别
2013/06/03 面试题
线程问题:wait()方法是定义在哪个类里面
2015/07/07 面试题
医学专业毕业生个人的求职信
2013/12/04 职场文书
酒店总经理助理职责
2014/02/12 职场文书
超市活动计划书
2014/04/24 职场文书
工作证明范本(2篇)
2014/09/14 职场文书
国土资源局开展党的群众路线教育实践活动整改措施
2014/09/26 职场文书
企业承诺书格式范文
2015/04/28 职场文书
本科毕业答辩开场白
2015/05/27 职场文书
冲出亚马逊观后感
2015/06/03 职场文书
2019垃圾分类宣传口号汇总
2019/08/16 职场文书
SpringBoot整合JWT的入门指南
2021/06/29 Java/Android
【DOTA2】当街暴打?PSG LGD vs VG - DPC 2022 WINTER TOUR CN
2022/04/02 DOTA
Python采集股票数据并制作可视化柱状图
2022/04/04 Python