python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
跟老齐学Python之从if开始语句的征程
Sep 14 Python
用Python实现web端用户登录和注册功能的教程
Apr 30 Python
谈谈Python进行验证码识别的一些想法
Jan 25 Python
Python字符串拼接六种方法介绍
Dec 18 Python
python实现kMeans算法
Dec 21 Python
pycharm安装和首次使用教程
Aug 27 Python
Python考拉兹猜想输出序列代码实践
Jul 05 Python
Python学习笔记之lambda表达式用法详解
Aug 08 Python
使用python 的matplotlib 画轨道实例
Jan 19 Python
通过python检测字符串的字母
Feb 18 Python
使用Python将图片转正方形的两种方法实例代码详解
Apr 29 Python
tensorflow 20:搭网络,导出模型,运行模型的实例
May 26 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
PHP版本常用的排序算法汇总
2015/12/20 PHP
PHP仿tp实现mvc框架基本设计思路与实现方法分析
2018/05/23 PHP
jquery 表单下所有元素的隐藏
2009/07/25 Javascript
jQuery学习笔记[1] jQuery中的DOM操作
2010/12/03 Javascript
Javascript获取HTML静态页面参数传递值示例
2013/08/18 Javascript
实用的Jquery选项卡TAB示例代码
2013/08/28 Javascript
Javascript:为input设置readOnly属性(示例讲解)
2013/12/25 Javascript
jquery实现select选中行、列合计示例
2014/04/25 Javascript
js获取当前页面的url网址信息
2014/06/12 Javascript
JavaScript的Date()方法使用详解
2015/06/09 Javascript
JS实现超精简的链接列表在固定区域内滚动效果代码
2015/11/04 Javascript
AngularJS使用ocLazyLoad实现js延迟加载
2017/07/05 Javascript
vue-cli 默认路由再子路由选中下的选中状态问题及解决代码
2018/09/06 Javascript
Vuex 快速入门(简单易懂)
2018/09/20 Javascript
uni-app微信小程序登录授权的实现
2020/05/22 Javascript
多个Vue项目部署到服务器的步骤记录
2020/10/22 Javascript
Vue2.x和Vue3.x的双向绑定原理详解
2020/11/05 Javascript
python模块之sys模块和序列化模块(实例讲解)
2017/09/13 Python
使用python读取csv文件快速插入数据库的实例
2018/06/21 Python
python实现文件助手中查看微信撤回消息
2019/04/29 Python
Django框架中间件(Middleware)用法实例分析
2019/05/24 Python
python GUI库图形界面开发之PyQt5图片显示控件QPixmap详细使用方法与实例
2020/02/27 Python
举例详解HTML5中使用JSON格式提交表单
2015/06/16 HTML / CSS
canvas实现手机的手势解锁的步骤详细
2020/03/16 HTML / CSS
国际化的太阳镜及太阳镜配件零售商:Sunglass Hut
2016/07/26 全球购物
大学毕业登记表自我鉴定
2013/10/09 职场文书
中学生自我鉴定
2014/02/04 职场文书
高等教育学自荐书范文
2014/02/10 职场文书
《孔子游春》教学反思
2014/02/25 职场文书
简易版租房协议书范本
2014/10/13 职场文书
幼儿园教研工作总结2015
2015/05/12 职场文书
获奖感言怎么写
2015/07/31 职场文书
领导离职感言
2015/08/03 职场文书
left join、inner join、right join的区别
2021/04/05 MySQL
django如何自定义manage.py管理命令
2021/04/27 Python
vue postcss-px2rem 自适应布局
2022/05/15 Vue.js