python反爬虫方法的优缺点分析


Posted in Python onNovember 25, 2020

我们选择一种问题的解决办法,通常需要考虑到想要达到的效果,还有最重要的是这个办法本身的优缺点有哪些,与其他的方法对比哪一个更好。之前小编之前也教过大家在python应对反爬虫的方法,那么小伙伴们知道具体情况下选择哪一种办法更适合吗?今天就其中的user-agent和ip代码两个办法进行优缺点分析比较,让大家可以明确不同办法的区别从而进行选择。

方法一:

可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用。

 python反爬虫方法的优缺点分析缺点:

容易伪造头部,github上有人分享开源库fake-useragent

IP限制

如果一个固定的ip在短暂的时间内,快速大量的访问一个网站,后台管理员可以编写IP限制,不让该IP继续访问。

方法二:

比较成熟的方式是:IP代理池

python反爬虫方法的优缺点分析 

简单的说,就是通过ip代理,从不同的ip进行访问,这样就不会被封掉ip了。

可是ip代理的获取本身就是一个很麻烦的事情,网上有免费和付费的,但是质量都层次不齐。如果是企业里需要的话,可以通过自己购买集群云服务来自建代理池。

缺点:

可以使用免费/付费代理,绕过检测。

读完本篇我们会发现,每种方法都有它的缺陷,我们要做的就是发挥使用它的优势出。根据不同的环境情况,可以选择适合自己操作顺手的方法。对于两种方法知识点遗忘的,可以直接点击进去进行回顾。

到此这篇关于python反爬虫方法的优缺点分析的文章就介绍到这了,更多相关python解决反爬虫方法的优缺点对比内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
零基础写python爬虫之抓取百度贴吧并存储到本地txt文件改进版
Nov 06 Python
pygame学习笔记(6):完成一个简单的游戏
Apr 15 Python
Python调用命令行进度条的方法
May 05 Python
深入解析Python中的WSGI接口
May 11 Python
python实现稀疏矩阵示例代码
Jun 09 Python
Python使用ConfigParser模块操作配置文件的方法
Jun 29 Python
python实现二维插值的三维显示
Dec 17 Python
详解如何管理多个Python版本和虚拟环境
May 10 Python
tensorflow入门:TFRecordDataset变长数据的batch读取详解
Jan 20 Python
Python Socket TCP双端聊天功能实现过程详解
Jun 15 Python
简述python四种分词工具,盘点哪个更好用?
Apr 13 Python
python 如何做一个识别率百分百的OCR
May 29 Python
Pytest测试框架基本使用方法详解
Nov 25 #Python
python实现企业微信定时发送文本消息的实例代码
Nov 25 #Python
Python json解析库jsonpath原理及使用示例
Nov 25 #Python
搭建pypi私有仓库实现过程详解
Nov 25 #Python
Python代码覆盖率统计工具coverage.py用法详解
Nov 25 #Python
python 实时调取摄像头的示例代码
Nov 25 #Python
Python存储读取HDF5文件代码解析
Nov 25 #Python
You might like
php之XML转数组函数的详解
2013/06/07 PHP
PHP中创建和验证哈希的简单方法实探
2015/07/06 PHP
微信自定义分享php代码分析
2016/11/24 PHP
PHP实现的简单排列组合算法应用示例
2017/06/20 PHP
JavaScript语言中的Literal Syntax特性分析
2007/03/08 Javascript
js查找父节点的简单方法
2008/06/28 Javascript
jQuery 性能优化指南(3)
2009/05/21 Javascript
js或css实现滚动广告的几种方案
2010/01/28 Javascript
借助script进行Http跨域请求:JSONP实现原理及代码
2013/03/19 Javascript
jQuery Mobile 导航栏代码
2013/11/01 Javascript
javascript和jquery修改a标签的href属性
2013/12/16 Javascript
jQuery插件制作之全局函数用法实例
2015/06/01 Javascript
辨析JavaScript中的Undefined类型与null类型
2016/05/26 Javascript
js中 计算两个日期间的工作日的简单实例
2016/08/08 Javascript
Js动态设置rem来实现移动端字体的自适应代码
2016/10/14 Javascript
vue-cli 3.0 版本与3.0以下版本在搭建项目时的区别详解
2018/12/11 Javascript
javscript 数组扁平化的实现
2020/02/03 Javascript
浅谈vue中document.getElementById()拿到的是原值的问题
2020/07/26 Javascript
Vue SPA 首屏优化方案
2021/02/26 Vue.js
[10:53]2018DOTA2国际邀请赛寻真——EG
2018/08/11 DOTA
Python代码调试的几种方法总结
2015/04/15 Python
Python+matplotlib实现华丽的文本框演示代码
2018/01/22 Python
python中安装django模块的方法
2020/03/12 Python
Python %r和%s区别代码实例解析
2020/04/03 Python
windows python3安装Jupyter Notebooks教程
2020/04/13 Python
python 实现表情识别
2020/11/21 Python
UNIONBAY官网:美国青少年服装品牌
2019/03/26 全球购物
自动化工程专业个人应聘自荐信
2013/09/26 职场文书
旅游管理本科生求职信
2013/10/14 职场文书
电子技术专业中专生的自我评价
2013/12/17 职场文书
优秀毕业自我鉴定
2014/02/15 职场文书
乡镇遵守党的政治纪律情况对照检查材料
2014/09/26 职场文书
部队2014年终工作总结
2014/11/27 职场文书
个人自荐书范文
2015/03/09 职场文书
导游词之藏龙百瀑景区
2019/12/30 职场文书
Python GUI编程之tkinter 关于 ttkbootstrap 的使用详解
2022/03/03 Python