Python3爬虫mitmproxy的安装步骤


Posted in Python onJuly 29, 2020

mitmproxy是一个支持HTTP和HTTPS的抓包程序,类似Fiddler、Charles的功能,只不过它通过控制台的形式操作。

此外,mitmproxy还有两个关联组件,一个是mitmdump,它是mitmproxy的命令行接口,利用它可以对接Python脚本,实现监听后的处理;另一个是mitmweb,它是一个Web程序,通过它以清楚地观察到mitmproxy捕获的请求。

本节中,我们就来了解一下mitmproxy、mitmdump和mitmweb的安装方式。

1. 相关链接

GitHub:https://github.com/mitmproxy/mitmproxy

官方网站:https://mitmproxy.org

PyPI:https://pypi.python.org/pypi/mitmproxy

官方文档:http://docs.mitmproxy.org

mitmdump脚本:http://docs.mitmproxy.org/en/stable/scripting/overview.html

下载地址:https://github.com/mitmproxy/mitmproxy/releases

DockerHub:https://hub.docker.com/r/mitmproxy/mitmproxy

2. pip安装

最简单的安装方式还是使用pip,直接执行如下命令即可安装:

pip3 install mitmproxy

这是最简单和通用的安装方式,执行完毕之后即可完成mitmproxy的安装,另外还附带安装了mitmdump和mitmweb这两个组件。如果不想用这种方式安装,也可以选择后面列出的专门针对各个平台的安装方式或者Docker安装方式。

3. Windows下的安装

可以到GitHub上的Releases页面(链接为:https://github.com/mitmproxy/mitmproxy/releases/)获取安装包,如图1-59所示。

Python3爬虫mitmproxy的安装步骤

图1-59 下载页面

比如,当前的最新版本为2.0.2,则可以选择下载Windows下的exe安装包mitmproxy-2.0.2-windows-installer.exe,下载后直接双击安装包即可安装。

注意,在Windows上不支持mitmproxy的控制台接口,但是可以使用mitmdump和mitmweb。

4. Linux下的安装

在Linux下,可以下载编译好的二进制包(下载地址https://github.com/mitmproxy/mitmproxy/releases/),此发行包一般是最新版本,它包含了最新版本的mitmproxy和内置的Python 3环境,以及最新的OpenSSL环境。

如果你的环境里没有Python 3和OpenSSL环境,建议使用此种方式安装。

下载之后,需要解压并将其配置到环境变量:

tar -zxvf mitmproxy-2.0.2-linux.tar.gz
sudo mv mitmproxy mitmdump mitmweb /usr/bin

这样就可以将3个可执行文件移动到了/usr/bin目录。而一般情况下,/usr/bin目录都已经配置在了环境变量下,所以接下来可以直接调用这3个工具了。

5. Mac下的安装

Mac下的安装非常简单,直接使用Homebrew即可,命令如下:

brew install mitmproxy

执行命令后,即可完成mitmproxy的安装。

6. Docker安装

mitmproxy也支持Docker,其DockerHub的地址为https://hub.docker.com/r/mitmproxy/mitmproxy/。

在Docker下,mitmproxy的安装命令为:

docker run --rm -it -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就在8080端口上启动了mitmproxy和mitmdump。

如果想要获取CA证书,可以选择挂载磁盘选项,命令如下:

docker run --rm -it -v ~/.mitmproxy:/home/mitmproxy/.mitmproxy -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就可以在~/.mitmproxy目录下找到CA证书。

另外,还可以在8081端口上启动mitmweb,命令如下:

docker run --rm -it -p 8080:8080 -p 127.0.0.1:8081:8081 mitmproxy/mitmproxy mitmweb

更多启动方式可以参考Docker Hub的安装说明。

7. 证书配置

对于mitmproxy来说,如果想要截获HTTPS请求,就需要设置证书。mitmproxy在安装后会提供一套CA证书,只要客户端信任了mitmproxy提供的证书,就可以通过mitmproxy获取HTTPS请求的具体内容,否则mitmproxy是无法解析HTTPS请求的。

首先,运行以下命令产生CA证书,并启动mitmdump:

mitmdump

接下来,我们就可以在用户目录下的.mitmproxy目录里面找到CA证书,如图1-60所示。

Python3爬虫mitmproxy的安装步骤

图1-60 证书文件

证书一共5个,表1-1简要说明了这5个证书。

表1-1 5个证书及其说明

Python3爬虫mitmproxy的安装步骤

下面我们介绍一下Windows、Mac、iOS和Android平台下的证书配置过程。

Windows

双击mitmproxy-ca.p12,就会出现导入证书的引导页,如图1-61所示。

Python3爬虫mitmproxy的安装步骤

图1-61 证书导入向导

直接点击“下一步”按钮即可,会出现密码设置提示,如图1-62所示。

Python3爬虫mitmproxy的安装步骤

图1-62 密码设置提示

这里不需要设置密码,直接点击“下一步”按钮即可。

接下来需要选择证书的存储区域,如图1-63所示。这里点击第二个选项“将所有的证书都放入下列存储”,然后点击“浏览”按钮,选择证书存储位置为“受信任的根证书颁发机构”,接着点击“确定”按钮,然后点击“下一步”按钮。

Python3爬虫mitmproxy的安装步骤

图1-63 选择证书存储区域

最后,如果有安全警告弹出,如图1-64所示,直接点击“是”按钮即可。

Python3爬虫mitmproxy的安装步骤

图1-64 安全警告

这样就在Windows下配置完CA证书了。

Mac

Mac下双击mitmproxy-ca-cert.pem即可弹出钥匙串管理页面,然后找到mitmproxy证书,打开其设置选项,选择“始终信任”即可,如图1-65所示。

Python3爬虫mitmproxy的安装步骤

图1-65 证书配置

iOS

将mitmproxy-ca-cert.pem文件发送到iPhone上,推荐使用邮件方式发送,然后在iPhone上可以直接点击附件并识别安装,如图1-66所示。

Python3爬虫mitmproxy的安装步骤

图1-66 证书安装页面

点击“安装”按钮之后,会跳到安装描述文件的页面,点击“安装”按钮,此时会有警告提示,如图1-67所示。

Python3爬虫mitmproxy的安装步骤

图1-67 安装警告页面

继续点击右上角的“安装”按钮,安装成功之后会有已安装的提示,如图1-68所示。

Python3爬虫mitmproxy的安装步骤

图1-68 安装成功页面

如果你的iOS版本是10.3以下的话,此处信任CA证书的流程就已经完成了。

如果你的iOS版本是10.3及以上版本,还需要在“设置”→“通用”→“关于本机”→“证书信任设置”将mitmproxy的完全信任开关打开,如图1-69所示。此时,在iOS上配置信任CA证书的流程就结束了。

Python3爬虫mitmproxy的安装步骤

图1-69 证书信任设置

Android

在Android手机上,同样需要将证书mitmproxy-ca-cert.pem文件发送到手机上,例如直接复制文件。

接下来,点击证书,便会出现一个提示窗口,如图1-70所示。

Python3爬虫mitmproxy的安装步骤

图1-70 证书安装页面

这时输入证书的名称,然后点击“确定”按钮即可完成安装。

到此这篇关于Python3爬虫mitmproxy的安装步骤的文章就介绍到这了,更多相关Python3爬虫mitmproxy的安装内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
Python多线程编程(二):启动线程的两种方法
Apr 05 Python
Python with用法实例
Apr 14 Python
在Python中操作字典之clear()方法的使用
May 21 Python
python中set常用操作汇总
Jun 30 Python
利用Hyperic调用Python实现进程守护
Jan 02 Python
PyQt5每天必学之切换按钮
Aug 20 Python
Python生成短uuid的方法实例详解
May 29 Python
Django基础三之视图函数的使用方法
Jul 18 Python
wxPython窗体拆分布局基础组件
Nov 19 Python
Pytorch实现的手写数字mnist识别功能完整示例
Dec 13 Python
详解Python的爬虫框架 Scrapy
Aug 03 Python
python基础之爬虫入门
May 10 Python
Python使用jpype模块调用jar包过程解析
Jul 29 #Python
Python 防止死锁的方法
Jul 29 #Python
Python定义一个Actor任务
Jul 29 #Python
Python如何重新加载模块
Jul 29 #Python
Python加速程序运行的方法
Jul 29 #Python
如何在python中判断变量的类型
Jul 29 #Python
Python中的With语句的使用及原理
Jul 29 #Python
You might like
PHP4之COOKIE支持详解
2006/10/09 PHP
Zend Studio for Eclipse的java.lang.NullPointerException错误的解决方法
2008/12/06 PHP
实现WordPress主题侧边栏切换功能的PHP脚本详解
2015/12/14 PHP
支持汉转拼和拼音分词的PHP中文工具类ChineseUtil
2018/02/23 PHP
PHP实现十进制数字与二十六进制字母串相互转换操作示例
2018/08/10 PHP
laravel在中间件内生成参数并且传递到控制器中的2种姿势
2019/10/15 PHP
js异步加载的三种解决方案
2013/03/04 Javascript
让新消息在网页标题闪烁提示的jQuery代码
2013/11/04 Javascript
jquery实现简单手风琴菜单效果实例
2015/06/13 Javascript
JS实现自动变化的导航菜单效果代码
2015/09/09 Javascript
利用vue + koa2 + mockjs模拟数据的方法教程
2017/11/22 Javascript
微信小程序实现动态设置placeholder提示文字及按钮选中/取消状态的方法
2017/12/14 Javascript
Vue+ElementUI实现表单动态渲染、可视化配置的方法
2018/03/07 Javascript
JavaScript引用类型Array实例分析
2018/07/24 Javascript
Vue自定义指令写法与个人理解
2019/02/09 Javascript
浅谈Three.js截图并下载的大坑
2019/11/01 Javascript
JavaScript实现省份城市的三级联动
2020/02/11 Javascript
15分钟上手vue3.0(小结)
2020/05/20 Javascript
[01:43]3.19DOTA2发布会 三代刀塔人第三代
2014/03/25 DOTA
[03:00]2018完美盛典_最佳英雄奖
2018/12/17 DOTA
python在windows命令行下输出彩色文字的方法
2015/03/19 Python
使用Python的PEAK来适配协议的教程
2015/04/14 Python
Python中计算三角函数之cos()方法的使用简介
2015/05/15 Python
使用pytorch和torchtext进行文本分类的实例
2020/01/08 Python
python分别打包出32位和64位应用程序
2020/02/18 Python
django admin 根据choice字段选择的不同来显示不同的页面方式
2020/05/13 Python
Python提取视频中图片的示例(按帧、按秒)
2020/10/22 Python
企业管理专业个人求职信范文
2013/09/24 职场文书
高中毕业生登记表自我鉴定范文
2014/03/18 职场文书
幼儿园中班上学期评语
2014/04/18 职场文书
大学生应聘导游自荐信
2014/06/02 职场文书
傅雷家书读书笔记
2015/06/29 职场文书
共青团优秀团员申请书(范文)
2019/08/15 职场文书
MySQL Router的安装部署
2021/04/24 MySQL
Centos环境下Postgresql 安装配置及环境变量配置技巧
2021/05/18 PostgreSQL
JavaScript组合继承详解
2021/11/07 Javascript