Python3爬虫mitmproxy的安装步骤


Posted in Python onJuly 29, 2020

mitmproxy是一个支持HTTP和HTTPS的抓包程序,类似Fiddler、Charles的功能,只不过它通过控制台的形式操作。

此外,mitmproxy还有两个关联组件,一个是mitmdump,它是mitmproxy的命令行接口,利用它可以对接Python脚本,实现监听后的处理;另一个是mitmweb,它是一个Web程序,通过它以清楚地观察到mitmproxy捕获的请求。

本节中,我们就来了解一下mitmproxy、mitmdump和mitmweb的安装方式。

1. 相关链接

GitHub:https://github.com/mitmproxy/mitmproxy

官方网站:https://mitmproxy.org

PyPI:https://pypi.python.org/pypi/mitmproxy

官方文档:http://docs.mitmproxy.org

mitmdump脚本:http://docs.mitmproxy.org/en/stable/scripting/overview.html

下载地址:https://github.com/mitmproxy/mitmproxy/releases

DockerHub:https://hub.docker.com/r/mitmproxy/mitmproxy

2. pip安装

最简单的安装方式还是使用pip,直接执行如下命令即可安装:

pip3 install mitmproxy

这是最简单和通用的安装方式,执行完毕之后即可完成mitmproxy的安装,另外还附带安装了mitmdump和mitmweb这两个组件。如果不想用这种方式安装,也可以选择后面列出的专门针对各个平台的安装方式或者Docker安装方式。

3. Windows下的安装

可以到GitHub上的Releases页面(链接为:https://github.com/mitmproxy/mitmproxy/releases/)获取安装包,如图1-59所示。

Python3爬虫mitmproxy的安装步骤

图1-59 下载页面

比如,当前的最新版本为2.0.2,则可以选择下载Windows下的exe安装包mitmproxy-2.0.2-windows-installer.exe,下载后直接双击安装包即可安装。

注意,在Windows上不支持mitmproxy的控制台接口,但是可以使用mitmdump和mitmweb。

4. Linux下的安装

在Linux下,可以下载编译好的二进制包(下载地址https://github.com/mitmproxy/mitmproxy/releases/),此发行包一般是最新版本,它包含了最新版本的mitmproxy和内置的Python 3环境,以及最新的OpenSSL环境。

如果你的环境里没有Python 3和OpenSSL环境,建议使用此种方式安装。

下载之后,需要解压并将其配置到环境变量:

tar -zxvf mitmproxy-2.0.2-linux.tar.gz
sudo mv mitmproxy mitmdump mitmweb /usr/bin

这样就可以将3个可执行文件移动到了/usr/bin目录。而一般情况下,/usr/bin目录都已经配置在了环境变量下,所以接下来可以直接调用这3个工具了。

5. Mac下的安装

Mac下的安装非常简单,直接使用Homebrew即可,命令如下:

brew install mitmproxy

执行命令后,即可完成mitmproxy的安装。

6. Docker安装

mitmproxy也支持Docker,其DockerHub的地址为https://hub.docker.com/r/mitmproxy/mitmproxy/。

在Docker下,mitmproxy的安装命令为:

docker run --rm -it -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就在8080端口上启动了mitmproxy和mitmdump。

如果想要获取CA证书,可以选择挂载磁盘选项,命令如下:

docker run --rm -it -v ~/.mitmproxy:/home/mitmproxy/.mitmproxy -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就可以在~/.mitmproxy目录下找到CA证书。

另外,还可以在8081端口上启动mitmweb,命令如下:

docker run --rm -it -p 8080:8080 -p 127.0.0.1:8081:8081 mitmproxy/mitmproxy mitmweb

更多启动方式可以参考Docker Hub的安装说明。

7. 证书配置

对于mitmproxy来说,如果想要截获HTTPS请求,就需要设置证书。mitmproxy在安装后会提供一套CA证书,只要客户端信任了mitmproxy提供的证书,就可以通过mitmproxy获取HTTPS请求的具体内容,否则mitmproxy是无法解析HTTPS请求的。

首先,运行以下命令产生CA证书,并启动mitmdump:

mitmdump

接下来,我们就可以在用户目录下的.mitmproxy目录里面找到CA证书,如图1-60所示。

Python3爬虫mitmproxy的安装步骤

图1-60 证书文件

证书一共5个,表1-1简要说明了这5个证书。

表1-1 5个证书及其说明

Python3爬虫mitmproxy的安装步骤

下面我们介绍一下Windows、Mac、iOS和Android平台下的证书配置过程。

Windows

双击mitmproxy-ca.p12,就会出现导入证书的引导页,如图1-61所示。

Python3爬虫mitmproxy的安装步骤

图1-61 证书导入向导

直接点击“下一步”按钮即可,会出现密码设置提示,如图1-62所示。

Python3爬虫mitmproxy的安装步骤

图1-62 密码设置提示

这里不需要设置密码,直接点击“下一步”按钮即可。

接下来需要选择证书的存储区域,如图1-63所示。这里点击第二个选项“将所有的证书都放入下列存储”,然后点击“浏览”按钮,选择证书存储位置为“受信任的根证书颁发机构”,接着点击“确定”按钮,然后点击“下一步”按钮。

Python3爬虫mitmproxy的安装步骤

图1-63 选择证书存储区域

最后,如果有安全警告弹出,如图1-64所示,直接点击“是”按钮即可。

Python3爬虫mitmproxy的安装步骤

图1-64 安全警告

这样就在Windows下配置完CA证书了。

Mac

Mac下双击mitmproxy-ca-cert.pem即可弹出钥匙串管理页面,然后找到mitmproxy证书,打开其设置选项,选择“始终信任”即可,如图1-65所示。

Python3爬虫mitmproxy的安装步骤

图1-65 证书配置

iOS

将mitmproxy-ca-cert.pem文件发送到iPhone上,推荐使用邮件方式发送,然后在iPhone上可以直接点击附件并识别安装,如图1-66所示。

Python3爬虫mitmproxy的安装步骤

图1-66 证书安装页面

点击“安装”按钮之后,会跳到安装描述文件的页面,点击“安装”按钮,此时会有警告提示,如图1-67所示。

Python3爬虫mitmproxy的安装步骤

图1-67 安装警告页面

继续点击右上角的“安装”按钮,安装成功之后会有已安装的提示,如图1-68所示。

Python3爬虫mitmproxy的安装步骤

图1-68 安装成功页面

如果你的iOS版本是10.3以下的话,此处信任CA证书的流程就已经完成了。

如果你的iOS版本是10.3及以上版本,还需要在“设置”→“通用”→“关于本机”→“证书信任设置”将mitmproxy的完全信任开关打开,如图1-69所示。此时,在iOS上配置信任CA证书的流程就结束了。

Python3爬虫mitmproxy的安装步骤

图1-69 证书信任设置

Android

在Android手机上,同样需要将证书mitmproxy-ca-cert.pem文件发送到手机上,例如直接复制文件。

接下来,点击证书,便会出现一个提示窗口,如图1-70所示。

Python3爬虫mitmproxy的安装步骤

图1-70 证书安装页面

这时输入证书的名称,然后点击“确定”按钮即可完成安装。

到此这篇关于Python3爬虫mitmproxy的安装步骤的文章就介绍到这了,更多相关Python3爬虫mitmproxy的安装内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
python错误处理详解
Sep 28 Python
Python运算符重载用法实例
May 28 Python
Django中更新多个对象数据与删除对象的方法
Jul 17 Python
Python中map,reduce,filter和sorted函数的使用方法
Aug 17 Python
尝试用最短的Python代码来实现服务器和代理服务器
Jun 23 Python
python-opencv 将连续图片写成视频格式的方法
Jan 08 Python
Pycharm使用之设置代码字体大小和颜色主题的教程
Jul 12 Python
python线程中的同步问题及解决方法
Aug 29 Python
浅谈pytorch卷积核大小的设置对全连接神经元的影响
Jan 10 Python
python第三方库学习笔记
Feb 07 Python
python实现网页录音效果
Oct 26 Python
用Python将GIF动图分解成多张静态图片
Jun 11 Python
Python使用jpype模块调用jar包过程解析
Jul 29 #Python
Python 防止死锁的方法
Jul 29 #Python
Python定义一个Actor任务
Jul 29 #Python
Python如何重新加载模块
Jul 29 #Python
Python加速程序运行的方法
Jul 29 #Python
如何在python中判断变量的类型
Jul 29 #Python
Python中的With语句的使用及原理
Jul 29 #Python
You might like
php的常量和变量实例详解
2017/06/27 PHP
PHP实现的简单路由和类自动加载功能
2018/03/13 PHP
Javascript 代码也可以变得优美的实现方法
2009/06/22 Javascript
jQuery创建自己的插件(自定义插件)的方法
2010/06/10 Javascript
Three.js源码阅读笔记(Object3D类)
2012/12/27 Javascript
JavaScript检测弹出窗口是否已经关闭的方法
2015/03/24 Javascript
简介AngularJS的HTML DOM支持情况
2015/06/17 Javascript
jquery.cookie实现的客户端购物车操作实例
2015/12/24 Javascript
微信小程序 教程之条件渲染
2016/10/18 Javascript
基于vue.js轮播组件vue-awesome-swiper实现轮播图
2017/03/17 Javascript
webpack实现热更新(实施同步刷新)
2017/07/28 Javascript
详解node服务器中打开html文件的两种方法
2017/09/18 Javascript
angularjs 页面自适应高度的方法
2018/01/17 Javascript
微信小程序实现文字无限轮播效果
2018/12/28 Javascript
js实现指定时间倒计时效果
2019/08/26 Javascript
Nuxt使用Vuex的方法示例
2019/09/06 Javascript
举例详解Python中yield生成器的用法
2015/08/05 Python
关于Python中异常(Exception)的汇总
2017/01/18 Python
Python基础学习之常见的内建函数整理
2017/09/06 Python
python+pyqt实现12306图片验证效果
2017/10/25 Python
使用Anaconda3建立虚拟独立的python2.7环境方法
2018/06/11 Python
使用Python的Dataframe取两列时间值相差一年的所有行方法
2018/07/10 Python
Python中的引用知识点总结
2019/05/20 Python
Python实现某论坛自动签到功能
2019/08/20 Python
python实现tail实时查看服务器日志示例
2019/12/24 Python
Python Opencv图像处理基本操作代码详解
2020/08/31 Python
Python爬取股票信息,并可视化数据的示例
2020/09/26 Python
python pymysql库的常用操作
2020/10/16 Python
用CSS3实现无限循环的无缝滚动的示例代码
2017/11/01 HTML / CSS
华为俄罗斯官方网上商城:购买Huawei手机和平板
2017/04/21 全球购物
俄罗斯最大的香水和化妆品网上商店:Randewoo
2020/11/05 全球购物
生产文员岗位职责
2014/04/05 职场文书
大学生学习计划书
2014/09/15 职场文书
文化大革命观后感
2015/06/17 职场文书
2015年迎新晚会策划书
2015/07/16 职场文书
《赵州桥》教学反思
2016/02/17 职场文书