python如何利用Mitmproxy抓包


Posted in Python onOctober 10, 2020

一、使用

安装

pip install mitmproxy
  • mitmproxy 是具有控制台界面的交互式,支持SSL的拦截代理
  • mitmdump是mitmproxy的命令行版本。想想tcpdump为HTTP
  • mitmweb 是一个基于web的界面,适用于mitmproxy

mitmproxy(mac)、mitmdump、mitmweb(win) 这三个命令中的任意一个即可

mitmweb -s mitm.py 命令行启动默认端口8080
mitmweb -p 8888 -s mitm.py 指定端口8888
ctrl+c退出

启动后设置电脑或手机代理(电脑ip,端口8888),安装证书
打开 cmd,执行 "C:\Program Files (x86)\Google\Chrome\Application\chrome.exe" --proxy-server=10.12.2.28:8888 --ignore-certificate-errors

二、过滤、修改

"""
flow.request.scheme 请求协议
flow.request.host 请求host
flow.request.url  请求URL链接
flow.request.method 请求方法
flow.request.query 请求URL查询参数
flow.request.path 请求URL https://www.baidu.com/ 
flow.request.path_components #请求URL不包含域名的元祖 ('project', 'classify', 'list')
flow.request.urlencoded_form 请求POST数据
flow.response.status_code HTTP响应状态码
flow.response.headers HTTP响应头信息
flow.response.get_text HTTP响应内容

"""

class Counter:
 def __init__(self):
  self.result = {} # 存接口请求和返回信息
  # url filter 去掉
  self.url_filter = ['baidu.com','qq.com','360']
  # url screen 仅访问
  self.url_race = ['10.162.16.39:8091']
  # http static extension
  self.static_ext = ['js', 'css', 'ico', 'jpg', 'png', 'gif', 'jpeg', 'bmp','xml']
  # http Content-Type
  self.static_files = ['text/css','image/jpeg', 'image/gif','image/png','text/html','application/octet-stream','application/x-protobuf']
  # http Content-Type media resource files type
  self.media_types = ['image', 'video', 'audio']

 def parser_data(self,query,data = {}):
  for key, value in query.items():
   data[key] = value
  return data

 def get_extension(self, url_tup):
  if not url_tup:
   return ''
  else:
   end_path = url_tup[-1]
   split_ext = end_path.split('.')  #1148e88a9d97.jpg #list
   return '' if not split_ext or len(split_ext) == 1 else split_ext[-1]

 # 拒绝连接
 def http_connect(self, flow: mitmproxy.http.HTTPFlow):
  for i in self.url_filter: #过滤url
   if i in flow.request.host:
    flow.response = http.HTTPResponse.make(404)

 #存在筛选就返回true拦截,Flase通过
 def capture_pass(self,request,response):
  if self.url_race:
   if request.host not in self.url_race: #筛选url
    return True
  url_tup = request.path_components #获取url的tup
  extension = self.get_extension(url_tup)
  if extension in self.static_ext: #判断后缀
   return True
  try:
   content_type = response.headers['Content-Type'].split(';')[0]
   if not content_type:
    return False
   elif content_type in self.static_files: #判断Content-Type
    return True
   else:
    http_mime_type = content_type.split('/')[0]
    if http_mime_type in self.media_types: #判断Content-Type的files type
     return True
    else:
     return False
  except Exception:
   return False



 def request(self, flow: mitmproxy.http.HTTPFlow):
  request = flow.request
  # 修改请求头
  # request.headers["shuzf"] = "shuzf"
  # # 修改get参数
  # if "shuzf" in flow.request.query.keys():
  #  request.query.set_all("shuzf", ["舒志福"])
  # # 修改post参数
  # if "shuzf" in flow.request.urlencoded_form.keys():
  #  request.urlencoded_form.set_all('shuzf', '舒志福')
  scheme = request.scheme
  domain = request.host
  self.result['url'] = parse.unquote(request.url) # url解码
  self.result['method'] = request.method
  self.result['request_headers'] = {}
  for item in request.headers:
   self.result['request_headers'][item] = request.headers[item]
  self.result['get_data'] = self.parser_data(request.query) # 将表单转字典
  self.result['post_data'] = self.parser_data(request.urlencoded_form) # 将表单转字典

 def response(self, flow: mitmproxy.http.HTTPFlow):
  request = flow.request
  response = flow.response
  # # 修改返回头
  # response.headers["shuzf"] = "shuzf"
  # # 修改返回体
  # text = response.text
  # text = text.replace("shuzf", "舒志福")
  # flow.response.set_text(text)
  if not self.capture_pass(request,response):
   print(request.url)
   self.result['status_code '] = response.status_code
   self.result['response_headers'] = {}
   for item in response.headers:
    self.result['response_headers'][item] = response.headers[item]
   # HTTPResponse内部使用了iso-8859-1编码,先进行解码为Unicode再进行utf-8编码 response.text.encode("iso-8859-1").decode("utf-8")
   self.result['response_content'] = response.text 
   # 添加result至数据库
   new_url = Proxy(url=self.result['url'],res=self.result['response_content'], content=json.dumps(self.result))

   session.add(new_url)
   session.commit()

   # 关闭session:
   # session.close()

addons = [Counter()] # 实例类

以上就是python利用Mitmproxy抓包的详细内容,更多关于python Mitmproxy抓包的资料请关注三水点靠木其它相关文章!

Python 相关文章推荐
Python urllib、urllib2、httplib抓取网页代码实例
May 09 Python
关于Python中Inf与Nan的判断问题详解
Feb 08 Python
django框架如何集成celery进行开发
May 24 Python
Python 逐行分割大txt文件的方法
Oct 10 Python
python对于requests的封装方法详解
Jan 03 Python
python async with和async for的使用
Jun 20 Python
Python多叉树的构造及取出节点数据(treelib)的方法
Aug 09 Python
Python3.6+selenium2.53.6自动化测试_读取excel文件的方法
Sep 06 Python
Pytorch evaluation每次运行结果不同的解决
Jan 02 Python
Python Numpy库常见用法入门教程
Jan 16 Python
python GUI库图形界面开发之PyQt5复选框控件QCheckBox详细使用方法与实例
Feb 28 Python
Django admin 实现search_fields精确查询实例
Mar 30 Python
python批量生成条形码的示例
Oct 10 #Python
python如何对链表操作
Oct 10 #Python
Python timeit模块原理及使用方法
Oct 10 #Python
python实现自动打卡的示例代码
Oct 10 #Python
Python类绑定方法及非绑定方法实例解析
Oct 09 #Python
Python批量获取并保存手机号归属地和运营商的示例
Oct 09 #Python
Python判断变量是否是None写法代码实例
Oct 09 #Python
You might like
Php+SqlServer实现分页显示
2006/10/09 PHP
php入门小知识
2008/03/24 PHP
PHP mb_convert_encoding文字编码的转换函数介绍
2011/11/10 PHP
php简单获取文件扩展名的方法
2015/03/24 PHP
老司机传授Ubuntu下Apache+PHP+MySQL环境搭建攻略
2016/03/20 PHP
PHP新特性详解之命名空间、性状与生成器
2017/07/18 PHP
php中文语义分析实现方法示例
2019/09/28 PHP
在textarea中显示html页面的javascript代码
2007/04/20 Javascript
JavaScript在IE中“意外地调用了方法或属性访问”
2008/11/19 Javascript
Javascript获取当前时间函数和时间操作小结
2014/10/01 Javascript
Node.js的npm包管理器基础使用教程
2016/05/26 Javascript
javascript实现滚动效果的数字时钟实例
2016/07/21 Javascript
js拖拽功能实现代码解析
2016/11/28 Javascript
jQuery基本选择器和层次选择器学习使用
2017/02/27 Javascript
pm2 部署 node的三种方法示例
2017/10/20 Javascript
浅谈Angular 中何时取消订阅
2017/11/22 Javascript
javascript代码优化的8点总结
2018/01/29 Javascript
JavaScript EventEmitter 背后的秘密 完整版
2018/03/29 Javascript
实例详解Node.js 函数
2018/06/10 Javascript
解决Layui中templet中a的onclick参数传递的问题
2019/09/20 Javascript
Python SQLAlchemy基本操作和常用技巧(包含大量实例,非常好)
2014/05/06 Python
python处理xml文件的方法小结
2017/05/02 Python
对python内置map和six.moves.map的区别详解
2018/12/19 Python
ERLANG和PYTHON互通实现过程详解
2019/07/05 Python
解决python中用matplotlib画多幅图时出现图形部分重叠的问题
2019/07/07 Python
websocket+sockjs+stompjs详解及实例代码
2018/11/30 HTML / CSS
高性能钓鱼服装:Huk Gear
2019/02/20 全球购物
香港零食网购:上仓胃子
2020/06/08 全球购物
初中生自我评价
2014/02/01 职场文书
个人三严三实对照检查材料
2014/09/25 职场文书
测量员岗位职责
2015/02/14 职场文书
毛主席纪念堂观后感
2015/06/17 职场文书
运动会入场词
2015/07/18 职场文书
读《教育心理学》心得体会
2016/01/22 职场文书
nginx location中多个if里面proxy_pass的方法
2021/03/31 Servers
Spring this调用当前类方法无法拦截的示例代码
2022/03/20 Java/Android