Python中用pycurl监控http响应时间脚本分享


Posted in Python onFebruary 02, 2015

最近需要对节点到源站自己做个监控,简单的ping可以检测到一些东西,但是http请求的检查也要进行,于是就研究了下pycurl。

pycurl是个用c语言实现的python 库,虽然据说不是那么pythonic,但是却很高效,它支持的协议居多:

supporting FTP, FTPS, HTTP, HTTPS, GOPHER, TELNET, DICT, FILE and LDAP. libcurl supports HTTPS certificates, HTTP POST, HTTP PUT, FTP uploading, kerberos, HTTP form based upload, proxies, cookies, user+password authentication, file transfer resume, http proxy tunneling and more!

这一堆协议已经很多了,我需要就是http一个,相对urlib来说,这个库可能更快些。

以下这个脚本是对某一个给定的url进行检查,并打印出http相应码,响应大小,建立连接时间,准备传输时间,传输第一个字节时间,完成时间。

#!/usr/bin/python
# coding: UTF-8
import StringIO
import pycurl
import sys
import os
class Test:
    def __init__(self):
        self.contents = ''
    def body_callback(self,buf):
        self.contents = self.contents + buf
def test_gzip(input_url):
    t = Test()
    #gzip_test = file("gzip_test.txt", 'w')
    c = pycurl.Curl()
    c.setopt(pycurl.WRITEFUNCTION,t.body_callback)
    c.setopt(pycurl.ENCODING, 'gzip')
    c.setopt(pycurl.URL,input_url)
    c.perform()
    http_code = c.getinfo(pycurl.HTTP_CODE)
    http_conn_time = c.getinfo(pycurl.CONNECT_TIME)
    http_pre_tran = c.getinfo(pycurl.PRETRANSFER_TIME)
    http_start_tran = c.getinfo(pycurl.STARTTRANSFER_TIME)
    http_total_time = c.getinfo(pycurl.TOTAL_TIME)
    http_size = c.getinfo(pycurl.SIZE_DOWNLOAD)
    print 'http_code http_size conn_time pre_tran start_tran total_time'
    print "%d %d %f %f %f %f"%(http_code,http_size,http_conn_time,http_pre_tran,http_start_tran,http_total_time)
if __name__ == '__main__':
    input_url = sys.argv[1]
    test_gzip(input_url)

脚本运行效果

xu:~/curl$ python pycurl_test.py http://daxuxu.info/
http_code http_size conn_time pre_tran start_tran total_time
200 8703 0.748147 0.748170 1.632642 1.636552

pycurl 的一些响应信息:
(参考: http://curl.haxx.se/libcurl/c/curl_easy_getinfo.html )

pycurl.NAMELOOKUP_TIME 域名解析时间
pycurl.CONNECT_TIME 远程服务器连接时间
pycurl.PRETRANSFER_TIME 连接上后到开始传输时的时间
pycurl.STARTTRANSFER_TIME 接收到第一个字节的时间
pycurl.TOTAL_TIME 上一请求总的时间
pycurl.REDIRECT_TIME 如果存在转向的话,花费的时间

pycurl.EFFECTIVE_URL
pycurl.HTTP_CODE HTTP 响应代码
pycurl.REDIRECT_COUNT 重定向的次数
pycurl.SIZE_UPLOAD 上传的数据大小
pycurl.SIZE_DOWNLOAD 下载的数据大小
pycurl.SPEED_UPLOAD 上传速度
pycurl.HEADER_SIZE 头部大小
pycurl.REQUEST_SIZE 请求大小
pycurl.CONTENT_LENGTH_DOWNLOAD 下载内容长度
pycurl.CONTENT_LENGTH_UPLOAD 上传内容长度
pycurl.CONTENT_TYPE 内容的类型
pycurl.RESPONSE_CODE 响应代码
pycurl.SPEED_DOWNLOAD 下载速度
pycurl.SSL_VERIFYRESULT
pycurl.INFO_FILETIME 文件的时间信息

pycurl.HTTP_CONNECTCODE HTTP 连接代码
pycurl.HTTPAUTH_AVAIL
pycurl.PROXYAUTH_AVAIL
pycurl.OS_ERRNO
pycurl.NUM_CONNECTS
pycurl.SSL_ENGINES
pycurl.INFO_COOKIELIST
pycurl.LASTSOCKET
pycurl.FTP_ENTRY_PATH
Python 相关文章推荐
用Python程序抓取网页的HTML信息的一个小实例
May 02 Python
Python信息抽取之乱码解决办法
Jun 29 Python
python中使用%与.format格式化文本方法解析
Dec 27 Python
使用python 爬虫抓站的一些技巧总结
Jan 10 Python
详解如何利用Cython为Python代码加速
Jan 27 Python
Python实现读取字符串按列分配后按行输出示例
Apr 17 Python
Pandas读取MySQL数据到DataFrame的方法
Jul 25 Python
使用 Python 处理3万多条数据只要几秒钟
Jan 19 Python
浅谈keras.callbacks设置模型保存策略
Jun 18 Python
如何基于Python爬取隐秘的角落评论
Jul 02 Python
python中round函数保留两位小数的方法
Dec 04 Python
python字符串拼接.join()和拆分.split()详解
Nov 23 Python
Python列表(list)常用操作方法小结
Feb 02 #Python
Python Sleep休眠函数使用简单实例
Feb 02 #Python
Python中实现从目录中过滤出指定文件类型的文件
Feb 02 #Python
Python实现二分法算法实例
Feb 02 #Python
Python标准异常和异常处理详解
Feb 02 #Python
Python中使用md5sum检查目录中相同文件代码分享
Feb 02 #Python
Python列表append和+的区别浅析
Feb 02 #Python
You might like
使用php批量删除数据库下所有前缀为prefix_的表
2014/06/09 PHP
php的ZipArchive类用法实例
2014/10/20 PHP
Yii2框架控制器、路由、Url生成操作示例
2019/05/27 PHP
jQuery学习基础知识小结
2010/11/25 Javascript
Javascript实现动态菜单添加的实例代码
2013/07/05 Javascript
使用JS读秒使用示例
2013/09/21 Javascript
js onload事件不起作用示例分析
2013/10/09 Javascript
基于Bootstrap+jQuery.validate实现Form表单验证
2014/12/16 Javascript
jquery制作漂亮的弹出层提示消息特效
2014/12/23 Javascript
Python脚本后台运行的几种方式
2015/03/09 Javascript
Java Mybatis框架入门基础教程
2015/09/21 Javascript
javascript如何写热点图
2015/12/08 Javascript
基于JavaScript实现文字超出部分隐藏
2016/02/29 Javascript
jQuery中使用animate自定义动画的方法
2016/05/29 Javascript
JS简单实现DIV相对于浏览器固定位置不变的方法
2016/06/17 Javascript
AngularJS 服务详细讲解及示例代码
2016/08/17 Javascript
基于Nodejs的Tcp封包和解包的理解
2018/09/19 NodeJs
js中事件对象和事件委托的介绍
2019/01/21 Javascript
微信小程序使用map组件实现获取定位城市天气或者指定城市天气数据功能
2019/01/22 Javascript
Vue 中可以定义组件模版的几种方式
2019/08/06 Javascript
微信小程序实现点击生成随机验证码
2020/09/09 Javascript
Python 列表list使用介绍
2014/11/30 Python
Python文本特征抽取与向量化算法学习
2017/12/22 Python
Python实现批量压缩图片
2018/01/25 Python
python使用递归的方式建立二叉树
2019/07/03 Python
Tensorflow实现在训练好的模型上进行测试
2020/01/20 Python
python3光学字符识别模块tesserocr与pytesseract的使用详解
2020/02/26 Python
python使用scapy模块实现ping扫描的过程详解
2021/01/21 Python
Python 爬取淘宝商品信息栏目的实现
2021/02/06 Python
英国最大的笔记本电脑直销专家:Laptops Direct
2019/07/20 全球购物
搞笑婚礼主持词
2014/03/13 职场文书
学校机关党总支领导班子整改工作方案
2014/10/26 职场文书
恋恋笔记本观后感
2015/06/16 职场文书
小学教师师德培训心得体会
2016/01/09 职场文书
幼儿园大班教学反思
2016/03/02 职场文书
spring项目中切面及AOP的使用方法
2021/06/26 Java/Android