9种python web 程序的部署方式小结


Posted in Python onJune 30, 2014

主流的web server 一个巴掌就能数出来,apache,lighttpd,nginx,iis

application,中文名叫做应用服务,就是你基于某个web framework写的应用代码DB server 泛指存储服务,web开发中用mysql比较多,最近几年因为网站规模扩大,memcache,redis这种key-value等存储也流行开来
放在最前面的 web server 有3个功能

高效率处理静态文件 ,web server都是用c开发,调用是native的函数,对IO,文件传输都做针对性的优化

充当一个简易的网络防火墙 ,可以denny一些ip,简单的控制并发连接数量等等,聊胜于无

处理高并发短连接请求 ,把成千上万用户的request 通过内网的几十个长连接进行转发,原因一个是web server处理高并发很专业,另外一个原因是大部分的application所用的框架都不具备处理高并发的能力

实际上,市面上有部分web framework由于内置了支持epoll/kqueue 等高效网络库,而具备了处理高并发的能力,比如说 python的tornado,java系的tomcat,jetty等等,有人就去掉前端的web server,直接裸奔,但是在部署公网应用时候,最好别这样做,因为前面提到的1,2两个原因,用户brower到web server的网络状况是千奇百怪,你无法想象的,

web server 强烈建议使用nginx,原因有三

性能非常卓越,非常稳定
安装简单,依赖包少
conf文件非常容易配置,比apache/lighttpd都要简单
部署python开发的web程序有9种方法

mod_python ,这是apache内置的模块,很严重的依赖于mod_python编译使用的python版本,和apache配套使用,不推荐

cgi ,这个太old,不推荐,而且nginx不支持cgi方式,只能用lighttpd或者apache

fastcgi  ,这个是目前流行最广的做法,通过flup模块来支持的,在nginx里对应的配置指令是 fastcgi_pass

spawn-fcgi ,这个是fastcgi多进程管理程序,lighttpd安装包附带的,和 flup效果一样,区别是flup是 python代码级引入,spawn-fcgi是外部程序。spawn-fcgi用途很广,可以支持任意语言开发的代码,php,python,perl,只要你代码实现了fastcgi接口,它都可以帮你管理你的进程

scgi ,全名是Simple Common Gateway Interface,也是cgi的替代版本, scgi协议 很简单,我觉得和fastcgi差不多,只是没有怎么推广开来,nginx对应的配置指令是scgi_pass,你想用就用,flup也支持。

http ,nginx使用proxy_pass转发,这个要求后端appplication必须内置一个能处理高并发的http server,在python的web框架当中,只能选择tornado.

python程序员喜欢发明轮子,tornado除了是一个web framework之外,它还可以单独提供高性能http server,所以,如果你采用其他python框架写代码,比如说bottle,也一样可以通过import tornado 来启动一个高性能的http server,同样的可以采用http协议和nginx一起来部署。扩展开来,python包里面能处理高并发的http server还有很多,比如说gevent,也可以被其他框架引用来支持http方式部署。

现实当中,用java来做web程序,通常就用http和nginx配合,应用服务器选择tomcat或者jetty

uwsgi ,包括4部分组成,

uwsgi协议
web server内置支持协议模块
application服务器协议支持模块
进程控制程序

nginx从0.8.4开始内置支持uwsgi协议,uwsgi协议非常简单,一个4个字节header+一个body,body可以是很多协议的包,比如说http,cgi等(通过header里面字段标示),我曾经做个一个小规模的性能对比测试,结果表明,uwsgi和fastcgi相比,性能没有太明显的优势,也可能是数据集较小的原因

uwsgi的特点在于自带的进程控制程序.它是用c语言编写,使用natvie函数,其实和spawn-fcgi/php-fpm类似。所以uwsgi可以支持多种应用框架,包括(python,lua,ruby,erlang,go)等等

Gunicorn ,和uwsgi类似的工具,从rails的部署工具(Unicorn)移植过来的。但是它使用的协议是 WSGI,全称是Python Web Server Gateway Interface ,这是python2.5时定义的官方标准( PEP 333  ),根红苗正,而且部署比较简单, http://gunicorn.org/  上有详细教程

mod_wsgi ,apache的一个module,也是支持WSGI协议, https://code.google.com/p/modwsgi/

fastcgi协议和http协议在代码部署中的的优劣对比

fastcgi虽然是二进制协议,相对于http协议,并不节省资源。二进制协议,只能节省数字的表达,比如 1234567,用字符串表示需要7个Byte,用数字就是4个Byte,而字符串到哪里都一样

fastcgi在传输数据的时候,为了兼容cgi协议,还要带上一堆cgi的环境变量,所以和http协议相比,用fastcgi传输数据并不省,反而多一些

fastcgi 唯一的优点是,它是长连接的,用户并发1000个request,fastcgi可能就用10个 链接转发给后端的appplication,如果用http协议,那来多少给多少,会向后端appplication 发起1000个请求

http代理转发方式,在面对超高并发的情况下会出问题,因为, tcp协议栈当中,port是int16整型  你本地新建一个connect,需要消耗一个端口,最多能到65536。外部并发几十万个请求,port池耗干,你的服务器只能拒绝响应了

总结

我个人习惯是用 fastcgi 协议部署python程序,简单省事,选择技术方案,一定要选择最简单最常见的,本博客的fastcgi运行脚本如下

kill - `cat / tmp / django.pid`
echo 'restart django....' 
python . / manage.py runfcgi - - settings = lutaf.settings_r maxchildren =  maxspare = minspare =  method = prefork pidfile = / tmp / django.pid host = 127.0 . 0.1  port = outlog = / tmp / dj.out errlog = / tmp / dj.error

推荐大家尝试 Gunicorn ,这是未来发展方向

Python 相关文章推荐
python的re模块应用实例
Sep 26 Python
python 实现上传图片并预览的3种方法(推荐)
Jul 14 Python
在Python 2.7即将停止支持时,我们为你带来了一份python 3.x迁移指南
Jan 30 Python
Python cookbook(数据结构与算法)同时对数据做转换和换算处理操作示例
Mar 23 Python
浅谈python在提示符下使用open打开文件失败的原因及解决方法
Nov 30 Python
python三引号输出方法
Feb 27 Python
详解Python的循环结构知识点
May 20 Python
python requests模拟登陆github的实现方法
Dec 26 Python
keras多显卡训练方式
Jun 10 Python
Python机器学习之基于Pytorch实现猫狗分类
Jun 08 Python
关于python爬虫应用urllib库作用分析
Sep 04 Python
Python开发五子棋小游戏
May 02 Python
Python开发WebService系列教程之REST,web.py,eurasia,Django
Jun 30 #Python
windows下wxPython开发环境安装与配置方法
Jun 28 #Python
Python使用稀疏矩阵节省内存实例
Jun 27 #Python
Python实现的百度站长自动URL提交小工具
Jun 27 #Python
python使用心得之获得github代码库列表
Jun 25 #Python
在Python中使用异步Socket编程性能测试
Jun 25 #Python
Python开发的单词频率统计工具wordsworth使用方法
Jun 25 #Python
You might like
Symfony控制层深入详解
2016/03/17 PHP
php使用glob函数遍历文件和目录详解
2016/09/23 PHP
PHP中STDCLASS用法实例分析
2016/11/11 PHP
php array_values 返回数组的值实例详解
2016/11/17 PHP
老生常谈ThinkPHP中的行为扩展和插件(推荐)
2017/05/05 PHP
Yii2框架中使用PHPExcel导出Excel文件的示例
2017/08/09 PHP
PHP code 验证码生成类定义和简单使用示例
2020/05/27 PHP
静态的动态续篇之来点XML
2006/08/15 Javascript
关于this和self的使用说明
2010/08/01 Javascript
根据对象的某一属性进行排序的js代码(如:name,age)
2010/08/10 Javascript
ASP.NET jQuery 实例9  通过控件hyperlink实现返回顶部效果
2012/02/03 Javascript
javascritp添加url参数将参数加入到url中
2014/09/25 Javascript
jQuery中parent()方法用法实例
2015/01/07 Javascript
jQuery Validate插件实现表单强大的验证功能
2015/12/18 Javascript
老生常谈 关于JavaScript的类的继承
2016/06/24 Javascript
JavaScript仿微博发布信息案例
2016/11/16 Javascript
浅谈js数组和splice的用法
2016/12/04 Javascript
Angular 常用指令实例总结整理
2016/12/13 Javascript
JS实现二叉查找树的建立以及一些遍历方法实现
2017/04/17 Javascript
JavaScript在控件上添加倒计时功能的实现代码
2017/07/04 Javascript
原生js jquery ajax请求以及jsonp的调用方法
2017/08/04 jQuery
node.JS路径解析之PATH模块使用方法详解
2020/02/06 Javascript
[01:02:34]TFT vs VGJ.T Supermajor 败者组 BO3 第二场 6.5
2018/06/06 DOTA
python使用循环实现批量创建文件夹示例
2014/03/25 Python
Python的SQLAlchemy框架使用入门
2015/04/29 Python
python3使用pyqt5制作一个超简单浏览器的实例
2017/10/19 Python
Selenium鼠标与键盘事件常用操作方法示例
2018/08/13 Python
python读取和保存图片5种方法对比
2018/09/12 Python
python按比例随机切分数据的实现
2019/07/11 Python
2014年迎新年联欢会活动策划方案
2014/02/26 职场文书
少先队辅导员事迹材料
2014/12/24 职场文书
2015年银行柜员工作总结报告
2015/04/01 职场文书
开学第一天的感想
2015/08/10 职场文书
蔬果开业典礼发言稿应该怎么写?
2019/09/03 职场文书
Python基础之元编程知识总结
2021/05/23 Python
Django实现翻页的示例代码
2021/05/24 Python