Python Web 腾讯云部署:flask+fabric+gu
最近看了《Flask Web开发--基于Python的Web应用开发实战》,还有廖雪峰老师的Python教程,前者是基于Web框架flask进行开发,后者是自己搭建了一个Web框架。Web框架致力于如何生成HTML代码,而Web服务器用于处理和响应HTTP请求。Web框架和Web服务器之间的通信,需要一套双方都遵守的接口协议。WSGI协议就是用来统一这两者的接口的。
为了部署一个完整的环境,本文将使用flask作为Web框架,Gunicorn作为WSGI容器,Nginx作为Web服务器,同时使用Supervisor进行进程管理,并使用Fabric实现自动化部署。
前期准备
申请一个腾讯云服务器Ubuntu Server 16.04.1 LTS 64位:
账户:ubuntu
密码:**********
内网ip:172.16.0.17
外网ip:139.199.184.183
使用《Flask Web开发》源码:
$ mkdir web
$ cd web
~/web$ git clone https://github.com/miguelgrinberg/flasky.git
设置并进入虚拟环境:
~/web$ cd flasky
~/web/flasky$ virtualenv venv
~/web/flasky$ source venv/bin/activate
安装对应的库:
(venv) ~/web/flasky$ cd requirements
(venv) ~/flasky/requirements$ pip3 install -r common.txt
(venv) ~/flasky/requirements$ pip3 install -r dev.txt
(venv) ~/flasky/requirements$ pip3 install -r heroku.txt
(venv) ~/flasky/requirements$ pip3 install -r prod.txt
创建数据库:
(venv) ~/flasky/requirements$ cd ..
(venv) ~/flasky/$ python3 manage.py deploy
Fabric
新开一个终端,远程登陆服务器:
$ ssh ubuntu@139.199.184.183
在服务器端定义好部署结构:
ubuntu@VM $ mkdir web
ubuntu@VM $ mkdir web/flasky
ubuntu@VM $ mkdir web/log
即:
- web/ Web App根目录
- flasky/ 存放python文件
- log/ 存放日志文件
我们使用Fabric将代码上传到服务器,首先,安装Fabric:
(venv) ~/web$ sudo apt-get install fabric
在web目录下创建fabfile.py(必须这个名字),写入:
#!/usr/bin/python3
# -*- coding: utf-8 -*-
import os, re
from datetime import datetime
# 导入Fabric API:
from fabric.api import *
# 服务器登录用户名:
env.user = 'ubuntu'
# sudo用户为root:
env.sudo_user = 'root'
# 服务器地址,可以有多个,依次部署:
env.hosts = ['139.199.184.183']
_TAR_FILE = 'dist-flasky.tar.gz'
def build():
includes = ['app', 'migrations', 'requirements', 'tests', 'venv', *.py', '*.sqlite']
excludes = ['.*', '*.pyc', '*.pyo']
local('rm -f dist/%s' % _TAR_FILE)
with lcd(os.path.join(os.path.abspath('.'), 'flasky')):
cmd = ['tar', '--dereference', '-czvf', '../dist/%s' % _TAR_FILE]
cmd.extend(['--exclude=\'%s\'' % ex for ex in excludes])
cmd.extend(includes)
local(' '.join(cmd))
_REMOTE_TMP_TAR = '/tmp/%s' % _TAR_FILE
_REMOTE_BASE_DIR = '/home/ubuntu/web/flasky'
def deploy():
newdir = 'flask-%s' % datetime.now().strftime('%y-%m-%d_%H.%M.%S')
# 删除已有的tar文件:
run('rm -f %s' % _REMOTE_TMP_TAR)
# 上传新的tar文件:
put('dist/%s' % _TAR_FILE, _REMOTE_TMP_TAR)
# 创建新目录:
with cd(_REMOTE_BASE_DIR):
sudo('mkdir %s' % newdir)
# 解压到新目录:
with cd('%s/%s' % (_REMOTE_BASE_DIR, newdir)):
sudo('tar -xzvf %s' % _REMOTE_TMP_TAR)
# 重置软链接:
with cd(_REMOTE_BASE_DIR):
sudo('rm -f flask')
sudo('ln -s %s flask' % newdir)
sudo('chown ubuntu:ubuntu flask')
sudo('chown -R ubuntu:ubuntu %s' % newdir)
# 重启Python服务和nginx服务器:
#with settings(warn_only=True):
# sudo('supervisorctl stop flask')
# sudo('supervisorctl start flask')
# sudo('/etc/init.d/nginx reload')
使用fab命令将代码打包:
(venv) ~/web$ mkdir dist
(venv) ~/web$ fab build
将代码传上服务器:
(venv) ~/web$ fab deploy
Gunicorn部署
代码上传给服务器后,可以直接运行manage.py文件,就可以访问网站了。可是实际情景中需要处理高并发访问的情况,我们使用Gunicorn来解决这个问题。
在服务器上进入flask所在目录,激活虚拟环境,并安装gunicorn:
ubuntu@VM ~/web/flasky/flask$ source venv/bin/activate
(venv) ubuntu@VM ~/web/flasky/flask$ sudo apt-get install gunicorn
使用gunicorn运行web应用(支持4个并发请求):
(venv) ubuntu@VM ~/web/flasky/flask$ gunicorn -w 4 -b 172.16.0.17:5000 manage:app
其中172.16.0.17是服务器内网ip,这样设置后就可以通过外网ip访问网站了。在浏览器地址栏中输入139.199.184.183:5000,就可以看到网站了。
Nginx
使用gunicorn的话,需要将端口暴露给外界,这不利于服务器的安全问题。Nginx是一个高性能的HTTP和反向代理服务器,通过配置一个代理服务器,可以实现反向代理的功能。所谓反向代理,是指一个请求,从互联网过来,先进入代理服务器,再由代理服务器转发给局域网的目标服务器。
先安装nginx:
(venv) ubuntu@VM ~$ sudo apt-get install nginx
设置反向代理服务器:在服务器,进入目录/etc/nginx/sites-available/,在目录下的default文件写入一个server。
首先,先备份default文件:
$ cd /etc/nginx/sites-available/
$ sudo cp default default-backup
在default文件中写入server:
server {
listen 80;
root /home/ubuntu/web/flasky/flask/;
location / {
proxy_pass http://127.0.0.1:5000;
proxy_set_header Host $host;
proxy_set_header X-Forward-For $proxy_add_x_forwarded_for;
}
}
配置完成后,重启nginx:
$ sudo nginx -s reload
此时,该反向代理服务器就开始监听80端口。80端口是为HTTP开放的端口,浏览网页服务默认的端口号都是80 (8080端口跟80端口一样)。只要访问服务器,代理服务器就会将请求转发到127.0.0.1:5000.
回到目录/home/ubuntu/web/flasky/flask/下,再次使用gunicorn运行web app:
(venv) ubuntu@VM ~/web/flasky/flask$ gunicorn -w 4 -b 127.0.0.1:5000 manage:app
用的ip地址是127.0.0.1
而外界要访问网站只需要在浏览器地址栏输入139.199.184.183,使用默认端口80。这样web app实际使用的5000就不用暴露了。
Supervisor
如果你需要进程一直执行,若该进程因各种原因中断,也会自动重启的话,supervisor是一个很好的选择。
supervisor管理进程,是通过fork/exec的方式将这些被管理的进程当作supervisor的子进程来启动,所以我们只需要将要管理进程的可执行文件的路径添加到supervisor的配置文件中就好了。此时被管理进程被视为supervisor的子进程,若该子进程异常终端,则父进程可以准确的获取子进程异常终端的信息,通过在配置文件中设置autostart=true,可以实现对异常中断的子进程的自动重启。
安装supervisor:
(venv) ubuntu@VM ~$ sudo apt-get install supervisor
在目录/etc/supervisor/conf.d/下创建flask.conf,并加入:
;/etc/supervisor/conf.d/flask.conf
[program:flask]
command = /home/ubuntu/.local/bin/gunicorn -w 4 -b 127.0.0.1:5000 manage:app
;这里/home/ubuntu/.local/bin/是我服务器上gunicorn的安装目录
directory = /home/ubuntu/web/flasky/flask
user = ubuntu
startsecs = 3
autostart = true
redirect_stderr = true
stdout_logfile_maxbytes = 50MB
stdout_logfile_backups = 10
stdout_logfile = /home/ubuntu/web/flasky/log/app.log
配置完后,进入目录/home/ubuntu/web/flasky/, 创建log目录:
(venv) ubuntu@VM ~/web/flasky$ mkdir log
启动supervisor:
(venv) ubuntu@VM /etc/supervisor$ sudo supervisord -c supervisor.conf
执行服务(运行app.py):
(venv) ubuntu@VM $ sudo supervisorctl start flask
此时,进程flask运行,执行command后边的语句,即/home/ubuntu/.local/bin/gunicorn -w 4 -b 127.0.0.1:5000 manage:app。
在浏览器地址栏输入139.199.184.183,使用默认端口80,即可访问网站。
如果supervisor遇到错误,可以在/var/log/supervisor/supervisord.log中查看日志;
如果app运行出现问题,可以在 /home/ubuntu/web/flasky/log/app.log中查看日志。
自动化部署
为了实现自动化部署,将上边fabfile.py文件的最后四个语句的注释取消,就能在将修改后的代码传上服务器后,用supervisor自动重载配置并重启flask进程。之后便可以直接访问网站。
因此,每次更改代码后,只需要执行以下两个语句,无需登陆服务器,便可以启动网站:
$ fab build
$ fab deploy
gunicorn配置文件
gunicorn的配置除了可以在命令行中设置,也可以使用配置文件实现更复杂的配置:
$ gunicorn -c gunicorn.py manage:app
gunicorn.py文件如下:
# gunicorn.py
import logging
import logging.handlers
from logging.handlers import WatchedFileHandler
import os
import multiprocessing
bind = '127.0.0.1:5000' #绑定ip和端口号
backlog = 512 #监听队列
chdir = '/home/test/server/bin' #gunicorn要切换到的目的工作目录
timeout = 30 #超时
worker_class = 'gevent' #使用gevent模式,还可以使用sync 模式,默认的是sync模式
workers = multiprocessing.cpu_count() * 2 + 1 #进程数
threads = 2 #指定每个进程开启的线程数
loglevel = 'info' #日志级别,这个日志级别指的是错误日志的级别,而访问日志的级别无法设置
access_log_format = '%(t)s %(p)s %(h)s "%(r)s" %(s)s %(L)s %(b)s %(f)s" "%(a)s"' #设置gunicorn访问日志格式,错误日志无法设置
"""
其每个选项的含义如下
h remote address
l '-'
u currently '-', may be user name in future releases
t date of the request
r status line (e.g. ``GET / HTTP/1.1``)
s status
b response length or '-'
f referer
a user agent
T request time in seconds
D request time in microseconds
L request time in decimal seconds
p process ID
{Header}i request header
{Header}o response header
"""
accesslog = "/home/ubutnu/web/flasky/log/gunicorn_access.log" #访问日志文件
errorlog = "/home/ubutnu/web/flasky/log/gunicorn_error.log" #错误日志文件
在本地将gunicorn.py放在/home/ubutnu/web/flasky/flask/目录下,在服务器端将/etc/supervisor/conf.d/flask.conf中的command改为:
command = /home/ubuntu/.local/bin/gunicorn -c /home/ubutnu/web/flasky/flask/gunicorn.py manage:app
然后,在本地执行:
$ fab build
$ fab deploy
便可以访问网站了。
web