python 基础设施讨论贴

python_infrastructure.md

python项目通用组件和基础服务

很多公司都大量使用了python，其中有一些开发规范，code guidline， 通用组件，基础框架是可以共用的。

每个公司都自己搞一套, 太浪费人力，我想开一帖和大家讨论一下这些python基础设施的搭建。

原则是我们尽量不重新发明轮子，但开源组件这么多，也要有个挑选的过程和组合使用的过程，在这里讨论一下。

另一方面，有些开源组件虽然强大，但我们不能完全的驾驭它，或只使用其中很少的一部分，我们就可以考虑用python实现一个简单的轮子，可控性更强，最好不要超过300行代码。

规范开发流程

分为模块开发和项目开发

1. 模块: 实现多项目通用的功能，如日志，通信，性能计数等，并且要有良好的版本管理，直接安装到virtual_env环境里。
2. 项目: 实现具体的业务逻辑，依赖一些通用的模块，并以进程的形式存在。

通用的模块应该比较稳定，不会经常变动，为了防止模块升级后影响大量的项目，项目对模块的依赖要明确版本，具体如下：

用easy_install安装的包都会写在easy-install.pth里，这时候一个包只能使用一个版本，
easy_install -m module_name后该包信息就在.pth里去掉了，然后这个包就可以多版本并存了，
然后pkg_resources.require('wawa==1.0')后import wawa就可以在代码中强制使用指定版本的包了

一个通用模块版本升级后，在测试环境把依赖新版本的项目测试充分后再在生产环境把pkg_resources.require里的通用模块版本更新。

关于通用模块的开发规范，我草拟了一份，如下： 如何编写高质量的python程序

关于项目的开发规范，因为涉及到部署，备份，日志存放，配置文件等很多运行时要考虑的东西，还没想出一套最佳的方法。

运维自动化

项目上线后还有很多事情要做，基础模块更新，项目代码更新，配置更新，代码备份，数据备份，性能监控，业务监控，日志分析，问题排查等等很多事情要做，都去手工做的话，非常费劲，所以要把这些事情向自动化的方向去考虑，最起码要工具化。

假设一个机房有一个中心化的SOCenter，每台机器上有一个SOAgent，SOCenter可以通过内部通信给SOAgent发送各种管理指令，SOAagnet也会定时上报这台机器上所有服务的状态，报警等信息。

大多数单项的功能我们都做好了，但还没合理的组合起来，这里主要画一下饼。

服务启动，停止，重启

首先，每个服务的启动，停止，重启要规范化，一般linux里的服务都是以下方式来进行，所以我们自己的服务也要搞成这样的，进入到机器后，直接通过命令就可以完成这些操作。

service myapp start
service myapp stop
service myapp restart

另外，这些操作还要提供api的支持，以支持SOCenter 集中化的管理，根本就不用登录这台机器。

http://localhost/services/myapp/start
http://localhost/services/myapp/stop
http://localhost/services/myapp/restart

服务运行情况检查

1. 每个服务要在元数据里声明自己要监听的端口，SOAgent会自动探测这些端口是否正常，异常时自动报警给SOCenter。
2. SOAgent还会定时ping每个服务，如果出现异常也报警给SOCenter，这就要求每个服务要实现接受ping的接口。

日志存储/日志查看

1. 每个服务的日志存储要规范化，存储到固定的指定的位置，SOAgent可以知道每个服务的日志在哪里。
2. SOCenter可以给SOAgent下发指令，在某个服务的日志里grep一个关键字并返回结果，用于远程问题排查。
3. 文本日志要限制大小和文件滚动规则，防止把硬盘撑满。

业务监控

基本的CPU，网络，内存，磁盘IO等机器资源的监控，都有开源的工具去做，但每个服务自身的各种业务指标，也要监控起来。

这就要让每个服务通过一个基础组件，定义自己的业务指标，发送给本机的SOAgent，并上报汇总给SOCenter。

这个我们已经做好了，接口非常简单，模仿windows的性能计数器接口，使用起来只要定义一个计数器，然后increment就行了。

test_counter = counter.Counter('test')
test_counter.increment() 

服务里定义和使用了计数器后，SOAgent会自动定时给SOCenter上报数据，SOCenter 可以查看各种业务指标报警和详细图表。

获取配置/配置更新

每个服务的配置一定要集中化，不可能每个服务都用自己的本地配置文件。

服务通过SOAgent 去SOCenter 获取自己的配置，前提是要传递机器名称，服务名称。

SOCenter还可以给SOAgent发送指令，对某个服务的配置进行热更新，这需要服务里实现一个接受配置变化的接口。

更新代码

项目新版本上线，需要处理很多台机器的模块升级，项目代码更新，代码备份，失败回滚，部署结果生成报表等。

SOCenter 可以看到每个服务都部署到了哪些机器上，并且可以看到每个服务的版本号，依赖的基础模块的版本号。

SOCenter 可以给SOAgent 下发部署指令，SOAgent会执行如下操作：

1. 备份服务代码到指定目录
2. 根据部署清单，升级基础模块到virtual_env环境
3. 根据部署清单，从SOCenter下载deploy build的tar.gz包
4. 停止服务
5. 解压build包，更新服务代码
6. 启动服务
7. 根据服务的元数据，执行一段脚本，验证服务是否启动正常，并生成部署报告返回给SOCenter

如果部署失败，SOCenter 可以给SOAgent 下发指令，把基础模块和服务代码回滚到上个版本。

备份

1. 服务通过元数据描述自己需要备份哪些文件，以及备份策略
2. SOAgent会根据这些规则定时备份服务的代码
3. SOCenter可以查看所有机器所有服务的备份清单

通用组件

因为内部的一些业务模块使用了gevent，而且好多开源的东西都有自己的event loop，和gevent搭配不起来，所以有一些组件不能直接用开源产品。

通信组件

各个服务之间肯定是需要各种各样的内网通信的，云风的这篇文章进行了总结，但我觉得request/response模式是最有用的模式，其它的可以扩展出来。

我们基于这个思想开发了一个简单的通信组件：xiwangshe

备选：celery zeromq

队列

1. 独立进程，且队列数据可持久话，停止并重启队列后内存数据不丢失。
2. 支持一个public,多个subscripe模式，就是put一份数据，多个client去消费，所有client都get后，这份数据才在队列里消失。

内部开发完毕，备选redis。

自动化测试/每日构建/持续继承

不懂，目前只要求用unittest模块做单元测试。

相关工具

1. vim配置
   1. 语法，类库自动补全:python-dict, pyflake
   2. 语法检查，代码风格检查：flake8-vim
2. git使用规范
   1. 保持master分支稳定
   2. 把其它分支合并到master是用merge --no-ff，用git log --first-parent查看master分支要看到很干净的日志
3. 代码检查工具
   1. 代码复杂度检查：flake8
   2. 代码风格检查：flake8
   3. 检查重复代码：开发中

各家的 App Engine 其实相当于做了很多东西, 我推荐用工具来规范开发

是呀，用啥工具呀？
各家的工具应该多分享呀。
看起来明显冷场了，我还是自己搞自己的吧，哈哈

很不错 项目大点 统一规范的效果就能立马体现出来.