如何让单台服务器每天支持500万pv

每天500万=多少RPS？

• 每天秒数 = 246060 = 86400 秒
• 按经验值，每天80%的流量集中在40%的时间里；而整个站点的流量峰值一般会是40%时间内的2-4倍；
• 峰值流量 = 500w/86400*8 ≈ 500pv/s (即500RPS)

单纯的helloworld能达到什么样的性能?

• 基于4核2.6G cpu测试，不经过网络，没有逻辑运算和磁盘io
• java的SpringMVC能到2000以上
• python的flask也能达到1000以上

影响性能的地方主要是什么呢？

• 磁盘IO
• 逻辑运算
• 网络传输
• 并发线程
• 文件句柄

如何减少磁盘IO？

磁盘IO操作主要集中在：

• 静态文件读取与创建（比如图片、css、js等）
• 数据库查询与更新

如何减少磁盘IO:

• 缓存、缓存、还是缓存（尽量把经常访问的资源放到内存处理）
• 甚至可以把html页面缓存到cache，以提高读取速度

如何减少计算量？

• 后台离线把结果计算好，放入缓存（比如：列表、文章详情、甚至评论）
• 部分计算公式固定的功能，放入前端浏览器或app进行计算

如何减少网络传输？

• 浏览器或app缓存
• 图片压缩

如何增加并发线程？

• 如果是python，那就没办法了，单线程单进程，只能通过异步方式提高性能（当然也可以启动多个实例）
• 如果是java，可以通过设置tomcat的maxThreads等线程参数提高并发性能（当然jvm的Xmx也很重要）
• 另外，设置nginx的worker_processes和worker_connections来提高并发量

如何增加文件句柄

• 通过sysctl把系统内核的限制可以提高到=/proc/sys/fs/file-max（系统级硬限制）
• 通过ulimit设置 单个线程 可以打开的最大句柄数

需要注意的time_wait和close_wait

• 由于http的四次挥手机制，连接通过客户端关闭时，会产生time_wait状态，该状态会持续2个MSL时长，会占用很大的句柄资源，可以通过优化/etc/sysctl.conf里的超时和重用等参数，解决time_wait问题；
• 而close_wait是因为服务端没有及时关闭连接导致，需要排除资源操作代码

更多优化策略

• 增加F5硬负载或nginx软负载来分散服务器压力（当然，通过7层负载更能实现智能路由，也更加安全）
• 也可以通过cdn来减少网络请求跳数，缩短响应时间（有钱公司的专享😓）

最后，需要说明的是，上面说的都是通用优化方案，具体策略还需要根据各公司自己的业务和技术特点进行。