高性能Web站点

浏览数：15 / 时间：2015年06月09日

高性能Web站点

概述一般而言，我们评估一个Web站点速度如何，通常先置身于用户的角度，访问该站点的一系列页面，体验等待时间。对于每个页面来说，等待时间从用户输入页面地址或点击跳转链接开始，一直持续到新的网页完整的展现出来。如何构建高性能Web站点，可以就一下几个方面进行着手。

1 优化招数

服务器并发策略

1.这里的吞吐率特指Web服务器单位时间内处理的请求。

2.压力测试的前提：1>并发用户数 2>总请求数 3>请求资源描述

3.用户平均请求等待时间主要用户衡量服务器在一定并发用户数的情况下，对于单个用户的服务器质量；而服务器平均请求处理时间与前者相比，则用于衡量服务器的整体服务质量，它其实就是吞吐率的倒数。

4.对http header中标记为Connection: Keep-Alive的请求，开启web服务器的长连接支持。减少系统调用accept的次数，即减少建立连接的开销。

5.老调重弹，进程，内核级线程和用户级线程在不同情况下的优劣。IO模型，mmap（内村映射），直接IO，例如sendfile syscall以及异步IO等。多路IO复用（select， poll，epoll and kqueue etc）

6.服务器并发策略

1> 一个进程处理一个连接，非阻塞IO。稳定性强，但context switch的开销随http request递增而快速增长。

2> 一个内核级线程处理一个连接，非阻塞IO，多进程多线程混合方式。Context switch的问题依然存在。理论上可以支持更多的并发连接。

3>一个进程处理多个连接，非阻塞IO。（epoll， kqueue）lighttpd, nginx。支持并发性能强劲。上述情况的适用范围不能一刀切，而且这里都是指单机并发，需根据实际情况（实际并发数）来选择。通常，在并发用户数较大的情况下，Web服务器使用什么样的并发策略，是影响最大并发数的关键。

动态内存缓存

在实际应用中，动态内容缓存可能是使用得最多的技术，但是并不见得所有的动态内容都适合使用网页缓存，缓存带来的性能提升恰恰与有些动态数据实时交互的需求形成矛盾，这就是一个权衡。

1. 缓存动态生成的html代码。

2. 把动态内容静态化，直接缓存整个html文件。这样就可以直接访问缓存。这时的更新策略：

1>在数据更新时重新生成静态化内容 2>定时重新生成静态化内容

3. 使用SSI（server side include）进行局部静态化。但web server的SSI功能会对静态文件的吞吐率有负面影响。

动态脚本加速

加快脚本语言的执行速度；缓存中间代码（opcode）以供复用。

浏览器缓存

减少http请求，充分利用浏览器的缓存。而webapp通过http协议（更具体位置就是http header）来与浏览器协商，那些东东浏览器可以使用其缓存即可。

1. Last-Modified/If-Modified-Since

2. ETag/If-None-Match

3.Expires + Cache-Control: max-age=<seconds>

1和2需要浏览器和webserver交互后，有服务器端通知浏览器是否使用浏览器缓存，而3则是在过期前直接使用浏览器缓存，这样就直接kill掉了http request。同时还需注意，在使用SSI的内容中，由于整个页面是服务器动态生成的，所以Last-Modified标记在不同的Web服务器中有不同的生成方法。

Web服务器缓存

这个第二点动态内存缓存有区别，前者更指缓存是否命中与否完全由应用程序决定，且缓存方式也有应用来决定；而后者更指有web服务器通过URL决定是否缓存命中，比如静态内容或者更新不太频繁的动态内容就比较时候由其缓存。

反向代理缓存

Web服务器隐藏在代理服务器之后。这种代理机制称为反向代理（Reverse proxy），同时，实现这种机制的服务器便成为反向代理服务器。隐藏在反向代理服务器之后的Web服务器，我们习惯称它为后端服务器（Back-end server），当然，反向代理服务器就被称为前端服务器(Front-end server)。

引入反向代理服务器的目的之一就是基于缓存的加速。我们可以将内容缓存在反向代理服务器上，所有缓存机制的实现仍然采用HTTP/1.1协议。

缓存命中率和后端吞吐率的理想技术模型

缓存丢失率=（活跃内容数/（实际吞吐率×平均缓存有效期））×100%

缓存命中率= 1-缓存丢失率后端吞吐率= 活跃内容数/平均缓存有效期

缓存命中率= （1-（后端吞吐率/实际吞吐率））×100%

后端吞吐率 = （1 – 缓存命中率）×实际吞吐率

结论： 1. 活跃内容数和平均缓存有效期一定的情况下，缓存命中率与实际吞吐率成正比。

2. 实际吞吐率和平均缓存有效期一定的情况下，缓存命中率与活跃内容数成反比。

3. 活跃内容数和实际吞吐率一定的情况下，缓存命中率与平均缓存有效期成正比。

4. 活跃内容数一定的情况下，后端吞吐率与平均缓存有效期成反比。

5. 平均缓存有效期一定的情况下，后端吞吐率与活跃内容数成正比。

6. 缓存命中率的变化不一定会影响后端吞吐率。

7. 后端吞吐率的变化不一定会影响缓存命中率。

ESI – Edge Side Include类似与SSI，但不在webserver端组装内容，而是在http代理服务器上组装内容，包括反向代理。在处理只有局部更新动态内容时AJAX是更好的原则，它不依赖与底层webserver的实现，但ESI的优势在于再有多个后端服务器的情况下，变可以避免多个后端的重复组装，减少总工作量。