聊聊高并发系统之HTTP缓存

3、nginx找到本地缓存了,首先验证文档是否过期(Cache-Control:max-age=5),如果过期则去后端获取最新的文档,并放入nginx本地缓存中,返回200状态码和最新的文档给浏览器；如果文档没有过期,如果If-Modified-Since与缓存文档的Last-Modified匹配,则返回300状态码给浏览器,否则返回200状态码和最新的文档给浏览器.

即内容不需要动态(计算、渲染等)速度更快,内容越接近于用户速度越快.像apache traffic server、squid、varnish、nginx等技术都可以来进行内容缓存.还有CDN就是用来加速用户访问的：

即用户首先访问到全国各地的CDN节点(使用如ATS、Squid实现),如果CDN没命中,会回源到中央nginx集群,该集群如果没有命中缓存(该集群的缓存不是必须的,要根据实际命中情况等决定),最后回源到后端应用集群.

像我们商品详情页的一些服务就大量使用了nginx缓存减少回源到后端的请求量,从而提升访问速度.可以参考《构建需求响应式亿级商品详情页》、《京东商品详情页服务闭环实践》和《应用多级缓存模式支撑海量读服务》.

nginx代理层缓存

http模块配置：

proxy_buffering?????????????? on;

proxy_buffer_size???????????? 4k;

proxy_buffers????????????????? 512 4k;

proxy_busy_buffers_size????? 64k;

proxy_cache_path???????????? /export/cache/proxy_cachelevels=1:2 keys_zone=cache:512m inactive=5m max_size=8g use_temp_path=off;

#proxy timeout

proxy_connect_timeout? 3s;

proxy_read_timeout???? 5s;

proxy_send_timeout???? 5s;

其中红色部分是proxy_cache_path指令相关配置：

levels=1:2 ：表示创建两级目录结构,比如/export/cache/proxy_cache/7/3c/,将所有文件放在一级目录结构中如果文件量很大会导致访问文件慢；

keys_zone=cache:512m ：设置存储所有缓存key和相关信息的共享内存区,1M大约能存储8000个key；

inactive=5m ：inactive指定被缓存的内容多久不被访问将从缓存中移除,以保证内容的新鲜；默认10分钟；

max_size=8g ：最大缓存阀值,“cachemanager”进程会监控最大缓存大小,当缓存达到该阀值,该进程将从缓存中移除最近最少使用的内容；

use_temp_path：如果为on,则内容首先被写入临时文件(proxy_temp_path?),然后重命名到proxy_cache_path指定的目录；如果设置为off,则内容直接被写入到proxy_cache_path指定的目录,如果需要cache建议off,该特性是1.7.10提供的.

location配置

location = /cache {

proxy_cache cache;

proxy_cache_key $scheme$proxy_host$request_uri;

proxy_cache_valid 200 5s;

proxy_pass http://backend_tomcat/cache$is_args$args;

add_header cache-status $upstream_cache_status;

}

缓存相关配置：

proxy_cache ：指定使用哪个共享内存区域存储缓存键和相关信息；

proxy_cache_key ：设置缓存使用的key,默认为访问的完整URL,根据实际情况设置缓存key；

proxy_cache_valid ：为不同的响应状态码设置缓存时间；如果是proxy_cache_valid 5s 则200、301、302响应将被缓存；

proxy_cache_valid

proxy_cache_valid不是唯一设置缓存时间的,还可以通过如下方式(优先级从上到下)：

1、以秒为单位的“X-Accel-Expires”响应头来设置响应缓存时间；

2、如果没有“X-Accel-Expires”,可以根据“Cache-Control”、“Expires”来设置响应缓存时间；

3、否则使用proxy_cache_valid设置的缓存时间；

如果响应头包含Cache-Control：private/no-cache/no-store、Set-Cookie或者只有一个Vary响应头且其值为*,则响应内容将不会被缓存.可以使用proxy_ignore_headers来忽略这些响应头.

add_headercache-status $upstream_cache_status在响应头中添加缓存命中的状态：

HIT：缓存命中了,直接返回缓存中内容,不回源到后端；

MISS：缓存没有命中,回源到后端获取最新的内容；

EXPIRED：缓存命中但过期了,回源到后端获取最新的内容；

UPDATING：缓存已过期但正在被别的nginx进程更新；配置了proxy_cache_use_staleupdating指令时会存在该状态；

STALE：缓存已过期,但因后端服务出现了问题(比如后端服务挂了)返回过期的响应；配置了如proxy_cache_use_stale error?timeout指令后会存在该状态；

REVALIDATED：启用proxy_cache_revalidate指令后,当缓存内容过期时nginx通过一次If-Modified-Since的请求头去验证缓存内容是否过期,此时会返回该状态；

BYPASS：proxy_cache_bypass指令有效时强制回源到后端获取内容,即使已经缓存了；

proxy_cache_min_uses

用于控制请求多少次后响应才被缓存；默认“proxy_cache_min_uses 1;”,如果缓存热点比较集中、存储有限,可以考虑修改该参数以减少缓存数量和写磁盘次数；

proxy_no_cache?

用于控制什么情况下响应将不被缓存；比如配置“proxy_no_cache $args_nocache”,如果带的参数值至少有一个不为空或者0,则响应将不被缓存；

proxy_cache_bypass

类似于proxy_no_cache,但是其控制什么情况不从缓存中获取内容,而是直接到后端获取内容；如果命中则$upstream_cache_status为BYPASS；

proxy_cache_use_stale

（编辑：常州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!