缓存风暴实验室

把视频平台的请求送进缓存闸门,看看数据库会不会被冲垮。

这是帮助理解因果关系的简化估算,不代表生产环境的精确容量结论。

机房控制台

一百三万
全部落库全部命中
五毫秒五百毫秒
同时到期充分打散
空值缓存 记住“不存在”,拦住重复查库
请求合并 同一内容只放一个请求去回源

视频机房流量剖面常规内容访问

观众请求

每秒进入视频详情页的请求

缓存闸门

每秒在缓存中直接得到结果

数据库机柜

每秒真正打到数据库的请求

数据库请求数 每秒估算值
等待请求数 每秒在闸门或数据库前排队
风险等级 平稳 机柜负载尚有余量

缓存接住了大多数请求,数据库只处理少量未命中,队列很短。

估算口径:假设数据库同时可处理二十四个查询;等待数同时计入数据库超载队列,以及开启请求合并后在缓存闸门前短暂等待的同内容请求。