缓存穿透 & 缓存击穿 & 缓存雪崩
参考文档:
缓存穿透和缓存失效的预防和解决:https://blog.csdn.net/qq_16681169/article/details/75138876
缓存穿透
缓存穿透是指查询一个一定不存在的数据,由于缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了缓存的意义。在流量大时,可能DB就挂掉了,要是有人利用不存在的key频繁攻击我们的应用,这就是漏洞
解决方案
1.布隆过滤
对所有可能查询的参数以hash形式存储,在控制层先进行校验,不符合则丢弃。还有最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的bitmap中,一个一定不存在的数据会被这个bitmap拦截掉,从而避免了对底层存储系统的查询压力
2.缓存空对象
也可以采用一个更为简单粗暴的方法,如果一个查询返回的数据为空(不管是数 据不存在,还是系统故障),我们仍然把这个空结果进行缓存,但它的过期时间会很短,最长不超过五分钟
缓存空对象会有两个问题:
第一,空值做了缓存,意味着缓存层中存了更多的键,需要更多的内存空间 ( 如果是攻击,问题更严重 ),比较有效的方法是针对这类数据设置一个较短的过期时间,让其自动剔除。
第二,缓存层和存储层的数据会有一段时间窗口的不一致,可能会对业务有一定影响。例如过期时间设置为 5分钟,如果此时存储层添加了这个数据,那此段时间就会出现缓存层和存储层数据的不一致,此时可以利用消息系统或者其他方式清除掉缓存层中的空对象
缓存雪崩
如果缓存集中在一段时间内失效,发生大量的缓存穿透,所有的查询都落在数据库上,造成了缓存雪崩。
这个没有完美解决办法,但可以分析用户行为,尽量让失效时间点均匀分布。大多数系统设计者考虑用加锁或者队列的方式保证缓存的单线程(进程)写,从而避免失效时大量的并发请求落到底层存储系统上
解决方案
1.加锁排队
在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个key只允许一个线程查询数据和写缓存,其他线程等待。
业界比较常用的做法,是使用mutex。简单地来说,就是在缓存失效的时候(判断拿出来的值为空),不是立即去load db,而是先使用缓存工具的某些带成功操作返回值的操作(比如Redis的SETNX或者Memcache的ADD)去set一个mutex key,当操作返回成功时,再进行load db的操作并回设缓存;否则,就重试整个get缓存的方法
2.数据预热
可以通过缓存reload机制,预先去更新缓存,再即将发生大并发访问前手动触发加载缓存不同的key,设置不同的过期时间,让缓存失效的时间点尽量均匀
3.做二级缓存,或者双缓存策略
A1为原始缓存,A2为拷贝缓存,A1失效时,可以访问A2,A1缓存失效时间设置为短期,A2设置为长期
4.缓存永远不过期
这里的“永远不过期”包含两层意思:
(1) 从缓存上看,确实没有设置过期时间,这就保证了,不会出现热点key过期问题,也就是“物理”不过期。
(2) 从功能上看,如果不过期,那不就成静态的了吗?所以我们把过期时间存在key对应的value里,如果发现要过期了,通过一个后台的异步线程进行缓存的构建,也就是“逻辑”过期.
从实战看,这种方法对于性能非常友好,唯一不足的就是构建缓存时候,其余线程(非构建缓存的线程)可能访问的是老数据,但是对于一般的互联网功能来说这个还是可以忍受
5.缓存失效时间分散开
比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件
缓存击穿
对于一些设置了过期时间的key,如果这些key可能会在某些时间点被超高并发地访问,是一种非常“热点”的数据。这个时候,需要考虑一个问题:缓存被“击穿”的问题。这个和缓存雪崩的区别在于这里针对某一key缓存,前者则是很多key
解决方案同上(本质上都是缓存失效)
最新文章
- jQuery-1.9.1源码分析系列(一)整体架构
- centos 安装 python2.7 运行webpy 项目
- System.StackOverflowException的一个例子(转)
- vs2010 和vs2012的区别 副标题--Loaded事件走两次
- Ajax中get和post使用问题
- mysql索引的使用[下]
- 黄聪:PHP json_encode中文乱码解决方法
- 学习Java设计模式的10条建议
- iOS 隔离导航控制器
- CocoaPods简单使用
- 8月1日起,这些新政将影响移动互联网产业-b
- MYSQL的binary解决mysql数据大小写敏感问题 《转载》
- 关于#include后面<;>;和"; ";的区别
- Chapter 16_2 继承
- Linux批量清空当前目录中的日志文件
- thinkphp---Excel导入!
- P1880 [NOI1995]石子合并
- [Webpack] Externalize Dependencies to be Loaded via CDN with webpack
- POI导出
- 【转】DirectorySearcher.Filter属性说明
热门文章
- 【spring boot】spring boot 基于redis pipeline 管道,批量操作redis命令
- chrome(谷歌)浏览器字体发虚解决办法
- C# ??(两个问号)的表达式使用详解
- ASP.NET Core部署IIS问题总结
- ObjC: Foundation Kit
- 由MQTT topic的正则表达式匹配引发的特殊字符";/";匹配思考
- flask项目结构
- 【Tomcat】Web应用的目录结构
- 从零开始写Hystrix
- 06-numpy-笔记-shape