如何解决空数想据的缓存穿透?

3 天前
 ly901206

上周服务流量出现了一波高峰,db 查询流量从平时的 2k 左右增加到 1w 左右,看监控其中 4k 的查询结果都是 record not found ,我们服务使用了 local cache ,只缓存了能查询到的数据,目前自己能想到的优化方案有

  1. localcache 改造下,空数据也存起来
  2. 使用面试宝典解决这种问题的标准答案-布隆过滤器,使用 redis 自带的 redisbloom,将线上数据刷一遍进去,localcache 没命中的话,先查询下 redisbloom ,命中在查 db 。不过布隆过滤器我基本没在真实项目中见到过。

大家有什么方案推荐吗

1209 次点击
所在节点    数据库
21 条回复
ccw4wcc
3 天前
蹲一个答案,第一时间也是想到布隆过滤器,不过没有实战过
Edward4074
3 天前
redis 缓存,空数据也存个特殊标识,找个合适的地方统一判断这个特殊字符,返回空对象
coderxy
3 天前
实际业务中很简单就是把空数据也缓存起来就完事了。
luckyrayyy
3 天前
实际业务一般就是缓存空数据吧
coderzhangsan
3 天前
简单的办法,就是缓存这个空标识,设置个随机的缓存时间即可;布隆过滤器稍微繁琐点。
crysislinux
3 天前
缓存空数据就好了。应对攻击的话还是用 rate limit 配合日志风控比较好。引入布隆过滤器会创造更多的问题,我个人感觉这东西是不适合做业务的,主要是这种空数据的场景太多了,你不可能给每个地方都搞个布隆过滤器吧。
Kaiv2
3 天前
不查 db
chachi
3 天前
缓存空数据只能针对 F5 刷新
应对攻击还是要请求限制,不然都没用。
vacuitym
3 天前
布隆过滤,好几个项目在用,就是要初始化数据,这个场景还挺适合的
loveaeen
3 天前
存储空数据真有效吗,你的每个标识符我都只请求一次,让你缓存对应的空数据,再继续请求新的标识符,我完全不会命中你的空缓存。
Chinsung
3 天前
缓存空数据,存一个空对象或者特殊值,随机短时间几 s ,削峰就行
如果恶意请求的话(遍历值空间),就限流+监控告警( ip 维度),直接 banip ,因为限流但是不 banip 的话,正常用户也会被限流
fkdog
3 天前
难道不是优先排查缓存命中率低的原因吗?
是因为恶意遍历刷 id ,还是因为其他页面数据变动没及时更新导致访问失效链接?
dode
3 天前
布隆过滤器 应该可以吧
或者把所有查询失败的结果,放入布隆过滤器?
opengps
3 天前
空数想据 是啥?
happyxhw101
3 天前
布隆过滤器应该只能增加,不能修改、删除吧,另外,布隆过滤器也有一定的误判率,一定不存在,可能存在
ly901206
3 天前
@opengps 就比如获取用户设置的安全问题,用户就没设置,安全问题那张表就没数据
ly901206
3 天前
@loveaeen 这个不会的,在前面还有 accessstoken 校验的,用户只能查看自己的数据
zczy999
3 天前
如果不着急就用复杂的,正好实践一波布隆过滤器
sazima
3 天前
读到空数据, 往缓存里存一个特殊字符串, 比如__null_value__, 取数据的时候判断一下。
cobbage
3 天前
缓存不存在数据 给个特殊标识

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1088569

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX