如何解决空数想据的缓存穿透?

84 天前
yuanyao  yuanyao

上周服务流量出现了一波高峰,db 查询流量从平时的 2k 左右增加到 1w 左右,看监控其中 4k 的查询结果都是 record not found ,我们服务使用了 local cache ,只缓存了能查询到的数据,目前自己能想到的优化方案有

  1. localcache 改造下,空数据也存起来
  2. 使用面试宝典解决这种问题的标准答案-布隆过滤器,使用 redis 自带的 redisbloom,将线上数据刷一遍进去,localcache 没命中的话,先查询下 redisbloom ,命中在查 db 。不过布隆过滤器我基本没在真实项目中见到过。

大家有什么方案推荐吗

1843 次点击
所在节点   数据库  数据库
21 条回复
ccw4wcc
ccw4wcc
84 天前
蹲一个答案,第一时间也是想到布隆过滤器,不过没有实战过
Edward4074
Edward4074
84 天前
redis 缓存,空数据也存个特殊标识,找个合适的地方统一判断这个特殊字符,返回空对象
coderxy
coderxy
84 天前
实际业务中很简单就是把空数据也缓存起来就完事了。
luckyrayyy
luckyrayyy
84 天前
实际业务一般就是缓存空数据吧
coderzhangsan
coderzhangsan
84 天前
简单的办法,就是缓存这个空标识,设置个随机的缓存时间即可;布隆过滤器稍微繁琐点。
crysislinux
crysislinux
84 天前
缓存空数据就好了。应对攻击的话还是用 rate limit 配合日志风控比较好。引入布隆过滤器会创造更多的问题,我个人感觉这东西是不适合做业务的,主要是这种空数据的场景太多了,你不可能给每个地方都搞个布隆过滤器吧。
Kaiv2
Kaiv2
84 天前
不查 db
chachi
chachi
84 天前
缓存空数据只能针对 F5 刷新
应对攻击还是要请求限制,不然都没用。
vacuitym
vacuitym
84 天前
布隆过滤,好几个项目在用,就是要初始化数据,这个场景还挺适合的
loveaeen
loveaeen
84 天前
存储空数据真有效吗,你的每个标识符我都只请求一次,让你缓存对应的空数据,再继续请求新的标识符,我完全不会命中你的空缓存。
Chinsung
Chinsung
84 天前
缓存空数据,存一个空对象或者特殊值,随机短时间几 s ,削峰就行
如果恶意请求的话(遍历值空间),就限流+监控告警( ip 维度),直接 banip ,因为限流但是不 banip 的话,正常用户也会被限流
fkdog
fkdog
84 天前
难道不是优先排查缓存命中率低的原因吗?
是因为恶意遍历刷 id ,还是因为其他页面数据变动没及时更新导致访问失效链接?
dode
dode
84 天前
布隆过滤器 应该可以吧
或者把所有查询失败的结果,放入布隆过滤器?
opengps
opengps
84 天前
空数想据 是啥?
happyxhw101
happyxhw101
84 天前
布隆过滤器应该只能增加,不能修改、删除吧,另外,布隆过滤器也有一定的误判率,一定不存在,可能存在
yuanyao
yuanyao
84 天前
@opengps 就比如获取用户设置的安全问题,用户就没设置,安全问题那张表就没数据
yuanyao
yuanyao
84 天前
@loveaeen 这个不会的,在前面还有 accessstoken 校验的,用户只能查看自己的数据
zczy999
zczy999
84 天前
如果不着急就用复杂的,正好实践一波布隆过滤器
sazima
sazima
84 天前
读到空数据, 往缓存里存一个特殊字符串, 比如__null_value__, 取数据的时候判断一下。
cobbage
cobbage
84 天前
缓存不存在数据 给个特殊标识

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1088569

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX