分析Redis中热点key存储问题,聊聊缓存异常的解决方法


本篇文章带大家聊聊redis中的三种常见缓存异常:缓存穿透、缓存击穿和缓存雪崩,通过它们来聊一聊redis中的热点key存储问题,希望对大家有所帮助!

分析Redis中热点key存储问题,聊聊缓存异常的解决方法

相关推荐:《一起分析Redis缓存一致性、缓存穿透、缓存击穿及缓存雪崩问题》

缓存穿透、缓存击穿和缓存雪崩是Redis面试当中和实际开发中,经常需要考虑的一个问题。很多人对该问题的产生、原因和解决方案还是不够清晰。其实大家针对该三种情况,去仔细分析一个产生的原理就能很好的找到一个好的解决方案。【相关推荐:Redis视频教程】

本文通过定义、案例、危害和解决方案的几个角度,来帮助你快速了解该三个问题。

相信大家在网上也看到很多解决这三种问题的解决方案,其中的一些方案是否是一个正确的方案呢?本文也将一一分析此类方案的优缺点。

下图为本文的内容大纲,文章也是围绕这几点进行分析与总结。

1.png

三者比较

  • 缓存穿透、缓存击穿和缓存雪崩都是因为缓存中数据不存在,导致走数据库去查询数据。

  • 由于缓存数据不存在,所有的请求都会走到数据库,因此会导致数据库的压力过大甚至出现服务崩溃,导致整个系统无法使用。

缓存穿透

定义:缓存穿透是由于客户端求的数据在缓存中不存在,然后去查询数据库,然而数据库没有客户端要查询的数据,导致每一次请求都会走数据库查询操作。真正的问题在于该数据本身就是不存在的。

举例:客户端请求商品详情信息时,携带一个商品ID,此时该商品ID是不存在的(不管是缓存中还是数据库中)。导致每一次请求该ID商品的数据信息都会走数据库。

危害:由于请求的参数对应的数据根本不存在,会导致每一次都会请求数据库,增加数据库的压力或者服务崩溃,更有甚至影响到其他的业务模块。经常发生在用户恶意请求的情况下会发生。

解决方案:

1、根据请求的参数缓存一个null值。并且为该值设置一个过期时间,可以将时间设置短暂一点。

2、使用布隆过滤器,首先通过布隆过滤器进行筛选,如果在过滤器中存在则去查询数据库,然后添加到缓存中。如果不存在则直接返回客户端数据不存在。

3、由于缓存穿透可能是用户发起恶意请求,可以将用户ip给记录下来,针对恶意的ip请求进行封禁。

方案分析:

  • 第一种方案,针对不存在的key,会缓存一个空的值。假设这样的请求特别多,是否都会一一去设置一个空值的缓存,此时Redis中就存在大量无效的缓存空值。假设这样的key是商品或者文章类的ID,我们在设置空值之后,如果后台添加数据应该去更新ID对应的缓存值,并设置一个合理的过期时间。

  • 第二种方案,也是业界使用最多的一种方案。布隆过滤器的优点在于基于Redis实现,内存操作并且底层的实现也是非常节约内存。 当后台添加数据成功时,将该数据的ID添加到布隆过滤器中,前端在请求时先走布隆过滤器进行验证是否存在。但布隆过滤器也存在一个弊端,就是hash冲突问题。这里的hash冲突是什么意思呢?就是说多个ID在进行hash计算时,得到的hash位都是同一个值,这就导致在验证是否存在时误判。本身是有的,得到的结果是没有。布隆过滤器的一个弊端就是,它说有并不一定有,它说没有就一点是没有的。

  • 第三种方案,针对同一用户一段时间内发起大量的请求,触发缓存穿透机制,此时我们可以显示该客户端的访问。但攻击者如果是发起DDOS这样的攻击,是没法完全的避免此类攻击,因此这种方案不是一个很好的解决方案。

方案总结:

  • 我们首先在请求层面增加第3中方案,做一个限流机制、IP黑名单机制,控制一些恶意的请求,如果是误判我们可以实现IP解封这样的操作。在缓存层则使用第1中方案实现。设置一个合理的缓存时间。

  • 对于能容忍误判的业务场景,可以直接才用第2中方案实现。完全基于Redis,减少了系统的复杂度。

缓存击穿

定义:缓存击穿是因为某个热点key不存在,导致走数据库查询。增加了数据库的压力。这种压力可能是瞬间的,也可能是比较持久的。真正的问题在于该key是存在,只是缓存中不存在,导致走数据库操作。

举例:有一个热门的商品,用户查看商品详情时携带商品的ID以获取到商品的详情信息。此时缓存中的数据已经过期了,因此来的所有请求都要走数据库去查询。

危害:相对缓存穿透而言,该数据在数据库中是存在的,只是因为缓存过期了,导致要走一次数据库,然后在添加到缓存中,下次请求就能正常走缓存。所谓的危害同样的还是针对数据库层面的危害。

解决方案:

1、加互斥锁。针对第一个请求,发现缓存中没有数据,此时查询数据库添加到缓存里面。这样后面的请求就不需要走数据库查询。

2、增加业务逻辑过期时间。在设置缓存时,我们可以添加一个缓存过期时间。每次去读取的时候,做一个判断,如果这个过期时间与当前时间小于一个范围,触发一个后台线程,去数据库拉取一下数据,接着更新一下缓存数据和缓存的过期时间。其实原理就是代码层面给缓存延长缓存时长。

3、数据预热。实现通过后台把数据添加到缓存里面。例如秒杀场景开始前,就把商品的库存添加到缓存里面,这样用户请求来了之后,就直接走缓存。

4、永久不过期。在给缓存设置过期时间时,让它永久不过期。后台单独开启一个线程,来维护这些缓存的过期时间和数据更新。

一览妙笔 一览妙笔

自媒体、编剧、营销人员写作工具

一览妙笔 50 查看详情 一览妙笔

方案分析:

  • 互斥锁保证了只有一个请求走数据库,这是一个优点。但是对于分布式的系统,得才用分布式锁实现,分布式锁的实现本身就有一定的难点,这样提升了系统的复杂度。

  • 第2种方案,利用Redis不过期,业务过期的方案实现。保证了每一次请求都能拿到数据,同时也可以做到一个后台线程去更新数据。缺点在于后台线程没有更新完数据,此时请求拿到的数据是旧数据,可能对应实时性要求高的业务场景存在弊端。

  • 第3种方案,使用缓存预热每次加载都走缓存,与第2种方案差不多。不过也存在热点数据更新问题,因此该方案适合数据实时性要求不高的数据。

  • 第4中方案,和第2、3种方案类似,在此基础上进行了一定优化,使用后台异步线程主动去更新缓存数据。难点在于更新的频率控制。

方案总结:

  • 对于实时性要求高的数据,推荐使用第1种方案,虽然在技术上有一定的难度但是能做到数据的实时性处理。如果发生某些请求等待时间久,可以返回异常,让客户端重新发送一次请求。

  • 对于实时性要求不高的数据,可以使用第4种方案。

缓存雪崩

定义:前面在说到缓存击穿,是因为缓存中的某个热点key失效,导致大量请求走数据库。然而缓存雪崩其实也是同样的道理,只不过这个更严重而已,是大部分缓存的key失效,而不是一个或者两个key失效。

举例:在一个电商系统中,某一个分类下的商品数据在缓存中都失效了。然而当前系统的很多请求都是该分类下面的商品数据。这样就导致所有的请求都走数据库查询。

危害:由于一瞬间大量的请求涌入,每一个请求都要走数据库进行查询。数据库瞬间流量涌入,严重增加数据库负担,很容易导致数据库直接瘫痪。

解决方案:

1、缓存时间随机。因为某一时间,大量的缓存失效,说明缓存的过期时间比较集中。我们直接将过期的时间设置为不集中,随机打乱。这样缓存过期时间相对不会很集中,就不会出现同一时刻大量请求走数据库进行查询操作。

2、多级缓存。不单纯的靠Redis来做缓存,我们也可以使用memcached来做缓存(这里只是举一个例子,其他的缓存服务也可以)。缓存数据时,对Redis做一个缓存,对memcached做一个缓存。如果Redis失效了,我们可以走memcached。

3、互斥锁。缓存击穿中我们提到了使用互斥锁来实现,同样我们也可以用在雪崩的情况下。

4、设置过期标志。其实也可以用到缓存击穿中讲到的永久不过期。当请求时,判断过期时间,如果临近过期时间则设置一个过期标志,触发一个独立的线程去对这个缓存进行更新。

方案分析:

  • 第1种方案采用随机数缓存时间,能保证key的失效时间分散。难点在于如何设置缓存时间,如果对于一些需要设置短缓存时间并数据量非常大的数据,该方案就需要合理的控制时间。

  • 第2种方案使用多级缓存,可以保证请求全部走缓存数据。但这样增加了系统的架构难度,以及其他的各种问题,例如缓存多级更新。

  • 第3种方案使用互斥锁,在缓存击穿中我们提到了互斥锁,在雪崩的场景中我们虽然能使用,但是这样会产生大量的分布式锁。

  • 第4种方案使用逻辑缓存时间,很好的保证了系统的缓存压力。

方案总结:

在实际的项目中推荐使用第1、2和4种方案试下会更好一些。

总结

  • 缓存穿透是因为数据库本身没有该数据。

  • 缓存击穿和缓存雪崩是数据库中存在该数据,只是缓存中的数据失效了,导致重新要查询一次数据库再添加到缓存中去。

  • 缓存击穿是针对部分热点key,而缓存雪崩是大面积缓存失效。两则原理上其实是一样的,无非就是针对缓存的key的划分不同而已。   

更多编程相关知识,请访问:编程入门!!

以上就是分析Redis中热点key存储问题,聊聊缓存异常的解决方法的详细内容,更多请关注其它相关文章!


# 我们可以  # 淮安网站推广优化  # b站代刷网站推广有用吗  # 想做seo学什么技术  # 英文b2b网站建设  # 搜狗的seo  # 小红书seo优化攻略  # 百度关键词热榜排名  # 网站排名优化技巧工具  # 河北进口网站建设推广  # wj网站优化  # redis  # 其他的  # 互斥  # 是因为  # 很好  # 要走  # 做一个  # 都是  # 客户端  # 不存在 


相关栏目: 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】


相关推荐: CSS动画如何实现图标旋转并放大_transform rotate scale @keyframes实现  百度网盘网页入口链接分享 百度网盘官网入口网页登录  支付宝如何解绑云闪付_支付宝与云闪付账户关联解除方法  如何用Golang优化微服务间请求性能_Golang 微服务请求性能优化方法  windows10怎么关闭自动安装应用_windows10禁止推广应用下载  汽水音乐官网网页版入口 汽水音乐官网网页版在线入口  店铺如何关联视频号推广?视频号推广有什么用?  告别繁琐SEO!如何使用SyliusSitemap插件自动化生成网站地图,提升搜索引擎排名  Sublime Text怎么关闭自动完成_Sublime禁用Auto Complete设置  视频号视频怎么免费保存到相册?保存到相册需要注意什么?  《咸鱼之王》新版孙坚技能解析  Scipy Sparse CSR 矩阵非零元素行级遍历的最佳实践  重返未来:1999卡戎全方位攻略  Excel如何制作月度销售统计图_Excel动态图表制作与控件应用  VS Code源代码管理(SCM)视图的进阶使用技巧  金牛福袋获取攻略  小红书如何引流到私信?引流到私信有用吗?  如何在CSS中使用absolute实现登录弹窗居中_transform translate结合  《一起考教师》账号注销方法  海外搜索引擎推广效果怎么样,怎么分析效果!  vivo云服务一直提示空间不足怎么办 怎么办vivo云服务老是提示空间不足  Python高效统计字典嵌套列表值在目标列表中的出现次数  汽水音乐车机版 汽水音乐车机版官方入口  铁路12306官网登录入口 铁路12306在线购票官方平台  Google Drive API 认证:服务账户与OAuth 2.0的选择与实践  Flash AS3.0简易相册制作  PHP与SQL实践:高效实现数据复制与特定列值修改  Mac怎么关闭按键声音_Mac键盘打字音效设置  Word 2003字体大小设置方法  哈尔滨城市通昵称修改方法  《360浏览器》自动保存账号密码设置方法  嘀嗒顺风车如何开具电子发票  解决Windows上Composer PATH变量冲突导致的命令无法识别问题  疯狂小鸟微信小游戏入口 疯狂小鸟网页版秒玩  《密马》发布账号方法  TikTok视频播放中断怎么办 TikTok播放异常修复方法  苹果手机如何清理系统缓存数据 iPhone非越狱清理垃圾文件的技巧【系统优化】  QQ网页版入口导航 QQ网页版在线访问通道  yy漫画官方网站登录入口_yy漫画在线阅读页面地址  偃武诸葛亮阵容搭配推荐  有道AI翻译入口 智能写作官方网站入口  mysql数据库索引类型有哪些_mysql索引类型解析  Sublime怎么配置YAML文件格式化_Sublime YAML Formatter插件教程  mysql中如何分析索引使用情况_mysql索引使用分析方法  PHP实现等比数列:构建数组元素基于前一个值递增的方法  AffinityDesigner图层蒙版怎么用_AffinityDesigner图层蒙版设计应用  天堂漫画网页版在线阅读 天堂漫画手机版入口  使用Python和NLTK从文本中高效提取名词的实用教程  苹果手机聊天记录删除了如何恢复  《微信》视频号原创声明开启方法 

 2022-05-19

了解您产品搜索量及市场趋势,制定营销计划

同行竞争及网站分析保障您的广告效果

点击免费数据支持

提交您的需求,1小时内享受我们的专业解答。

运城市盐湖区信雨科技有限公司


运城市盐湖区信雨科技有限公司

运城市盐湖区信雨科技有限公司是一家深耕海外推广领域十年的专业服务商,作为谷歌推广与Facebook广告全球合作伙伴,聚焦外贸企业出海痛点,以数字化营销为核心,提供一站式海外营销解决方案。公司凭借十年行业沉淀与平台官方资源加持,打破传统外贸获客壁垒,助力企业高效开拓全球市场,成为中小企业出海的可靠合作伙伴。

 8156699

 13765294890

 8156699@qq.com

Notice

We and selected third parties use cookies or similar technologies for technical purposes and, with your consent, for other purposes as specified in the cookie policy.
You can consent to the use of such technologies by closing this notice, by interacting with any link or button outside of this notice or by continuing to browse otherwise.