Redis缓存使用技巧和设计方案

缓存可以或许有用地加快利用的读写速率，同时也可以低落后端负载，对日常利用的开发至关紧张。下面会先容缓存使用技能和设计计划，包括如下内容：缓存的收益和本钱阐发、缓存更新策略的选择和使用处景、缓存粒度节制办法、穿透问题优化、无底洞问题优化、雪崩问题优化、热门key重修优化。

1）缓存的收益和本钱阐发

下图左侧为客户端直接挪用存储层的架构，右侧为比拟典型的缓存层+存储层架构。

下面阐发一下缓存参加后带来的收益和本钱。

收益：

①加快读写：由于缓存通常都是全内存的，而存储层通常读写机能不够刁悍（例如MySQL），经由过程缓存的使用可以有用地加快读写，优化用户体验。

②低落后端负载：赞助后端削减拜访量和繁杂计算（例如很繁杂的SQL语句），在很年夜水平低落了后真个负载。

本钱：

①数据纷歧致性：缓存层和存储层的数据存在着必定光阴窗口的纷歧致性，光阴窗口跟更新策略有关。

②代码维护本钱：参加缓存后，必要同时处置缓存层和存储层的逻辑，增年夜了开发者维护代码的本钱。

③运维本钱：以Redis Cluster为例，参加后无形中增长了运维本钱。

缓存的使用处景根本包括如下两种：

①开销年夜的繁杂计算：以MySQL为例子，一些繁杂的操作或者计算（例如年夜量联表操作、一些分组计算），假如不加缓存，不只无法满意高并发量，同时也会给MySQL带来伟大的负担。

②加快哀求相应：纵然查询单条后端数据足够快（例如select*from table where id=），那么依然可以使用缓存，以Redis为例子，每秒可以完成数万次读写，而且提供的批量操作可以优化整个IO链的相应光阴。

2）缓存更新策略

缓存中的数据会和数据源中的真实数据有一段光阴窗口的纷歧致，必要应用某些策略进行更新，下面会先容几种主要的缓存更新策略。

①LRU/LFU/FIFO算法剔除：剔除算法通常用于缓存使用量跨越了预设的最年夜值时刻，若何对现有的数据进行剔除。例如Redis使用maxmemory-policy这个设置装备摆设作为内存最年夜值后对付数据的剔除策略。

②超时剔除：经由过程给缓存数据设置过时光阴，让其在过时光阴后主动删除，例如Redis提供的expire敕令。假如营业可以容忍一段光阴内，缓存层数据和存储层数据纷歧致，那么可认为其设置过时光阴。在数据过时后，再从真实数据源获取数据，从新放到缓存并设置过时光阴。例如一个视频的描写信息，可以容忍几分钟内数据纷歧致，然则涉及生意业务方面的营业，效果可想而知。

③自动更新：利用方对付数据的同等性要求高，必要在真实数据更新后，立刻更新缓存数据。例如可以应用新闻体系或者其他方式关照缓存更新。

三种常见更新策略的对照：

有两个建议：

①低同等性营业建议设置装备摆设最年夜内存和镌汰策略的方式使用。

②高同等性营业可以联合使用超时剔除和自动更新，如许纵然自动更新出了问题，也能保证数据过时光阴后删除脏数据。

3）缓存粒度节制

缓存粒度问题是一个容易被轻忽的问题，假如使用欠妥，可能会造成许多无用空间的挥霍，收集带宽的挥霍，代码通用性较差等环境，必要综合数据通用性、空间占用比、代码维护性三点进行弃取。

缓存比拟常用的选型，缓存层选用Redis，存储层选用MySQL。

4）穿透优化

缓存穿透是指查询一个基本不存在的数据，缓存层和存储层都不会射中，通常出于容错的斟酌，假如从存储层查不到数据则不写入缓存层。

通常可以在法式中分离统计总挪用数、缓存层射中数、存储层射中数，假如发现年夜量存储层空射中，可能便是呈现了缓存穿透问题。造成缓存穿透的根本缘故原由有两个。第一，自身营业代码或者数据呈现问题，第二，一些恶意进击、爬虫等造成年夜量空射中。下面我们来看一下若何办理缓存穿透问题。

①缓存空工具：如图下所示，当第2步存储层不射中后，仍旧将空工具保存到缓存层中，之后再拜访这个数据将会从缓存中获取，如许就掩护了后端数据源。

缓存空工具会有两个问题：第一，空值做了缓存，意味着缓存层中存了更多的键，必要更多的内存空间（假如是进击，问题更严重），比拟有用的办法是针对这类数据设置一个较短的过时光阴，让其主动剔除。第二，缓存层和存储层的数据会有一段光阴窗口的纷歧致，可能会对营业有必定影响。例如过时光阴设置为5分钟，假如此时存储层添加了这个数据，那此段光阴就会呈现缓存层和存储层数据的纷歧致，此时可以应用新闻体系或者其他方式肃清失落缓存层中的空工具。

②布隆过滤器拦阻

如下图所示，在拜访缓存层和存储层之前，将存在的key用布隆过滤器提前保留起来，做第一层拦阻。例如：一个保举体系有4亿个用户id，每个小时算法工程师会依据每个用户之前汗青行动计算出保举数据放到存储层中，然则最新的用户因为没有汗青行动，就会产生缓存穿透的行动，为此可以将所有保举数据的用户做成布隆过滤器。假如布隆过滤器以为该用户id不存在，那么就不会拜访存储层，在必定水平掩护了存储层。

缓存空工具和布隆过滤器计划对照

另：布隆过滤器简单阐明：

假如想断定一个元素是不是在一个聚拢里，一样平常想到的是将聚拢中所有元素保留起来，然后经由过程比拟肯定。链表、树、散列表（又叫哈希表，Hash table）等等数据布局都是这种思绪。然则跟着聚拢中元素的增长，我们必要的存储空间越来越年夜。同时检索速率也越来越慢。

Bloom Filter 是一种空间效力很高的随机数据布局，Bloom filter 可以看作是对 bit-map 的扩大, 它的原理是：

当一个元素被参加聚拢时，经由过程 K 个 Hash 函数将这个元素映射成一个位阵列（Bit array）中的 K 个点，把它们置为 1。检索时，我们只要看看这些点是不是都是 1 就（年夜约）知道聚拢中有没有它了：

假如这些点有任何一个 0，则被检索元素必定不在；假如都是 1，则被检索元素很可能在。

5）无底洞优化

为了满意营业必要可能会添加年夜量新的缓存节点，然则发现机能不只没有好转反而降落了。用一句普通的话解释便是，更多的节点不代表更高的机能，所谓“无底洞”便是说投入越多纷歧定产出越多。然则散布式又是弗成以避免的，由于拜访量和数据量越来越年夜，一个节点基本扛不住，以是若何高效地在散布式缓存中批量操作是一个难点。

无底洞问题阐发：

①客户端一次批量操作会涉及多次收集操作，也就意味着批量操作会跟着节点的增多，耗时会赓续增年夜。

②收集衔接数变多，对节点的机能也有必定影响。

若何在散布式前提下优化批量操作。我们来看一下常见的IO优化思绪：

敕令自己的优化，例如优化SQL语句等。

削减收集通讯次数。

低落接入本钱，例如客户端使用长连/衔接池、NIO等。

这里我们假设敕令、客户端衔接已经为最优，重点讨论削减收集操作次数。下面我们将联合Redis Cluster的一些特征对四种散布式的批量操作方式进行阐明。

①串行敕令：因为n个key是比拟平均地散布在Redis Cluster的各个节点上，是以无法使用mget敕令一次性获取，以是通常来讲要获取n个key的值，最简单的办法便是逐次执行n个get敕令，这种操作光阴繁杂度较高，它的操作光阴=n次收集光阴+n次敕令光阴，收集次数是n。很显然这种计划不是最优的，然则实现起来比拟简单。

②串行IO：Redis Cluster使用CRC16算法计算出散列值，再取对16383的余数就可以算出slot值，同时Smart客户端会保留slot和节点的对应关系，有了这两个数据就可以将属于统一个节点的key进行归档，获得每个节点的key子列表，之后对每个节点执行mget或者Pipeline操作，它的操作光阴=node次收集光阴+n次敕令光阴，收集次数是node的个数，整个进程如下图所示，很显著这种计划比第一种要好许多，然则假如节点数太多，照样有必定的机能问题。

③并行IO：此计划是将计划2中的末了一步改为多线程执行，收集次数固然照样节点个数，但因为使用多线程收集光阴变为O（1），这种计划会增长编程的繁杂度。

④hash_tag实现：Redis Cluster的hash_tag功效，它可以将多个key强制分派到一个节点上，它的操作光阴=1次收集光阴+n次敕令光阴。

四种批量操作办理计划对照

6）雪崩优化

缓存雪崩：因为缓存层承载着年夜量哀求，有用地掩护了存储层，然则假如缓存层因为某些缘故原由不克不及提供服务，于是所有的哀求都邑到达存储层，存储层的挪用量会暴增，造成存储层也会级联宕机的环境。

预防息争决缓存雪崩问题，可以从以下三个方面进行动手：

①保证缓存层服务高可用性。假如缓存层设计成高可用的，纵然个体节点、个体机械、乃至是机房宕失落，依然可以提供服务，例如前面先容过的Redis Sentinel和Redis Cluster都实现了高可用。

②依附隔离组件为后端限流并降级。在现实项目中，我们必要对紧张的资本（例如Redis、MySQL、HBase、外部接口）都进行隔离，让每种资本都零丁运行在本身的线程池中，纵然个体资本呈现了问题，对其他服务没有影响。然则线程池若何治理，好比若何封闭资本池、开启资本池、资本池阈值治理，这些做起来照样相称繁杂的。

③提前练习训练。在项目上线前，练习训练缓存层宕失落后，利用以及后真个负载环境以及可能呈现的问题，在此根基上做一些预案设定。

7）热门key重修优化

开发职员使用“缓存+过时光阴”的策略既可以加快数据读写，又保证数据的按期更新，这种模式根本可以或许满意绝年夜部门需求。然则有两个问题假如同时呈现，可能就会对利用造成致命的伤害：

当前key是一个热门key（例如一个热点的娱乐消息），并发量异常年夜。

重修缓存不克不及在短光阴内完成，可能是一个繁杂计算，例如繁杂的SQL、多次IO、多个依附等。在缓存失效的刹时，有年夜量线程来重修缓存，造成后端负载加年夜，乃至可能会让利用瓦解。

要办理这个问题也不是很繁杂，然则不克不及为相识决这个问题给体系带来更多的麻烦，以是必要订定如下目的：

削减重修缓存的次数

数据尽可能同等。

较少的潜在危险

①互斥锁：此办法只容许一个线程重修缓存，其他线程期待重修缓存的线程执行完毕，从新从缓存获取数据即可，整个进程如图所示。

下面代码使用Redis的setnx敕令实现上述功效：

1）从Redis获取数据，假如值不为空，则直接返回值；不然执行下面的2.1）和2.2）步调。

2.1）假如set（nx和ex）成果为true，阐明此时没有其他线程重修缓存，那么当火线程执行缓存构建逻辑。

2.2）假如set（nx和ex）成果为false，阐明此时已经有其他线程正在执行构建缓存的事情，那么当火线程将苏息指准时间（例如这里是50毫秒，取决于构建缓存的速率）后，从新执行函数，直到获取到数据。

②永久不外期

“永久不外期”包括两层意思：

从缓存层面来看，确切没有设置过时光阴，以是不会呈现热门key过时后发生的问题，也便是“物理”不外期。

从功效层面来看，为每个value设置一个逻辑过时光阴，当发现跨越逻辑过时光阴后，会使用零丁的线程去构建缓存。

从实战看，此办法有用杜绝了热门key发生的问题，但独一不敷的便是重构缓存时代，会呈现数据纷歧致的环境，这取决于利用方是否容忍这种纷歧致。

两种热门key的办理办法

谈谈架构的本色和架构分类

Redis根基、高档特征与机能调优

一步步实现 Redis 搜刮引擎

下一代散布式系统架构的理念与演进

体系架构机能问题诊断及优化思绪

伴鱼年夜数据权限体系的设计与实现

亿级用户中心的设计与实践

免责声明：

本"大众号部门分享的材料来自收集网络和整顿，所有笔墨和图片版权归属于原作者所有，且仅代表作者小我概念，与本"大众号无关，文章仅供读者进修交流使用，并请自行核实相关内容，如文章内容涉及侵权，请接洽后台治理员删除。