Redis
数据存放在内存中,需要配置持久化将数据保存在磁盘上,redis提供两种方式进行持久化:
1、RDB持久化(原理是将Reids在内存中的数据库记录定时dump到磁盘上的RDB持久化)
在指定的时间间隔内将内存中的数据集快照写入磁盘,实际操作过程是fork一个子进程(fork通过系统调用创建一个与原来进程几乎完全相同的进程)先将数据集写入临时文件,写入成功后,再替换之前的文件,用二进制压缩存储。
2、AOF(append only file)持久化(原理是将Reids的操作日志以追加的方式写入文件)
以日志的形式记录服务器所处理的每一个写、删除操作,查询操作不会记录,以文本的方式记录,可以打开文件看到详细的操作记录。
数据类型
1、string? 二进制安全的字符串? 最大512M
2、list? 按照添加顺序保持顺序的字符串列表
3、set? 无序的字符串集合,不存在重复元素
4、sort_set? 已排序的字符串集合
5、hash? key-value
6、bitmap?
7、hyperloglog? 基于概率的数据结构
缓存雪崩:
在某一个时间段,缓存集中过期失效。
事前:redis 高可用,主从+哨兵,redis cluster,避免全盘崩溃。
事中:本地 ehcache 缓存 + hystrix 限流&降级,避免 MySQL 被打死。
事后:redis 持久化,一旦重启,自动从磁盘上加载数据,快速恢复缓存数据。
缓存穿透:
是指查询一个数据库一定不存在的数据。
从数据库中只要没查到,就写一个空值到缓存里去。
然后设置一个过期时间,下次有相同的 key 来访问的时候,在缓存失效之前,都可以直接从缓存中取数据。
缓存击穿:
是指一个key非常热点,在不停的扛着大并发,大并发集中对这一个点进行访问,
当这个key在失效的瞬间,持续的大并发就穿破缓存,直接请求数据库,就像在一个屏障上凿开了一个洞。
将热点数据设置为永远不过期;或者基于 redis or zookeeper 实现互斥锁,
等待第一个请求构建完缓存之后,再释放锁,进而其它请求才能通过该 key 访问数据。
服务限流其实是指当系统资源不够,不足以应对大量请求,即系统资源与访问量出现矛盾的时候,
为了保证有限的资源能够正常服务,因此对系统按照预设的规则进行流量限制或功能限制的一种方法。
熔断:
系统出现问题时,如果短时间内无法修复,系统要自动做出判断,开启熔断开关,拒绝流量访问,
避免大流量对后端的过载请求。系统也应该能够动态监测后端程序的修复情况,
当程序已恢复稳定时,可以关闭熔断开关,恢复正常服务。
计数器方法:系统维护一个计数器,来一个请求就加1,请求处理完成就减1,当计数器大于指定的阈值(也可以动态阈值),就拒绝新的请求。
队列方法:基于FIFO队列,所有请求都进入队列,后端程序从队列中取出待处理的请求依次处理。(可以设置多个队列以配置不同的优先级)
令牌桶方法:基于一个队列,请求放到队列里面。但除了队列以外,还要设置一个令牌桶,另外有一个脚本以持续恒定的速度往令牌桶里面放令牌,
后端处理程序每处理一个请求就必须从桶里拿出一个令牌,如果令牌拿完了,那就不能处理请求了
服务降级:
将系统的所有功能服务进行一个分级,当系统出现问题,需要紧急限流时,
可将不是那么重要的功能进行降级处理,停止服务,这样可以释放出更多的资源供给核心功能的去用
Redis 主从架构
单机的 redis,能够承载的 QPS 大概就在上万到几万不等。对于缓存来说,一般都是用来支撑读高并发的。
因此架构做成主从(master-slave)架构,一主多从,主负责写,并且将数据复制到其它的 slave 节点,从节点负责读。
所有的读请求全部走从节点。这样也可以很轻松实现水平扩容,支撑读高并发。
redis replication -> 主从架构 -> 读写分离 -> 水平扩容支撑读高并发:
redis 采用异步方式复制数据到 slave 节点,一个 master node 是可以配置多个 slave node,建议必须开启 master node 的持久化.
当启动一个 slave node 的时候,它会发送一个 PSYNC 命令给 master node。
redis主从复制
如果这是 slave node 初次连接到 master node,那么会触发一次 full resynchronization 全量复制。
此时 master 会启动一个后台线程,开始生成一份 RDB 快照文件,
同时还会将从客户端 client 新收到的所有写命令缓存在内存中。
RDB 文件生成完毕后, master 会将这个 RDB 发送给 slave,slave 会先写入本地磁盘,
然后再从本地磁盘加载到内存中,接着 master 会将内存中缓存的写命令发送到 slave,slave 也会同步这些数据。