标签：文件 架构 AOF Redis 命令 aof 快照 主从
Redis持久化
RDB快照
默认情况下，Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中。 你可以对Redis进行设置，让它在“N秒内数据至少有M个改动”这一条件被满足时，自动保存一次数据集。 比如说，以下设置会让Redis在满足“60秒内有至少有1000个键被改动”这一条件时，自动保存一次数据库集。save 60 1000还可以手动执行命令生成RDB快照，进入redis客户端执行命令save和bgsave可以生成dump.rdb文件，每次命令执行都会将所有redis内存快照到一个新的rdb文件里，并覆盖原有rdb快照文件。
bgsave的写时复制(COW)机制
Redis借助操作系统提供的写时复制技术（Copy-On-Write，COW），在生成快照的同时，依然可以正常处理写命令。简单来说，bgsave子进程是由主线程fork生成的，可以共享主线程的所有内存数据。bgsave子进程和bgsave子进程互相不影响。但是，如果主线程要修改一块数据，那么，这块数据就会被复制一份，生成该数据的副本。然后，bgsave子进程会把这个副本数据写入RDB文件，而在这个过程中，主线程依然可以直接修改原来的数据。 save与bgsave| 命令 | save | bgsave |
| IO类型 | 同步 | 异步 |
| 是否阻塞redis其他命令 | 是 | 否（在生成子进程执行调用fork函数时会有短暂阻塞） |
| 复杂度 | O(n) | O(n) |
| 优点 | 不会消耗额外内存 | 不阻塞客户端命令 |
| 缺点 | 阻塞客户端命令 | 需要fork子进程，消耗内存 |
AOF（append-only file）
快照功能并不是非常耐久（durable）：如果Redis因为某些原因而造成故障停机，那么服务器将丢失最近写入、且仍未保存到快照的那些数据。从1.1版本开始，Redis增加了一种完全耐久的持久化方式：AOF持久化，将修改的每一条指令记录进文件appendonly.aof(先写入os cache，每隔一段时间fsync到磁盘)。 你可以通过修改配置文件来打开AOF功能：#appendonly yes
从现在开始，每当Redis执行一个改变数据集的命令时（比如SET），这个命令就会被追加到AOF文件的末尾。 这样的话，当Redis重新启动时，程序就可以通过重新执行AOF文件中的命令来达到重建数据集的目的。 你可以配置Redis多久才将数据fsync到磁盘一次。 有三个选项：
appendfsync always:每次有新命令追加到AOF文件时就执行一次fsync，非常慢，也非常安全 appendfsync everysec:每秒fsync一次，足够快，并且在故障时只会丢失1秒的数据
appendfsync no:从不fsync，将数据交给操作系统来处理。更快，也更不安全的选择。
推荐的措施为everysec，可兼顾速度和安全性。
AOF重写
AOF文件里可能有太多没用的指令，所以AOF会定期根据内存的最新数据生成aof文件。 例如，执行了如下命令：127.0.0.1:6379> incr readcount (integer) 1 127.0.0.1:6379> incr readcount (integer) 2 127.0.0.1:6379> incr readcount (integer) 3 127.0.0.1:6379> incr readcount (integer) 4 127.0.0.1:6379> incr readcount (integer) 5
重写AOF文件里变成：
*3 $3 SET $2 readcount $1 5
如下两个配置可以控制AOF自动重写频率：
#aof文件至少要达到64M才会自动重写，文件太小恢复速度本来就快，重写意义不大 #auto-aof-rewrite-min-size 64mb #aof文件自动上一次重写后文件大小增长了100%则再次触发重写 #aof-aof-rewrite-percentage 100
当然，AOF还可以手动重写，进入redis客户端执行命令bgrewriteaof重写AOF。
注意：AOF重写redis会fork出一个子进程去做（与bgsave命令类似），不会对redis正常命令处理有太多的影响。
RDB与AOF的选择
| 命令 | RDB | AOF |
| 启动优先级 | 低 | 高 |
| 体积 | 小 | 大 |
| 恢复速度 | 快 | 慢 |
| 数据安全性 | 容易丢数据 | 根据策略决定 |
生产环境都可以启用，redis启动时如果既有rdb文件又有aof文件则会优先选择aof文件恢复数据，因为aof一般来说数据更安全一点。
Redis4.0混合持久化
重启Redis时，我们很少使用RDB来恢复内存状态，因为会丢失大量数据。我们通常使用AOF重放，但是重放AOF日志性能相对RDB来说要慢很多，这样在Redis示例很大的情况下，启动需要花费很长的时间。Redis4.0为了解决这个问题，带来了一个新的持久化选项——混合持久化。
通过如下配置可以开启混合持久化（必须先开启AOF）：
# aof-use-rdb-preamble yes
如果开启了混合持久化，AOF在重写时，不再是单纯的将内存数据转换为RESP命令写入AOF文件，而是将重写这一刻之前的内存做RDB快照处理，并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起，都写入新的AOF文件，新的文件一开始不叫appendonly.aof，等到重写完新的AOF文件才会进行改名，覆盖原有的AOF文件，完成新旧两个AOF文件的替换。
于是Redis重启的时候，可以先加载RDB的内容，然后再重放增量AOF日志就可以完全替代之前的AOF全量文件重放，因此重启效率大幅得到提升。
Redis数据备份策略
- 写crontab定时调度脚本，每小时都copy一份rdb或aof的备份到一个目录中去，仅仅保留最近48小时的备份。
- 每天都保存一份当日的数据备份到一个目录中去，可以保留近1个月的备份。
- 每天晚上将当前机器声的备份复制到其他机器上，以防机器损坏。
Redis主从架构
Redis主从工作原理
如果你为master配置了一个slave，不管这个slave是否是第一次连接上Master，他都会发送一个PSYNC命令给master请求复制数据。master收到PSYNC命令后，会在后台进行数据持久化通过bgsave生成最新的rdb快照文件，持久化期间，master会继续接收客户端的请求，它会把这些可能修改数据集的请求缓存在内存中。当持久化进行完毕后，master会把这份rdb文件数据集发送给slave，slave会把接收到的数据进行持久化生成rdb，然后再加载到内存中。然后，master再将之前缓存在内存中的命令发送给slave。
当master与slave之间的连接由于某些原因而断开时，slave能够自动重连master，如果master收到了多个slave并发连接请求，它只会进行一次持久化，而不是一个连接一次，然后再把这一份持久化的数据发送给多个并发连接的salve。
如果有很多从节点，为了缓解主从复制风暴（多个从节点同时复制主节点导致主节点压力过大），可以做如下架构，让部分从节点与从节点（与主节点同步）同步数据。
主从复制流程图：
全量复制
部分复制
管道（Pipeline）
客户端可以一次性发送多个请求而不用等待服务器的响应，待所有命令都发送完后再一次性读取服务的响应，这样可以极大的降低多条命令执行的网络传输开销，管道执行多条命令的网络开销实际上只相当于一次命令执行的网络开销。需要注意到是用pipiline方式打包命令发送，redis必须在处理完所有命令先前缓存起所有命令的处理结果。打包的命令越多，缓存消耗内存也越多。所以并不是打包的命令越多越好。
pipeline中发送的每个command都会被server立即执行，如果执行失败，将会在此后的响应中得到信息；也就是pipeline并不是表达“所有command都一起成功”的语义，管道中命令失败，后面命令不会有影响，继续执行。
标签：文件,架构,AOF,Redis,命令,aof,快照,主从 来源： https://www.cnblogs.com/maxiangzhao/p/15366896.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。