Redis高可用主从复制
Redis支持主从复制功能,可以通过执行slaveof(Redis5以后改成replicaof)或者在配置文件中设置slaveof(Redis5以后改成replicaof)来开启复制功能。
主对外从对内,主可写从不可写
主挂了,从不可为主
主从配置
主Redis配置
无需特殊配置
从Redis配置
修改从服务器上的 redis.conf 文件:
1 | # slaveof <masterip> <masterport> |
作用
读写分离
一主多从,主从同步
主负责写,从负责读
提升Redis的性能和吞吐量
主从的数据一致性问题
数据容灾
从机是主机的备份
主机宕机,从机可读不可写
默认情况下主机宕机后,从机不可为主机
利用哨兵可以实现主从切换,做到高可用
原理与实现
复制流程
-
保存主节点信息
当客户端向从服务器发送slaveof(replicaof) 主机地址(127.0.0.1) 端口(6379)时:从服务器将主机ip(127.0.0.1)和端口(6379)保存到redisServer的masterhost和masterport中。
1
2
3
4Struct redisServer{
char *masterhost;//主服务器ip
int masterport;//主服务器端口
};从服务器将向发送SLAVEOF命令的客户端返回OK,表示复制指令已经被接收,而实际上复制工作是在OK返回之后进行。
-
建立socket连接
slaver与master建立socket连接
slaver关联文件事件处理器
该处理器接收RDB文件(全量复制)、接收Master传播来的写命令(增量复制)
主服务器accept从服务器Socket连接后,创建相应的客户端状态。相当于从服务器是主服务器的Client端。
-
发送ping命令
-
Slaver向Master发送ping命令
-
1、检测socket的读写状态
-
2、检测Master能否正常处理
-
-
Master的响应
-
1、发送“pong” , 说明正常
-
2、返回错误,说明Master不正常
-
3、timeout,说明网络超时
-
-
-
权限验证
主从正常连接后,进行权限验证
主未设置密码(requirepass=“”) ,从也不用设置密码(masterauth=“”)
主设置密码(requirepass!=“”),从需要设置密码(masterauth=主的requirepass的值)或者从通过auth命令向主发送密码
-
发送端口信息
在身份验证步骤之后,从服务器将执行命令REPLCONF listening-port ,向主服务器发送从服务器的监听端口号。
-
同步数据
Redis 2.8之后分为全量同步和增量同步,具体的后面详细讲解。
-
命令传播
当同步数据完成后,主从服务器就会进入命令传播阶段,主服务器只要将自己执行的写命令发送给从服务器,而从服务器只要一直执行并接收主服务器发来的写命令。
同步数据集
Redis 2.8以前使用SYNC命令同步复制。
Redis 2.8之后采用PSYNC命令替代SYNC。
旧版本
Redis 2.8以前实现方式。
Redis的同步功能分为同步(sync)和命令传播(command propagate)。
-
同步操作
-
通过从服务器发送到SYNC命令给主服务器
-
主服务器生成RDB文件并发送给从服务器,同时发送保存所有写命令给从服务器
-
从服务器清空之前数据并执行解释RDB文件
-
保持数据一致(还需要命令传播过程才能保持一致)
-
-
命令传播操作
同步操作完成后,主服务器执行写命令,该命令发送给从服务器并执行,使主从保存一致。
-
缺陷
没有全量同步和增量同步的概念,从服务器在同步时,会清空所有数据。
主从服务器断线后重复制,主服务器会重新生成RDB文件和重新记录缓冲区的所有命令,并全量同步到从服务器上。
新版
Redis 2.8以后实现方式
在Redis 2.8之后使用PSYNC命令,具备完整重同步和部分重同步模式。
Redis 的主从同步,分为全量同步和增量同步。
只有从机第一次连接上主机是全量同步,断线重连有可能触发全量同步也有可能是增量同步( master 判断 runid 是否一致),除此之外的情况都是增量同步。
-
全量同步
Redis 的全量同步过程主要分三个阶段:
-
同步快照阶段: Master 创建并发送快照RDB给 Slave , Slave 载入并解析快照。 Master 同时将此阶段所产生的新的写命令存储到缓冲区。
-
同步写缓冲阶段: Master 向 Slave 同步存储在缓冲区的写操作命令。
-
同步增量阶段: Master 向 Slave 同步写操作命令。
-
-
增量同步
Redis增量同步主要指Slave完成初始化后开始正常工作时, Master 发生的写操作同步到 Slave 的过程。
通常情况下, Master 每执行一个写命令就会向 Slave 发送相同的写命令,然后 Slave 接收并执行。
心跳检测
在命令传播阶段,从服务器默认会以每秒一次的频率向主服务器发送命令:
1 | replconf ack <replication_offset> |
主要作用有三个:
-
- 检测主从的连接状态
检测主从服务器的网络连接状态
通过向主服务器发送INFO replication命令,可以列出从服务器列表,可以看出从最后一次向主发送命令距离现在过了多少秒。lag的值应该在0或1之间跳动,如果超过1则说明主从之间的连接有故障。
-
- 辅助实现min-slaves
Redis可以通过配置防止主服务器在不安全的情况下执行写命令
1
2
3min-slaves-to-write 3 (min-replicas-to-write 3 )
min-slaves-max-lag 10 (min-replicas-max-lag 10)上面的配置表示:从服务器的数量少于3个,或者三个从服务器的延迟(lag)值都大于或等于10秒时,主服务器将拒绝执行写命令。这里的延迟值就是上面INFOreplication命令的lag值。
-
- 检测命令丢失
如果因为网络故障,主服务器传播给从服务器的写命令在半路丢失,那么当从服务器向主服务器发送REPLCONF ACK命令时,主服务器将发觉从服务器当前的复制偏移量少于自己的复制偏移量,然后主服务器就会根据从服务器提交的复制偏移量,在复制积压缓冲区里面找到从服务器缺少的数据,并将这些数据重新发送给从服务器。(补发) 网络不断
增量同步:网断了,再次连接时