搭建哨兵集群

1.集群结构

Redis提供了哨兵（Sentinel）机制来实现主从集群的自动故障恢复。哨兵的结构和作用如下：

1.1哨兵的作用

  • 监控：Sentinel 会不断检查您的master和slave是否按预期工作

  • 自动故障恢复：如果master故障，Sentinel会将一个slave提升为master。当故障实例恢复后也以新的master为主

  • 通知：Sentinel充当Redis客户端的服务发现来源，当集群发生故障转移时，会将最新信息推送给Redis的客户端

1.2服务状态监控

Sentinel基于心跳机制监测服务状态，每隔1秒向集群的每个实例发送ping命令：

  • 主观下线：如果某sentinel节点发现某实例未在规定时间响应，则认为该实例主观下线。
  • 客观下线：若超过指定数量（quorum）的sentinel都认为该实例主观下线，则该实例客观下线。quorum值最好超过Sentinel实例数量的一半。

1.3选举新的master

一旦发现master故障，sentinel需要在salve中选择一个作为新的master，选择依据是这样的：

  • 首先会判断slave节点与master节点断开时间长短，如果超过指定值（down-after-milliseconds * 10）则会排除该slave节点
  • 然后判断slave节点的slave-priority值，越小优先级越高，如果是0则永不参与选举
  • 如果slave-prority一样，则判断slave节点的offset值，越大说明数据越新，优先级越高
  • 最后是判断slave节点的运行id大小，越小优先级越高。

1.2如何实现故障转移

  • sentinel给备选的slave1节点发送slaveof no one命令，让该节点成为master
  • sentinel给所有其它slave发送slaveof 192.168.237.131 7002 命令，让这些slave成为新master的从节点，开始从新的master上同步数据。
  • 最后，sentinel将故障节点标记为slave，当故障节点恢复后会自动成为新的master的slave节点

这里我们搭建一个三节点形成的Sentinel集群，来监管之前的Redis主从集群。如图：

image-20210701215227018

三个sentinel实例信息如下：

节点 IP PORT
s1 192.168.237.131 27001
s2 192.168.237.131 27002
s3 192.168.237.131 27003

2.准备实例和配置

要在同一台虚拟机开启3个实例，必须准备三份不同的配置文件和目录，配置文件所在目录也就是工作目录。

我们创建三个文件夹，名字分别叫s1、s2、s3：

1
2
# 在usr/local/redis-colony文件夹内创建目录
mkdir s1 s2 s3

如图：

image-20221105170909619

然后我们在s1目录创建一个sentinel.conf文件，添加下面的内容：

1
2
3
4
5
6
port 27001
sentinel announce-ip 192.168.237.131
sentinel monitor mymaster 192.168.237.131 7001 2
sentinel down-after-milliseconds mymaster 5000
sentinel failover-timeout mymaster 60000
dir "/usr/local/redis-colony/s1"

解读：

  • port 27001：是当前sentinel实例的端口
  • sentinel monitor mymaster 192.168.237.131 7001 2：指定主节点信息
    • mymaster：主节点名称，自定义，任意写
    • 192.168.237.131 7001：主节点的ip和端口
    • 2：选举master时的quorum值，此时配了3台sentinel，有两台以上就认为挂了

然后将s1/sentinel.conf文件拷贝到s2、s3两个目录中：

1
2
3
4
5
# 方式一：逐个拷贝
cp s1/sentinel.conf s2
cp s1/sentinel.conf s3
# 方式二：管道组合命令，一键拷贝
echo s2 s3 | xargs -t -n 1 cp s1/sentinel.conf

修改s2、s3两个文件夹内的配置文件，将端口分别修改为27002、27003：

1
2
sed -i -e 's/27001/27002/g' -e 's/s1/s2/g' s2/sentinel.conf
sed -i -e 's/27001/27003/g' -e 's/s1/s3/g' s3/sentinel.conf

3.启动

先启动redis主从集群

7002

image-20221105190006728

7003

image-20221105190038169

为了方便查看日志，我们打开3个ssh窗口，分别启动3个redis实例，启动命令：

1
2
3
redis-sentinel s1/sentinel.conf
redis-sentinel s2/sentinel.conf
redis-sentinel s3/sentinel.conf

启动后：

image-20221105181013812

image-20221105181040781

image-20221105181059522

3.4.测试

尝试让master节点7001宕机

image-20221105181244740

查看sentinel27002的日志：

image-20221105190717411

  1. 第一行，+sdown，sentinel主观认为7001下线
  2. 第三行，+vote-for-leader，sentinel选出一个leader，选出的sentinel实例去执行故障切换
  3. 第四行，+odown，quorum达标，sentinel客观认为7001下线
  4. 第七行，+switch-master，选7003为新的master

查看27003的日志：

image-20221105190809034

查看7002的日志：

image-20221105190856348

  1. 第一行，7002与其主机7001之间的连接断开
  2. 第三行，由于sentinel实例执行了故障切换，把7003选举为新的master，所以自动更改7002的配置
  3. 第四行，Connecting to master 192.168.237.131:7003 建立7002与其新master7003之间的连接
  4. 第八行，Trying a partial…，重新执行数据同步psync

查看7003的日志

image-20221105190927905