Redis中主从复制、哨兵、集群的示例分析
这篇文章将为大家详细讲解有关Redis中主从复制、哨兵、集群的示例分析,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
一、Redis 主从复制1. 主从复制的概述
主从复制,是指将一台服务器的数据,复制到其他的Redis服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点。
默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点,但一个从节点只能有一个主节点。【相关推荐:Redis视频教程】
2. 主从复制的作用
● 数据冗余
:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
● 故障恢复
:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
● 负载均衡
:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;有其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
● 高可用基石
:除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础。
3. 主从复制的流程
(1)若启动一个Slave机器进程,则它会向Master机器发送一个“sync command”命令,请求同步连接。
(2)无论是第一次连接还是重新连接,Master机器都会启动一个后台进程,将数据快照保存到数据文件中(执行rdb操作),同时Master还会记录修改数据的所有命令并缓存在数据文件中。
(3)后台进程完成缓存操作之后,Master机器就会向Slave机器发送数据文件,Slave端机器将数据文件保存到硬盘上,然后将其加载到内存中,接着Master机器就会将修改数据的所有操作一并发送给Slave端机器。若Slave出现故障导致宕机,则恢复正常会自动重新连接。
(4)Master机器收到Slave端机器的连接后,将其完整的数据文件发送给Slave端机器,如果Master同时收到多个Slave发来的同步请求,则Master会在后台启动一个进程以保存数据文件,然后将其发送给所有的Slave端机器,确保所有的Slave端机器都正常。
4. 搭建Redis主从复制
4.1 服务器IP配置
4.2 各服务器防火墙环境
systemctlstopfirewalld&&systemctldisablefirewalldsetenforce0
4.3 各服务器安装Redis
redis 安装详见往期博客:
NoSQL 之 redis 详解
传入安装包到/opt目录yuminstall-ygccgcc-c++maketarzxvfredis-5.0.7.tar.gz-C/opt/cd/opt/redis-5.0.7/makemakePREFIX=/usr/local/redisinstallcd/opt/redis-5.0.7/utils./install_server.sh......Pleaseselecttheredisexecutablepath[]#输入/uar/local/redis/bin/redis-serverln-s/usr/local/redis/bin/*/usr/local/bin/
4.4 修改Redis配置文件(Master节点操作)
Master:192.168.122.10
[root@master~]#vim/etc/redis/6379.conf##70行,修改监听地址为0.0.0.0,表示监听任何地址bind0.0.0.0##137行,开启守护进程daemonizeyes##172行,指定日志文件目录logfile/var/log/redis_6379.log##264行,指定工作日志dir/var/lib/redis/6379##700行,开启AOF持久化功能appendonlyyes
4.5 修改Redis配置文件(Slave节点操作)
Slave1:192.168.122.11
[root@slave1utils]#vim/etc/redis/6379.conf##70行,修改监听地址为0.0.0.0,表示监听任何地址bind0.0.0.0##137行,开启守护进程daemonizeyes##172行,指定日志文件目录logfile/var/log/redis_6379.log##264行,指定工作日志dir/var/lib/redis/6379##288行,添加要同步的Master节点IP和端口replicaof192.168.122.106379##700行,开启AOF持久化功能appendonlyyes[root@slave1utils]#/etc/init.d/redis_6379restartStopping...RedisstoppedStartingRedisserver...
Slave2:192.168.122.12
[root@slave2utils]#vim/etc/redis/6379.conf##70行,修改监听地址为0.0.0.0,表示监听任何地址bind0.0.0.0##137行,开启守护进程daemonizeyes##172行,指定日志文件目录logfile/var/log/redis_6379.log##264行,指定工作日志dir/var/lib/redis/6379##288行,添加要同步的Master节点IP和端口replicaof192.168.122.106379##700行,开启AOF持久化功能appendonlyyes[root@slave2utils]#/etc/init.d/redis_6379restartStopping...RedisstoppedStartingRedisserver...
4.6 验证主从效果
4.6.1 在Master节点上看日志
[root@master~]#tail-f/var/log/redis_6379.log1002:M23Sep202116:46:33.569*Backgroundsavingterminatedwithsuccess1002:M23Sep202116:46:33.569*Synchronizationwithreplica192.168.122.11:6379succeeded1002:M23Sep202116:46:34.519*Replica192.168.122.12:6379asksforsynchronization1002:M23Sep202116:46:34.519*Fullresyncrequestedbyreplica192.168.122.12:63791002:M23Sep202116:46:34.519*StartingBGSAVEforSYNCwithtarget:disk1002:M23Sep202116:46:34.519*Backgroundsavingstartedbypid79417941:C23Sep202116:46:34.521*DBsavedondisk7941:C23Sep202116:46:34.521*RDB:0MBofmemoryusedbycopy-on-write1002:M23Sep202116:46:34.591*Backgroundsavingterminatedwithsuccess1002:M23Sep202116:46:34.591*Synchronizationwithreplica192.168.122.12:6379succeeded
4.6.2 在Master节点验证从节点
[root@master~]#redis-cliinforeplication#Replicationrole:masterconnected_slaves:2slave0:ip=192.168.122.11,port=6379,state=online,offset=910,lag=0slave1:ip=192.168.122.12,port=6379,state=online,offset=910,lag=0master_replid:9d7fa17fc64cd573f5b81457183831d97dfad7dcmaster_replid2:0000000000000000000000000000000000000000master_repl_offset:910second_repl_offset:-1repl_backlog_active:1repl_backlog_size:1048576repl_backlog_first_byte_offset:1repl_backlog_histlen:910二、Redis 哨兵模式
1. 哨兵模式的核心功能
在主从复制的基础上,哨兵引入了主节点的自动故障转移。
2. 哨兵模式的原理
哨兵(sentinel)是一个分布式系统,用于对主从结构中每台服务器进行监控,当出现故障时通过投票机制选择新的Master并将所有Slave连接到新的Master。所以整个运行哨兵的集群的数量不得少于3个节点。
3. 哨兵模式的作用
● 监控
:哨兵会不断地检查主节点和从节点是否运作正常。
● 自动故障转移
:当主节点不能正常工作时,哨兵会开始自动故障转移操作,它会将失效主节点的其中一个从节点升级为新的主节点,并让其他从节点改为复制新的主节点。
● 通知提醒
:哨兵可以将故障转移的结果发送给客户端。
4. 哨兵模式的结构
哨兵结构由两部分组成,哨兵节点和数据节点:
● 哨兵节点:哨兵系统由一个或多个节点组成,哨兵节点是特殊的redis节点,不存储数据。
● 数据节点:主节点和从节点都是数据节点。
5. 哨兵模式的工作形式
哨兵的启动依赖于主从模式,所以须把主从模式安装好的情况下再去做哨兵模式,所有节点上都需要部署哨兵模式,哨兵模式会监控所有的Redis工作节点是否正常,当Master出现问题的时候,因为其他节点与主节点失去联系,因此会投票,投票过半就会认为这个Master的确出现问题,然后会通知哨兵间,然后从Slaves中选取一个作为新的Master。
6. 故障转移机制
由哨兵节点定期监控发现主节点是否出现了故障。每个哨兵节点每隔1秒会向主节点、从节点及其他哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息,那么这个哨兵就会认为这个主节点主观下线了(单方面的)。当超过半数哨兵节点认为该主节点主观下线了,这样就客观下线了。
当主节点出现故障,此时哨兵节点会通过Raft算法(选举算法)实现选举机制共同选举出一个哨兵节点为leader,来负责处理主节点的故障转移和通知。所以哨兵集群的主机数量不得少于三个节点。
由leader哨兵节点执行故障转移,过程如下:
● 将某一个从节点升级为新的主节点,让其他从节点指向新的主节点;
● 若原主节点恢复也变成从节点,并指向新的主节点;
● 通知客户端主节点已经更换。
需要特别注意的是,客观下线是主节点才有的概念;如果从节点和哨兵节点发生故障,被哨兵主观下线后,不会再有后续的客观下线和故障转移操作。
7. 主节点的选举
过滤掉不健康的(已下线的),没有回复哨兵ping响应的从节点。
选择配置文件中从节点优先级配置最高的(replica-priority,默认值为100)。
选择复制偏移量最大,也就是复制最完整的从节点。
8. 搭建Redis哨兵模式
8.1 服务器IP配置
8.2 各服务器防火墙环境
systemctlstopfirewalld&&systemctldisablefirewalldsetenforce0
8.3 修改Redis哨兵模式的配置文件(所有节点操作)
vim/opt/redis-5.0.7/sentinel.conf##17行,取消注释,关闭保护模式protected-modeno##21行,Redis哨兵默认的监听端口port26379##26行,指定sentienel为后台启动daemonizeyes##36行,指定日志存放路径logfile"/var/log/sentinel.log"##65行,指定数据库存放路径dir"/var/lib/redis/6379"##84行,修改,指定该哨兵节点监控192.168.122.106379这个主节点,该主节点的名称是mymaster##最后的2的含义与主节点的故障判定有关;至少需要2个哨兵节点同意,才能判定故障并进行故障转移sentinelmonitormymaster192.168.122.1063792##113行,判定服务器down掉的时间周期,默认30000毫秒(30秒)sentineldown-after-millisecondsmymaster30000##146行,故障节点的最大超时时间为180000毫秒(180秒)sentinelfailover-timeoutmymaster180000
8.4 启动哨兵模式
注意:需先启动master,再启动slave
cd/opt/redis-5.0.7/redis-sentinelsentinel.conf&
8.5 查看哨兵信息
Master:192.168.122.10
[root@masterredis-5.0.7]#redis-cli-p26379infosentinel#Sentinelsentinel_masters:1sentinel_tilt:0sentinel_running_scripts:0sentinel_scripts_queue_length:0sentinel_simulate_failure_flags:0master0:name=mymaster,status=ok,address=192.168.122.10:6379,slaves=2,sentinels=3三、Redis 群集模式
1. Redis集群的概述
集群,即Redis Cluster,是Redis 3.0开始引入的分布式存储方案。
2. Redis集群
集群由多个节点(Node)组成,Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点;只有主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制。
3. Redis集群的作用
集群的作用,可以归纳为两点:
3.1 数据分区
数据分区(或称数据分片)是集群最核心的功能。
集群将数据分散到多个节点,一方面突破了Redis单机内存大小的限制,存储容量大大增加;另一方面每个主节点度可以对外提供读服务和写服务,大大提高了集群的响应能力。
Redis单机内存大小受限问题,在介绍持久化和主从复制时都有体积;例如,如果单机内存太大,bgsave和bgrewriteaof的fork操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出。
3.2 高可用
集群支持主从复制和主节点的自动故障转换(与哨兵类似);当任一节点发生故障时,集群仍然可以对外提供服务。
4. Redis集群的数据分片
● Redis集群引入了哈希槽的概念
● Redis集群有16384个哈希槽(编号0-16383)
● 集群的每个节点负责一部分哈希槽
● 每个key通过CRC16校验后对16384取余来决定放置哪个哈希槽,通过这个值,去找到所对应的节点,然后直接跳转到这个对应的节点上进行存取操作。
5. 哈希槽
5.1 哈希槽的分配
哈希槽可按照集群主机数平均分配(默认分配)
以3个节点组成的集群为例:
节点A包含0-5460号哈希槽
节点B包含5461-10922号哈希槽
节点C包含10923-16383号哈希槽
也可以根据主机的性能以及功能自定义分配
以3个节点组成的集群为例:
节点A性能最差,包含0-2000号哈希值
节点B性能中等,包含2001-7000号哈希值
节点C性能最强,包含7001-16383号哈希值
5.2 哈希槽的使用
集群搭建的时候,需要给集群的节点分配插槽,0~16383
在node1执行set a a
使用crc16算法对key进行计算,得到一个数字,然后对这个数字进行求余16384(crc16 : a = 26384l;26384 % 16384 = 10000)
查找包含10000的插槽的节点,找到了node2,自动跳转到node2
在node2上执行set a a命令
node3上执行get a
a --> 10000
跳转到node2
在node2执行get a
6. Redis集群的主从复制模型
集群中具有A、B、C三个节点,如果节点B失败了,整个集群就会因缺少5461-10922这个范围的槽而不可以用。
以每个节点添加一个从节点A1、B1、C1整个集群便有了三个Master节点和三个Slave节点组成,在节点B失败后,集群选举B1位为新的主节点继续服务。当B和B1都失败后,集群将不可用。
7. 搭建Redis群集模式
7.1 服务器IP配置
redis的集群一般需要6个节点,3主3从。方便起见,这里在同一台服务器上模拟;
以端口号进行区分,3个主节点端口号6001/6002/6003,对应的从节点端口号6004/6005/6006。
7.2 服务器防火墙环境
systemctlstopfirewalld&&systemctldisablefirewalldsetenforce0
7.3 创建集群配置目录及文件
[root@node~]#cd/etc/redis[root@noderedis]#mkdir-predis-cluster/redis600{1..6}[root@noderedis]#foriin{1..6}>do>cp/opt/redis-5.0.7/redis.conf/etc/redis/redis-cluster/redis600$i>cp/opt/redis-5.0.7/src/redis-cli/opt/redis-5.0.7/src/redis-server/etc/redis/redis-cluster/redis600$i>done[root@noderedis]#ls-Rredis-cluster/redis-cluster/:redis6001redis6002redis6003redis6004redis6005redis6006redis-cluster/redis6001:redis-cliredis.confredis-serverredis-cluster/redis6002:redis-cliredis.confredis-serverredis-cluster/redis6003:redis-cliredis.confredis-serverredis-cluster/redis6004:redis-cliredis.confredis-serverredis-cluster/redis6005:redis-cliredis.confredis-serverredis-cluster/redis6006:redis-cliredis.confredis-server
7.4 开启群集功能
仅以redis6001为例,其他5个文件夹的配置文件以此类推修改,特别注意端口号的修改。
[root@noderedis]#cdredis-cluster/redis6001[root@noderedis6001]#vimredis.conf##69行,注释掉bind项,默认监听所有网卡#bind127.0.0.1##88行,修改,关闭保护模式protected-modeno##92行,修改,redis监听端口port6001##136行,开启守护进程,以独立进程启动daemonizeyes##832行,取消注释,开启群集功能cluster-enabledyes##840行,注销注释,群集名称文件设置cluster-config-filenodes-6001.conf##846行,注销注释,群集超时时间设置cluster-node-timeout15000##700行,修改,开启AOF持久化appendonlyyes
7.5 启动redis节点
分别进入那六个文件夹,执行命令:“redis-server redis.conf”,来启动redis节点
[root@noderedis6001]#fordin{1..6}>do>cd/etc/redis/redis-cluster/redis600$i>^C[root@noderedis6001]#fordin{1..6}>do>cd/etc/redis/redis-cluster/redis600$d>redis-serverredis.conf>done[root@node1redis6006]#ps-ef|grepredisroot9921013:45?00:00:07/usr/local/redis/bin/redis-server0.0.0.0:6379root22891014:41?00:00:00redis-server*:6001[cluster]root22941014:41?00:00:00redis-server*:6002[cluster]root22991014:41?00:00:00redis-server*:6003[cluster]root23041014:41?00:00:00redis-server*:6004[cluster]root23091014:41?00:00:00redis-server*:6005[cluster]root23141014:41?00:00:00redis-server*:6006[cluster]root24502337014:50pts/000:00:00grep--color=autoredis
7.6 启动集群
[root@noderedis6006]#redis-cli--clustercreate127.0.0.1:6001127.0.0.1:6002127.0.0.1:6003127.0.0.1:6004127.0.0.1:6005127.0.0.1:6006--cluster-replicas1
六个实例分为三组,每组一主一从,前面的做主节点,后面的做从节点。下面交互的时候需要输入yes才可以成功创建。
–replicas 1表示每个主节点有1个从节点。
7.7 测试集群
[root@node1redis6006]#redis-cli-p6001-c#加-c参数,节点之前就可以互相跳转127.0.0.1:6001>clusterslots#查看节点的哈希槽编号范围1)1)(integer)0#哈希槽起始编号2)(integer)5460#哈希槽终止编号3)1)"127.0.0.1"2)(integer)6001#node节点主3)"18e59f493579facea29abf90ca4050f566d66339"4)1)"127.0.0.1"2)(integer)6004#node节点从3)"2635bf6a0c286ef910ec5da03dbdc7cde308c588"2)1)(integer)109232)(integer)163833)1)"127.0.0.1"2)(integer)60033)"51460d417eb56537e5bd7e8c9581c66fdd817b3c"4)1)"127.0.0.1"2)(integer)60063)"51a75667dcf21b530e69a3242a3e9f81f577168d"3)1)(integer)54612)(integer)109223)1)"127.0.0.1"2)(integer)60023)"6381d68c06ddb7ac43c8f7d7b8da0644845dcd59"4)1)"127.0.0.1"2)(integer)60053)"375ad927116d3aa845e95ad5f0586306e7ff3a96"127.0.0.1:6001>setnum1OK127.0.0.1:6001>getnum"1"127.0.0.1:6001>keys*1)"num"127.0.0.1:6001>quit[root@node1redis6006]#redis-cli-p6002-c127.0.0.1:6002>keys*#6002端口无键值对(emptylistorset)127.0.0.1:6002>getnum->Redirectedtoslot[2765]locatedat127.0.0.1:6001"1"#6002端口获取到num键位于6001端口,切换到6001端口并显示键值127.0.0.1:6001>setkey111111->Redirectedtoslot[9189]locatedat127.0.0.1:6002OK#6001端口创建键值对,将其存至6002端口,并切换至6002端口127.0.0.1:6002>
关于“Redis中主从复制、哨兵、集群的示例分析”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。