MongoDB中的集群(Replica Set)
1.集群的目的
实现高可用性。那么集群是如何实现高可用性的呢
主要原因有两个
1)当主节点挂掉的时候,如果此时任何一个secondary
的数据没有从primary
复制完(即secondary
和primary
数据不同步)会发生回滚,如果其中一个secondary
已经完成了数据复制在primary
挂掉之前,并且和其他secondary
通信良好,不会发生数据回滚,因为secondary
之间可以通过heartbeat
读取oplog
mongodb会对回滚的数据进行一个收集,回滚的数据会被保存在/dbPath/rollback
目录下一个叫<database>.<collection>.<timestamp>
的bson文件下,对这些回滚数据的处理需要人为干涉,DBA可以通过bsondump
查看记录回滚数据的back文件
MongoDB会努力去避免回滚,数据回滚的主要原因是网络分区。将write concern
从默认的{w:1}
改为{w:majority}
,只有secondary
复制完primary
的数据时,才会返回给客户端写成功的提示(nInsert或者objectId)来避免回滚的发生。
PayAttention:由于客户端的write concern为local或available,在数据回滚前,客户端还能读取到回滚数据
回滚的数据大小是受限的,最多为300兆,超过300兆,log会出现
[replica set sync] replSet syncThread: 13410 replSet too much data to roll back
超过300兆时,直接保存数据或强制成员执行初始同步。要强制执行初始同步,请通过删除需要较大回滚的成员的dbPath目录的内容来同步集中的“当前”成员。
2)自动故障转移。即当主节点挂掉的时候自动选举出一个主节点,不需要人为干预,而在mysql中就需要人为干预
2.集群的架构
存在arbiter
架构a
不存在arbiter
架构b
集群中都存在主节点和副节点
arbiter一般会出现在集群数量为偶数的情形下,这样可以保证能够重新选举出主节点
3.集群的好处
1)数据可恢复
2)异步复制
发生在从主节点更新数据到副节点时,副节点更新数据时,客户端仍能从这个节点读取数据。
优点:提高读取效率
缺点:可能读取不到当前最新数据
3)自动故障转移
自动故障转移说简单一点就是当主节点挂掉的时候(10s钟不和副节点进行通信时),就会重新选举出一个主节点。重新选举一个主节点分为两步:a.申明当前主节点不可用 b.选举出新的主节点
在选举过程中,集群中没有主节点,,客户端只能读不能写。在mongodb3.2中进行了优化,缩短了选举时间
4)提高读效率
如果客户端有多个读请求,可以将多个请求发送给不同的节点
5)读可选
可以选择从主节点读取数据 ,也可以副节点读取数据
4.集群中的成员
1)Replica Set Primary
有且仅有一个
既能读又能写,并且只有primary
才能写
默认应用从primary
读取数据
主节点在有些情况下可以变成为副节点
If a majority of the replica set is inaccessible or unavailable to
the current primary, the primary will step down and become a
不是很懂这描述的到底是怎样的一种特殊情况
secondary.
2)Replica Set Secondary
在一个集群中可以有多个secondary
只能读不能写
如果想从secondary
读取数据,需要做额外的配置
如果主节点挂掉了通过选举可以成为主节点
secondary的配置
a.priority:0
如果一个secondary的配置文件中设置priority:0
,则这个节点不能被选举成为主节点,并且不能触发选举,但是可以参与选举
b.hidden:true
如果一个secondary
的配置文件中设置hidden:true
,则这个secondary
对客户端是不可见的,并且一定配置了priority:0
客户端的读请求不会被分发给hidden:true
的节点,利用这个特性可以使这个节点专门用来数据备份或者报告,因为其traffic相对较少和其他secondary相比
关于备份:如果使用MMAPv1/WiredTiger存储引擎,备份时可以使用db.fsyncLock()和db.fsyncUnLock()操作停止隐藏成员,在备份期间刷新所有写入并锁定mongod实例,这样能够保证那个时间点锁住的数据一定是最新的
c.slaveDelay:time
通过配置slaveDelay:time
可以使当前节点数据是晚于或早于主节点数据的一个快照,并且一定配置了priority:0
和hidden:true
应用:作为rolling back
,当人为操作失误,比如删除数据库、集合,不成功的应用升级,可以通过这个备份进行恢复
配置文件:
{
"_id" : <num>,
"host" : <hostname:port>,
"priority" : 0,
"slaveDelay" : <seconds>,
"hidden" : true
}
3)Replica Set Arbiter
不存放数据,仅仅是用来重新选举主节点,并且永远只能是arbiter
,不可能成为主节点或者副节点
安全:当使用授权认证时,arbiter和其他节点通过交换进行认证,因为arbiter不存储数据,所以是通过localhost进行认证的
默认具有priority:0
的配置
5.Oplog
Oplog(operations log)作用:保持主节点上(primary)的回滚记录,回滚记录个人理解就是改变数据库数据的操作,比如插入、删除、更新等,副节点通过读取Oplog异步达到和主节点同步
为了便于复制,所有secondary可以通过Heartbeat(ping)发送给其他成员,这样可以从其他secondary读取Oplog
终于知道了架构中Heartbeat的作用
nice
Oplog默认大小足够用了
如果已经启动了一个副集群,可以以管理员的身份运行replSetResizeOplog动态的设置Oplog的大小,并且不会重启mongo实例。如果mongo实例未创建oplog,则可以通过oplogSizeMB指定oplog的大小
如何查看oplog的状态:rs.printReplicationInfo()
6.影响选举结果的因素
1)复制选举协议
mongodb3.2版本中,引入复制协议版本,减少故障自动转移时间并且加速检测多个同时发生的基本事件(???)
2)heartbeats
3)副节点的优先级(member priority)
4)loss of a data center
5)network partition
6)vetoes in elections