ignite实践踩坑(3) 数据平衡分布

2020-04-20  本文已影响0人  虾餃

笔者所有文章第一时间发布于:
hhbbz的个人博客

为什么需要数据平衡分布

在一个集群的环境中,我们往往希望能更好的利用分布式的优势,把数据平衡分布在各个节点中,这样有几个好处:

  1. 这样才能缓存/持久化更多的数据。

  2. 即使其中一个节点down掉,也不影响其他节点的数据和状态。

  3. 数据在各个节点中平衡分布,使得资源利用率,单节点的拔插效率更高。

igntie实现分布式存储的配置

Ignite提供了三种不同的缓存操作模式,分区复制本地。缓存模型可以为每个缓存单独配置,缓存模型是通过CacheMode枚举定义的。

分区模式

分区模式是扩展性最好的分布式缓存模式,这种模式下,所有数据被均等地分布在分区中,所有的分区也被均等地拆分在相关的节点中,实际上就是为缓存的数据创建了一个巨大的内存内分布式存储。这个方式可以在所有节点上只要匹配总可用存储(内存和磁盘)就可以存储尽可能多的数据,因此,可以在集群的所有节点的内存中可以存储TB级的数据。也就是说,只要有足够多的节点,就可以存储足够多的数据。

复制模式不同,它更新是很昂贵的,因为集群内的每个节点都需要更新,而分区模式更新就很廉价,因为对于每个键只需要更新一个主节点(可选择一个或者多个备份节点),不过读取变得较为昂贵,因为只有特定节点才持有缓存的数据。

为了避免额外的数据移动,总是访问恰好缓存有要访问的数据的节点是很重要的,这个方法叫做关联并置,当工作在分区化缓存时强烈建议使用。

分区化缓存适合于数据量很大而更新频繁的场合。

基线拓扑

基线拓扑是一组Ignite服务端节点,目的是同时在内存以及原生持久化中存储数据。基线拓扑中的节点在功能方面不受限制,并且作为数据和计算的容器,在行为上也和普通的服务端节点一样。可以实现在各个节点的磁盘中平衡存放持久化数据。

在开启持久化之后,集群默认未激活,因此需要先激活集群,再对基线拓扑进行操作。

注意事项

Ignite ignite = Ignition.start();

ignite.cluster().active(true);

Collection<ClusterNode> nodes = ignite.cluster().forServers().nodes();

ignite.cluster().setBaselineTopology(nodes);

ignite数据平衡分布的实践场景

内存缓存模式CacheMode使用分区,保证数据在各个节点的内存中缓存起来。

日志示例

加入新节点前

001.png

加入新节点

002.png

加入新节点后,尚未激活的集群

003.png
上一篇 下一篇

猜你喜欢

热点阅读