hello worldspark||flink||scalaElasticsearch

HBase写流程基本概念

2020-12-27  本文已影响0人  掩流年

在HBase写入的过程中,要从client和server端两部分来看。
在client端,会将写入的数据添加到本地缓冲区中,符合一定条件就会通过AsyncProcess异步批量提交。然后会去查找meta表,根据rowkey查找到对应的region信息,直接连接到对应的regionServer,进行写操作。
在regionServer端,为了保证写入数据在异常情况下不丢数据以及保证写入速度。分别引入了HLog和MemStore。HLog的主要作用是在机器或者HBase数据异常情况下进行数据恢复的。MemStore是为数据提供了一块内存存储,当这块存储达到一定的阈值,就把数据flush到HFile中进行持久化存储。以下会分别介绍HLog和MemStore是如何工作的。

HLog

在写操作的时候,client的数据会先同步到HLog,之后才会写入Memstore中,当此时HBase发生异常,MemStore中的数据会丢失,这时候会从HLog中加载数据进行恢复操作。
每个RegionServer拥有一个或多个HLog。存储在/hbase/WALs文件夹下。在2.0之后,可以通过WALPrettyPrinter进行HLog内容的打印。

 $ ./bin/hbase wal
hdfs://example.org:8020/hbase/WALs/example.org,60020,1283516293161/10.10.21.10%3A60020.1283973724012

在之前的版本可以使用

$ ./bin/hbase hlog hdfs://example.org:8020/hbase/.logs/example.org,60020,1283516293161/10.10.21.10%3A60020.1283973724012

生命周期

一旦对数据进行修改,插入,删除等操作的时候,这些操作都会先写入HLog中。对于HLog中数据的管理有四个阶段。

MemStore

对于MemStore,在写操作之间做缓存主要有以下好处:

内部结构

HBase采用了跳跃表的数据结构,在Java实现中,直接使用了JDK的ConcurrentSkipListMap。可以保证线程安全的读写操作。

基本操作

HFile

HFile的逻辑结构图如下:


HFile V2逻辑结构图

HFile依次由Scanned Block、Non-scanned Block、Load-on-open以及Trailer四个部分组成。
MemStore中KV在flush成HFile时首先构建Scanned Block部分,即KV写进来之后先构建Data Block并依次写入文件,在形成Data Block的过程中也会依次构建形成Leaf index Block、Bloom Block并依次写入文件。一旦MemStore中所有KV都写入完成,Scanned Block部分就构建完成。Non-scanned Block、Load-on-open以及Trailer这三部分是在所有KV数据完成写入后再追加写入的。

上一篇下一篇

猜你喜欢

热点阅读