我爱编程

大数据零基础快速了解HBase

2017-08-24  本文已影响0人  大数据在说话

大数据0基础怎么学习?科多大数据带你快速了解HBase。

1. HBase介绍

Hbase 是一个高可靠、高性能、面向列、可伸缩的分布式存储系统,利用Hbase技术可在廉价PC Server上搭建 大规模结构化存储集群。HBase 是Google Bigtable 的开源实现,与Google Bigtable 利用GFS作为其文件存储系统类似, HBase 利用Hadoop HDFS 作为其文件存储系统;Google 运行MapReduce 来处理Bigtable中的海量数据, HBase 同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable 利用Chubby作为协同服务, HBase 利用Zookeeper作为对应。

HBase特点:

1. 大:一个表可以有数十亿行,上百万列。

2. 无模式:每行都有一个可排序的主键和任意多的列,列可以根据需要动态的增加,同一张表中不同的行可以有截然不同的列;

3. 面向列:面向列(族)的存储和权限控制,列(族)独立检索

4. 稀疏:空(null)列并不占用存储空间,表可以设计的非常稀疏

5. 数据多版本:每个单元中的数据可以有多个版本,默认情况下版本号自动分配,是单元格插入时的时间戳

6. 数据类型单一:Hbase中的数据都是字符串,没有类型。

2. HBase 设计模型

HBase 中的每一张表就是所谓的 BigTable。BigTable 会存储一系列的行记录,行记录有三个基本类型的定义:Row Key、Time Stamp、Column。

1. Row Key 是行在 BigTable 中的唯一标识。

2. Time Stamp 是每次数据操作对应关联的时间戳,可以看做 SVN 的版本。

3. Column 定义为< family>:< label>,通过这两部分可以指定唯一的数据的存储列,family 的定义和修改需要 对 HBase 进行类似于 DB 的 DDL 操作,而 label ,不需要定义直接可以使用,这也为动态定制列提供了一种手段 。family 另一个作用体现在物理存储优化读写操作上,同 family 的数据物理上保存的会比较临近,因此在业务设计的过程中可以利用这个特性。

3. HBase 存储架构

从HBase的架构图上可以看出,HBase中的存储包括HMaster、HRegionServer、HRegion、Store、MemStore、StoreFile、HFile、HLog等, 以下是 HBase 存储架构图:

4. Hbase 的部署安装步骤

1. 节点信息

名称

IP地址

用户名

密码

进程

master

192.168.80.130

hadoop

admin@123

HMaster

host2

192.168.80.131

hadoop

admin@123

HMaster,HRegionServer

host3

192.168.80.132

hadoop

admin@123

HRegionServer

2. 上apache管网下载HBase1.2.4压缩包

3. 解压压缩包

cd /usr/local

sudo tar -zvxf ~/下载/hbase-1.2.4-bin.tar.gz

suod chown -Rhadoophbase-1.2.4

4. 编辑hbase-env.sh文件

vim hbase-env.sh

#设置JDK路径

export JAVA_HOME=/usr/lib/jdk1.7.0_51/

#告诉hbase使用外部的zk

export HBASE_MANAGES_ZK=false

5. 编辑hbase-site.xml

vi hbase-site.xml

hbase.rootdir

hdfs://hadoop-ha/hbase

hbase.master.info.port

60010

hbase.cluster.distributed

true

hbase.zookeeper.quorum

master:2181,host2:2181,host3:2181

6. 编辑regionservers

vi regionservers

host2

host3

7. 编辑backup-masters

host2

8. 将Hbase路径信息增加到环境变量中

vi ~/.bashrc

export HBASE_HOME=/usr/local/hbase-1.2.4

export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$HBASE_HOME/bin:$PATH

source ~/.bashrc

9. 将master节点上的hbase-1.2.4拷贝到其他节点的相同目

//将hbase目录拷贝到host2节点

sudo scp -r hbase-1.2.4 hadoop@host2:~/下载

ssh host2

sudo mv -r hbase-1.2.4 /usr/local

vi ~.bashrc

export HBASE_HOME=/usr/local/hbase-1.2.4

export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$HBASE_HOME/bin:$PATH

source ~/bashrc

exit

//将hbase目录拷贝到host3节点

sudo scp -r hbase-1.2.4 hadoop@host3:~/下载

ssh host3

sudo mv -r hbase-1.2.4 /usr/local

vi ~.bashrc

export HBASE_HOME=/usr/local/hbase-1.2.4

export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$HBASE_HOME/bin:$PATH

source ~/bashrc

exit

10. 启动hbase

在启动hadoop后启动hbase,在master节点上启动

start-hbase.sh

11. 在hbase中新建一个表member

--进入hbase命令行

hbase shell

--创建表'member'

create 'member','member_id','address','info'

-- 查看新建的表

list

12. Web查看Hbase信息

主Master

上一篇下一篇

猜你喜欢

热点阅读