[Hive] hive的架构原理

hive的架构图：

image.png

1.什么是Hive？

Hive是由Facebook开源的用于解决海量结构化日志的数据统计；
Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射成一张表，并提供类SQL查询功能，底层计算引擎默认为Hadoop的MapReduce（本质是将sql转化成mapreduce程序），可以将引擎更换为Spark/Tez

与Hbase的异同点：
Hbase是基于Hadoop的nosql数据库，主要适用于海量半结构化数据的随机实时查询

---

2.Hive的架构

Hive通过给用户提供的一系列交互接口（命令行cli，客户端，jdbc等等），接收到用户的指令（SQL），使用自己的Driver，结合元数据信息（MetaStore），将这些指令翻译成MapReduce，提交到Hadoop中执行，最后返回执行结果。

1）用户接口：Client
CLI（hive shell）、JDBC/ODBC(java访问hive)、WEBUI（浏览器访问hive）

2）元数据：Metastore
见另外一篇博客

3）Hadoop
使用HDFS进行存储，使用MapReduce进行计算。

4）驱动器：Driver
（1）解析器（SQL Parser）：将SQL字符串转换成抽象语法树AST，这一步一般都用第三方工具库完成，比如antlr；对AST进行语法分析，比如表是否存在、字段是否存在、SQL语义是否有误。
（2）编译器（Physical Plan）：将AST编译生成逻辑执行计划。
（3）优化器（Query Optimizer）：对逻辑执行计划进行优化。
（4）执行器（Execution）：把逻辑执行计划转换成可以运行的物理计划。对于Hive来说，就是MR/Spark。

3.Hive的优点

1、操作接口采用类SQL语法，提供快速开发的能力(简单、容易上手)；
2、避免了去写MapReduce，减少开发人员的学习成本；
3、统一的元数据管理，可与impala/spark等共享元数据；
4、易扩展(HDFS+MapReduce：可以扩展集群规模；支持自定义函数)；

4.Hive的使用场景

1、数据的离线处理；比如：日志分析，海量结构化数据离线分等等；
2、Hive的执行延迟比较高，因此hive常用于数据分析的，对实时性要求不高的场合；
3、Hive优势在于处理大数据，对于处理小数据没有优势，因为Hive的执行延迟比较高。