Hive基本概念
2021-09-05 本文已影响0人
ssttIsme
Hive简介
Hive:由Facebook开源用于解决海量结构化日志的数据统计工具。Hive是基于Hadoop的一个数据仓库工具,可以将结构化数据文件映射成为一张表,并提供类SQL查询功能。
Hive本质:将HQL转化成MapReduce程序
1Hive处理的数据存储在HDFS
2Hive分析数据底层的实现是MapReduce
3执行程序运行在yarn上
Hive的优缺点
优点
1操作接口采用类SQL语法,提供快速开发的能力
2避免去写MapReduce,减少开发人员的学习成本
3Hive的执行延迟比较高,因此常用于数据分析,对实时性要求不高的场合
4Hive的优势在于处理大数据,对于小数据没有优势,因为Hive的执行延迟比较高
5Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数
缺点
1Hive的HQL表达能力有限
1迭代算法无法表达
2数据挖掘方面不擅长,由于MapReduce数据处理流程的限制,效率更高的算法却无法实现
2Hive的效率比较低
1Hive自动生成的MapReduce作业,通常不够智能化
2Hive调优比较困难,粒度较粗