18)Hadoop企业调优

2019-03-09  本文已影响0人  bullion

MapReduce跑得慢的原因

    1.计算机性能

        CPU 内存 磁盘健康 网络

    2.I/O操作优化

        1)数据倾斜

        2)Map和Reduce数设置不合理

        3)Map运行时间太长,导致Reduce等待过久

        4)小文件过多

        5)大量的不可分块的超大文件

MapReduce优化方法

    MapReduce优化方法主要从六个方面考虑:数据输入,Map阶段,Reduce阶段,IO传输,数据倾斜问题和常用的调优参数。

    数据输入

        1)合并小文件:在执行MR任务前将小文件进行合并,大量的小文件会产生大量的MR任务,增大Map任务装载次数,而任务的装载比较耗时,从而导致MR运行较慢

        2)采用CombineTextInputFormat来作为输入,解决输入端大量小文件场景

    Map阶段

        1)减少溢写(Spill)次数:通过调整io.sort.mb及sort.spill.percent参数值,增大触发Spill的内存上限,减少Spill次数,从而减少磁盘IO

        2)减少合并(Merge)次数:通过调整io.sort.factor参数,增大Merge的文件数目,减少Merge的次数,从而缩短MR处理时间

        3)在Map之后,不影响业务逻辑前提下,先进行Combine处理,减少I/O

    Reduce阶段

        1)合理设置Map和Reduce数:两个都不能设置太少,也不能设置太多。太少会导致Task等待,延长处理时间;太多会导致Map,Reduce任务间竞争资源造成处理超时等错误。

        2)设置Map,Reduce共存:调整slowstart.completedmaps参数,使Map运行到一定程度后,Reduce也开始运行,减少Reduce的等待时间。

        3)规避使用Reduce:因为Reduce在用于连接数据集的时候将会产生大量的网络消耗。

        4)合理设置Reduce端的Buffer:默认情况下,数据达到一个阈值的时候,Buffer中的数据就会写入磁盘,然后Reduce会从磁盘中获得所有的数据。也就是说,Buffer和Reduce是没有直接关联的,中间多次写入磁盘->读磁盘的过程,既然有这个弊端,那么就可以通过参数来配置,使得Buffer中的一部分数据可以直接输送到Reduce,从而减少IO开销:mapred.job.reduce.input.buffer.percent默认为0.0,当值大于0的时候,会保留指定比例的内存读Buffer中的数据直接拿给Reduce使用。这样一来,设置Buffer需要内存,读取数据需要内存,Reduce计算也要内存,所以要根据作业的运行情况进行调整。

    I/O传输

        1)采用数据压缩的方式,减少网络IO的时间。安装Snappy和LZO压缩编码器

        2)使用SequenceFile二进制文件

    数据倾斜

        1)数据倾斜现象

            数据频率倾斜——某一个区域的数据量要远远大于其他区域

            数据大小倾斜——部分记录的大小远远大于平均值

        2)减少数据倾斜方法

            方法1:抽样和范围分区

            可以通过队原始数据进行抽样得到的结果集来预设分区边界值。

            方法2:自定义分区

            基于输出键的背景知识进行自定义分区。例如,如果Map输出键的单词来源于一本书。且其中某几个专业词汇比较多。那么就可以自定义分区将这些专业词汇发送给固定的一部分Reduce实例。而将其他的都发送给剩余的Reduce实例。

            方法3:Combine

            使用Combine可以大量地减少数据倾斜。在可能的情况下,Combine的目的就是聚合并精简数据。

            方法4:采用Map Join,尽量避免Reduce Join

    常用的调优参数

HDFS小文件优化方法

    HDFS小文件弊端

        HDFS上每个文件都要在NameNode上建立一个索引,这个索引的大小约为150byte,这样当小文件比较多的时候,就会产生很多的索引文件,一方面会大量占用NameNode的内存空间,另一方面就是索引文件过大使得索引速度变慢。

    HDFS小文件解决方案

        1)在数据采集的时候,就将小文件或小批数据合并成大文件再上传HDFS。

        2)在业务处理之前,在HDFS上使用MapReduce程序对小文件进行合并。

        3)在MapReduce处理时,可采用CombineTextInputFormat提高效率

    HDFS小文件解决方案

        1)Hadoop Archive

            是一个高效的将小文件放入HDFS块中的文件存档工具,它能够将多个小文件打包成i个HAR文件,这样就减少了NameNode的内存使用

        2)Sequence File

            由一系列的二进制key/value组成,如果key为文件名,value为文件内存,则可以将大批小文件合并成一个大文件

        3)CombineFileInputFormat

            是一种新的InputFormat,用于将多个文件合并成一个单独的Split,另外,它会考虑数据的存储位置

        4)开启JVM重用

            对于大量小文件Job,可以开启JVM重用会减少45%运行时间。

            JVM重用原理:一个Map运行在一个JVM上,开启重用的话该Map在JVM上运行完毕后,JVM不会关闭重启而是直接继续运行其他Map

            具体设置:mapreduce.job.jvm.numtasks值在10-20之间

MapReduce扩展案例

    倒排索引案例(多Job串联) - 简书

    TopN案例 - 简书

上一篇 下一篇

猜你喜欢

热点阅读