组件进程

1）MrAppMaster：负责整个程序的过程调度及状态协调。

2）MapTask：负责map阶段的整个数据处理流程。

3）ReduceTask：负责reduce阶段的整个数据处理流程。

过程概述

1）maptask收集我们的map()方法输出的kv对，放到内存缓冲区中

2）从内存缓冲区不断溢出本地磁盘文件，可能会溢出多个文件

3）多个溢出文件会被合并成大的溢出文件

4）在溢出过程中，及合并的过程中，都要调用partitioner进行分区和针对key进行排序

5）reducetask根据自己的分区号，去各个maptask机器上取相应的结果分区数据

6）reducetask会取到同一个分区的来自不同maptask的结果文件，reducetask会将这些文件再进行合并（归并排序）

7）合并成大文件后，shuffle的过程也就结束了，后面进入reducetask的逻辑运算过程（从文件中取出一个一个的键值对group，调用用户自定义的reduce()方法）

job提交过程:

// 1建立连接

// 2 提交job

// 1）创建给集群提交数据的Stag路径

// 2）获取jobid ，并创建job路径

// 3）拷贝jar包到集群

// 4）计算切片，生成切片规划文件

//5）向Stag路径写xml配置文件

//6）提交job,返回提交状态

（stage目录下有jobid，xml，jar，split文件）

序列化和shuffle

对象作为value，只需要传输，只实现Writable

对象作为key，需要传输和shuffle，必须实现WritableComparable

maptask对于相同的key进行合并

job.setCombinerClass(WordcountReducer.class);

reducetask判断是否是相同的key

GroupingComparator分组

reducetask数目

job.setNumReduceTasks(4);