Hadoop 课程大纲

2019-02-27  本文已影响38人  一条IT

Hadoop集群环境搭建

Hadoop集群环境搭建

HDFS

图说HDFS基本原理
hadoop的shell命令操作
java api操作HDFS
HDFS之namenode管理元数据机制

MapReduce

初识MapReduce
intelij 跑 MR WordCount
图示wordcount shuffle过程
MapTask、Shuffle、ReduceTask工作机制详情
Hadoop框架下MapReduce中的map个数如何控制
reduce task个数到底和哪些因素有关
yarn基本架构和工作机制

MapReduce习题

使用mapreduce进行流量汇总程序开发
Partitioner与自定义Partitioner
mapreduce实现流量汇总排序程序
MapReduce 案例之数据去重
MapReduce 案例之Top N
MapReduce 案例之倒排索引

上一篇下一篇

猜你喜欢

热点阅读