作者：黑马程序员
链接：https://zhuanlan.zhihu.com/p/81237437
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
简单介绍
相信关于Hadoop中MapReduce的相关文章会很多，这里只简单介绍一下MapReduce的相关知识。
Hadoop的MapReduce来源于Google公司的三篇论文中的MapReduce，其核心思想是“分而治之”
Map负责“分”，即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算，彼此间几乎没有依赖关系。
Reduce负责“合”，即对map阶段的结果进行全局汇总。
现阶段MapReduce一般运行在Hadoop2.x版本的yarn资源平台上，具体运行过程后面会有详细说明。
MapReduce编程规范
MapReduce 的开发一共有八个步骤, 其中 Map 阶段分为 2 个步骤，Shuffle 阶段 4 个步骤，Reduce 阶段分为 2 个步骤
Map 阶段 2 个步骤
1）设置 InputFormat 类, 将数据切分为 Key-Value(K1和V1) 对, 输入到第二步
2）自定义 Map 逻辑, 将第一步的结果转换成另外的 Key-Value（K2和V2） 对, 输出结果
Shuffle 阶段 4 个步骤
3）对输出的 Key-Value 对进行分区
4）对不同分区的数据按照相同的 Key 排序
5）(可选) 对分组过的数据初步规约, 降低数据的网络拷贝
6）对数据进行分组, 相同 Key 的 Value 放入一个集合中
Reduce 阶段 2 个步骤
7）对多个 Map 任务的结果进行排序以及合并, 编写 Reduce 函数实现自己的逻辑, 对输入的 Key-Value 进行处理, 转为新的 Key-Value（K3和V3）输出
8）设置 OutputFormat 处理并保存 Reduce 输出的 Key-Value 数据
MapReduce的步骤图
yarn资源调度
yarn是hadoop集群当中的资源管理系统模块，从hadoop2.0开始引入yarn模块,yarn可为各类计算框架提供资源的管理和调度,主要用于管理集群当中的资源（主要是服务器的各种硬件资源，包括CPU，内存，磁盘，网络IO等）以及调度运行在yarn上面的各种任务。
相比于hadoop1.x版本，yarn核心出发点是为了分离资源管理与作业监控，实现分离的做法是拥有一个全局的资源管理ResourceManager（RM），以及每个应用程序对应一个的应用管理器ApplicationMaster（AM）。
总结一句话就是说：yarn主要就是为了调度资源，管理任务。
YARN总体上是Master/Slave结构，主要由ResourceManager、NodeManager、 ApplicationMaster和Container等几个组件构成。
ResourceManager(RM) 负责处理客户端请求,对各NM上的资源进行统一管理和调度。给ApplicationMaster分配空闲的Container 运行并监控其运行状态。主要由两个组件构成：调度器和应用程序管理器：
调度器(Scheduler)：调度器根据容量、队列等限制条件，将系统中的资源分配给各个正在运行的应用程序。调度器仅根据各个应用程序的资源需求进行资源分配，而资源分配单位是Container。Shceduler不负责监控或者跟踪应用程序的状态。总之，调度器根据应用程序的资源要求，以及集群机器的资源情况，为应用程序分配封装在Container中的资源。
应用程序管理器(Applications Manager)：应用程序管理器负责管理整个系统中所有应用程序，包括应用程序提交、与调度器协商资源以启动ApplicationMaster 、监控ApplicationMaster运行状态并在失败时重新启动等，跟踪分给的Container的进度、状态也是其职责。
NodeManager (NM) NodeManager 是每个节点上的资源和任务管理器。它会定时地向ResourceManager汇报本节点上的资源使用情况和各个Container的运行状态；同时会接收并处理来自ApplicationMaster 的Container 启动/停止等请求。
ApplicationMaster (AM)： 用户提交的应用程序均包含一个ApplicationMaster ，负责应用的监控，跟踪应用执行状态，重启失败任务等。ApplicationMaster是应用框架，它负责向ResourceManager协调资源，并且与NodeManager协同工作完成Task的执行和监控。
Container： Container是YARN中的资源抽象，它封装了某个节点上的多维度资源，如内存、CPU、磁盘、网络等，当ApplicationMaster向ResourceManager申请资源时，ResourceManager为ApplicationMaster 返回的资源便是用Container 表示的。
yarn的架构和工作流程
步骤分析：
- 客户端通过命令（hadoop jar xxx.jar）提交上传任务到主节点ResourceManager（RM）中的ApplicationManager进程
- 主节点RM判断集群状态，选择一台NodeManager（NM），开启一块资源Container，用来开启AppMaster进程
- AppMaster进程获取RM接收的任务请求，进行任务分配
- AppMaster根据任务情况向RM中的ResourceScheduler索要资源分配方案
- AppMaster根据资源分配方案找到到各个NodeManager从节点
- 在从节点上开启资源Container，并运行任务Task
- AppMaster获取各个Task上传的任务执行进度和结果
- AppMaster将任务执行的结果返回给ApplicationManager
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。