hadoop的一些名词解释

在网上收集了一些mapreduce中常用的一些名词的解释，分享一下：

Shuffle（洗牌）：当第一个map任务完成后，节点可能还要继续执行更多的map 任务，但这时候也开始把map任务的中间输出交换到需要它们的 reducer那里去，这个移动map输出到 reducer 的过程叫做shuffle。

Partition：每一个reduce节点会分派到中间输出的键集合中的一个不同的子集合，这些子集合（被称为“partitions”）是reduce任务的输入数据。每一个map任务生成的键值对可能会隶属于任意的partition，有着相同键的数值总是在一起被reduce，不管它是来自那个mapper的。因此，所有的map 节点必须就把不同的中间数据发往何处达成一致。Partitioner 类就是用来决定给定键值对的去向，默认的分类器（partitioner）会计算键的哈希值并基于这个结果来把键赋到相应的partition上。

排序（Sort）：每一个reduce任务负责归约（reduceing）关联到相同键上的所有数值，每一个节点收到的中间键集合在被送到具体的reducer那里前就已经自动被Hadoop排序过了。

Combiner：前面展示的流水线忽略了一个可以优化MapReduce作业所使用带宽的步骤，这个过程叫Combiner，它在Mapper之后 Reducer之前运行。Combiner是可选的，如果这个过程适合于你的作业，Combiner 实例会在每一个运行map任务的节点上运行。Combiner会接收特定节点上的 Mapper 实例的输出作为输入，接着 Combiner 的输出会被发送到Reducer那里，而不是发送Mapper的输出。 Combiner是一个“迷你reduce”过程，它只处理单台机器生成的数据。

Reporter：是用于Map/Reduce应用程序报告进度，设定应用级别的状态消息，更新Counters（计数器）的机制。

Mapper和Reducer的实现可以利用Reporter 来报告进度，或者仅是表明自己运行正常。在那种应用程序需要花很长时间处理个别键值对的场景中，这种机制是很关键的，因为框架可能会以为这个任务超时了，从而将它强行杀死。另一个避免这种情况发生的方式是，将配置参数mapred.task.timeout设置为一个足够高的值（或者干脆设置为零，则没有超时限制了）。应用程序可以用Reporter来更新Counter（计数器）。

OutputCollector：是一个Map/Reduce框架提供的用于收集 Mapper或Reducer输出数据的通用机制（包括中间输出结果和作业的输出结果）。

hadoop的一些名词解释相关推荐

常见算子使用_spark快速入门（二）spark粗略流程简述及常见名词解释
大家元旦快乐,牛年发发发~~牛气冲天o(*￣︶￣*)o spark粗略流程简述 (1)有算子触发Action,Driver端和hdfs的namenode进行通信,询问元数据信息.根据元数据信息及相应 ...
b2c项目基础架构分析（一）b2c 大型站点方案简述已补充名词解释
b2c项目基础架构分析(一)b2c 大型站点方案简述已补充名词解释我最近一直在找适合将来用于公司大型bs,b2b b2c的基础架构. 实际情况是要建立一个bs架构b2b.b2c的网站,当然还包括w ...
b2c项目基础架构分析（二）前端框架以及补漏的第一篇名词解释
b2c项目基础架构分析(二)前端框架以及补漏的第一篇名词解释继续上篇,上篇里忘记了也很重要的前端部分,今天的网站基本上是以一个启示页,然后少量的整页切换,大量的浏览器后台调用web服务局部.动态更 ...
【通信工程】通信行业常用缩写名词解释v1
200729本篇为本人搜集的通信行业常用缩写名词解释.很多时候会看文件中BBU,RRU之类的词还要一个一个查,故特收集在此,方便学习.当然这里会更侧重5G方面. 分类目录通信通信基础移动通信 5 ...
数据库概论基础名词解释
数据库概论基础名词解释前言这里是数据库系统原理系列文章,主要介绍数据库系统理论以及数据库实用技术. 数据库技术是计算机学科中的一个重要分支,它的应用非常广泛,几乎涉及所有的应用领域. 注:本篇 ...
hadoop-分布式存储工作原理及名词解释
分布式存储工作原理及流程图上图中主从式结构当中,由于主节点含有整个文件系统的目录结构信息,主节点是最重要的. 主节点运行的时候会把命名空间的信息都放在内存当中,因此,存储的文件越多,主节点的内存就 ...
【EMC】电磁兼容性相关名词解释、基础知识
一.名词解释 1.EMC EMC(Electro Magnetic Compatibility)直译是"电磁兼容性".意指设备所产生的电磁能量既不对其它设备产生干扰,也不受其他设备 ...
名词解释_写字楼租赁相关名词解释
对于租赁写字楼的租户来说,那些繁琐的合同是很令人头疼的.有时候连最基础的一些问题还没得到解决,就要面对一堆复杂的文书,会使租赁写字楼的租户开始迟疑.那么在这里我们给大家科普一下关于写字楼租赁你需要知道 ...
计算机组成原理名词解释常用,2018考研408计算机组成原理名词解释(3)
2018考研408计算机组成原理名词解释(3) 2017-09-29 16:02 | 考研集训营随着时代的快速发展,任何行业都离不开网络,导致计算机行业近几年非常的火热,使各大高校竞相争抢优秀人才, ...

hadoop的一些名词解释

hadoop的一些名词解释相关推荐

最新文章

热门文章