Hadoop是一个用Java编写的Apache开源框架,允许使用简单的编程模型跨计算机集群分布式处理大型数据集。Hadoop框架工作的应用程序在跨计算机集群提供分布式存储和计算的环境中工作。Hadoop旨在从单个服务器扩展到数千个机器,每个都提供本地计算和存储。

Hadoop框架包括以下四个模块:

Hadoop Common: 这些是其他Hadoop模块所需的Java库和实用程序。这些库提供文件系统和操作系统级抽象,并包含启动Hadoop所需的Java文件和脚本。

Hadoop YARN: 这是一个用于作业调度和集群资源管理的框架。

Hadoop Distributed File System (HDFS™): 分布式文件系统,提供对应用程序数据的高吞吐量访问。

Hadoop MapReduce:这是基于YARN的用于并行处理大数据集的系统。

除了以上四个模块,Hadoop还包括指向可以安装在Hadoop之上或之上的附加软件包的收集,例如Apache Pig,Apache Hive,Apache HBase,Apache Spark等。

Hadoop框架包括哪几部分?相关推荐

  1. 从hadoop框架与MapReduce模式中谈海量数据处理

    前言 几周前,当我最初听到,以致后来初次接触Hadoop与MapReduce这两个东西,我便稍显兴奋,觉得它们很是神秘,而神秘的东西常能勾起我的兴趣,在看过介绍它们的文章或论文之后,觉得Hadoop是 ...

  2. 从Hadoop框架与MapReduce模式中谈海量数据处理(含淘宝技术架构)

    从hadoop框架与MapReduce模式中谈海量数据处理 前言 几周前,当我最初听到,以致后来初次接触Hadoop与MapReduce这两个东西,我便稍显兴奋,觉得它们很是神秘,而神秘的东西常能勾起 ...

  3. Hadoop精华问答:Hadoop框架最核心的设计是?

    2006年项目成立的一开始,"Hadoop"这个单词只代表了两个组件--HDFS和MapReduce.到现在的13个年头,这个单词代表的是"核心",今天我们就来 ...

  4. hadoop框架详细分析

    2019独角兽企业重金招聘Python工程师标准>>> 如下图所示,mapreduce模式的主要思想是将自动分割要执行的问题(例如程序)拆解成map(映射)和reduce(化简)的方 ...

  5. hadoop框架分析

    mapreduce是一种模式,一种什么模式呢?一种云计算的核心计算模式,一种分布式运算技术,也是简化的分布式编程模式,它主要用于解决问题的程序开发模型,也是开发人员拆解问题的方法. 如下图所示,map ...

  6. Hadoop——(Hadoop框架,Hadoop的优缺点,Hadoop1.x和2.x的版本区别,Hadoop架构,Hadoop目录结构)

    文章目录 大数据的简介 Hadoop框架 Hadoop的优缺点 Hadoop1.x和2.x的版本区别 Hadoop架构 Hadoop目录结构 正常工作的Hadoop集群中Hadoop都分别需要启动哪些 ...

  7. 大数据软件框架之Hadoop框架

    大数据软件框架之 Hadoop框架: Hadoop框架是由Java语言编写的,它的核心是HDFS(Hadoop分布式文件系统)和MapReduse,对于大数据而言,Hadoop就是用大量的廉价机器组成 ...

  8. 二、大数据技术之Hadoop --从Hadoop框架讨论大数据生态

    目录 1.从Hadoop框架讨论大数据生态 1.1 Hadoop是什么 1.2 Hadoop发展历史 1.3 Hadoop三大发行版本 1.3.1 Apache Hadoop 1.3.2 Cloude ...

  9. 一、Hadoop框架介绍

    OK~从今天开始,我们就开始我们的破茧成蝶--大数据篇系列的博客编写,今天是第一篇,开篇为<Hadoop框架介绍>,Hadoop系列将会收录在<破茧成蝶--大数据篇>专栏中.下 ...

最新文章

  1. 支持向量机SVM 参数选择
  2. 一篇博客带你轻松应对java面试中的多线程与高并发
  3. java源码 1.8_Java源码下载和阅读(JDK1.8/Java 11)
  4. ajax官方api,yangguozhong
  5. 一加6html查看程序,一加6T评测:极速屏下指纹,解锁你想要的轻快顺滑
  6. 【java笔记】of方法 JDK9对集合添加方法的优化
  7. python生成词云教程(附带QQ聊天记录生成词云实战)
  8. Nvidia控制面板选择默认独显后黑屏的解决方法
  9. Java Web之三大利器
  10. nginx autoindex自动美化
  11. 如何更换您的Gmail地址
  12. python自动化框架搭建过程我们同在_python webdriver 从无到有搭建混合驱动自动化测试框架的过程和总结...
  13. 1419. Minimum Number of Frogs Croaking
  14. Mac 系统下java端口占用
  15. scrapy框架的使用
  16. 微信罕见出手,再造一个万能的电商平台!
  17. ftp上传工具 免安装,ftp上传工具 免安装绿色破解版好用推荐
  18. 教你找到免费的Google Translate API(谷歌翻译接口)+C#版的Google翻译函数
  19. 【我的读书】《薛兆丰经济学讲义》助你变得更理性、悦纳和进取
  20. 100种活动促销方案

热门文章

  1. 使用OpenCV简单实现人脸识别
  2. java 读word文档模板,同时往word文档里面插入数据
  3. PHP如何实现字符串反转_php反转字符串方法
  4. Ubuntu18.04下磕磕磕绊绊绊编译安装GCC6.3的过程
  5. python自动化办公源码_python自动化办公:文件篇(自动整理文件,一键完成)
  6. 用双因子认证2FA替换Google authenticator谷歌令牌,助力准上市公司实现等保安全审计
  7. DFT specification file string
  8. mysql5.7数据库删除用户及其权限 drop user ‘root‘@‘%‘; flush privileges;
  9. vue项目中设置网站图标
  10. JS判别是否为X以上刘海屏