Hadoop简介

什么是Hadoop

Hadoop是一个适合大数据的分布式存储和计算平台。

狭义上说Hadoop就是一个框架平台，广义上讲Hadoop代表大数据的一个技术生态
圈，包括很多其他软件框架。

Hadoop的起源

Hadoop 的发展历程可以用如下过程概述：

Hadoop最早起源于Nutch，Nutch的创始人是Doug Cutting

Nutch 是一个开源 Java 实现的搜索引擎。它提供了我们运行自己的搜索引擎所需的全部工具。包括全文搜索和Web爬虫，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题
2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。GFS，可用于处理海量网页的存储；MapReduce，可用于处理海量网页的索引计算问题。

Google的三篇论文（三驾马车）；GFS：Google的分布式文件系统（Google File System）。MapReduce：Google的分布式计算框架。BigTable：大型分布式数据库

发展演变关系：GFS —> HDFS，Google MapReduce —> Hadoop MapReduce，BigTable —> HBase。
随后，Google公布了部分GFS和MapReduce思想的细节，Doug Cutting等人用2年的业余时间实现了DFS和MapReduce机制，使Nutch性能飙升。
2005年，Hadoop 作为Lucene的子项目Nutch的一部分引入Apache。
2006年，Hadoop从Nutch剥离出来独立。
2008年，Hadoop成为Apache的顶级项目。

Hadoop这个名字来源于Hadoop之父Doug Cutting儿子的毛绒玩具象。

Hadoop的特点

Hadoop的发行版本

目前Hadoop发行版非常多，有Cloudera发行版（CDH）、Hortonworks发行版、华为发行版、Intel发行版等，所有这些发行版均是基于Apache Hadoop衍生出来的，之所以有这么多的版本，是由Apache Hadoop的开源协议决定的（任何人可以对其进行修改，并作为开源或商业产品发布/销售）。

企业中主要用到的三个版本分别是：Apache Hadoop版本（最原始的，所有发行版均基于这个版本进行改进）、Cloudera版本（Cloudera’s Distribution Including Apache Hadoop，简称“CDH”）、Hortonworks版本（Hortonworks Data Platform，简称“HDP”）。

Apache Hadoop 原始版本

官网地址：http://hadoop.apache.org/

优点：拥有全世界的开源贡献，代码更新版本比较快

缺点：版本的升级，版本的维护，以及版本之间的兼容性，学习非常方便
Apache所有软件的下载地址（包括各种历史版本）：http://archive.apache.org/dist/
软件收费版本ClouderaManager CDH版本 --生产环境使用

官网地址：https://www.cloudera.com/

Cloudera主要是美国一家大数据公司在Apache开源Hadoop的版本上，通过自己公司内部的各种补丁，实现版本之间的稳定运行，大数据生态圈的各个版本的软件都提供了对应的版本，解决了版本的升级困难，版本兼容性等各种问题，生产环境强烈推荐使用。
免费开源版本HortonWorks HDP版本–生产环境使用

官网地址：https://hortonworks.com/

hortonworks主要是雅虎主导Hadoop开发的副总裁，带领二十几个核心成员成立Hortonworks，核心产品软件HDP（ambari），HDF免费开源，并且提供一整套的web管理界面，供我们可以通过web界面管理我们的集群状态，web管理界面软件HDF网址：http://ambari.apache.org/