Hadoop是什么
Hadoop是一个由Apache基金会所开发的分布式系统基础架构,它是用 Java 编写的,是一个开源框架。从纯文本、图像到视频,Hadoop 都有可能容纳这一切。它具有高度的可扩展性,在研发领域有着广泛的应用。
Hadoop的作用
Hadoop主要用于解决海量数据的存储和海量数据的分析计算问题。广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈。Google是Hadoop的思想之源(Google在大数据方面的三篇论文,GFS —>HDFS, Map-Reduce —>MR, BigTable —>HBase)
Hadoop有什么优点
- 高可靠性:Hadoop底层维护多个数据副本,所以即使Hadoop某个计算元 素或存储出现故障,也不会导致数据的丢失。
- 高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点。
- 高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处 理速度。
- 高容错性:能够自动将失败的任务重新分配。
Hadoop的组成
- 在 Hadoop1.x 时 代:Hadoop 由HDFS、MapReduce组成,MapReduce同 时处理业务逻辑运算和资 源的调度,耦合性较大
- 在Hadoop2.x时 代,增 加 了Yarn,Yarn只负责资源的调度 , MapReduce 只负责运算
- Hadoop3.x在组成上没 有变化。