- 1、本文档共53页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
第 1 章
Hadoop 简介
本章内容
什么是Hadoop
Hadoop 项目及其结构
Hadoop 的体系结构
Hadoop 与分布式开发
Hadoop 计算模型—MapReduce
Hadoop 的数据管理
小结
2 Hadoop 实战
1.1 什么是Hadoop
1.1.1 Hadoop 概述
Hadoop 是Apache 软件基金会旗下的一个开源分布式计算平台 以Hadoop 分布式文
。
件 系统 HDFS Hadoop Distributed Filesystem 和MapReduce Google MapReduce 的开
( , ) (
源实现 为核心的Hadoop 为用户提供了系统底层细节透明的分布式基础架构 HDFS 的
) 。
高容错性 高伸缩性等优点允许用户将Hadoop 部署在低廉的硬件上 形成分布式系统
、 , ;
MapReduce 分布式编程模型允许用户在不了解分布式系统底层细节的情况下开发并行应用程
序 所以用户可以利用Hadoop 轻松地组织计算机资源 从而搭建自己的分布式计算平台
。 , ,
并且可以充分利用集群的计算和存储能力 完成海量数据的处理
, 。
1.1.2 Hadoop 的历史
Hadoop 的源头是Apache Nutch 该项目开始于2002 年 是Apache Lucene 的子项目
, ,
之一 2004 年 Google 在 操作系统设计与实现 OSDI Operating System Design and
。 , “ ”( ,
Implementation 会议上公开发表了题为 MapReduce Simplified Data Processing on Large
) “ :
Clusters MapReduce 简化大规模集群上的数据处理 的论文 之后受到启发的Doug
”( : ) ,
Cutting 等人开始尝试实现MapReduce 计算框架 并将它与NDFS Nutch Distributed File
, (
System 结合 以支持Nutch 引擎的主要算法 由于NDFS 和MapReduce 在Nutch 引擎中
) , 。
有着良好的应用 所以它们于2006 年2 月被分离出来 成为了一套完整而独立的软件 起
, , ,
名为Hadoop 到了2008 年年初 Hadoop 已成为Apache 的顶级项目 它被包括Yahoo ! 在
文档评论(0)