简析Spark的发展历程.pptxVIP

下载本文档

0
0
约6.83千字
约 10页
2025-03-11 发布于浙江
举报
版权申诉

简析Spark的发展历程.pptx

1、本文档共10页，可阅读全部内容。
2、有哪些信誉好的足球投注网站（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击这里二次下载。
4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
8、VIP文档为合作方或网友上传，每下载1次，网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档

简析spark

----高效的分布式计算架构Lifeisshort，youneedspark!

Spark简介与体系架构Spark的安装与配置Spark的开发与应用Lifeisshort，youneedspark!

Spark是一个高速，通用大数据计算处理引擎。的官方定义官方网址?/

Spark的发展历史2009诞生于伯克利大学2010正式开源2013成为Apache基金项目2016发布2.0版本

Spark发展中的学术贡献“DiscretizedStreams:Fault-TolerantStreamingComputationatScale”.MateiZaharia,TathagataDas,HaoyuanLi,TimothyHunter,ScottShenker,IonStoica.SOSP2013.November2013.“Shark:SQLandRichAnalyticsatScale”.ReynoldXin,JoshuaRosen,MateiZaharia,MichaelJ.Franklin,ScottShenker,IonStoica.SIGMOD2013.June2013.“DiscretizedStreams:AnEfficientandFault-TolerantModelforStreamProcessingonLargeClusters”.MateiZaharia,TathagataDas,HaoyuanLi,ScottShenker,IonStoica.HotCloud2012.June2012.“Shark:FastDataAnalysisUsingCoarse-grainedDistributedMemory(demo)”.CliffEngle,AntonioLupher,ReynoldXin,MateiZaharia,HaoyuanLi,ScottShenker,IonStoica.SIGMOD2012.May2012.BestDemoAward.“ResilientDistributedDatasets:AFault-TolerantAbstractionforIn-MemoryClusterComputing”.MateiZaharia,MosharafChowdhury,TathagataDas,AnkurDave,JustinMa,MurphyMcCauley,MichaelJ.Franklin,ScottShenker,IonStoica.NSDI2012.April2012.BestPaperAwardandHonorableMentionforCommunityAward.“Spark:ClusterComputingwithWorkingSets”.MateiZaharia,MosharafChowdhury,MichaelJ.Franklin,ScottShenker,IonStoica.HotCloud2010.June2010.

Spark发展中的学术贡献Spark主要奠基者现在Spark是在其博士论文的基础上发展而来的“AnArchitectureforFastandGeneralDataProcessingonLargeClusters”《大型集群上的快速和通用数据处理架构》

Spark的版本发展在开源社区的贡献下Spark版本更新速度很快，平均1-2个月就推出一个新版本

Spark的体系架构被称为Sparkcore，是其最核心的部分，包含了Spark最基本、最核心的功能和基本分布式算子。Sparkcore的基本功能有任务调度、内存管理、故障恢复以及和存储系统的交互。

Spark的体系架构数据全集被分割为多个数据子集SparkcoreRDD(resilientdistributeddataset)是Spark的核心概念，指的是一个只读的，可分区的分布式数据集（分布式弹性数据集），这个数据集的全部或部分可以缓存在内存中，在多次计算间重用。Spark的核心思路就是将数据集缓存在内存中加快读取速度，同时