欢迎投稿

今日深度:

Spark为什么要在Hadoop基础之上搭建,sparkhadoop

Spark为什么要在Hadoop基础之上搭建,sparkhadoop


今天突然想到这个问题   但网上都是些复制粘贴的内容    不能很好地解答  


经过查找资料   我在这里给出我的说明  仅供参考:

      尽管Spark相对于Hadoop而言具有较大优势(速度快),但Spark并不能完全替代Hadoop,主要用于替代Hadoop中的MapReduce计算模型。(spark中也有MapReduce 但还有更多的用于处理的算子  相对来说处理更加多样化   更重要的是  计算的中间结果都在内存中  )实际上,Spark已经很好地融入了Hadoop生态圈,并成为其中的重要一员,它可以借助于YARN实现资源调度管理,其次spark底层需要借助于HDFS实现分布式存储(我的理解是只是中间处理过程在内存中,最后还是需要HDFS分布式存储的)。


先写这么多  以后有新的发现  再添加

www.htsjk.Com true http://www.htsjk.com/Hadoop/33501.html NewsArticle Spark为什么要在Hadoop基础之上搭建,sparkhadoop 今天突然想到这个问题   但网上都是些复制粘贴的内容    不能很好地解答   经过查找资料   我在这里给出我的说明  仅供参考:   ...
相关文章
    暂无相关文章
评论暂时关闭