欢迎投稿

今日深度:

网络拓扑与Hadoop。,网络拓扑Hadoop.

网络拓扑与Hadoop。,网络拓扑Hadoop.


        在本地网络中,两个节点被称为“彼此近邻”是什么意思?在海量数据处理中,其主要限制因素是节点之间数据的传输速率——带宽很稀缺。这里的想法是将两个节点间的带宽作为距离的衡量标准。

        不用衡量节点之间的带宽,实际上很难实现(他需要一个稳定的集群,并且在集群中的两两节点对数据量是节点数量的平方),adoop为此采用一个简单的方法:把网络看做一棵树,两个节点间的距离是他们到最近共同祖先的距离总和。该树中的层次是没有预先设定的,但是相对于数据中心、机架和正在运行的节点,通常可以设定等级。具体想法是针对以下每个场景,可用带宽依次递减:

  • 同一节点上的进程
  • 同一机架上的不同节点
  • 同一数据中心中不同机架上的节点
  • 不同数据中心中的节点

        例如,假设有数据中心d1机架r1中的节点n1。该节点可以表示为/d1/r1/n1。利用这种标记,这里给出四种距离描述:

  • distance(/d1/r1/n1, /d1/r1/n1) = 0(同一节点上的进程)
  • distance(/d1/r1/n1, /d1/r1/n2) = 2(同一机架上的不同节点)
  • distance(/d1/r1/n1, /d1/r2/n3) = 4(同一数据中心中不同机架上的节点)
  • distance(/d1/r1/n1, /d2/r3/n4) = 6 (不同数据中心中的节点)

        最后,我们必须意识到Hadoop无法自动发现你的网络拓扑结构。他需要一些帮助。不过在默认情况下,假设网络是扁平化的只有一层,或换句话说,所有节点都在同一数据中心的同一机架上。规模小的集群可能如此,不需要进一步配置。

www.htsjk.Com true http://www.htsjk.com/Hadoop/34999.html NewsArticle 网络拓扑与Hadoop。,网络拓扑Hadoop.         在本地网络中,两个节点被称为“彼此近邻”是什么意思?在海量数据处理中,其主要限制因素是节点之间数据的传输速率——带宽很稀...
相关文章
    暂无相关文章
评论暂时关闭