首页 > 其他 > 详细

hadoop集群的读写流程和checkpoint

时间:2020-02-29 17:40:12      阅读:68      评论:0      收藏:0      [点我收藏+]

一、写流程

技术分享图片

 

二、读流程

技术分享图片

三、元数据,secondarynamenode

  元数据:抽象目录树、数据和块的映射关系、数据块的存储节点(相当于书籍的目录,方便查找)

  fsimage:文件是文件系统元数据的一个永久性检查点,包含文件系统中的所有目录和文件idnode的序列化信息。

  edits:文件系统的写操作首先把它记录在edit中

  secondarynamenode作为namenode的备份(默认是在同一节点,但是在同一节点备份没有意义),并且帮助namenode进行checkpoint

  通过修改hdfs-site.xml文件,指定secondarynamenode的地址

    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>hdp-07:50090</value>
    </property>

四、checkpoint

技术分享图片

 

hadoop集群的读写流程和checkpoint

原文:https://www.cnblogs.com/zhan98/p/12383607.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!