首页 > 其他 > 详细

hdfs的写流程以及namenode,datanode挂掉后处理

时间:2020-07-13 12:02:00      阅读:118      评论:0      收藏:0      [点我收藏+]

HDFS写流程

client -> namenode: 请求上传第一个block -> 收到可上传的节点(距离感知, 机架感知)

-> 节点之间建立通信管道 -> 以Packet为单位传输数据(Packet中的单位chunk, 默认512B, 并校验)

-> 传输完成后再次向namenode请求, 上传下一个block

通信管道建立后, 确认队列(ack queue)等待传输结果, 队列确认完成后返回给客户端.

传输完成前namenode关闭

一个Block在datanode传输成功后, 如果client没来得及返回响应, namenode挂掉, 就会出现数据丢失(配置namenode高可用)

如果传输过程中datanode出现故障

关闭pipeline(通信管道)->根据ack queue将已经发送的pocket添加回data queue(撤回已经发送到故障节点的pocket) -> namenode记录故障节点中的未完成的block信息, 待节点恢复后, 删除这部分数据 -> 在剩余的节点上建立新的通信管道 -> 继续传输pocket

-> datanode挂掉后缺失的副本会namenode管理下恢复

hdfs的写流程以及namenode,datanode挂掉后处理

原文:https://www.cnblogs.com/bitbitbyte/p/13291876.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!