首页 > 其他 > 详细

4. Storm可靠性

时间：2015-06-13 06:14:18      阅读：196      评论：0      收藏：0      [点我收藏+]
storm高可靠性：
storm有一种机制可以保证从spout发出的每个tuple都会被完全处理

 可靠性机制：
1.节点故障迁移
   当一个节点上的worker出现问题是，会自动切到其他节点；

2.消息完整发送
  • 一个消息(tuple)从spout发送出来，可能会导致成百上千的消息基于此消息被创建
  • “单词统计”的例子：
  1. storm任务从数据源每次读取一个完整的英文句子；将这个句子分解为独立的单词，最后，实时的输出每个单词以及它出现过的次数。
  2. 每个从spout发送出来的消息（每个英文句子）都会触发很多的消息被创建，那些从句子中分隔出来的单词就是被创建出来的新消息。
  3. 这些消息构成一个树状结构，我们称之为“tuple tree”
    技术分享
 
 在什么条件下，Storm才会认为一个从spout发送出来的消息被完整处理呢?
  •   tuple tree不再生长
  •   树中的任何消息被标识为“已处理”

 可靠性总结：
  1. 无论何时在tuple tree中创建了一个新的节点，我们需要明确的通知Storm；
  2. 当处理完一个单独的消息时，我们需要告诉Storm 这棵tuple tree的变化状态。
  • 通过上面的两步，storm就可以检测到一个tuple tree何时被完全处理了，并且会调用相关的ack或fail方法。
  • 锚定（anchoring）




4. Storm可靠性

原文：http://www.cnblogs.com/51runsky/p/4572833.html
踩
(0)
赞
(0)
   
举报
评论 一句话评论（0）
分享档案
更多>
2021年09月23日 (328)
2021年09月24日 (313)
2021年09月17日 (191)
2021年09月15日 (369)
2021年09月16日 (411)
2021年09月13日 (439)
2021年09月11日 (398)
2021年09月12日 (393)
2021年09月10日 (160)
2021年09月08日 (222)
最新文章
更多>
教程昨日排行
更多>
友情链接
汇智网   PHP教程   插件网  
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣，分享程序人生！
      
↑
↓