首页 > 其他 > 详细

2018 10-708 (CMU) Probabilistic Graphical Models {Lecture 5} [Algorithms for Exact Inference]

时间:2019-01-07 10:06:21      阅读:192      评论:0      收藏:0      [点我收藏+]

技术分享图片

 

 Not in the frontier of research, but the results are used commonly now.

 

技术分享图片

X_{k+1} - X_n are known,

to calculate the joint probability, we have to do inference

 

 技术分享图片

 

技术分享图片

 

技术分享图片

 

技术分享图片

 

 Recent research: on the approximate inference teches

 

技术分享图片

approx:

1) optimization-based

2) sampling-based

 

 技术分享图片

技术分享图片

 

Compare the computational complexity:

    NAIVE way: K^n

    Chain rule:  n*K^2

    n=4

 技术分享图片

 

Chain rule derivation:

 技术分享图片

 

 技术分享图片

 

技术分享图片

 

 技术分享图片

 

 技术分享图片

 

技术分享图片

 

 

技术分享图片

 

 技术分享图片

 

 技术分享图片

 

 技术分享图片

 

marginalizing out the rest 

 

 P(a) P(b) P(c|b) ...... P(h|e,f) => a,b,c,d,e,f,g,h (elimation sequence)

 技术分享图片

introduce a term m_h(e,f) to make e and f dependent

 

技术分享图片

not introducing any dependency here

 

技术分享图片

 

Different elimination sequence will lead to different computational complexity.

It‘s dependent on how large the new clique is

In one step, if you connect every vertex, then you are in trouble.

 

技术分享图片

 

 技术分享图片

技术分享图片

 

技术分享图片

 

 技术分享图片 

 

技术分享图片

 

if there‘s a loop in graph, you can‘t view message passing as a variable to another variable, but clique to clique.

 

2018 10-708 (CMU) Probabilistic Graphical Models {Lecture 5} [Algorithms for Exact Inference]

原文:https://www.cnblogs.com/ecoflex/p/10231273.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!