首页 > 其他 > 详细

朴素贝叶斯

时间:2021-01-24 01:03:19      阅读:25      评论:0      收藏:0      [点我收藏+]

主要利用朴素贝叶斯p(yj|x) = p(x|yj)p(yj)/ p(x)计算出假定样本x,计算这个样本x属于yj类的概率,将计算结果中选出最大的概率对应的yj类作为这个样本的分类,
其中假设各个属性之间相互独立。
max p(yj|x) ~ max p(x|yj)p(yj) = p(x1|yj)..p(xi|yj)..p(xn|yj) p(yj) 其中x = (x1,x2,xi..xn),p(xi|yj)和 p(yj)可以根据给定的样本计算出来
在计算p(x1|yj)..p(xi|yj)..p(xn|yj) 其中p(xi|yj)= n(xi,nj) /(n(nj),即yj类样本集中x属性=xi的概率,其中某个属性对应某个值xi这种样本数较小导致p(xi|yj) -》 0使得p(yj|x) -》0,影响分类效果般会对p(xi/yj)做M估计处理,如p(xi/yj) = (n(xi,nj) + m*pi)/(n(nj)+m)
根据p(xi/yj)的不同计算规则可以将朴素贝叶斯分为三类
1 高斯朴素贝叶斯
p(xi/yj)为高斯函数

技术分享图片

 

 


2 多项式朴素贝叶斯
p(nj) = (n(j) + a)/ (N + K*a) ,p(xi/yj) = (n(xi,nj) + a)/(n(nj)+n*a)
其中K :总的类别个数 N:样本数  a:平滑值  n :特征xi可以选择的数量

技术分享图片

 

 


3 伯努利朴素贝叶斯
伯努利模型适用于离散特征的情况,伯努利模型中每个特征的取值只能是1和0
p(xi/yj) = p(i|yj)xi+(1-p(i|yj))(1-xi)

 技术分享图片

 

 

 

朴素贝叶斯

原文:https://www.cnblogs.com/Hailong-Said/p/14318743.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!