首页 > 其他 > 详细

感知机对偶形式 梯度下降法的推导过程

时间:2021-05-04 23:20:40      阅读:28      评论:0      收藏:0      [点我收藏+]

在感知机的原始形式中,模型为:
技术分享图片

 对应的梯度下降法的偏导公式为:

技术分享图片

 在感知机的对偶形式中,模型演变为:

技术分享图片

 感知机的对偶模型,实际是把原始模型中的w,b展开为:

技术分享图片

 对应的梯度下降法的偏导公式中的w则演变为:

技术分享图片

对以上公式进一步简化:

  1. 由于使用的是随机梯度下降法,假设误分类集合M中只有一个点(xj?,yj?),xi与yi不会发生变化,所以变化的只有ai
  2. 公式(4)左右两边都去掉yi、xi,得到 

技术分享图片

技术分享图片

 公式(3)中的b更新方式不变,与公式(5)结合,得:

技术分享图片

 

感知机对偶形式 梯度下降法的推导过程

原文:https://www.cnblogs.com/zhjblogs/p/14730258.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!