首页 > 其他 > 详细

机器学习:PCA(使用梯度上升法求解PCA问题)

时间:2018-06-09 12:15:37      阅读:247      评论:0      收藏:0      [点我收藏+]

一、目标函数的梯度求解公式

  • PCA 降维的具体实现,转变为:

  技术分享图片

  • 方案:梯度上升法优化效用函数,找到其最大值时对应的主成分 w ;
  1. 效用函数中,向量 w 是变量;
  2. 在最终要求取降维后的数据集时,w 是参数;

 

 1)推导梯度求解公式

  • 变形一

    技术分享图片

 

  • 变形二

    技术分享图片

 

  • 变形三:向量化处理

    技术分享图片

 

  • 最终的梯度求解公式:▽f = 2 / m * XT . (X . dot(w) )

    技术分享图片

 

机器学习:PCA(使用梯度上升法求解PCA问题)

原文:https://www.cnblogs.com/volcao/p/9158892.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!