PCA算法学习（Matlab实现）

PCA（主成分分析）算法，主要用于数据降维，保留了数据集中对方差贡献最大的若干个特征来达到简化数据集的目的。

实现数据降维的步骤：

1、将原始数据中的每一个样本用向量表示，把所有样本组合起来构成一个矩阵，通常需对样本矩阵进行处理，得到中性化样本矩阵

2、求样本矩阵的协方差矩阵

3、求协方差矩阵的特征值和特征向量

4、将求出的特征向量按照特征值的大小进行组合形成一个映射矩阵。并根据指定的PCA保留的特征个数取出映射矩阵的前n行或者前n列作为最终的映射矩阵。

5、用映射矩阵对数据进行映射，达到数据降维的目的。

中心化样本矩阵：先让样本矩阵中心化，即每一维度减去该维度的均值，然后直接用新的到的样本矩阵乘上它的转置，然后除以(N-1)即可，如下：

1 % 中心化样本矩阵，样本矩阵MySample是10*3大小的矩阵,repmat(mean(MySample),10,1)产生一个每行都是mean(Mysample),共10行
2 X = MySample – repmat(mean(MySample),10,1);   %每一维度减去该维度的均值
3 %X=X-ones(size(X,1),1)*mean(X);这样同样可以达到每一维度减去该维度的均值的效果，相比上面那种，这种更通用，因为不须每次改写repmat中的第二个参数
4 C = (X’*X)./(size(X,1)-1)%新得到的矩阵X乘上的它的装置，然后除以（维度-1）

PCA算法Matlab实现：

 参考资料：

1、PCA算法学习_1（OpenCV中PCA实现人脸降维），作者：tornadomeet

2、PCA算法学习_2（PCA理论的matlab实现），作者：tornadomeet

3、PCA（主成分分析）详解（写给初学者）结合matlab，作者：古剑寒

4、PCA降维算法总结以及matlab实现PCA（个人的一点理解），作者：watkins

PCA算法学习（Matlab实现）

原文：http://www.cnblogs.com/simon-c/p/4902651.html