PCA算法python实现

本文介绍了PCA(主成分分析)算法的基本原理,包括最小化投影误差和最大化投影方差的目标,以及算法流程,包括样本去中心化、协方差矩阵计算、特征值分解等步骤。接着,文章提供了Python实现PCA的实例,并讨论了如何根据特征值选择降维的维度。

1. 算法原理

pca是特征降维的经典算法之一,特征降维直白来说就是降低样本的特征维度同时又不希望丢失过多信息。如何将这个目标转换为数学问题。可以从两个角度出发:

一是使得降维后的向量和原始向量之间的误差和最小化,基于最小投影距离:
a r g m i n W   ( − t r ( W T X X T W ) )   s . t . W T W = I \mathop{argmin}_W  (-tr(W^TXX^TW))   s.t. W^TW=I argminW (tr(WTXXTW)) s.t.WTW=I
二是使得样本点经过投影后还能区分的开,方差大,基于最大投影方差:
a r g m a x W ( t r ( W T X X T W )   s . t . W T W = I \mathop{argmax}_W (tr(W^TXX^TW) s.t. W^TW=I argmaxW(tr(W

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值