主成分分析.ppt

* * * * * * * * * * * * * * * * * * 例2：8个样品中苯和二甲苯的含量见下表： # B T Bmc Tmc 1 48 26 13 12 2 44 20 9 6 3 40 24 5 10 4 38 18 3 4 5 32 9 -3 -5 6 28 6 -7 -8 7 26 5 -9 -9 8 24 4 -11 -10 mean 35 14 0 0 B: 苯， T: 二甲苯 ； Bmc和Tmc为减去平均值后的值 原始数据矩阵中含有8（n＝8）个样品、 两个变量， 其协方差矩阵为： 根据PC1求得的苯与二甲苯含量及残差 主成分得分的平方和、特征值与方差 (17.67)2+(10.58)2+(10.64)2+(4.96)2+(-5.67)2+ (-10.61)2+(-12.73)2+(-14.84)2=1089 (8-1) ×155.59=1089 主成分的平方和＝(n-1) ×对应特征值 由于主成分的均值为零，所以 主成分的平方和＝(n-1 ) ×方差 特征值反映的是相应主成分的方差大小 对于维数较大的数据矩阵，采用Jacobi法 进行PCA运算时间很长。可采用奇异值分 解法（Single Value Decomposition－ SVD）。 该法运算速度快, 非常适合大型数据矩阵的 处理。 主成分分析的奇异值分解法 X=USVt U是一正交列矩阵，即UtU=In；US为得分 阵。 S是一由X矩阵的特征值组成的对角矩阵， 它与XTX矩阵的特征值矩阵成平方关系； Vt（特征向量阵）是一正交行矩阵，即 VtV=Ip。 思考题 主成分分析的目的是什么？ 主成分分析应用的前提是什么？ 解释PCA中特征值、特征向量（载荷轴）、主成分得分的含义。 主成分具有哪些特性（就主成分的均值、特征值、特征向量、得分几个方面开展讨论）？ 为什么可以用数目较少的主成分替代数目较多的原始变量？ 设有p个变量，可否根据这些变量的一次测试数据对其进行主成分分析，进行变量评估和压缩？ * * * * * * * * * * * * * * * * * * * * * * 华东理工大学 East China University of Science And Technology 主成分分析简介 Principal Component Analysis（PCA） 什么是主成分分析？ 我们来看一个例子：小学各科成绩的评估可以用下面的综合成绩来体现： a1×語文＋a2×数学＋a3×自然＋a4×社会科学 确定权重系数的过程就可以看作是主成分分析的过程，得到的加权成绩总和就相对于新的综合变量——主成分 什么是主成分分析？ 推而广之，当某一问题需要同时考虑好几个因素时，我们并不对这些因素个别处理而是将它们综合起来处理，这就是PCA。 这样综合处理的原则是使新的综合变量能够解释大部分原始数据方差。 什么是主成分分析？ 由于各种量测到数据通常是以矩阵的形式记录、表达和存储的，实际中的很多数据信息往往是重叠与冗余的。从线性代数的观点来