多元统计分析：第七章 主成分分析教材课程.ppt

第七章 §7.2样本的主成分例7.2.1的结果分析  利用特征向量各分量的值可以对各主成分进行解释. 第一大特征值对应的第一个特征向量的各个分量值均在0.5附近,且都是正值,它反映学生身材的魁梧程度.身体高大的学生,他的4个部位的尺寸都比较大;而身体矮小的学生,他的4个部位的尺寸都比较小.因此我们称第一主成分为大小因子. 第七章 §7.2样本的主成分例7.2.1的结果分析  第二大特征值对应的特征向量中第一(即身高X1的系数)和第四个分量(即坐高X4的系数)为负值,而第二(即体重X2的系数)和第三个分量(即胸围X3的系数)为正值,它反映学生的胖瘦情况,故称第二主成分为胖瘦因子. 第七章 §7.2样本的主成分例7.2.1的输出结果  输出7.2.2 第二主成分得分对第一主成分得分的散布图 第七章 §7.2样本的主成分例7.2.1的结果分析  输出7.2.2是PLOT过程产生的输出图形，从图中可以直观地看出，按学生的身体指标尺寸，这30名学生大约应分成三组(以第一主成分得分值为-1和2为分界点). 每一组包括哪几名学生由每个散点旁边的序号可以得知.更详细的信息可从PRINT过程产生的输出数据列表中得到.  第七章 §7.2样本的主成分例7.2.1的输出结果  按第一主成分得分排序后的主成分得分和原始数据 第七章 §7.2样本的主成分例7.2.1的结果分析  以上输出列表中把30个观测按第一主成分从小到大重新排序后的输出结果.从这里可以得到分为三组时各组学生的更多的信息如下: G1={11,15,29,10,28,6,24,14,2,27,18} G2={4,30,22,1,16,26,23,21,8,9,7,17} G3={20,13,19,12,5,3,25} 若考虑用Z1 ,Z2进行聚类,这就是主成分聚类方法. 以下不作要求 第七章§7.3主成分分析的应用 主成分分析方法把p维数据简化为m(m?p)维数据后，进一步地可用于变量的分类，样品的分类，对样品进行排序或对系统进行评估，以及主成分回归，主成分聚类，多维正态数据的主成分检验等方面。 第七章§7.3主成分分析的应用 设n次观测数据阵X已标准化,这时样本协差阵就是样本相关阵R, R的特征值为λ1≥λ2 ≥ …≥λp 相应的标准化特征向量为a1,a2, …,ap 。样本主成分为 Zi=aiX (i=1,…,p). 设m为满足累计贡献率＞P0(一般取1≥P0≥0.7 )的最小正整数,取前m个主成分Z1 ,Z2 ,… ,Zm,由样本观测数据X(i) (i=1,2,…n)可求得m个主成分的得分值zij : 第七章§7.3主成分分析的应用 第七章§7.3主成分分析的应用 利用样本主成分的性质(3),Xk由前m个主成分Z1 ,Z2 ,… ,Zm的最佳(残差平方和最小)表示式为 把Z*(i )(i=1,2,…,n)代入上式,可得 第七章§7.3主成分分析的应用 由此可得出由主成分得分值估计变量Xk的得分向量.记 其中 (7.3.2) 第七章§7.3主成分分析的应用 X=ZA= ( Z*|Z2 ) ( A*|A2 ) = Z* (A*) + Z2 A2 =X* + Z2 A2 第七章§7.3主成分分析的应用 因 所以 第七章§7.3主成分分析的应用 当选取合适的m，可使得后面的p-m个?i的和很小，这时就有 其中 (z1,z2,…,zm) * * zt 第七章§7.3主成分分析的应用指标（变量）分类 如果第i个变量和第j个变量的相关系数rij≈1,显然这两个变量应归为一 类. 仍用Xi和Xj表示这两个变量的n次观测向量.考虑n维空间中这两点的距离: 因 (n-1)R=X X=(X1,…, Xp ) (X1,…, Xp ), 故有 Xi Xj =(n-1) rij (i,j=1,…,p) 第七章§7.3主成分分析的应用指标（变量）分类