主成分分析与因子分析(第20章).ppt

标准化指标主成分还原为原始指标主成分 将测得的四项肝功能指标代入主成分表达式 Z1=2.50865 Z2=－1.06626 Z3=－1.22943 该肝病患者可能为急性炎症。 五、主成分分析的应用 1.对原始指标进行综合 以互不相关的较少个数综合指标反应原始指 标提供的信息。 主成分回归（解决多元共线问题）。 2.探索多个原始指标对个体特征的影响作用 利用因子载荷阵，找出影响各综合指标的主 要原始指标。 3.对样品进行分类 利用主成分得分对样品进行分类： Z1为急性炎症成分 Z2为慢性炎症成分 Z3为癌变成分 注意各组之间不一定互斥，这与判别分析不 同。如表20-7中第8、9例。 第二节 因子分析 factor analysis 一、因子分析的基本思想 从分析多个可观测的原始指标的相关关系入 手，找到支配这种相关关系的有限个不可观 测的潜在变量。 如：脑部疾病患者的意识清醒状态可由语言 能力、辩识能力、记忆能力、理解能力与思 维逻辑能力等可观测的指标反映。 二、因子分析的数学模型 X1:收缩压 X2:舒张压 X3:心跳间隔 X4:呼吸间隔 X5:舌下温度 F1:交感神经 F2:副交感神经 common factor specific factor common factor Xi:观测指标（标准化数据） Fi:公因子 ei:特殊因子 aij:因子载荷（计算关键项） X = AF + e 三、因子模型的性质 矩阵A的统计意义 1.公共度（共性方差 ） 因子的共性方差 * 第二十章 主 成 分 分 析 与 因 子 分 析 PRINCIPAL COMPONENTS ANALYSIS FACTOR ANALYSIS 第一节 主成分分析 principal components analysis 一、基本思想 从众多原始指标之间相互关系入手，利用降 维思想，将多个变量化为几个互不相关的综 合变量。 如何利用这些指标对每一儿童的生长发育 作出正确评价？ 1.仅用单一指标： 结论片面； 没有充分利用原有数据信息。 2.利用所有指标进行综合评价： 各指标评价的结论可能不一致，使综合 评价困难； 工作量大。 找出几个综合指标，这些综合指标是原始 指标的线性组合，既保留了原始指标的信 息，且互不相关。 衡量一个指标的好坏除了可靠性与真实性 外，还必须能充分反映个体间的变异，一 项指标在个体间的变异越大，提供的信息 量越多。 各指标提供的信息量大小用其方差来衡量。 二、数学模型及几何意义 Z = A X 第一主成分（在所有Zi中） 第二主成分（ 在剩下所有Zi中） …… 理论上主成分个数最多为m个（指标个数）, 实际工作中确定的主成分个数总是小于m个。 X1 X2 1 1 2 -2 -2 -1 -1 2 0 X1 X2 Z1 Z2 1 1 2 -2 -2 -2 -2 1 1 -1 -1 -1 -1 2 2 2 0 三、主成分的求法及性质 （一）主成分的求法 1. 对各原始指标值进行标准化 标准化后的数据矩阵 X = 2. 求出X1 , X2 , … , Xm 的相关矩阵R R=Cov(X) = 3. 求出矩阵R的全部特征值(eigenvalue) ?i, 第i个主成分的组合系数ai1, ai2, ?, aim满 足方程组: (r11－ ?i) ai1+ r12 ai2+ ?+ r1m aim =0 r21 ai1+ (r22－ ?i) ai2+ ?+ r2m aim=0 ? rm1 ai1+ rm2 ai2+ ?+ (rmm－ ?i) aim =0 (r11－ ?i) ai1+ r12 ai2+ ?+ r1m aim =0 r21 ai1+ (r22－ ?i) ai2+ ?+ r2m aim=0 ? rm1 ai1+ rm2 ai2+ ?+ (rmm－ ?i) aim =0 ?i为矩阵R的第i个特征值， 共有m个非负特征值，由大到小的顺序排列为： ?1≥ ?2≥ ?≥ ?m≥0。 ?i=Cov(Zi) 4. 由以上方程组，求出相应于特征值 ?i 的 特征向量(eigenvector) （ai1 , ai2 , ? , aim） （