第6章 因素分析教程教案.ppt

第六章 因素分析 6.1 因素分析的原理 6.2 求因素负荷矩阵的初始解 6.3 因素旋转 6.4 因素分数及其应用 因素分析的主要目的:对数据进行降维,浓缩，探索数据的基本结构。就是研究如何以最少的信息损失把众多的观测变量浓缩为少数几个综合指标(因素)。这些因素(Factor)能够反映原来众多的观测变量所代表的主要信息，并解释这些观测变量之间的相互依存的关系。 6.1 因素分析的原理 因素分析的基本思想是根据相关性大小把变量分组,使得同组内的变量相关性较高,但不同组的变量相关较低.每组变量代表一个基本结构,这个基本结构称为公共因子(公因子或因素)。对于所研究的问题就可试图用最少个数的不可观测的公因子的线性组合与特殊因子之和来描述原来观测的每一个变量。 6.1.1因素分析模型 6.1.2 因素分析中的几个概念 1、因素负荷 aij是xi与fj的相关系数。反映了第i个变量对第j个因素fj的相对重要性，表示变量xi与因素fj间的密切程度。 2、变量的共同度（Communality） 变量的共同度指观测变量的方差中由公因子（因素）决定的比例，也叫公因子方差。 3、因素的方差贡献 因素fj 对数据的解释能力，可以用该因素所解释的总方差来衡量。等于因素负荷矩阵A中第j列的各元素的平方和。 6.1.3 因素分析的步骤 1、计算观测变量的相关矩阵，并判断是否适合做因素分析； 2、抽取因素。确定因素个数和求解的方法； 3、因素旋转。目的是通过坐标变换使得因素解的含义更容易解释； 4、计算因素分数。 6.2求因素负荷矩阵A的初始解-----因素抽取 6.2.1 主成分(Principal components)分析法 1、主成分分析法的原理 通过数学变换的方法，将一组（p个）相关的变量转化成另一组不相关的变量，这些新的变量按照方差依次递减的顺序排列。 在数学变换中，保持变量的总方差不变，使第一个变量具有最大的方差，称为第一主成分，第二个变量的方差次大，并且与第一个变量不相关，成为第二主成分，依次类推，p个变量就有p个主成分。这些主成分之间互不相关。 2、主成分的几何意义 3、主成分的求解 设R为p个观测变量的相关矩阵，非奇异的。由于R是实对称矩阵，通过求解可得到R的p个非零特征值，从大到小排列为： ?1?2…?p0,对应的一组正交的单位特征向量为V1,V2,…,Vp. Vi=(v1i,v2i,…,vpi)‘, 则V＝（V1，V2，…，Vp）为正交阵。满足VV’=V’V=I, 令Q＝diag(?1,?2,…,?p), RV=VQ, R=VQV’, 令f=V’X,则f的协方差阵 M＝E（FF’）＝E(V’XX’V)=V’E(XX’)V=V’RV=Q = diag(?1,?2,…,?p), 第k个主成分为fk=V’kX 4、主成分的性质 （1）主成分之间互不相关，且fk的方差等于?k; （2） ?1+?2+…+?p＝p; 5、因素个数的确定 （1）特征值法 取特征值大于等于1的主成分作为初始解，放弃特征值小于1的主成分。 （2）碎石图检验法 按照因素被抽取的顺序画出特征值随因素个数变化的散点图。根据图的形状来判断因素的个数。曲线变平开始的前一点认为是抽取的最大因素个数。 6、主成分分析法的应用 （1）降低所研究的数据空间的维度； （2）可通过因子负荷的结构，弄清x变量间的某些关系； （3）多维数据的一种图形表示方法。 （4）有主成分法构造回归模型。把各主成分作为新的自变量代替原来自变量x做回归分析； （5）用主成分分析筛选回归变量。 6.2.2 公因子分析法 因素分析模型：x=Af+? V(x)=V(Af+?)=E[(Af+?)(Af+?)’]=AV(f)A’+V(?), 即 ?=AA’+D, 因为x是标准化的变量，所以?＝R， R＝ AA’+D 主成分分析法从解释变量的方差出发，假设变量的方差能完全被主成分解释。而公因子法从解释变量之间的相关系数出发，假设观测变量之间的相关能完全被公因子解释，变量的方差不一定能完全被公因子解释。公因子模型求解时，只考虑公因子方差。 几种公因子法： 1、主轴因子法(Principal axis factoring) 用公因子方差代替相关矩阵主对角线上的元素1，通过该矩阵，类似主成分法求因子解。 2、最小二乘法（Least squares） 通过使因素模型计算出的相关系数AA‘和观测到的相关系数R之间的离差平方和达到最小来求因子解。 3、最大似然法(Maximum likelihood) 假设样本来自多元正态总体，通过构造样本的似然函数，其中因子负荷为未知参数，使似然函数达到最大，求得因子解。 4、?因子抽取法(Alpha factoring) 5、映象分析法(Image analysi